科技X愛X12則奇思妙想【英國才女作家珍奈.溫特森最新散文集】:從吸血鬼到人工智慧,我們是在前進還是倒退?
- 作者:珍奈.溫特森(Jeanette Winterson)
- 出版社:潮浪文化
- 出版日期:2023-03-15
- 定價:520元
- 優惠價:9折 468元
-
書虫VIP價:442元,贈紅利22點
活動贈點另計
可免費兌換好書 - 書虫VIP紅利價:419元
- (更多VIP好康)
分類排行
內容簡介
人工智慧大軍來襲,我們該如何面對未來的變化挑戰?
全書以慧黠洞見提出對科技與未來的觀察思辨,
文科X理科的交會,精彩萬分,痛快淋漓!
精彩、博學、獨特、詼諧!
以《柳橙不是唯一的水果》享譽文壇的才女作家珍奈.溫特森
首部精彩文集在台上市
★《衛報》《金融時報》《標準晚報》《每日電訊報》年度選書★
★伊格言、李信瑩、林新惠、張潔平、陳雪、楊佳嫻、楊姍樺傾心推薦★
★文采豐富,才華橫溢,當代作家少有人能出其右。——《紐約時報》書評
★讓人萬分著迷,充滿洞見。——《出版人週刊》
★發人深省,極度必要!而且,非常有趣。——《衛報》
♀當性別偏見及反智的價值觀主導大科技和大數據,我們的未來將會如何?
♂科技創新是進步嗎?為何人權和性別等議題持續惡化倒退?
♀為何女性在科技領域如此稀少?如果科技場域繼續由男性主導,女性未來會面臨何種處境?
♂性愛機器人都為男人打造,會如何影響現實生活中的兩性關係?
♀共享經濟真的讓我們共同富裕了嗎?或者一切只是文字遊戲?
珍奈.溫特森著有多部作品,本書是她首本對於近代科技議題的觀察之作,汲取個人多年來對人工智慧及科技領域的省思,整理出十二篇慧黠且靈思處處的散文。以一貫獨特詼諧的敘事風格,由歷史、宗教、神話、文學、種族、性別等多重面向,探討科技對我們的生活及未來造成的影響。
她在書中詳述女性如何被刻意抺去及逐出科技領域的種種過往,更挖掘盤點各個理應受重視卻消逝的女性身影。她指出父權鬼魅正是造成當今科技領域女性比例稀少的原因。大科技浪潮襲來,她更批判企業以科技之名讓全民以隱私做為交換,何來「進步」?而今疫情讓全球經濟停擺,科技產業卻玩弄文字遊戲:共享經濟讓人們共同富裕了嗎?書中同樣關注勞權及兒童、性別議題,更討論性愛機器人對兩性關係的影響。她認為性別偏見同樣會複製在人工智慧的領域,性愛玩偶的問題不是科技問題,而是性別刻板及觀念倒退的問題。身為女權主義者,全書字裡行間不忘大酸性別議題倒退的現況,筆鋒尖銳。
書中所探討的科技問題不僅包括現況,更擴及對未來趨勢的奇思妙想。現今的科技發展對社會及未來的影響究竟會如何呢?如果持續由古老愚笨、單一僵化的價值所引導,如果對於隱私、監控、種族歧視、厭女等問題視而不見,未來會是什麼模樣?倘若機器人可以幫我們完成所有無聊的工作、幫我們打仗、更可以勝任伴侶、店員、警察、甚至滿足性需求——在這樣的世界裡,愛、關懷、性和其他情感的意義何在?
此外,她在書中引用《德古拉》《科學怪人》《1984》等多部小說,爬梳科幻文學的脈絡。章節名則大玩諧音哏,例如〈愛是您,愛是洛芙萊斯〉翻玩電影片名《愛是您,愛是我》,率先揭示女性在科技史中被抺去的身影;以〈房裡的織布機〉呼應電影片名《窗外有藍天》;〈他不是,他是我的佛陀〉則將片名《他不重,他是我的兄弟》裡的兄弟置換為宗教討論;〈慾望故事〉則取《慾望城市》諧音,大談科技對人類性愛及性別、情感的影響。以〈侏儸紀車園〉翻玩《侏儸紀公園》片名,隱喻人類將與恐龍互換的未來。書裡對《駭客任務》《雲端情人》《銀翼殺手》《黑鏡》等影視作品更是信手拈來,充分顯示對當代流行文化的熟稔。
從科技到網路世界,珍奈.溫特森在書中秉持慈悲、好奇心和幽默,直指科技世界耐人尋味的種種課題,更提醒讀者重視個資及演算法、仇恨言論和假新聞等議題。面對人工智慧的挑戰,全書篇篇令人大開眼界,擴展思維,引人入勝。
|真心推薦
伊格言(作家)|李信瑩(清華大學人文社會學院學士班性別學程兼任講師)|林新惠(作家)|張潔平(飛地書店及Matters Lab創辦人)|陳雪(小說家)|楊佳嫻(作家)|楊姍樺(台灣大學漁業科學研究所助理教授)
|佳評如潮|
溫特森在書中用各種角度分析AI 的前世今生,並且以她著名的幽默口吻解釋:目前AI 的運作邏輯是透過二元對立的方式在複製父權的資本主義結構,而這個結構會加深過去跟現行的不平等跟掠奪。溫特森也詳細描繪以過往男性幻想為基礎的AI性愛娃娃,完全無法「解放」受壓迫的女性。但身為靠「創意」維生的作家,溫特森對AI沒有絕望。她認為只要我們摒棄二元對立的思考邏輯,便可以「如明斯基在《心智社會》裡所言,把重要知識連結起來。」——李信瑩(清華大學人文社會學院學士班性別學程兼任講師)
本書部分內容為珍奈.溫特森寫作《科學愛人》時的閱讀筆記;因此,閱讀本書的樂趣不只在於看作家如何評論科技議題,也在於觀察小說家如何將現實事件轉換為虛實參半的故事,如同魔術師自揭戲法的內幕。——林新惠(作家)
文采豐富,才華橫溢,當代作家少有人能出其右。——《紐約時報》書評
讓人萬分著迷,充滿洞見。——《出版人週刊》
發人深省,極度必要——而且,非常有趣。——《衛報》
一個充滿活力、敏銳的頭腦探索著電腦科學的世界及其所涉種種……通俗易懂、妙語如珠、振聾發聵……隱藏在這些博學文章角落裡的是大量引人入勝的事實和深思熟慮的假設……她壓縮了大量的技術、科學、哲學、文學和宗教,信手拈來,讓人眼界大開。——《柯克斯評論》
處理素材的手法嫻熟,飽含深厚的文采。——《浮華世界》雜誌
她的筆調至情至性、鬼靈精怪,是你從未體會過的調調。——《Ms.》雜誌
溫特森的文句宛如歌詞,會深深映入腦海,長年難以抹滅。——《Slate》雜誌
一讀珍奈.溫特森就愛上她……犀利、怪奇、聰穎絕頂。——《O》雜誌
充滿啟發又好讀——本書將複雜的電腦計算和哲學思想轉化成有力卻優美的散文,如同詩意的科學,極為必要。溫特森慷慨激昂地傳達出重要訊息:我們必須從過去汲取歷史教訓,尤其切記,別再重蹈覆轍。——《航空郵件網路週刊》
溫特森的筆法直截了當,讓人沉迷不已,愛不釋手。——Bookreporter.com
|讀者盛讚|
珍奈再次獲得我的歡心。讓我在瞬息萬變的世界中反思愛情和內心空間。——亞馬遜讀者沃倫
閱讀這本書,我學到了很多東西,我的觀點受到挑戰,思維得到擴展。珍奈.溫特森撰寫了一部必要且引人入勝的歷史,講述了我們為何以及如何使用人工智能,以及我們接下來需要堅持的事情。——亞馬遜讀者格雷厄姆
這本書太令人愉快了。十二篇奇思妙想恰好是書中的十二章。我喜歡將這十二個章節想像成一塊美味蛋糕的十二口!她選擇了十二個章節並非巧合,例如十二生肖、十二使徒、一年十二個月等等。總之是必讀的。女人一定要讀這本書!——亞馬遜讀者拉賈
這是十二篇關於技術和人工智慧的論文集。關於整本書,我最喜歡的地方之一是溫特森指出了女性在科技的創造和發展中經常被忽視的貢獻。我可以整天閱讀有關愛達的文章。我喜歡她擁抱科技同時避免科技巨頭可能試圖將其用於自身利益而非人類利益的方式。第三區關於AI時代的性與愛,令人著迷。——亞馬遜讀者虛擬現實主義者
本書特色
●全書以歷史、宗教、神話、文學、種族、性別、政治等面向切入科技領域,面向豐富。
●作者維持一貫獨特、詼諧的敘事風格,思維開闊且引人入勝。
●探討現今最熱門的人工智慧、演算法及網路隱私等議題,切合時事。
●當代電影及影集信手拈來,大玩諧音哏,貼近當代流行文化,充滿閱讀樂趣。
●書中收錄AI電腦繪圖及多幅精彩圖片,圖文並茂。
目錄
推薦序/把重要的知識連結起來
緣起
第一區 過去
▓鑑古觀今▓
愛是您,是洛芙萊斯
房裡的織布機
從科幻到Wi-Fi到自體式Wi-Fi
第二區 你有什麼超能力?
▓吸血鬼、天使、再創能量有何重要▓
諾斯替學說竅門
他不重,他是我的佛陀
燃煤吸血鬼
第三區 慾望故事
▓與AI共生將如何衝擊愛、性、依戀關係▓
愛上機器人
我的小熊會講話
他馬的二元論
第四區 未來
▓未來與過去的異同▓
未來非女性未來
侏羅紀車園
我愛故我在
參考書目
圖片來源
致謝
序跋
緣起
雷.庫茲韋爾(Ray Kurzweil)發表《奇點臨近》(The Singularity Is Near,暫譯)四年後,我才在二〇〇九年拜讀,作者在書中看好未來,憧憬以電腦科技為基礎的未來,嚮往著超智慧機器立足的未來。在他眼中的未來世界,人類將能超脫當今生理上的極限。
這書我不得不讀兩遍,一次是為了讀懂,另一次是精讀。
讀完後,為滿足個人求知慾,我開始逐年追蹤這未來的進展,每週翻閱《新科學人》和《Wired》月刊,廣讀《紐約時報》和《大西洋》月刊的精闢科技文章,也關注《經濟學人》和《金融時報》報導的錢蹤。一有科學和科技新書上市,我也見好就讀。然而,讀再多,我還是嫌不夠,總有見樹不見林的感受。
人類是怎麼走到今天的?
人類可能踏上哪一條路?
我以講故事為業,而我清楚,虛構歸虛構,卻不能不信虛構也有成真的一天。人類做過飛行的美夢,夢想能翱翔太空,夢想能跨時空即時通話,夢想能永生不死—或重返人間。夢想著非人類的其他生命形式和人類共處。夢想著其他領域。其他世界。
早在我讀庫茲韋爾前,我讀過美國猶太文學評論家哈洛.卜倫(Harold Bloom)。他精益求精,不屈不撓,藉創作《聖經 J 記》(Book of J,暫譯)一書解開自我心結。他探究《摩西五經》最原始的古籍。這批文字後來被刪減潤飾,歸入《希伯來聖經》。原文落筆年代大約在真人耶穌誕生前十世紀,相隔我們約三千年之久。
卜倫認為,那批古文的作者是女性。宣揚女權絕非卜倫的作風。他的論點具說服力,振奮我心,因為根據他的見解,西方文學上最知名的人物上帝,也就是天地萬物創作者,本身竟是女子筆下的創作。
在探索古籍期間,卜倫自我重新詮釋「賜福」(the Blessing)的真諦,亦即雅威(Yahweh,耶和華的古稱)對以色列的賜福。《聖經》裡的「要生養眾多」是命令句,不是祝福語,涵義應該是:不設限,為時代灌注更多生命力。
電腦科技未來能造福人類的,不正是這一點嗎?
◆
卜倫指出,多數人類執著追求的是不設限的空間。放眼看看,霸佔土地、殖民、都會區擴散、生物棲地淪喪、最近時興的海面造鎮(seasteading),全是空間不設限的概念。
太空也是一種空間,是當前富豪男最迷戀的祕境,實行者有理查.布蘭森(Richard Branson)、伊隆.馬斯克(Elon Musk)、傑夫.貝佐斯(Jeff Bezos)。
我一想到人工智慧,一想到「全方位人工智慧」或「超智慧」這類必然的進展,我總覺得,現在和以後AI影響最深的不是空間,而是時間。
人腦以化學訊號傳導資訊。電腦用的是電力。訊號在神經系統裡高速傳輸,神經元每秒能放送兩百次,兩百赫茲,電腦處理器卻能以吉赫(gigahertz)運算,每秒週期活動多達幾十億次。
我們都知道電腦運算多快,而電腦的起源就是因為人類運算不夠快。二次大戰期間,盟軍在英國布萊切利莊園(Bletchley Park)成立團隊,想破解德軍啞謎(Enigma)密碼,奈何當時緩不濟急。電腦能用蠻力攻擊法(brute force)處理數字和資料。以時效而言,電腦能比人類消化更多也更快。
打從工業革命時代起,「加速」兩字在人間蔚為關鍵詞。機器運用時間的方式有別於人類。電腦不受時間約束。人類身為一種生物,臣服於時光的宰制,最大的侷限莫過於人世走一回的年數,最後難逃終死的命運。
而我們人類視死期為仇敵。
在不遠的將來,人類可望多活幾年,少一點病痛,甚至奢望活得更長久,能上看一千歲。真的嗎?這要看你信不信英國AI生物學者奧布里.德格雷(Aubrey de Grey)的預言。未來,回春生物科技可減緩人體器官組織的衰老,也能修復或置換不再管用的部位。
不設限,為時光灌注更多生命力。
假如這一招失靈,人類還是有可能上載人腦的內容至另一個平台——一個最先不是肉身的平台。
你願意選擇走上那條路嗎?
假如生死由得你抉擇呢?
活得長長久久,甚至永生不死,絕對會影響我們對時光的概念——但你可要記得,鐘錶時間充其量只是機械時代的發明/必需品。動物照季節過活,不看時鐘度日。未來,人類會另尋新方法來度量時間。
機械時代起始於工業革命,我想加以思考一番,研究一下工業革命對人類有何衝擊。我的家鄉在英國蘭開夏(Lancashire),地表首批大型棉花加工廠在這裡立足,從此徹底改變地球人的生活。短短兩百五十年的光陰,人類怎麼走到今天這田地?
我想知道,為何對電腦學感興趣的女性少之又少。一直以來都是如此嗎?
我也想宏觀人工智慧,視角包括宗教、哲學、文學、神話、藝術,其中不外乎以世俗人生故事,例如科幻小說、電影、歷久不衰的沉迷/直覺,訴說著天外可能還有天,有外星人、異形、或天使。
AI一詞在一九五〇年代中期出現,發明人是美國電腦專家約翰.麥卡錫(John McCarthy)。他和友人馬文.明斯基(Marvin Minsky)所見略同,認為進入一九七〇年代之後,電腦已能和人類的智商打平。艾倫.圖靈(Alan Turing)則認為,二〇〇〇年電腦追平人類比較合乎現實。
然而,AI這新詞發明了四十年,IBM的超級電腦「深藍」(Deep Blue)才在一九九七年擊敗西洋棋王卡斯帕洛夫(Kasparov)。拖這麼久,是因為運算力要兼具電腦容量(記憶體)和處理速度兩大要素。簡言之,當年的電腦還不夠力,無能實現麥卡錫、明斯基和圖靈的冀望。而這三位男士登場前,在十九世紀初,有一位女傑愛達.洛芙萊斯(Ada Lovelace)隔代傳遞靈感,後來讓圖靈構思出一套法則,用以辨識AI是否已經能完美模仿真人,後世稱為「圖靈測試」。
機器尚未厲害到能以假亂真的境界。
未來難以預料。
本書集結的十二則位元組文,既不是人工智慧史,也不是大科技或大數據的故事,只不過本書常觸及這三方面。
位元(bit)是電腦資料最小的單位,屬於二進位,非零即一。一個位元組裡有八個位元。
我的意圖並不高遠。讀者若對AI、生科、大科技、數據科技不太感興趣,我盼讀者仍能從這些文章裡讀出興味,時而看得心驚膽顫,時而覺得能隨時觸類旁通。在人類躍進的路上,大家都有必要掌握人類進程的動態,關注未來是否將進化為半機半人(transhuman),甚至演進為擺脫軀殼的後人類(post-human)時代。
這些文章有部分重疊之處,既可視為十二片拼圖,也能各自獨立。
當然,如果人類和時間的關係生變,人類和空間的關係也會異動,因為愛因斯坦闡述過,時間和空間並非彼此區隔,而是同一匹布上的兩部分。
人類愛搞區隔,喜歡和異己劃清界線,常分位階高下,也因優越感而自外於生物界,結果陷地球於不義,人類將彼此互爭互奪,搶盡最後一滴資源才甘心。
電腦革命促使資訊四通八達,人類如能加以善用,或許能終結「價值」和「存在」互不相干的這種錯覺,或許能終結不夠聰明的擔憂。不管人或機,能獻計就是寶,只求未來不是死路一條,不要踏進大戰或氣候劇變的絕境。末日更有可能是天災人禍一起來。
暫且不要以人工智慧稱呼AI吧。「替代智慧」也許較為貼切。我們確實需要替代途徑(alternatives)。
內文試閱
第一區 過去|房裡的織布機
我在2021年落筆時,全球經濟因新冠病毒而停擺,這是現代人一輩子沒看過的奇景。唯一能拯救西方經濟體的路線是社會主義,規模是夢寐以求的大。薪水由國家支付,企業貸款由政府撐腰,就業有保障。
大社會主義的背面是科技公司賺滿了荷包。亞馬遜每秒進帳約一萬美元。
亞馬遜靠商家賣產品抽成賺錢。你或許會嗆說,店主不都靠分紅賺錢嗎?對是對,不同的是,實體店家在社區裡生根,是地方的一部分,而店主繳個人所得稅和企業稅,能讓政府用來間接教育就業者,養路修路,資助醫院等等。
亞馬遜的運作原理是壓榨:付低薪給員工,企業稅低到荒謬絕倫,也因跨足全球而拒絕對任何地方負責,只看股東臉色行事。
做這種事的公司不只亞馬遜。Google和臉書都只僱用少數人——例如臉書只花百分之一的營收付薪水——卻從所有地球人身上撈錢。
這不是開創財富,而是榨取財富。Uber從計程車資抽成,Airbnb誘使你讓出自家床位來搶錢,也是同樣的道理。
你出租床位或許賺了些錢,但你在飯店上班的朋友也可能因老闆搶不到生意而被開除,或者朋友薪水一直漲不起來,因為飯店房價非壓低不可,不然爭不過Airbnb。
在此同時,租屋族愈來愈難租到租金實惠的房子。理想地段的房子常被Airbnb標榜為「住家」租給外人。我們喜歡嗎?才不,我們很討厭。
「共享」經濟(共享不是金融交易——文字難道毫無意義嗎?)的營運模式沒考量到社會後果。共享經濟影響到第三者,影響到民眾住得起的欣欣向榮城市,促成漫無止境、漫無目的的遠行,後果是對地球造成負擔,這些問題全部被排除在外了。
科技公司無所不在,無影無形,絕對能把「事物」送到你家門,例如你搜尋的資訊、和你互通聲息的朋友、你想聽的音樂,或又一盒由低薪從業員送抵的包裹。表面上,這是你和所求事物之間的一種直接關係,由善意的「服務」提供者負責配送。這些公司的確提供了服務,但代價很高。地方徵不到企業稅。在地商店一家家倒閉。每買一件東西,每次搜尋,每次點擊,每按一次讚,隱私和匿名性全奉送出去。
馬克思遊走在工業革命時代,勸工人主動控制生產方式。
只不過,如今生產方式變成「人類」了,那又怎麼辦?
更確切的用語是,壓榨方式。
無論你的正職是什麼,你我和全人類都正在為科技公司效勞,不領薪水。免費的東西才不是免費送。代價是你的資料,是你自己。
你我能重新掌控自己嗎?
要視你對人性的見解而定。
從第一次工業革命的經驗得知,沒受過教育、資源短缺的民眾也能團結起來,改善自己的處境也造福多數人。工會行為是眾志成城的表徵。
想像一下,假如工業革命是群策群力的成果,是全地球和全民合作的行為,沒有奴隸,沒有童工,不剝削,不圈分,不掠奪地球資源。你可別急著喊:不可能啦。事實證明的確不可能,沒錯,不過,如我開章所言,我們可以向過去取經。下一場革命未必一定要是少數人獲利的社會噩夢。
科技發展到下一階段,人類需要的科技包括自動化和機器人,包括智慧家園和普及運算,全是人工智慧的體現。科技沒啥好怕的,使用得當就不用皮皮剉。發明動力織布機,不一定要促成令人痛恨的工廠體系和貧民窟城市,而是把男男女女從長時間勞動解救出來。結果,卻導致工時加長。
傑出經濟學家兼人類學家大衛.格雷伯(David Graeber)曾指出,有些行業是「狗屁工作」(bullshit jobs)。這種工作即便被掃除也沒人哀悼。我們現在需要的是經濟公平性。永續和成長不是二選一。資訊時代真正要的是資訊,不是宣傳口號,不是假消息,不是睜眼講的瞎話。
我們的問題在於,政府不懂得如何針對大科技立法。Goolge、臉書和亞馬遜賺的錢滿坑滿谷,總部所在地的政府想照理徵稅都有困難了。
疫情讓這些科技大廠賺爆了,我卻從沒聽說他們主動多繳一點賑災稅。疫情期間,亞馬遜股價最高激增了百分七十,部分員工獲得加薪百分之七——這屬於「危險加給」,過一段時間會回歸原薪水平。
2021年,英國高等法院判Uber應將其從業員視為公司員工。這份判決書在全球各地引發效應,Uber不從,進行法律戰,在美國獲得勝訴。
媒合司機和乘客的點子很不錯,理論上能鼓勵民眾不必再買車自用。Uber的科技能為地球和人民做好事,可惜Uber並不挺身而出做好人——成本太高了啦——所以反制Uber的唯一途徑是立法。
Uber只是一例。我讀得愈多,愈發現科技公司目前技高一籌,能推卻社會責任和財稅責任,戰勝幾十億人,大家只能全年無休、一毛錢一毛錢滋養他們。
問責原則很重要。在數據時代,問責是一種責任。大科技應該體認這一點。
大科技一般指亞馬遜、蘋果、Google、臉書、微軟這五大龍頭。實際上,大科技泛指能觸及全球、控制全球的現象,也是一套想橫掃全球卻無需對「地方」負責的營運模式。Uber和Airbnb不是五大,卻同屬於一丘之貉。如果科技公司喜歡這套模式,那我們只能祭出立法這一招來對付。科技霸凌喜歡打人喊救命,宣稱立法一定會扼殺創新能力,其實不會。立法扼殺的是想勒死我們的新發明。
再舉一個例子:臉書想找雷朋眼鏡公司合作,想研發臉部辨識眼鏡。
你一戴上這副眼鏡,看見一張人臉,臉主人的底細瞬間呈現在你的手機,資訊全從社交媒體帳戶搜刮而來的。資料庫軟體Clearview AI能讓人臉和個資配對,已經有這份潛力了。
你以為,自己的臉歸自己擁有?早過時了,那是上個世紀才有的老觀念。目前是共享經濟。我們分享,讓科技大公司來收割。
湯瑪斯.潘恩曾在1791年寫道:
一群對任何人都不負責的人,不應得到任何人的信任。
第三區 慾望故事|愛上機器人
兩性。
世界上最基本的二元論。
AI降臨後,二元論會變嗎?或者會分得更清楚?
自有歷史文獻至今,在世界各地,性別權益大餅一直被切成比例失衡的兩塊,兩性能做的事和做法都不同,教育、就業、婚姻、法定權利、甚至基本公民權,都有高低之別。自從十九世紀末以來,對女性的歧見頻遭砲轟,備受威脅,這情況在二十世紀愈演愈烈。法律和社會革新對女性生活造成重大影響,尤以西方世界為最。然而,離消滅偏見的日子還早得很。對有色人種女性而言,種族歧視加性別歧視讓她們的日子苦上加苦。
目前,電腦算式愈來愈常介入日常生活,在性別和種族方面衍生的問題更加層出不窮。
問題不在人工智慧。在AI裡面,人造的不是智慧,而是被人類偏見扭曲的見解。AI本質上應是不偏不倚的一套工具,其中卻有偏見在作祟。AI不是男孩也不是女孩。AI生下來沒有膚色。AI根本不是被生出來的。
AI可以是一道門(portal),門外的天地是無關價值判斷的性別和種族,能讓男人女人都不受制於生物性別、出生地的刻板印象和預設。
目前,AI不是那一道能讓人類海闊天空的門(door),因為訓練AI用的數據組有問題。AI學習知識的範本來自數據組。眼看著AI大門就要敞開了,卻被有問題的數據組砰然關閉。
亞馬遜本來用一套運算法來徵才,而訓練這套算式的數據組全來自理工背景白人科技男的履歷表。用這套運算法能徵到那一類的人才,猜猜看吧。這一套徵才演算法用了四年多,到2018年才被亞馬遜淘汰。
一開始,數據組裡就缺乏多元化資料,這樣的數據組毛病百出。數據不多元,對AI就會產生迴聲室(echo chamber)效應,AI以同樣的數據設定參數,產生更多數據,本來就錯就偏頗的毛病變得更嚴重。
想在臉書上打廣告的用戶聽臉書宣布說,「我們試著展示給人們和他們最息息相關的廣告。」
業者想打廣告,通常會簡述主打哪個社群,例如愛玩樂高積木的兒童、重機車大叔、初創的小企業主等等。
但在2019年,美國東北大學和南加大分別對臉書廣告進行研究,設計了幾份徵才和購屋廣告,不設定專攻哪個性別、族裔、年齡、興趣,隨臉書依照傳統演算法發送。臉書依既定刻板觀念,分性別種族來發廣告給用戶看。結果,看到超市結帳員和祕書徵才廣告的用戶有百分之八十五是女性。看到計程車司機工作廣告的用戶有百分之七十五是黑人男性。購屋廣告給誰看呢?百分之七十五是白人。
視覺上粗獷的廣告主打男性。體貼、窩心、大自然的廣告發給女性看。
這項研究的結論:「臉書設有自動影像分類機制,用以將不同廣告導向不同的用戶子集。」
對此,一語應萬評的臉書當然回應:臉書正進行「重要改革」中。
是嗎……謝了。
這項研究暴露的真正問題在於,臉書等等的演算法會強化並引申既有的偏見,接著,行銷算式接手,偵測廣告上能誘人點擊的數據,判定多數女人會看廣告A,多數男人會看廣告B,卻沒考慮到一個事實:廣告A發放對象是女多於男。由此衍生出的數據組有毛病,卻被用來訓練另一套AI,繼續誤導。
慘就慘在,人類似乎有個癮頭,老戒不掉性別種族的刻板印象。二元論(我是男生/妳是女生/我是黑人/你是白人)自古以來導致人間無數傷痛和苦難,沒必要的傷痛和苦難。
美國麻省理工媒體實驗室電腦學研究員喬伊.布拉姆維尼(Joy Buolamwini)成立演算法正義聯盟,因為身為研究生的她發現,臉部辨識軟體被灌的資料裡少有黑皮膚。機器學習當中帶有偏見,她稱之為「程式凝視」(coded gaze),她有意消滅這種偏見。
不只是「凝視」。車上語音辨識系統比較聽得懂標準腔和偏男性、較深沉的嗓音。建造語言辨識系統所用的數據組常引用TED talks演講文。而TED的講者有七成是白人男性。
這很重要,因為日常生活愈來愈常用到語音辨識。據估計,到了20二三年,商用語音的市值將衝到八百億美元。
商用語音有必要分男女嗎?有必要把世界預設為白人男性,把所有女人和多數有色人種一併劃分進「非典型」類別嗎?
為什麼不把LGBTQQIP2SAA全歸進非典型,以代表女同志、男同志、雙性戀者、變性者、游移不定者、酷兒、間性人(intersex)、泛性者、雙靈者、中性人、無性人?為什麼不包括異性戀?因為我把所有類型的恐同症或性認同歧視全看作性別歧視。性別歧視總歸一個觀念:男人「應該」怎樣,女人「是」什麼樣的人。
跨界會搞壞二元論。雙性戀者甚至會被一些同志撻伐。
性別認同,這議題讓有些人摸不到頭緒,乃至於目前變性人成了標靶。生物特質不是認同。性取向不是認同。我覺得,變性人是被帶進礦坑裡的金絲雀,對世人預示當前自我定義的風向。
自古至今都一直有變性人,接受度時高時低。有些北美原住民族文化和儀式中有一種第三性人,現代通稱為雙靈者。神話裡,有某種人屬於變「形」人,從「特質」的角度去看待才比較容易理解他們。
不列入單一項目。不屬於單一性別。
延伸內容
推薦序/把重要的知識連結起來
——清華大學人文社會學院學士班性別學程兼任講師/李信瑩
在英國作家珍奈.溫特森這本最新文集中文版即將問世不久前,全世界的新聞頭條跟網路世界都在熱烈討論微軟的OpenAI剛剛「訓練出」的人工智慧機器ChatGPT 。沒多久,在二〇二三年二月初,Google也推出自己的人工智慧聊天機器人Bard。
不管是哪個版本的人工智慧機器人,都是讓網路上龐大資訊為AI的資料庫(或者,像是人類的「過往學習經驗跟記憶」),在使用者輸入自然語言(一般人日常生活使用的語言)的文字後便可以產生回應。
許多人對於AI到底可不可以「像人一樣」思考、應答、組織文字成為文章感到焦慮,也有許多人感到新鮮跟嗅到新的機會。感到焦慮的人擔憂,是否從此無法辨識學校作業?無法辨識翻譯跟學術文章是人還是機器/AI所寫?
實際上ChatGPT確實可以寫出讓學術期刊登出的學術論文、讀起來通順的新聞報導跟學校作業。那麼,ChatGPT跟Bard這樣的人工智慧的「出世」,是否代表教授,工程師,記者跟譯者等以「書寫」為生的從業人員可能會失業?
答案是極有可能。就像是AI剛開始僅是應用於勞力跟服務方面的工作,如今卻早已變成日常生活的一部分,現在很少人會停下來想Siri是否會讓報時台人員(很懷舊的詞吧!)失業吧?那麼,我們需要為ChatGPT這類更接近一般人語言使用習慣的機器人的出現擔憂嗎?
這類機器人顯然是能夠產出讓人類引以為傲(代表人類「語言思考及整合能力」)的文字。一旦被人類視為「僅是機械」的人工智慧可以產出「跟人一樣」的內容時,這狀況便將讓人重新思考人跟機器在思想能力上的差異;或者,這兩者的無差異是否代表文字跟程式內容不再有人與機器的「真假」差異?
若是文字內容不完全講究學術論文的原創性,作業跟翻譯確實很快就要面對被人工智慧取代的可能,對於以文字創作維生的文學作家呢?會不會有同樣的危機感?同時,這樣的當下,一如往常,人們分成「AI有益人類生活便利」跟「AI即將取代人類工作,造成失業危機」的兩派,但我們沒有聽到太多「AI會否加劇性別不平等?還是可能解放受壓迫的性別?」這類討論。
英國得獎作家珍奈.溫特森是一位以書寫酷兒成長,情慾跟認同為書寫出發的文學作家,本書則是她透過科技、文學、哲學、宗教等領域探索爬梳AI的新作。AI對人類來說是什麼呢?AI 的存在到底是可以讓人類生活更加便利跟平等,還是會加劇各種階級,經濟,種族跟性別上的不平等?
珍奈.溫特森透過各類媒體閱讀相關文章及書籍,爬梳當代跟AI有關的文獻,秉持虛構作家仍舊需要將想像建構在人類世界的真實基礎上,追溯了人類開始想像「有部機器能在無人操作的情況下,有像是人類大腦一般思考能力,自行執行工作」的歷史。對性別史稍有關注的人會知道,英國詩人拜倫的女兒愛達.洛芙萊斯被認為是第一位「電腦程式設計師」,儘管如此,很少人仔細思考十九世紀初出生的愛達怎樣在「電腦」這種機器都不存在的情況下,在女性無法受正式教育(更遑論數學這樣的科學教育)的時代,思考這件事:「我想舉例說明分析機在無需人手人腦事先設定的情形下如何執行特定功能。」
同時,或許對於急於得知ChatGPT跟Bard這類AI科技會對當下人類社會造成什麼影響的人來說,知道歷史上曾經有位至今被遺忘也沒有實際成果的女士如何「思考」似乎不重要,但是溫特森不這樣想。
她找出愛達的身影,重新挖掘電腦程式的起源,讓我們看見AI不是二十一世紀的奇蹟,而是人類兩個多世紀以來的思考跟實驗結果。同時,她更讓因為性別身分而在這段歷史跟當下討論消失的身影重新現身。那麼,有沒有把性別的觀點放入對AI的思考執行,對人類社會而言究竟是否重要呢?
對溫特森來說,是重要的。
她在書中爬梳AI的邏輯,比較所有人類歷史上想像有「超越物質存在的思考」的各種領域思想,也認為有多元性別意識來思考AI是重要的。更重要的是,使用跟開發AI 時,多元性別的觀點可以打破目前我們看到AI透過像是掠奪土地般造成的資源跟財富不平等。
溫特森在書中用各種角度分析AI 的前世今生,並且以她著名的幽默口吻解釋:目前AI 的運作邏輯是透過二元對立的方式在複製父權的資本主義結構,而這個結構會加深過去跟現行的不平等跟掠奪。只要這個結構不變,創造出來以「人類過往經驗為資料庫」的AI當然也只會複製這樣的不平等。溫特森也詳細描繪以過往男性幻想為基礎的AI性愛娃娃,完全無法「解放」受壓迫的女性。但身為同樣是靠「創意」維生的作家,溫特森對AI沒有絕望。
溫特森認為,只要我們摒棄二元對立的思考邏輯,AI,特別是AGI,不僅是「人類自創的敵人,是最後一項發明,我懷疑也是最後一次機會。人類和AI交手,或許能撞擊人類優越主義,教人類謙虛一點」,更可以做到「如明斯基在《心智社會》裡所言,把重要知識連結起來」。
作者資料
珍奈.溫特森(Jeanette Winterson)
珍奈.溫特森自牛津大學畢業後在劇場工作了一段時間,並在二十五歲出版第一本書。《柳橙不是唯一的水果》是一部以她自身成長經歷寫成的小說,後來被改編成BBC電視劇,贏得了英國電影學院獎(BAFTA)。多年後寫的回憶錄《正常就好,何必快樂?》也成為暢銷作品,她的創作涵括成人及兒童書、文學及非文學和影視劇本如《激情》《科學愛人》等,獲獎無數,包括惠布瑞特最佳首作小說獎、福斯特獎、石牆獎等,並在二〇〇六年榮獲大英帝國勳章。現於曼徹斯特大學(University of Manchester)教授寫作課程,有時住在科茲窩(Cotswolds)林野間,有時住在倫敦。
基本資料
作者:珍奈.溫特森(Jeanette Winterson)
譯者:宋瑛堂
出版社:潮浪文化
出版日期:2023-03-15
ISBN:9786269697311
城邦書號:A5530014
規格:平裝 / 單色 / 336頁 / 14.8cm×21cm
注意事項
- 本書為非城邦集團出版的書籍,購買可獲得紅利點數,並可使用紅利折抵現金,但不適用「紅利兌換」、「尊閱6折購」、「生日購書優惠」。
- 若有任何購書問題,請參考 FAQ