「技術人」持續迭代的英雄史詩 來自微軟AI執行長、AlphaGo生父，不容錯過的吟遊敘事 ——人類終於來到技術的「控制邊緣」—— 我們需要智識上的悲觀，意志上的樂觀，如同站在峭壁上眺望未來 哈拉瑞、康納曼、比爾蓋茲——齊聲推薦 ☆☆☆入圍《金融時報》2023年度商業圖書獎名單☆☆☆ 當每個人都能用愈來愈低的成本，使用愈來愈強大的工具； 當地緣政治風險以科技軍備競賽的形式迅速膨脹； 當AI把曾經的哲學辯論，變成每個人必須面對的現實…… 合成生物學、機器人技術、量子電腦、核融合等科技大浪， 有望因AI助攻達指數成長，掀起海嘯。 我們不確定那些我們所重視的： 自由意識、國家治理，甚或全球秩序…… 還能多大程度回應普世預期。 這本由AI局內人所撰寫的開創性著作， 把「駕馭問題」（亦即掌控強大科技）列為我們這個時代的基本挑戰。 ＼＼＼我們還沒準備好／／／ 不久之後，AI將包圍我們的生活，它們會執行複雜的任務，例如經營事業、產出無限的數位內容、提供核心的政府服務、維護基礎設施。你將生活在一個由DNA列印機和量子電腦、工程病原體與自主武器、機器人助理與豐富能源所組成的世界裡。這代表人類能力的飛躍突破。但我們還沒準備好。 ＼＼＼全球AI百大影響力人物／／／ 本書作者蘇萊曼一直處於這場技術革命的核心。這場革命可望成為史上最強大的進步加速器。他認為，這一波強大、快速擴散的新科技將會界定未來十年的光景。有了強大的政治與商業動機的推動，這些工具將幫助我們因應全球挑戰，創造龐大的財富，但也會帶來難以想像的劇變。 蘇萊曼是人工智慧公司DeepMind的共同創辦人，也是打敗世界棋王李世乭的AlphaGo的生父之一。於2024年3月接掌微軟新部門「Microsoft AI」執行長，負責微軟消費端的AI業務。《時代》雜誌將蘇萊曼評為全球AI百大影響力人物之一，以其所在的位置與扮演的角色而言，這個評價恰如其分。 ＼＼＼趨避悲觀的陷阱／／／ 蘇萊曼是最早將安全與倫理考量納入科技公司核心的技術領袖，他指出科技精英有趨避悲觀的特性，習慣忽視、淡化或否定他們認為過於消極的敘述，像是：我們終究會想到解決辦法的。這就能解釋為何《控制邊緣》這本書受到各界領袖人物推崇，正是因為蘇萊曼一一指出他們長期逃避的心態與行為，要求科技菁英們真正面對應該處理的駕馭問題。 ＼＼＼民族國家逐漸失能／／／ 在本書中，蘇萊曼將展示科技力量如何威脅民族國家的運作以及全球秩序的基礎。當脆弱的政府如夢遊般一步步走向災難時，我們面臨攸關存亡的兩難困境：一方面是不受控制的開放，帶來了前所未有的傷害；另一方面則是專橫的監視所帶來的威脅。我們能在災難與反烏托邦之間開闢出一道狹路嗎？ 推薦讀者  企業領導者與決策者：蘇萊曼身處科技產業最前沿的位置，他的想法與作為實際引領科技巨頭的商業布局。  科技專家與工程師：這是技術人（Homo technologicus）的故事，本書描述人類對進步的追求——自我、命運、能力、影響力——推動了思想與創造的持續演變。  學術界與研究人員：技術正在迅速改變社會，蘇萊曼在這本書同時帶來全景調查和行動的號角。告訴我們有影響力的局內人在想什麼、做什麼、怕什麼。  對科技與未來趨勢有興趣的大眾讀者：本書帶領科技疲勞的讀者了解科技大局，看人類在技術突破與擴張的關鍵時刻如何正確回應。 好評推薦 哈拉瑞｜《人類大歷史》作者 康納曼｜諾貝爾獎得主，《快思慢想》暢銷書作者 格雷厄姆．艾利森（Graham Allison）｜暢銷書《注定一戰？》作者 魯比尼（Nouriel Roubini）｜紐約大學名譽教授、人稱「末日博士」 李飛飛｜史丹佛大學計算機科學教授，人類中心AI研究所聯合主任 尼爾．弗格森（Niall Ferguson）｜哈佛大學歷史學者 比爾・蓋茲｜微軟創辦人 艾力克．施密特｜Google前執行長 陸奇｜微軟前副總裁、百度前總裁兼營運長 歐蘇利文（Meghan L.O'Sullivan）｜白宮前副國安顧問 陸克文（Kevin Rudd）｜澳大利亞前總理 程世嘉｜iKala共同創辦人暨執行長 ——多位跨領域重量級人士齊聲讚譽 即將出現的科技浪潮可望為人類帶來神奇的創造力，但如果我們未能妥善管理，我們可能會被毀滅。——哈拉瑞｜《人類大歷史》作者 《控制邊緣》帶來清晰且迫切的警訊，仔細概述了近年來令人興奮的科學進步所帶來的威脅和機會。充滿有趣的事實、引人入勝的論點和引人注目的觀察；它是必讀之作。——康納曼｜諾貝爾獎得主，《快思慢想》暢銷書作者 蘇萊曼對AI的危險與效益做了嚴格的評估，他提出一套各國政府現在應該採用的緊迫行動計劃，以駕馭這個革命性挑戰可能衍生的災難。——格雷厄姆．艾利森（Graham Allison）｜暢銷書《注定一戰？》作者 來自未來的警鐘，提醒我們即將發生的事情，以及可能對全球經濟與政治產生的影響。這本書是來自業界先驅的有力論證，將塑造你對未來的看法，及顛覆你對當前的了解。——魯比尼（Nouriel Roubini）｜紐約大學名譽教授、人稱「末日博士」 技術正在迅速改變社會，因此看到技術行業內部人士如此誠實和嚴謹地寫作比以往任何時候都更重要。這本書從最早的工具到當下AI能力和研究的核心爆炸，是一次全景調查和行動的號角，不容忽視。每個人都應該閱讀它。——李飛飛｜史丹佛大學計算機科學教授，人類中心AI研究所聯合主任 你可能已經閱讀了許多關於人工智慧的炒作和末日預言。但蘇萊曼的這本書絕對不容錯過。──尼爾．弗格森（Niall Ferguson）｜哈佛大學歷史學者 AI將改變我們工作、溝通、學習、旅行，以及獲取醫療保健的方式。這是一個令人難以置信的激動人心的機會，但我們必須謹慎前行。《控制邊緣》為前所未有的時代提供絕佳導航。——比爾・蓋茲｜微軟創辦人 沒有人比蘇萊曼更接近正在展開的AI革命，也沒有人比他更適合說明當前科技巨變的風險與報酬。對於人類歷史上這個獨特的時刻，這是一份絕對不容錯過的非凡指南。——艾力克．施密特｜Google前執行長 對《控制邊緣》是科技實踐者必讀的書，但更重要的是，它是一個堅定的行動呼籲，讓我們所有人參與這一最關鍵的對話。——陸奇｜微軟前副總裁、百度前總裁兼營運長 蘇萊曼以其獨特的位置，深刻指出了人工智慧和合成生物學無節制發展可能帶來的嚴重影響：引起地緣政治的混亂、激發戰爭，甚至侵蝕國家的本質概念——這一訊息在當前我們迫切需要聆聽。——歐蘇利文（Meghan L.O'Sullivan）｜白宮前副國安顧問 這本書對於政策制定者而言，是一堂關於我們已面臨的偉大技術挑戰及其對地緣政治意義的高級課程。——陸克文（Kevin Rudd）｜澳大利亞前總理

目次 關鍵詞彙表 序 智識上的悲觀，意志上的樂觀 第1章 駕馭是不可能的 浪潮／兩難困境／陷阱／論述 PARTⅠ 技術人 第2章 無限擴散 引擎／通用浪潮：歷史的節奏／擴散是預設模式／從真空管到奈米：急速擴散 第3章 駕馭問題 報復效應／駕馭是基礎／我們抵制過浪潮嗎？／核武是例外？／技術動物 PARTⅡ 下一波浪潮 第4章 智慧的技術 歡迎來到機器時代／AlphaGo與未來的開端／從原子到位元，再到基因／寒武紀大爆發／超越流行語／AI之春：深度學習成熟／AI正在吞噬世界／自動完成一切：大型語言模型的興起／大腦規模模型／仍以更少創造更多／感知：機器會說話／超越超智慧／能力：現代圖靈測試 第5章 生命的技術 DNA剪刀：CRISPR革命／DNA列印機：合成生物誕生了／釋放生物創造力／合成生命時代的AI 第6章 更廣大的浪潮 機器人技術成熟／量子霸權／下一次能源轉型／浪外浪 第7章 浪潮的四大特徵 不對稱：巨大的權力轉移／超進化：無止境的加速／全能：多即是多／自主及超越自主：人類知情嗎？／大猩猩問題 第8章 擋不住的動機 民族自尊，策略必要性／軍備競賽／知識只是想要自由／百兆美元的商機／全球挑戰／自我 PARTⅢ 國家失靈 第9章 大協議 國家的承諾／哥本哈根的啟示：政治乃切身之務／脆弱的國家／技術是政治性的：浪潮對國家的挑戰 第10章 放大脆弱性的因素 國家緊急狀態2.0／權力成本驟降／帶槍的機器人：攻擊主力／造假機器／國家支持的資訊攻擊／實驗室外洩與無意造成的不穩定／自動化的爭論 第11章 國家的未來 馬鐙／集中：智慧的複合報酬／監控：威權主義的動力／碎片化：還權於民／即將到來的矛盾浪潮 第12章 兩難困境 災難：終極的失敗／災難的種類／邪教、瘋子、瘋狂國家／反烏托邦轉變／停滯：另一種不同的災難／接下來何去何從？ PARTⅣ 穿過浪潮 第13章 駕馭必須可能 見解分散的代價／監管是不夠的／重新審視駕馭：新的大協議／洪水之前 第14章 邁向駕馭的方法 1. 安全：技術安全的阿波羅計劃／2. 審查：知識就是力量，力量就是控制／3. 鎖喉點：爭取時間／4. 開發者：批評者應該參與開發／5. 商業：獲利＋目的／6. 政府：生存、改革、規範／7. 聯盟：協定的時候到了／8. 文化：謙卑擁抱失敗／9. 運動：人民的力量／10. 狹路：唯一的辦法是通過 結語 人類世以後的生活

序 以下是AI的看法。 問：對人類而言，即將到來的科技浪潮有什麼涵義？ 在人類編年史上，有些時刻是突出的轉捩點，人類的命運在那個時點上懸而未決。火的發現、車輪的發明、電力的利用等等，都是轉變人類文明、永遠改變歷史進程的時刻。 如今，面臨即將到來的科技浪潮（其中包括先進的AI與生物技術），我們又再度立於關鍵時刻。我們從未見過有如此顛覆潛力的科技，承諾以令人又敬又畏的方式來重塑我們的世界。 一方面，這些科技的潛在效益龐大又深遠。有了AI，我們可以揭開宇宙的祕密，治療不治之症，創造出拓展想像力的新藝術與文化形式。有了生物技術，我們可以改造生命對抗疾病、轉變農業，創造一個更健康、更永續的世界。 但另一方面，這些科技的潛在危險也同樣龐大又深遠。有了AI，我們可能會創造出無法控制的系統，並發現自己受制於令人費解的演算法。有了生物技術，我們可以操縱生命的基本組成，可能為給個人與整個生態系統帶來意想不到的後果。 站在這個轉捩點上，我們面臨一個選擇：我們究竟想要怎樣的未來？是充滿無限可能的未來，還是充滿難以想像的危險。人類的命運懸而未決。我們在未來幾年與幾十年所做的決策，將決定我們將迎向這些科技挑戰，還是淪為科技危險的受害者。 但在這個充滿不確定的時刻，有一件事是肯定的：先進科技的時代已經來臨，我們必須準備好直接面對它的挑戰。 以上內容由AI所撰，其餘內容不是，但再過不久，AI可能就會包辦整本書。這就是即將到來的境況。

第1章 駕馭是不可能的 ▎浪潮 幾乎每個文化都有洪水神話。 在古印度教的文獻中，人類始祖摩奴（Manu）收到洪水即將來襲的警訊，成了唯一的倖存者。《吉爾伽美什史詩》（Epic of Gilgamesh）記載，蘇美神話中的神祇恩利爾（Enlil）在一場大洪水中毀滅了世界。熟悉《舊約聖經》諾亞方舟的人，可能會對這個故事產生共鳴。柏拉圖談到，失落的亞特蘭提斯（Atlantis）在浩瀚的洪流中流失。人類的口語傳說 與古代著作中，充斥著巨浪席捲一切，使世界得以改造重生的概念。 字面上來看，洪流也代表著歷史——世界各地的大河都有季節性的泛洪；冰河時代結束後，海平面上升；罕見的海嘯無預警地出現在地平線上。導致恐龍滅絕的小行星，在地球上掀起一英里高的巨浪，改變了演化的進程。這些巨浪的強大威力已深深烙印在我們的集體意識中：這種水牆勢不可當，無法掌控，也無法遏制。它們是地球上最強大的力量，塑造了大陸，灌溉了作物，孕育了文明的發展。 其他類型的浪潮也有同樣的變革性。回顧歷史，我們可以看到一系列比喻性的浪潮：帝國與宗教的興衰、商業的隆替。想想基督教或伊斯蘭教，這些宗教最初只是小小的漣漪，後來廣傳天下。這類浪潮是一種反覆出現的主題，描繪著歷史的興衰、大國的迭興、經濟的榮枯。 技術的興起與傳播，也是以改變世界的浪潮形式出現。自從人類最早掌握的技術——火與石器——出現以來，一種重大的趨勢經歷了漫漫時光的考驗，延續至今。幾乎每一項人類發明的基礎技術（無論是鎬、犁、陶器、攝影、手機、飛機，還是歷史上的任何發明），都依循著一條看似不變的定律：變得愈來愈便宜，愈來愈容易使用，最終得以廣泛普及。 這一波又一波的技術擴散，是技術人（Homo technologicus）的故事。人類對進步的追求——自我、命運、能力、影響力——推動了思想與創造的持續演變。發明是一個不斷展開、蔓延、湧現的過程，由自主又好強的發明家、學者、創業家、領導者推動的，他們各自抱著不同的動機向前衝。這種發明的生態系統先天就會往外擴張，這是技術的本質。 問題在於，接下來會發生什麼事？在本書中，我將告訴你下一波大浪潮是什麼。 第4章 智慧的技術 ▎AlphaGo與未來的開端 圍棋是一種古老的東亞遊戲，對戰雙方在長寬各十九格的棋盤上以黑白棋對奕。目標是用你的棋子包圍對手的棋子。一旦包圍對方的棋子，就可以把它們從棋盤上移走。規則差不多是這樣。 儘管圍棋的規則很簡單，但下起來卻極其複雜，遠比西洋棋複雜多了。西洋棋中，雙方各自走三步棋後，棋盤約有一億兩千萬種可能的布局。但圍棋下三步棋後，約有兩千兆種可能的布局。總計，整個棋盤有10的170次方種可能的布局，簡直是天文數字。 大家常說，圍棋棋盤的潛在布局比已知宇宙中的原子數量還多。事實上，潛在布局的數量是原子數量的一百萬兆兆兆兆倍！可能性這麼多，土法煉鋼的學習法根本沒指望。1997年，IBM的深藍（Deep Blue）在西洋棋賽局中擊敗了棋王加里．卡斯帕洛夫（Garry Kasparov），靠的就是所謂的蠻力技術，也就是說，用演算法有系統地盡量去處理最多種走法。但是，遇到像圍棋這種走法近乎無窮無盡的賽局，這種方法就沒輒了。 2015年我們開始研究圍棋時，多數人認為稱霸世界的程式還要幾十年後才開發得出來。Google的共同創辦人謝爾蓋．布林（Sergey Brin）鼓勵我們去解決這個問題，他認為任何進展都值得讚賞。AlphaGo最初的學習方式是觀看十五萬場人類專家對奕。我們對AlphaGo的最初表現感到滿意，接下來關鍵的下一步就是開發出大量的AlphaGo副本，讓它反覆跟自己對弈。這表示演算法能夠模擬數百萬場新的棋局，嘗試以前沒玩過的棋步組合，藉此更有效率地探索各種可能性，並從中學習新的策略。 接著，2016年3月，我們在南韓舉辦了一場比賽，讓AlphaGo與世界圍棋冠軍李世乭（Lee Sedol）對奕。賽前，沒有人敢說誰會贏。在第一局開始之前，多數的分析師認為李世乭會贏。然而，令我們又驚又喜的是，AlphaGo贏了第一盤棋。第二局出現的第三十七步棋如今在AI界和圍棋界都成了傳奇。那步棋令人費解，AlphaGo似乎犯了一個嚴重的錯誤，選了一個經驗老道的棋手絕對不會考慮的輸棋策略。現場直播的解說員都是最高段的專業棋手，他們說這是一手「奇怪的走法」，並懷疑這是「錯誤」。那一手實在太不尋常了，李世乭花了整整十五分鐘來思考下一步，甚至起身到外頭散步。 我們從控制室觀看那場棋局，緊張的氣氛感覺很不真實。然而，隨著終局逼近，事實證明，那手「錯誤」的棋步其實是關鍵。AlphaGo又贏了，圍棋策略正在我們的眼前改寫。我們的AI發現了數千年來最聰明的棋手從未想過的概念。短短幾個月內，我們就可以訓練演算法來發現新知，找出看似超人的新見解。我們如何更進一步呢？這種方法也可以套用在現實世界的問題上嗎？ 後來，AlphaGo以四：一擊敗李世乭，而這只是個開始。後續的軟體版本（比如AlphaZero）摒棄了人類之前的任何知識，讓系統直接自我訓練，與自己對弈數百萬次，從零開始自學到擊敗原始版AlphaGo的水準，中間完全沒用到任何人類棋手的智慧或輸入。換句話說，只需要一天的訓練，AlphaZero學到的圍棋知識就能超越人類所能傳授的全數經驗。 AlphaGo的勝利預示著AI新時代的到來。這一次，與DQN不同，過程向全球數百萬人直播。在全球觀眾的面前，我們的團隊擺脫了研究人員所謂的「AI寒冬」（指研究資金枯竭、世人對AI領域敬而遠之的時期）。AI捲土重來，終於開始展現實力。席捲全球的技術變革再次興起，新浪潮開始出現，而這只是開端而已。 ▎從原子到位元，再到基因 近代之前的技術史，一言以蔽之，可說是人類在探索原子的操縱。從火到電，從石器到機床，從碳氫化合物到藥物，亦即第2章所描述的歷程，本質上是一個龐大的展開過程。這個過程中，人類逐漸擴大了對原子的掌控。隨著掌控變得更加精確，技術逐漸變得更加強大、複雜，催生了機床、電氣工藝、熱機、合成材料（如塑膠），並開發出能夠治癒可怕疾病的複雜分子。根本上來說，這些新技術的主要驅動力都是材料，亦即對其原子元素做愈來愈多的操縱。 然後，從二十世紀中葉開始，技術開始在更高的抽象層次上運行。這種轉變的核心，在於意識到資訊是宇宙的關鍵屬性。它可以用二進位的形式表示，也可以以DNA的形式，成為生命運作方式的核心。1與0組成的字串，或DNA的鹼基對（base pair）——這些不止是數學的奇妙元素而已，它們是根本，而且非常強大。了解並掌控這些資訊流，就能穩步打開一個充滿可能性的新世界。先是位元（bit）、接著是愈來愈多的基因，它們都取代了原子，成為發明的構成要素。 二戰後的幾十年間，科學家、技術專家、創業家創立了電腦科學與遺傳學領域，以及許多與這兩個領域有關的公司。他們開始各自推動革命——位元革命與基因革命。這些革命涉及資訊的流通，並以前所未有的抽象與複雜度運作。最終，這些技術成熟了，促成了智慧型手機到基因改造米等多元的創新。然而，我們能做的還是有限。 如今，那些限制被打破了。隨著更高階技術的出現，我們正接近一個轉折點。即將到來的技術浪潮主要是以兩項通用技術為基礎，這兩項技術都能在最宏大及最精細的層面上運行：AI與合成生物。我們技術生態系統的核心組成，第一次直接涉及人類世界的兩個根本屬性：智慧與生命。換句話說，技術正經歷一場蛻變。技術不再只是一種工具，它將改造生活，與人類智慧互相抗衡，最終將超越人類智慧。 以往技術無法進入的領域，如今對技術敞開了大門。AI讓我們能夠複製語言、視覺、推理。合成生物的根本突破使我們能夠對DNA進行排序、修改，現在還可以列印DNA。 我們把掌控位元與基因的新能力套用到材料上，這讓我們更能掌控周遭的世界，甚至精密到原子的層面。原子、位元、基因在一個相互增強、交叉影響、不斷擴展能力的動態迴圈中融合。我們精確操縱原子的能力，促成了矽晶圓的發明。晶片使機器可以每秒做數兆次的運算，使我們有能力破解生命的密碼。 雖然AI與合成生物是新興通用技術浪潮的核心，但它們的周遭有許多具有出奇強大影響力的技術，包括量子運算、機器人技術、奈米技術、潛在的豐富能源等等。 即將到來的浪潮將比史上任一次浪潮都更難駕馭。這場浪潮更為根本，影響更加深遠。我們需要了解浪潮及其輪廓，才能預測二十一世紀的未來發展。 PART III 國家失靈 第9章 大協議 ▎國家的承諾 當今世界中，民族國家是政治秩序的核心單位。本質上，它向公民提出一個簡單又很有說服力的協議：在一個主權、領土國家中，集權不但可行，而且好處遠遠超過風險。歷史證明，讓國家全權處理暴力——賦予它執法及發展軍力的自由——是確保和平與繁榮最可靠的方式。此外，一個治理良好的國家是經濟成長、安全、福祉的關鍵基礎。過去五百年來，把權力集中於單一的權威，對於維護和平以及激發數十億人的創造潛力至關重要。那鼓勵百姓努力工作、追求教育、發明與貿易，從而推動進步。 因此，即使民族國家變得更強大，並與日常生活緊密相連，民族國家的大協議在於，權力的集中不僅可以促進和平與繁榮；眾人還可以利用一系列的制衡、再分配、制度形式，來駕馭這種權力。為了維持這點，我們必須在兩種極端之間拿捏微妙的平衡：一方面，避免最反烏托邦式的過度中央集權；另一方面，接受定期的干預以維持秩序。然而，世人常把那種微妙的平衡視為理所當然。 如今，即將到來的技術浪潮比以往更有可能破壞這種脆弱的平衡。簡而言之，大協議正在瓦解，技術是此歷史性轉變的關鍵驅動力。 由於民族國家負責管理及規範技術的影響，以確保人民的最大利益，它們對即將到來的變化做了多大的準備？如果國家無法協調這股浪潮的駕馭，無法確保它為公民帶來淨利益，那麼在中長期的未來，人類還有什麼其他的選擇？ 本書的PART I與PRAT II提到，一波強大的技術浪潮即將席捲這個世界。如今時候到了，讓我們一起思考這背後的意涵，一窺浪潮席捲後的世界樣貌。 在本書的PART III，我們將探討這些技術對民族國家的深遠影響，尤其是對自由民主國家的影響。裂痕已經形成。政治秩序促進了財富成長，提高了生活水準，助長了教育、科學、技術的發展，並使世界趨向和平。但現在政治秩序正承受著巨大的壓力，部分原因在於它促成的力量破壞了穩定。它的全面影響既廣泛又難以理解，但我認為，那顯示未來駕馭的挑戰將比以往更加困難，本世紀的巨大困境變得無可避免。 第10章 放大脆弱性的因素 ▎權力成本驟降 權力是「以特定方式做某事或採取行動的能力……指引或影響他人行為或事件進程的能力」。291權力是支撐文明的動能，是國家的基石與核心要素。各種形式的權力塑造著生活的一切，而且它也即將出現轉變。 技術最終是政治性的，因為技術是一種權力形式。或許新技術浪潮最重要的特徵是，它將把權力的取得民主化。誠如本書PART II所述，它將使人能夠在現實世界中做事。我是這樣想的：就像處理及傳播資訊的成本在消費者網路時代大幅下降一樣，在下一波浪潮中，實際去做某事、採取行動、行使權力的成本也將大幅下降。雖然知識很強大，但做事的影響力遠比知識更大。 任何人都可以製作專家級的影片、圖像、文本內容，而不止是讀取內容。AI不僅能幫你找到發表伴郎感言所需的資訊，還能幫你寫講稿，而且是以前所未有的規模執行。機器人不再只會製造汽車及整理倉庫，只要有一點時間與想像力，每個喜歡在車庫裡敲敲打打的人都可以使用機器人來當幫手。過去的浪潮使我們能夠為DNA定序或讀取DNA；即將到來的浪潮將讓DNA合成遍地開花。 今天無論權力在哪裡，它都將會放大。任何有目標的人——也就是說每個人——在實現目標的過程中，都會得到很大的協助。修改商業策略、為在地社區舉辦社交活動，或占領敵方領土都會變得更容易。成立一家航空公司或停用一支機隊，也變得更容易達成。無論是商業、宗教、文化、軍事，民主還是專制，你能想到的任一種動機，都將因為成本更低的權力唾手可得而顯著增強。 如今，無論你再怎麼富有，你就是買不到比數十億人買得起的手機還要強大的智慧型手機。這是文明的非凡成就，卻經常遭到忽視。在接下來的十年裡，ACI的取得也會依循同樣的趨勢。數十億人很快就會有大致平等的機會，接觸到最好的律師、醫生、策略家、設計師、教練、行政助理、談判者等等。每個人都會有一支專屬的世界級團隊，在身邊支援。 這將是人類歷史上最強大、最迅速的財富與繁榮加速器，但也是最混亂的一個。如果每個人都能取得更多的能力，顯然存心不良的人也在其中。隨著技術的發展速度比防禦措施還快，從墨西哥販毒集團到北韓駭客等不良分子都得到了一劑強心針。技術全民化的意涵，就是風險也勢必跟著全民化。 我們即將跨過人類歷史上的重要關口。這是民族國家未來十年必須面對的問題。在本章中，我們將逐一探討即將到來的浪潮放大脆弱性的一些關鍵例子。首先，我們將更深入了解近期的風險：不良分子將如何發動新的攻擊行動。這種襲擊可能致命、可能遍布各個領域，此外，即使有人展開大規模的攻擊，也可以無罪脫身。 ▎帶槍的機器人：攻擊主力 2020年11月，穆赫辛．法克里扎德（Mohsen Fakhrizadeh）是伊朗核武計劃的首席科學家與關鍵人物。他愛國、敬業、經驗豐富，是伊朗對手的首要目標。他深知自己有人身風險，在伊朗安全部門的協助下，隱藏了自己的行蹤與動向。 法克里扎德的車子穿插在戒備森嚴的車隊裡，行駛在一條塵土飛揚的道路上，開往他位於裏海附近的鄉間別墅。突然間，他的座車戛然而止，遭到一連串子彈擊中。法克里扎德受了傷，跌跌撞撞地從車裡爬出來，慘遭第二次機關槍掃射，中彈身亡。他的保鏢是伊朗革命衛隊（Revolutionary Guard）的成員，他們忙著搞清楚究竟發生了什麼事，槍手在哪裡？幾分鐘後，爆炸發生了，附近的一輛皮卡車起火燃燒。 然而，那輛車上，除了一把槍以外，裡頭空無一物。那天地面上毫無刺客的蹤影。套用《紐約時報》（New York Times）一篇調查報導的說法，這是「一種高科技、電腦化神槍手的首次測試，這個神槍手配備了AI與多個攝影鏡頭，透過衛星操作，能夠每分鐘發射六百發子彈」。292它安裝在一輛裝有攝影機、看似無害的皮卡車上，車子刻意停靠在那附近。那是以色列特務組裝的一種機器人武器。有人授權這次襲擊，但AI負責自動調整機關槍的瞄準目標。它只打了十五發子彈，不到一分鐘，就殺死了伊朗最受矚目、受到最嚴密保護的人之一。至於後來的爆炸，不過是企圖湮滅證據的失敗之舉。 法克里扎德遭到暗殺的事件預示著未來的狀況。更先進的武裝機器人將進一步降低施展暴力的障礙。網路上很容易找到最新一代機器人的影片，例如Atlas、BigDog。影片中有粗壯、長相奇怪的人形機器人，以及像狗一樣的小機器人，在障礙賽道上蹦蹦跳跳。奇怪的是，它們看起來不太平衡，卻似乎永遠不會跌倒。它們以不可思議的動作穿過複雜的地貌，看似笨重的框架永遠不會倒下。它們會後空翻、跳躍、旋轉、變戲法。要是你推倒它們，它們會冷靜又若無其事地站起來，而且準備好一次又一次重複之前的動作，令人毛骨悚然。 現在想像一下配有臉部辨識、DNA定序等功能，以及自動武器的機器人。未來機器人的外型可能不是蹦蹦跳跳的機器狗。它們在進一步縮小後，可能只有鳥或蜜蜂的大小，配備著小型槍支或一小瓶炭疽桿菌。任何想要擁有它們的人可能很快就能取得。新技術萬一落入不良分子的手中，就是這種光景。 PART V 穿過浪潮 第13章 駕馭必須可能 ▎監管是不夠的 儘管面臨不利的因素，但監管先進技術的措施的確有必要，而且目前有愈來愈多的趨勢。最有雄心的立法可能是歐盟於2021年首次提出的《人工智慧法案》（AI Act）。截至2023年撰寫本書之際，該法案正經歷正式立法的漫長程序。一旦立法通過，AI的研究與部署將根據風險分類。技術若有造成直接傷害的「不可接受風險」，該技術將遭到禁止。AI若影響基本人權或基礎設施、公共交通、健康或福利等關鍵系統，則將被歸類為「高風險」，並受到更嚴格的監督與問責。高風險AI必須「透明、安全、受人類控制，而且有妥善的記錄」。 然而，該法案雖是目前為止全球最先進、最有雄心與遠見的監管嘗試，但也顯示了監管的內在問題。它受到來自各方的攻擊，有的說它管太多，有的說它管得不夠。一些人認為，它過於關注未來導向的新興風險，試圖監管一些甚至還不存在的東西。另一些人則認為，它的遠見不夠。有些人擔心，它對大型科技公司過於寬鬆，因為這些公司在起草的過程中扮演重要的角色，導致條款避重就輕。也有人認為它管太多，將阻礙歐盟的研究與創新，可能損害就業與稅收。 多數的監管都得在相互競爭的利益之間拿捏平衡。但是，很少領域像先進技術這樣，需要解決如此廣泛傳播、對經濟如此關鍵、卻又發展如此迅速的問題。所有的喧鬧與混亂都清楚顯示，任何形式的監管有多麼困難、多麼複雜，尤其是在變化加速的情況下。而且，正因為如此，監管幾乎一定會有疏漏，無法有效駕馭。 想要管理超進化又全能的通用技術，挑戰性極高。想想汽機車的運輸是怎麼監管的，它沒有單一的監管機構，也不是只有幾條法律而已。我們有交通、道路、停車、安全帶、排放、駕訓等方面的規定。這些規定不僅來自國家立法機構，也來自地方政府、公路機構、發布指導原則的交通部、牌照機關、環保當局。它不僅涉及立法者，也涉及警察、交通監理者、汽車公司、機械師、城市規劃者、保險公司等等。 複雜的法規經過幾十年的改善，道路與車輛變得愈來愈安全，愈來愈有序，機動車輛也得以發展普及。然而，每年仍有一百三十五萬人死於交通事故。監管或許可以減少負面影響，但無法消除交通事故、汙染或氾濫等不良後果。考量到機動車輛所帶來的效益後，我們已經認定，那些缺點對人類來說是可接受的成本。這裡的「我們」一詞非常重要，監管不光只依賴新法律的通過，也涉及規範、所有權的結構、法規遵循與誠信的不成文守則、仲裁程式、合約執行、監督機制。這一切都需要整合起來，也需要社會大眾接受。 這些都需要時間，但我們沒有時間。對於即將到來的浪潮，我們沒有數十年的時間讓無數的組織制定策略，得出適切的價值觀與最佳的實務做法。先進科技迫切需要迅速又正確的監管。此外，這些前所未有的技術如此廣泛，我們也不清楚該怎麼管理。監管合成生物，究竟是在監管食品、藥品、工業工具、學術研究，還是同時監管這些行業？哪些機構應該對什麼項目負責？這一切要如何整合在一起？哪些行為者對供應鏈的哪些部分負有責任？光是一個嚴重的監管疏失，後果也可能不堪設想。然而，現在連決定由哪個機構負責，都像走在地雷區一樣困難。

作者：穆斯塔法．蘇萊曼、麥可．巴斯卡(Mustafa Suleyman & Michael Bhaskar) 譯者：洪慧芳 出版社：感電 書系：利涉大川 出版日期：2024-05-08 ISBN：9786269771295 城邦書號：A5970015 規格：平裝 / 單色 / 400頁 / 14.8cm×21cm