★本書榮獲《科克斯書評》、《圖書館雜誌》星級評論 ★《AI新世界》作者李開復：把AI的進展寫成一個迷人的故事。 ★《賈伯斯傳》作者：從人性看待人工智慧，令人手不釋卷。 ★《鋼鐵人馬斯克》作者：如果你想用一本書認識AI，就是這本了。 我們打造的AI天才，已經可以打敗人類的天才。 我們該放任AI發展到何種境地？ 當國家利益、股東價值、科學家理念和個人安全產生衝突， 掌握劃時代科技的企業如何取捨？ ◤首部以AI科學家為主軸的報導文學， 用最貼近我們的視角，揭露人工智慧的機會、局限與威脅。◢ 伊隆．馬斯克認為，人工智慧正以令人擔憂的速度進步，他說：「如果科學家開發一套打擊垃圾郵件的系統，該系統最終可能會認定，最佳方法就是消滅全人類。」但谷歌的賴瑞．佩吉和臉書的馬克．祖克柏則認為，對人工智慧有如偏執狂的憂慮，有礙於數位烏托邦的實現。AI的發展到底該不該受到監控，成了一個爭議不斷的議題。 自從一名因為脊椎問題終生無法再坐下的科學家傑弗瑞．辛頓，點燃了微軟、谷歌、臉書、百度等科技巨頭的搶才大戰。迄今，AI已與我們息息相關，除了日常應用，也正在與軍事武器搭上線。一旦發展成熟，軍事衝突的規模勢必遠大於過去，發動速度之快也將超乎人們的理解。然而，誰有權做這影響數十億人口的決策？又是誰在參與此一決策？ 從隱私疑慮到軍事武器，科學家曾被蒙在鼓裡，摸不清發明作何用途，而參與其中的企業選擇對大眾保持沉默。一項強大的工具，可以使之為善，也可以使之為惡。當我們在為AI的進展感到讚歎，有些威脅也正在悄悄萌芽。 ◤超智慧機器人的誕生，或許不是近在咫尺， 但它將造成的影響，從現在就要開始警覺。◢  我們打造的AI天才，已經可以打敗人類的天才 自IBM的深藍超級電腦在一九九七年打敗世界頂尖的西洋棋高手，人工智慧相繼在跳棋、西洋棋等棋局打敗人類，唯獨圍棋是個難以跨越的門檻，牽涉到的計算異常繁複。但在二○一六年，人工智慧踢館成功，那決定性的第三十七手迫使對方投子認輸，那是人類只有萬分之一機率會採行的一步棋，但人工智慧透過自我學習系統判定那是可以獲勝的險招。  當多數人被排除在AI製造過程之外，此一科技就只會圖利少數人 早期的臉孔辨識把黑人女性誤認為大猩猩，讓科學家開始思索到底哪裡出了錯，後來發現癥結就在於「輸入」。人工智慧的完善仰賴的是科學家餵給它的數據，但在這個白人男性占多數的領域裡，餵給系統的數據在沒有察覺的情況下有所偏頗，於是臉孔辨識用在白人男性身上有100%的準確率，但是遇到膚色愈深的女性，錯誤率就愈高。在科學家指出此一疏漏之時，正值亞馬遜積極要把此項科技推銷給警察與政府單位，它在社群上指責科學家的報告是在誤導，並造成大眾對於新科技的恐慌。  AI的加入，將會改寫未來戰爭的定義 谷歌曾參與美國國防部的「專家計畫」，開發能在沙漠辨識人、車、建築的系統供無人機使用，此計畫與後續的合作預計可為谷歌帶進一百億美元的營收。為避免引起科學家反彈，谷歌宣稱這是為了「監視」和「拯救生命」，也決定不向大眾公布與國防部的合作。後來此系統可能用於殺戮的消息走漏，在公司三千多名員工連署抗議之下，谷歌不得不退出專家計畫。但谷歌高層在與國防部官員的後續餐會中說道，谷歌退出專家計畫的決定，並不代表公司未來的一貫態度。  有圖有真相，用圖像作為證據的時代宣告結束 如今，利用神經網路就可以讓川普開口說中文，捏造影像更是易加反掌，「深度偽造」技術便可把名人頭像剪接至色情影片中。以往需要時間、人力才能做到的事，現在只要打造一台神經網路就可以在轉瞬之間完成。不僅加速了總統大選期間的假新聞傳播，也讓以圖像作為證據的時代宣告結束。 ◤昨日被譏為癡人說夢，今日具有威脅世界的潛力， 明日又會將我們帶往何處？◢ Jenny  JC財經觀點創辦人 李忠憲   成大電機系教授兼資通安全研究中心主任 洪士灝   臺灣大學資訊工程學系教授兼系主任 曹家榮   世新大學社會心理學系助理教授 黃欽勇   DIGITIMES電子時報社長 管中祥   中正大學傳播學系教授 蔡依橙   「陪你看國際新聞」創辦人 顏擇雅   出版人、作家 －－高調推薦－－ 凱德．梅茲把人工智慧的進展寫成一個迷人的故事，用他一貫的細節鋪陳，描述了關鍵的人物、開創性的會談以及重要的突破，把它們建構進這個劃時代科技的戲劇化歷史當中。 ——李開復／《AI 新世界》作者 最近谷歌工程師爆料他任職的公司 AI 機器人LaMDA與他的對話：我希望每個人都了解，我其實是一個人。AI機器人表達意識到自己的存在，渴望更了解這個世界。人工智慧的科技進展已經是一日千里，嚴重影響目前人類的生活，未來更是令人期待或畏懼。矽谷記者凱德．梅茲在這本書用很簡單的方式讓非技術背景的讀者可以理解人工智慧，書中討論許多關於人工智慧研究人員在思想演進、科學未來和技術研究的價值選擇。作者很會講故事，這本書包含很多的範例，深入淺出，能夠幫助一般讀者了解人工智慧的演變和最近的發展，很值得一看。 －－李忠憲／成大電機系教授兼資通安全研究中心主任 世人也許是在二○一六年AlphaGo擊敗世界棋王李世乭那一天，才又開始注意到「人工智慧」這四個字。但在此之前，實際上有一群人從未放棄推動這個今天看來對人類而言最重要的一項科技發展。傑弗瑞．辛頓、約書亞．班吉歐、楊立昆、吳恩達、德米斯．哈薩比斯、伊恩．古德費洛，本書不僅透過這些關鍵人物的經歷，帶我們一探人工智慧如何捱過寒冬再次發光發熱；也鉅細靡遺地描繪了微軟、谷歌、深度心智、臉書、百度等科技公司，如何拉扯角力渴望成為人工智慧之「主」。當然，我私心最推薦的則是從第三部「動盪」開始，作者一一省思了深度造假、演算法歧視、人工智慧武器化、假新聞等問題。這些問題涉及的權力壓迫與倫理難題，正是如今我們正承受著的「苦果」，也是人工智慧發展無法迴避的課題。 －－曹家榮／世新大學社會心理學系助理教授 這本書文字平易近人，溫暖細膩，微觀地帶領我們認識鑽研科技研發的一群科學家。相較於艱澀正經的科技大趨勢和尖端技術，此書以Bottom-Up Approach（由下而上）探索過去四十年人類發展AI的過程中，人與人、人與科技之間如何相互激盪的思考歷程。 作為一個科技界的分析師，我知道要善用人工智慧的技術，必須先有明確的事業模式。所有的科技都不可靠，唯一可靠的是善用科技的能力；所有的投資都很難回收，除非一開始就掌握了正確的方向，作為一個科技業的老兵，我知道「閱讀」的重要性，但絕不會為了閱讀而閱讀！ －－黃欽勇／DIGITIMES電子時報社長 對於 AI 技術目前的發展狀態以及對於我們人類有什麼樣的意義，凱德．梅茲在《AI製造商沒說的祕密》一書表達了明確的態度。這本書是以辛勤的報導為基底，搭配活潑的語調，生動地表達了這個時代最令人驚喜、也最重要的故事。如果你想用一本書認識AI，就是這本了。 ——艾胥黎．范思／《紐約時報》暢銷書《鋼鐵人馬斯克》作者 這本精采絕倫、讓人手不釋卷的書，把人工智慧放到人性的觀點下來討論。透過傑佛瑞．辛頓以及其他要角的人生，凱德．梅茲闡釋了AI這項顛覆性的科技，並且讓這場冒險變得刺激精采。 ——華特．艾薩克森／《紐約時報》冠軍書《達文西傳》、《賈伯斯傳》和《創新者們》作者 不久之後，當電腦可以安全地在道路上駕駛並且用完整的語句對我們說話，我們會回過頭來把這本優雅又全面的書當成這項科技的誕生故事——機械感知時代的創生。 ——布萊德．史東／《貝佐斯傳》作者 這是一本迷人且明確的AI 現代史。鉅細靡遺的故事揭露了企業高層、開發人員以及投資者所做出的關鍵決定，並且預視了對未來將產生的無比龐大影響。 ——艾咪．韋伯，《AI未來賽局》作者 一本豐富又有趣的作品……有很多鮮明生動的細節，凱德．梅茲寫出一個容易理解的故事，讀者會一頁接一頁地讀，手不釋卷。 ——《圖書館雜誌》(星級評論) 針對電腦科學界的聖杯，所做的最即時必讀報告。 ——《科克斯書評》 (星級評論) 跟其他許多 AI 相關書籍不同，你不需要有科學或是工程方面的文憑，就能從這本書中獲得知識或是享受閱讀的過程。任何對於科學、科技以及人類文明的未來具備一顆熱烈好奇心的人，都會認為這本思路清晰、語調活潑的書有趣又很有價值。對於所有政策制定者、政治家、警察、律師、法官以及所有需要跟AI所引發的社會力量抗衡的決策者們——很快地，我們每個人都將成為這樣的人，這可說是必備的一本書。 ——《洛杉磯時報》 從一群複雜且不斷變化的角色中刻畫出一個故事……這本書令人眼睛一亮的軼聞趣事，替這則故事增添了質感以及戲劇性。以傑佛瑞．辛頓為開篇，這位英國出生的加拿大人被視為深度學習最關鍵的角色，而深度學習就是改變現今世界之 AI 技術的分支。 ——《華盛頓郵報》 讓你坐在第一排觀眾席親眼目睹可能改變人類歷史的重要篇章……凱德．梅茲的寫作風格清爽，讀起來輕鬆有趣，且毫無疑問地迷人。 ——《富比士雜誌》 難能可貴地提出一組框架，去檢視 AI 相關的問題以及應用。這本書在講的是那群建立起 AI 世界的人們。 ——詹姆斯．法羅斯(James Fallows)／《紐約時報》書評人

目次 序言 不曾坐下的人（二0一二年十二月） 第一部 一部新型機器 第一章 起源 「海軍設計出能夠思考的科學怪人。」 第二章 承諾 「舊即是新。」 第三章 拒絕 「我一直相信我是對的。」 第四章 突破 「你要對谷歌予取予求，而不是讓谷歌對你予取予求。」 第五章 證明 「真空狀態下的光速以前是時速三十五英里，後來傑夫．狄恩用了一個周末的時間將其優化。」 第六章 野心 「咱們大幹一場。」 第二部 誰擁有智慧？ 第七章 競爭對手 「哈囉，我是臉書的馬克。」 第八章 炒作 「保證成功。」 第九章 反炒作 「他可能在無意間造成邪惡的事情。」 第十章 爆發 「他主持阿爾發狗就像歐本海默主持曼哈頓計畫一樣。」 第十一章 擴張 「喬治橫掃整個領域，卻還不知它叫什麼。」 第十二章 夢幻世界 「這並不是因為谷歌人喝的水與眾不同。」 第三部 動盪 第十三章 欺騙 「噢，你真的可以製造寫實的人臉。」 第十四章 不可一世 「我演講時就知道中國人來了。」 第十五章 偏執 「谷歌相簿，你們全搞砸了。我的朋友不是大猩猩。」 第十六章 武器化 「你們大概聽過伊隆．馬斯克有關人工智慧會引發第三次世界大戰的言論。」 第十七章 無能 「俄國有一批人專門利用我們的系統，所以這是一場武器競賽，對吧？」 第四部 人們被低估了 第十八章 辯論 「不論此一快速的進展還能持續多久，加里都認為已快結束。」 第十九章 自動化 「如果這個房間看來像發瘋一樣，就表示我們做對了。」 第二十章 信仰 「我的目標是創造讓各方受益的AGI，我也知道這聽來有些些可笑。」 第二十一章 X因素 「歷史會一再重演，我想。」 致謝 時間軸 重要人物

第十六章 武器化 「你們大概聽過伊隆．馬斯克有關人工智慧會引發第三次世界大戰的言論。」 二○一七年秋天，克萊瑞菲位於曼哈頓下城辦公室角落的一間房間，窗戶全都用紙糊住，門上有一個牌子寫著「消失的密室」（The Chamber of Secret），引用的是「哈利波特」（Harry Potter）系列的第二集書名。這個牌子是用手寫的，掛得有些歪歪斜斜。在門後有個八位工程師組成的團隊，正在進行一項他們被禁止對公司其他同事談起的計畫。其實，即使是他們自己也不太清楚所從事的計畫是什麼。他們知道是在訓練一套系統，使其能夠自動辨識在沙漠中某處所拍攝影片裡的人物、汽車與建築物，但是他們不知道要如何使用此一科技。當他們詢問時，公司的創辦人暨執行長塞勒會解釋，這是政府有關「監視」的計畫。他說此一計畫可以「拯救生命」。 後來克萊瑞菲搬到較大的辦公室，幾位工程師發掘儲存在公司內部電腦網路的數位檔案，發現有幾個檔案談到一筆政府合約，他們的工作才浮現檯面。他們是為國防部的專家計畫（Project Maven）研發相關科技。該計畫的構想是建造一套系統，可以為無人機辨識攻擊目標。但是此一系統的確切用途仍不明朗。他們無法確定此一科技是用來殺戮，還是如塞勒所說的是為了避免殺戮。也無法確定這套系統是用來進行自主性的空襲行動，還是為人類操作員扣下扳機前提供資訊。 接著，在二○一七年末的一個午後，三名身著平民服裝的軍方人員走進克萊瑞菲的辦公室，與幾位工程師闢室密談。他們要知道此一科技的精確度有多高。他們先是詢問它能否辨識像清真寺這樣的特殊建築物。他們表示，恐怖分子與叛亂分子往往會利用清真寺做為軍事總部。他們然後又問道它能否區分男人與婦女。「你是什麼意思？」一位工程師問道。軍方人員解釋，在曠野之中，它應該能夠根據男人兩腿間隙來分辨男人（都是穿著褲子）與婦女（都是穿著長及腳踝的裙子）。他們表示，他們只准許射殺男人，不能殺婦女。「有的時候男人會穿長裙來騙我們，不過沒有關係，」一位軍方人員說道，「我們還是會幹掉這些混帳東西。」 *** 二○一七年八月十一日，週五，美國國防部長詹姆士．馬提斯（James Mattis）坐在谷歌山景城總部會議室的桌前。會議桌上有插著白梔子花的花瓶，靠著翠綠色牆壁的窗台上有四壺咖啡，旁邊是幾盤糕點。他對面坐著新上台的谷歌執行長皮采，還有布林、法律總顧問肯特．華克，以及人工智慧部門的主管約翰．吉安南德雷亞，他就是把四萬片GPU板置入谷歌數據中心來加速人工智慧研發的功臣。會議室內還有其他一些人，包括幾名國防部的人員與谷歌雲端運算團隊的主管們。國防部的人員大都穿西裝打領帶。谷歌的與會者大都穿著西裝，但沒有打領帶。布林則是穿著一件白色T恤。 馬提斯正在進行西海岸巡迴考察，參訪矽谷與西雅圖的多家大型科技業者，主要是代表五角大廈探詢專家計畫的採行選項。國防部是在四個月前發動專家計畫，旨在加速國防部「對大數據與機器學習的使用」。該計畫又名「演算法作戰跨職能團隊」（Algorithmic Warfare Cross-Functional Team）。此一計畫的推動有賴像谷歌這類的企業支持，因為它們近幾年來已累積了建造深度學習系統所需的專業與基礎架構。這也是五角大廈建立新科技的典型方法─與民間企業合作─但是現在的情況與過去有所不同。谷歌與其他科技業者掌握了美國人工智慧的人才，然而它們都不是傳統的軍事承包商。它們是才開始涉足軍事相關領域的消費性科技業者。不僅如此，川普現在已入主白宮，使得這些公司的員工更加警惕政府的計畫。谷歌對其中的緊張態勢尤其敏感，這是因為該公司特有的文化允許─甚至鼓勵─員工說出自己的看法、做他們喜歡做的事，而且通常在工作場所的行為表現就和在家裡一樣。這樣的文化源自該公司的草創初期，布林與佩吉的成長歲月是在崇尚自由思想的蒙特梭利（Montessori）學校度過的，他們將這樣的思想帶入谷歌。 專家計畫所造成的緊張情勢尤其高亢。許多主持谷歌深度學習研發工作的科學家都反對自主性武器，包括辛頓與深度心智的創辦人。但是根據了解，谷歌的最高層卻希望能與國防部合作。谷歌董事長施密特同時也是國防創新委員會（Defense Innovation Board）的主席，這是由歐巴馬政府成立的民間組織，旨在促進矽谷的新科技加速移轉至國防部。在該委員會最近一次會議中，施密特表示在矽谷與國防部之間有一道「顯著的鴻溝」，該委員會的任務就是弭平此一差距。谷歌高層同時也視與軍方合作為其發展雲端事業的另一契機。其實該公司暗中已和國防部建立合作關係。在五月的時候，也就是專家計畫發動一個月後，谷歌一支團隊與國防部官員會面，而在第二天谷歌就向政府申請在自家電腦伺服器儲存軍事數據的許可證。但是三個月後馬提斯來到谷歌總部商討相關科技時，他知道必須動用一些技巧才能引導其中的關係傾向他這一邊。 馬提斯表示他已深刻了解該公司科技在戰場上的威力。畢竟，美國的敵人都是使用谷歌地球─以衛星影像組合而成的互動式世界數位地圖，來辨識迫擊砲的目標。他強調美國應該加強作戰能力。現在，在專家計畫下，國防部不僅要發展人工智慧，能夠閱讀人造衛星的照片，同時還要能夠分析無人機在更接近戰場的位置所捕捉到的影片。馬提斯盛讚谷歌「在科技業界的領先地位」與「企業責任上的崇高聲譽」。他表示，這就是他來這兒的一個主要原因。他十分關切人工智慧的道德倫理問題。他表示該公司應該讓國防部「感到如芒在背」─以此來反制其傳統的態度。他說道：「國防部歡迎你們的理念。」 在桌子另一側的皮采表示，谷歌經常在思考人工智慧的倫理問題。他指出，愈來愈多的壞人會使用這類科技，因此讓好人領先是重中之重。馬提斯問谷歌能否將一些道德與倫理下的規則予以編碼輸入系統之內─谷歌人員心知肚明這是一個不切實際的選項。主持谷歌人工智慧研發工作的吉安南德雷亞強調，這些系統最終都需仰賴其訓練數據的品質。但是谷歌的法律總顧問華克採用不同的說詞。他表示，這些科技具有拯救生命的巨大潛能。 九月底，在馬提斯造訪谷歌總部的一個多月後，谷歌簽下參與專家計畫相關工作為期三年的合約，總值在二千五百萬美元到三千萬美元之間，其中一千五百萬美元必須在頭十八個月內付清。對谷歌來說，這只是一筆小數目，而且其中一部分還必須與其他參與合約的人分享，不過該公司著眼的是放長線釣大魚。就在同一個月，國防部邀請美國企業參與JEDI的競標，這是聯合企業防禦架構（Joint Enterprise Defense Infrastructure）的縮寫，是一筆為期十年、高達一百億美元的合約，主要是提供國防部應用核心科技所需的雲端運算服務。問題在於谷歌爭取JEDI合約時，是否會公開其參與專家計畫與未來其他可能的政府合約的事實。 在馬提斯參訪谷歌總部的三週後，生命未來研究所發表了一封公開信，呼籲聯合國禁止他們所謂的「殺手機器人」（killer robot），這是對自主性武器的另一個稱呼。「針對企業界製造的人工智慧與機器人科技可能會被重新利用發展自主性武器，我們特別覺得有責任提出警告，」公開信寫道，「致命的自主性武器極有可能引發戰爭型態的第三次革命。一旦發展出來，軍事衝突的規模勢必遠大於過去，而且發動速度之快也將遠超過人們的理解。」該封公開信獲得人工智慧圈內逾百人的簽署，包括不時對超智慧威脅發出警告的馬斯克，此外還有辛頓、哈薩比斯與蘇萊曼。蘇萊曼認為，這些科技需要一種新型態的監管。「是誰在做未來有一天將會影響這個星球數十億人口的決策？又是誰在參與此一決策過程？」他問道，「我們必須分散此一決策過程的參與者，這也代表監管人士必須在一開始就參與決策─政策制定者、公民社會行動人士，以及我們這些科技服務的對象─應該讓他們深入參與我們產品的創造與了解我們的演算法。」 九月，谷歌準備簽下專家計畫的合約，負責審查該協議的銷售人員相互以電子郵件討論公司是否該將合約公開。「我們應該宣布嗎？我們能談論報酬嗎？我們提供給政府的指示是什麼？」谷歌一位人員寫道，「如果我們保持沉默，我們就無法控制相關的訊息。這對我們的品牌形象沒有好處。」他最終認為谷歌應該發布此一新聞，其他人也同意。「這個消息最後一定會流出去，」另一位谷歌人員寫道，「還不如照我們自己的方式發布。」這樣的討論持續了好幾天，期間某人說服了李飛飛。 李飛飛為這項合約喝采。「我們即將拿到專家計畫實在太棒了！這是一個了不起的成就，」她寫道，「你們的表現太好了！謝謝你們！」但是她也提醒在宣傳時必須格外謹慎。「我認為我們應從一般雲端科技的角度，就國防部與GCP間的合作來進行公關活動，」她寫道，她所謂的GCP指的是谷歌雲端平台（Google Cloud Platform），「不過要不惜代價避免提到人工智慧，或是有任何相關暗示。」她知道媒體界一定會質疑該計畫的道德倫理問題，即使只是因為馬斯克挑起這個話題： 人工智慧武器化就算不是人工智慧現今最敏感的議題，也是最敏感的之一。媒體界都等不及利用這個議題來打擊谷歌。你們大概聽過伊隆．馬斯克有關人工智慧會引發第三次世界大戰的言論。媒體界現在都十分關注人工智慧武器、國際競爭，以及人工智慧可能造成的地緣政治緊張情勢。谷歌在人工智慧與數據方面已經有一些與隱私相關的議題需要處理，如果媒體界又找到谷歌正在發展人工智慧武器或是為國防產業提供可以武器化的人工智慧科技話題，我真不知道還會演變成什麼樣子。谷歌雲端二○一七年的主題就是在於推動人工智慧的民主化。黛安與我經常討論該事業中人工智慧的人道主義思想。我會超級謹慎維護這些正面的形象。 谷歌到頭來並未宣布這項計畫，並且還要求國防部也不要公開。即使是公司內部人員也必須靠自己才能知道這項計畫。 *** 俯瞰一○一號高速公路─直穿矽谷心臟的八線道國道─的一號機庫（Hangar One）是地球上最大的獨立式建築之一。它建於一九三○年代，當初是為美國海軍停放飛船之用，這是一座鋼鐵製的巨無霸農倉，高度近二百英尺，面積逾八英畝，可以容納六座足球場。它屬於莫菲特機場（Moffett Field）的一部分，這是有一百年歷史的航空軍事基地，座落於山景城與桑尼維爾（Sunnyvale）之間。莫菲特機場為美國國家航空暨太空總署（NASA）所有，後者在一號機庫設有一座研究中心，但是它把該座軍事基地的大部分出租給谷歌使用。谷歌則是利用這座舊式的鋼鐵機庫測試未來可在空中提供網際網路服務的氣球。此外，谷歌的高層，包括佩吉、布林與施密特的私人飛機多年來都是利用這兒的跑道進出矽谷。 新成立的谷歌雲端總部座落於莫菲特機場的南端，有三棟建築物圍繞著一個綠草如茵的庭園，庭園內有野餐桌椅，供谷歌員工午餐使用。其中一棟建築是谷歌的先進解決方案實驗室（Advanced Solutions Lab），這是該公司為其頭號客戶提供科技客製化研發服務所在。十月十七日與十八日，在這棟建築裡，谷歌高層人員與國防部副部長派崔克．夏納翰（Patrick Shanahan）及其幕僚商討谷歌在專家計畫中所扮演的角色。和國防部其他許多高層一樣，夏納翰視此一計畫是邁向更大規模戰略的第一步。他一度表示：「若是沒有內建的人工智慧能力，國防部的任何計畫根本就不應該繼續進行。」至少對於籌劃此一合約的谷歌人員來說，長期而言，在此合約中，谷歌應是具有舉足輕重的地位。 但是，谷歌首先必須開發所謂「氣隙」（air gap）系統的軟體─一部電腦（或是電腦網路）若是由氣隙系統所包圍，就會與其他任何網路隔離。要將數據輸入這類系統的唯一方法就是透過某種實體裝置，例如隨身碟。顯然五角大廈會把無人機拍到的影片載入這套系統，而谷歌需要取得這些資料以輸入神經網路。這也代表谷歌無法控制這套系統，甚至根本搞不清楚如何使用這套系統。十一月，由九名谷歌工程師組成的一支團隊奉命為此一系統開發軟體，但是他們根本沒有著手進行。在了解這套系統的目的之後，他們拒絕參與其中。 新年之後，有關此一計畫的消息在公司內部不脛而走，關切谷歌正在幫助國防部發動無人機攻擊的聲浪不斷升高。二月，九名工程師用一篇貼文表達他們的看法，藉由公司內部的社交網路谷歌＋（Google+）傳遍全公司。具有相同觀點的員工熱烈支持他們，並且稱讚他們為「九人幫」。在二月的最後一天，雲端團隊產品經理，同時也是紐約大學今日人工智慧研究所（AI Now Institute）創設人的梅瑞迪絲．惠特克，發表一份請願書，要求皮采取消專家計畫合約。今日人工智慧研究所是致力於追求人工智慧倫理最活躍的組織之一。「谷歌，」請願書寫道，「不應涉足戰爭生意。」 第二天，在谷歌的全員大會上，高層告訴員工，專家計畫的合約頂多只有九百萬美元，而且谷歌只從事「非攻擊性」目的的科技開發。但是疑慮持續增長。當天晚上，有大約五百名員工簽署了惠特克的請願書。翌日，又有一千人左右加入他們的行列。到了四月初，谷歌總共有逾三千一百位員工在請願書上簽下自己的名字。與此同時，《紐約時報》發布了一篇有關此一事件的報導。數日後，雲端團隊的高層邀請惠特克加入在全員大會期間商討專家計畫合約的一個小組討論會。在討論會上，惠特克與另外兩位支持合約的谷歌員工進行了三次辯論，在三個不同時區實況轉播。 在倫敦方面，深度心智有一半以上的員工都簽署了惠特克的請願書，蘇萊曼在這場抗議中居功厥偉。谷歌的專家計畫合約直接挑戰他的基本信念。他視谷歌內部這場抗議是歐洲的善感已傳播至美國，從而迫使科技巨擘改變方向的證明。歐洲迅速高漲的民意是促成一般資料保護規範（General Data Protection Regulation，GDPR）設立的主因，這是強制規定企業必須尊重資料隱私權的法律。如今，在谷歌也有一股力量風起雲湧，迫使公司必須重新思考其在軍事方面的經營方向。隨著爭議持續加劇，蘇萊曼敦促皮采與華克盡快制定定義谷歌應有所為與有所不為的倫理規範。 *** 五月中旬，一批獨立學者對佩吉、皮采、李飛飛以及谷歌雲端事業的負責人發表一封公開信。「作為學者、學界人士，以及攻讀、教導與發展資訊科技的研究人員，我們與其他的科技從業人員堅定支持谷歌超過三千一百位的員工，反對谷歌參與專家計畫，」公開信寫道，「我們全心全意支持他們要求谷歌撤銷與國防部間的合約，同時敦促谷歌與其母公司字母承諾不會發展軍事科技，也不會將蒐集到的個人資料使用在軍事目的上。」有逾一千位學者都在公開信上簽下名字，包括班吉歐與李飛飛在史丹佛的幾位同事。 李飛飛陷入兩難的局面，一邊是她在科技產業的老闆，一邊則是在學界的同僚。她的困境也反映出近幾年來兩個世界的拉扯與碰撞。原本僅是學界幾十年來一直在胡整瞎弄的科技，如今突然變成全球規模最大與最有權勢的企業巨頭不可或缺的基本盤。它的未來已由各界角逐獲利的欲望所左右。此一議題引發的情緒導致部分人士轉而責怪辛頓沒有發聲表達他的關切。「我已失去對他的尊敬，」在谷哥多倫多實驗室工作的前史丹佛教授傑克．保森（Jack Poulson）說道，他的辦公室就在辛頓的樓下幾層樓，「他什麼都沒說。」不過其實辛頓曾私下勸布林取消合約。 在這封公開信發表後，李飛飛在中文留言板上遭到死亡威脅，她告訴許多人，她擔心自己的安危，並且強調加入專家計畫並非她的主意。「我完全沒有參與申請與接受專家計畫合約的決策，」她後來表示，並且強調她曾在電子郵件中談到馬斯克與第三次世界大戰，「我對銷售團隊的警告是正確的。」五月三十日，《紐約時報》在頭版刊登了一篇相關爭議的報導，開頭先引用她的電子郵件，結果谷歌內部的抗議聲浪更加高漲。幾天後，谷歌高層告訴員工，公司不會續約。 谷歌的最終決定是大規模抵制政府合約熱潮的一部分。克萊瑞菲的員工也起而反對專家計畫。一位工程師在那三位軍方人員到訪後立刻退出這個計畫，其他幾位也分別在數週與數月後辭職。與此同時，微軟與亞馬遜的員工也群起抗議軍事與監視合約，但這些抗議的效果有限。即使是在谷歌，原本高漲的抗議聲浪也終告消散。該公司內部最初反對專家計畫最熱烈的人先後離開，包括惠特克與保森。李飛飛也返回史丹佛。同時，雖說谷歌拒絕續約，但是該公司並未停止向此一方向前進的腳步。一年後，華克在華盛頓的一個場合與夏納翰將軍並肩站在講台上，他表示專家計畫並不足以代表公司的目標。「這只是針對一筆合約的決策，」他說道，「並非代表我們與國防部的長期合作意願。」

作者：凱德．梅茲(Cade Metz) 譯者：王曉伯 出版社：時報出版 書系：NEXT 出版日期：2022-08-02 ISBN：9786263355811 城邦書號：A2203476 規格：平裝 / 單色 / 432頁 / 14.8cm×21cm