哈拉瑞與唐鳳交鋒對談：被駭或不被駭？身分、工作與民主的未來

著有《人類大歷史》、《人類大命運》、《21世紀的21堂課》的以色列希伯來大學歷史教授哈拉瑞（Yuval Noah Harari）去年底在臉書回顧年度重要談話時，除了提到與當時還是美國總統候選人拜登（Joe Biden的）的對話，他與唐鳳在去年的LGBT驕傲月（Pride Month）線上對談也被列入其中，可見這次思想交鋒對哈拉瑞的重要性。

由於哈拉瑞與唐鳳分別是同性戀與跨性別人士，這場歷史學者與駭客政務官的深度對話，兩人均從性別與身分的自我成長歷程出發，論及AI與大數據對自由民主的影響、以及科技與個人利益的權衡，言詞交鋒之間不時閃現的智慧之光，頗能發人深省。

性別認同的發現與啟發

這場主題定為「被駭或不被駭？身分、工作與民主的未來」（To Be or not to Be Hacked? The Future of Identity, Work and Democracy）的對談，哈拉瑞首先談到他作為一名同性戀的出櫃過程，他認為這不單單是性向的自我揭露，更影響了他往後對科技、科學與歷史的態度。

20180903-耶路撒冷希伯來大學歷史系教授哈拉瑞（Yuval Noah Harari）。（天下文化提供）

哈拉瑞自承自己直到十五、六歲時，仍不瞭解自己是一名同性戀，不過當年如果就有臉書，這些網站勢必會在片刻間判讀出他是一名同性戀，遠比自己花了好幾年才理解這件事快得多。哈拉瑞表示，「生活在一間公司或者是一個政府比自己更瞭解自己的世界裡」究竟意味著什麼，這件事在他思考科技對政治或社會的衝擊時一直縈繞於心。

唐鳳則說自己的睪固酮素遠低於一般男性，因此作為生理男的唐鳳在十三、四歲時擁有一個不那麼男性的青春期。他說很慶幸自己非常早就接觸網際網路，在那裡他遇見了許多性別酷兒（Genderqueer）與同性戀者，讓他知道自己並不孤單，也能在這個空間裡自由分享自己的生命經歷。作為跨性別女性的唐鳳，自承在二十四歲時有經歷了一次女性的青春期，這時候幫助她的則是自己的詩人身分，讓她能夠對事物的不同面向保持同情與理解。

兩人初回交鋒：對科技監控社會的態度

對於哈拉瑞「科技比我們更瞭解我們自己」的擔憂，目前擔任數位政委的唐鳳表示，如果人們以一種被動的方式產生數據，這確實讓監控國家（surveillance state）或監控資本主義（surveillance capitalism）成為可能，但是普通市民若能夠理解自己的資料正在被某個組織收集，而且嚴格保有自身數據的自主性，對於「科技監控社會」的擔憂便不是問題。

唐鳳也舉出台灣防疫追蹤與駭客松協作的實例，將資料保留在每個人的手機裡而非上傳雲端，在政府進行調查時只產生追蹤資訊所需的一次性連結，確保不會洩漏其他私人細節，這不但解決了隱私與個資外洩的問題，更是台灣成功防疫的關鍵之一。唐鳳的回應讓哈拉瑞進一步解釋自己的立場，他釐清自己並非技術決定論（technological determinism）者，也不認為監控資本主義或者監控極權主義（surveillance totalitarianism）技術突破的必然結果。

行政院政委唐鳳專訪。（顏麟宇攝）

不過哈拉瑞表示，真正的危險並不在於技術決定論，而是我們在歷史上從未見過的新型極權主義—因爲現在的科技能夠對每一個個體進行不間斷的全時追蹤。不斷研究與書寫人類大歷史的哈拉瑞表示，即便是史達林時代的俄國或是毛澤東時代的中國，要一直追蹤每一個人、直到他們比你自己更瞭解自己，這在技術上是不可能的。即便跟蹤你的特務數量不是問題，但他們也只能產出「你在做什麼」的書面報告，這還需要另一組人來加以分析跟解讀。

哈拉瑞指出，當年在史達林或毛澤東治下不可能之事，如今藉由科技的力量卻得以實現。因為追蹤一個人不在需要特務，甚至不需要任何人類，所有的傳感器、攝影機、麥克風加上人工智慧機器，24小時不間斷地追蹤一個人在技術上確實可能。但哈拉瑞也說，這種可能性並非不能避免，他認同唐鳳所介紹的正確行動，並且表示如果能做到台灣那樣的地步，確實可以防止「反烏托邦」的發生。

第二回合：我們該拿「演算法霸權」怎麼辦？

哈拉瑞雖然贊同唐鳳的解決之道，但他也指出更深層次的另外一個問題：就算我們成功阻止了數位獨裁的崛起，屬於我們的數據真的會以一種安全並且負責任的方式被收集，那又會發生什麼事？哈拉瑞指出，那些我們生活中最重要的決定，依然可能遭到另一個霸權所宰制，那就是演算法。

哈拉瑞認為，就算我們有辦法防止數位獨裁的「反烏托邦」，我們該怎麼與演算法共處—比我們更瞭解我們自己、甚至不帶有獨裁性質、設計初衷就是要為我們服務的演算法—才是我們這個時代的真正難題。 這種情況並非有一個權威強迫我去做什麼，而是我知道演算法比我還瞭解我自己，因此包括學習、購物、甚至婚姻，我們可能都會越來越依賴演算法。

唐鳳表示，演算法當然具有哈拉瑞所描述的那種影響力，程式碼（code）也確實有如網路空間的物理法則，因為程式碼決定了什麼會發生、什麼不會發生。當然程式碼不完全等同於物理定律，因為程式碼並非不能改變，而是需要付出許多努力才能習得程式語言。不過對大多數人來說，這確實不太可能發生。

20180903-耶路撒冷希伯來大學歷史系教授哈拉瑞（Yuval Noah Harari）。（天下文化提供）

不過唐鳳也指出，程式碼除了存在有如物理法則的面向，也會建立起一種規範性，也能決定究竟要讓國家對公民透明（像是台灣）、還是讓公民對國家透明（像是中國），所以每當我們在設計程式時，我們也必須保有同樣的機會能夠獲得正義、獲得一個開放的未來。如果不能讓演算法的詮釋符合社會規範，無論有多少人參與演算法的設計，確實都會是一種負面的社會影響。

哈拉瑞表示，大多數人確實沒有能力透過改變程式碼來形塑現實，而且社會現實日益受到這些程式碼所建構。如果在政府的網站上填寫表格，如果性別選項就只有「男性」與「女性」，不選其中一個就沒辦法進到下一頁，這就是我們所要面對的現實。或許僅有二元性別只是一個22歲的加州年輕人在撰寫網站時的偶然決定，談不上有什麼深刻的哲學或政治考量，但這個決定卻會對所有填寫表格的申請人都產生影響。

唐鳳在回應時再度提及台灣，他說程式設計者必須保有未來詮釋的可能性，在哈拉瑞所舉出的性別選項的例子，如果不能像台灣在給入境人士填寫的「健康聲明卡」保有男女二元以外的選項（我國「健康聲明卡」的性別選擇欄有「男」（Male）、「女」（Female）、與「其他」（Other）），那也只能倚靠公民駭客（civic hackers）對未來的想像，並且等待他們對這個程式的缺陷加以修補。

不過唐鳳也說，台灣的公民駭客能夠這麼毫無忌憚，靠的是台灣是亞洲唯一擁有集會自由與言論自由之地，因此公民駭客不會因此受到處罰，但在亞洲的其他地方，這件事就跟同性婚姻一樣不可能。這件事關係到一個社會在多大的程度上，願意認同其演算法的程式碼能夠靈活改變，就跟需要經正當程序修改的法律一樣。哈拉瑞則認同比起人類的偏見，程式碼在本質上確實更易於修正。

第三回合：公民參與的科技社會

唐鳳表示，如果政府只能每年、或者每四年才回應一次被其稱為補丁（patches）的民間要求，這就好比是每四年才上傳三個補丁，這根本就沒辦法好好修改那些存在偏見或者是錯誤的程式碼。不過要是讓每個人都能夠發展自己的修改版本，並且在24小時之內完成整合的工作，那麼神奇的事情就會發生，這些公民駭客的工作成果將被大眾所使用，程式設計師就像是高速公路的工程師一樣。

唐鳳對公民參與的科技社會保持樂觀，依舊無法解決哈拉瑞對於科技遭到濫用、或者受到偏見制約的擔憂。他雖然同意唐鳳對民主無效率的描述，但他也認為已經存在可以駭入人類的科技，因此日益能夠操縱他們的慾望與情感。哈拉瑞從歷史的角度分析，他說那些統治者、先知與宗教總是希望進入人類的心靈，搞清楚他們的所思所想、並且試圖加以操縱。這些事例在歷史上屢見不鮮，但最終收效甚微。除了技術上難以跟蹤每一個人，人類對大腦的認識至今也極其有限。

《唐鳳：我所看待的自由與未來》（親子天下提供）

不過電腦科技如今卻做到了毛澤東與史達林都辦不到的事，科技駭進了人類、搞清楚了其中的道理，因此展開了全新的操作模式。哈拉瑞認為，一但透過網路、程式與演算法掌握了這樣的能力，便能操縱數百萬人的慾望、情感和感受，加上民主制度又讓人民的慾望與情感披上政治權威，在這種情況下，僅靠更快速的反饋機制顯然也難以招架。

當然，目前的電腦科技與生物知識還沒有辦法完全掌握人類，但目前的情況已經令人十分擔憂，許多公司招募最聰明的腦袋，希望大眾在他們平台與設備上投注更多時間，並且激發他們的恐懼、憎恨與貪婪，因為這吸引人們注意最簡單的方式。展望人類的未來，避免獨裁政權的崛起確實重要，但即便我們躲過了這個巨大的威脅，如何處理駭進人類大腦與思想的新型態工具，才是真正關鍵的挑戰。

第四回合：科技監控的責任倫理

哈拉瑞接下來談到科技監控與演算法的責任倫理問題。他提出一個具體的情境，當14歲的他走在沙灘上、或者看手機影片，演算法很快就會搞清楚他看的是帥哥還是美女，然後透過這一點來操縱他。比方說可口可樂透過對他投放性感男人的廣告，誘使他購買他本來不需要的東西，比方說可口可樂。哈拉瑞認為，真正的問題不在於有人透過演算法遂行某種目的，而在於如果演算法並無惡意，也不是為某個組織服務，但當演算法知道關於14歲哈拉瑞還不知道的、關於自己的某些事實，這時候演算法該怎麼做才對。

哈拉瑞說，人類的歷史中其實已經存在這樣的先例，不過這個比我們還要瞭解我們自己的不是演算法，而是我們的父親、母親、或者老師。像是他的媽媽在他14歲時或許不知道他是同性戀，但她肯定知道許多哈拉瑞沒有意識到的自己。在考量如何利用這些資訊行動時，哈拉瑞的母親會把寶貝兒子的最佳利益放在心上，人類對於如何建立正向的親子關係也有數千年的經驗。但對於「比自己老媽還瞭解自己」的演算法，哈拉瑞認為人類除了沒有歷史傳統可以依循，更搞不清楚到底我們跟這位掌握一切資訊的人工智慧導師，兩者之間的關係到底應該是什麼。

對於哈拉瑞提出的可口可樂情境，唐鳳提出了台灣政治的實例做為回應。她說在公民駭客的請願、甚至是公民抗命的抗爭下，台灣的監察院終於同意公開選舉各方陣營的募款與競選費用支出的原始數據，讓記者們得以一窺堂奧。對這些資料爬梳後赫然發現，社群媒體上有許多廣告既不是競選募款、也不是競選開銷，這個無法解釋的黑盒子讓台灣認識到外國勢力對台灣選舉的干預。

唐鳳表示，外國勢力微觀的方式預測人們潛在的恐懼和希望，然後試圖說服一小部分的人不去投票、或者避免他們支持某種候選人。但台灣徹底透明的選戰財務規範，等於對跨國公司表態：你現在有兩個選擇，一個是開放你的廣告檔案庫，操縱選情的劣行就會被赤裸裸地攤在檯面上，否則就在台灣的選舉期間選擇退出政治與社會廣告。臉書此後擴大了政治廣告的透明度，賦予使用者更多的政治廣告控制權，谷歌與推特則是拒絕在台灣的選舉期間投放政治廣告。

《法新社》曾說唐鳳（左三）是「讓性別認同成為資產的跨性別部長」。（林瑞慶攝）

對於哈拉瑞提出的科技倫理問題，唐鳳將其稱為「價值校準」（Value Alignment）問題，而且認同確實更為關鍵。不過唐鳳並不認同父母老師的建議一定會對青少年更好，一方面父母老師的想法受限於他們自己的生活經驗，二來他們的建議對一個青少年來說也排除了其他的可能性。唐鳳認為，要從「價值校準」的議題中解放出來，就要保持多種解釋的可能性。他認為這裡我們需要的是以人類體驗取代用戶體驗，如果考量的是所有人類的經驗，不同的解釋可能會相互疊加，最後我們將從單一的個體視野中解放出來。

哈拉瑞雖然同意行為者與觀點的多元化是可能解方，問題是民主恰好很容易受到選舉操縱的影響。如果演算法越來越強大，就算我們擁有一個人類領導者，實際上所有重要決策可能都是出自這個領導人無法理解的演算法。哈拉瑞說，他一直想寫一部演算法的科幻小說，最適當的場景就是中華人民共和國的中國共產黨。如果讓演算法接管中共的低階官員任命，很快黨內就沒有人能真正理解挑選的標準是什麼，就算中央政治局發覺情況不對可能也為時已晚，因為演算法已經任命了所有的低階官員。

哈拉瑞表示，其實獨裁政權比起民主政府更容易遭到演算法接管。因為在民主國家，你需要說服數以百萬計的民眾相信這個演算法，這樣演算法才有辦法接管局面。但是在一個獨裁政權中，你只需要說服一小撮準備好接受這種作法的人，就會有人收集所有的資訊，獨裁政權的底層成員則不疑有他。不過就算是在民主國家，隨著演算法對我們越來越瞭解，我們也習慣在生活中仰賴演算法的意見，我們的價值觀確實會日益受到控制。

最終回合 全球性挑戰與展望未來

唐鳳在對談中介紹了許多台灣目前的努力成果，包括讓孩子自我設定學習計畫、更為重視學習動機的108課綱；台灣在疫情早期，透過信任公民與開放數據進行口罩分發的努力（諸如口罩地圖APP；透過藥局、便利商店與健保卡分派口罩；透過APP將未曾領取的口罩轉為國際人道捐贈）；台灣對各種言論保持開放態度，對各種問題也總能找到創新的解決之道。我們從不同立場中抓住共同價值，試圖超越錯誤的二元分界，我們受益於文明的多元性，這也將是人類的未來。

哈拉瑞則表示，面對當前的全球性挑戰，確實應該有全球性的思維，並且拋棄國族主義與全球主義必定對立的思維。有些人認為，面對新冠疫情這樣的緊急情況，我們需要獨裁政權告訴人們該做什麼，否則難以達成共識。哈拉瑞不否認中國的獨裁者在這場疫情中確實比美國做得更好，但包括台灣、南韓、紐西蘭、希臘與德國，這些民主國家也有非常亮眼的表現。因為總的來說，一個消息靈通、自我激勵的社會比起無知又受到管制者要有效率得多。

哈拉瑞說，人類是講故事的動物，我們可以創造虛構的故事並且深信不疑。有趣的是，這件事在他看來正是人與人之間合作的關鍵。我們相信的故事包括神、國家與金錢，儘管這些東西只存在於人類的想像之中，但這也幾乎是我們所有工作的基礎。不過哈拉瑞也指出，關鍵在於創造出能夠為人類服務的故事，而非被這些故事所奴役，甚至假借一些宏大敘事的名義來傷害自己與他人。

耶路撒冷希伯來大學歷史系教授哈拉瑞（Yuval Noah Harari）。（天下文化提供）

在展望未來時也一樣，哈拉瑞認為我們需要創造新的故事來團結人類，但我們必須謹記，這一切都是為了減輕痛苦。無論是什麼樣的程式碼或者是故事，我們不可忘記現實永遠在那裡。你可以相信國家、相信上帝、相信公司、相信任何東西。不過如果你想知道它是不是真的，那就問問它是否會受苦。無論我們在21世紀創造什麼樣的故事來因應新時代的挑戰，我們都應該不斷地問自己這個問題：到底是誰在受苦？如果能記得我們所做的一切，都是為了減輕這種苦難，那我們就安全了。

唐鳳對哈拉瑞的苦難判準表示贊同，她認為真正有意義的乃是讓那些最接近苦難者擁有力量，讓他們從古老的敘事中解放出來。他們可能成為公民駭客、他們所說的故事可能讓每個人擁有更好的命運，如果我們把權力集中在那些距離痛苦最遙遠的人之手，那我們才會陷入真正的險境。駭客或被駭並非個人層面、而是社會層面的問題。我們應當關注基尼指數（Gini index）之類的指標，關注那些受苦的人們，並且共同創造我們賴以生存的規範與程式碼。

在兩人對談的最後，唐鳳以她創作的一首詩來做為結尾：

更多風傳媒報導
相關報導》 別再填鴨了，4C 才是王道：《21世紀的21堂課》選摘（3）
相關報導》 AI會取代我的工作嗎？：《21世紀的21堂課》選摘（2）