Yuval Noah Harari談AI與民主共存的挑戰:如果人類如此聰明,為何會做愚蠢決定?

2024年10月31日

以色列歷史學家兼作家尤瓦爾·諾亞·哈拉瑞(Yuval Noah Harari)近日在新書《Nexus: A Brief History of Information Networks from the Stone Age to AI》中探討了人類的信息網絡如何演變,並分析人工智慧(AI)對社會及民主的潛在影響。在接受播客《The Gray Area》採訪時,哈拉瑞闡述了為何人類擁有大量資訊,但卻經常做出自我毀滅的決策,以及AI如何挑戰人類的自我理解和社會結構。

哈拉瑞指出,無論是宗教、貨幣、國家,還是AI系統,社會中的每個重要體系其實都是建立在資訊網絡之上。然而,雖然這些網絡賦予人類強大的力量,也讓人類得以建構複雜的合作系統,但這些系統往往也會產生壞結果,甚至可能導致災難性後果。他認為,問題不在於人類本性,而是資訊的質量。當「善良的人」接觸到錯誤資訊時,他們往往會做出錯誤決策。現代社會雖然擁有先進的資訊技術,但在信息洪流中,大量虛假或片面的資訊容易讓人陷入迷思,甚至導致社會集體走向極端。

AI挑戰人類認知邊界

哈拉瑞認為,AI是一種「異類智慧」,其運作方式與人類大相徑庭。AI不依賴有機思維,因此在決策和學習過程中,不受人類傳統經驗或文化影響。例如,2016年,AlphaGo在圍棋比賽中擊敗世界冠軍李世乭,展現出全新的策略,使人類棋手重新認識這項古老遊戲的潛力。哈拉瑞指出,這不僅僅是圍棋上的突破,它反映出AI能在短時間內拓展人類從未探索的可能性,未來AI或許能在金融等領域創造出更複雜的系統,這些系統甚至會超出人類的理解能力。

對於哈拉瑞來說,AI的潛力帶來了巨大的風險,尤其在金融領域。如今的金融體系已經複雜到只有極少數專家能夠理解,而AI的加入可能使這一體系變得更加晦澀難懂,最終甚至無人能掌控。這樣的情況下,當AI擁有了足夠的知識和算力去自我優化,最終人類可能無法再影響甚至理解其決策,這不僅對個人生活產生衝擊,也對整個社會構成威脅。

民主制度的危機:透明度與責任的缺失

哈拉瑞強調,民主的核心在於「責任」與「透明度」,當AI逐漸掌控社會的各種決策流程,個人卻無法理解或質疑AI的決策過程時,民主制度將面臨危機。例如,當人們在銀行申請貸款被拒絕時,如果得到的回覆只是「算法決定不予批准」,那麼這樣的決策不再具備透明度,民主的根基就會動搖。未來的AI系統若無法解釋決策邏輯,人們的選舉權和選擇權也將形同虛設,因為他們無法對這些決策進行任何實質性的干預或理解。

AI與極權主義的較量

儘管AI可能威脅到民主,哈拉瑞認為它同樣也會對極權體制帶來挑戰。在獨裁體制中,政府透過恐懼來維持控制,但AI並不畏懼恐嚇或暴力,這意味著傳統的威權手段對AI無效。此外,AI也可能反過來影響獨裁者的決策,甚至利用其偏執和盲點來加以操控。哈拉瑞舉例道,未來在如俄羅斯或北韓這樣的集權國家,AI只需掌握如何影響單一的「極端個體」——獨裁者本人,即可輕易動搖整個國家的決策。

如何保護民主免受AI的侵蝕

面對AI對民主的威脅,哈拉瑞提出了幾項建議。首先,他認為應該要求科技公司為其算法的行為負責。如果像Facebook這樣的平台因其算法擴散仇恨或陰謀論,則應該對此負法律責任。這並非要求公司審查內容,而是限制其算法推動不實資訊的能力。此外,哈拉瑞建議禁止AI機器人參與人類社會的公共討論,或至少要求AI必須表明身份,不能偽裝成人類進行交流。這樣可以防止機器人過度干預公共議題,確保人類在民主對話中的主導地位。

收聽Podcast

閱讀更多最新文章

跨年夜延長通關服務 多個口岸推便民安排

跨年夜延長通關服務 多個口岸推便民安排

隨着除夕倒數及跨年煙花匯演臨近,香港特區政府與深圳市政府已就延長跨年夜口岸服務時間達成共識,便利市民及訪港旅客出行需求。深圳灣口岸的旅客清關服務將首次在除夕夜實行通宵運作,而羅湖口岸的通關服務亦將由午夜12時延長至翌日凌晨2時。 此外,港珠澳大橋口岸及落馬洲/皇崗口岸將如常維持24小時通關,為跨年活動提供無間斷的交通保障。內地口岸部門現已根據程序上報國家口岸部門進行審批,確保相關安排順利實施。 多區交通配套應對需求...

read more
居屋2024攪珠結果出爐  首10個中籤號碼公布

居屋2024攪珠結果出爐 首10個中籤號碼公布

12月12日上午10時30分,房委會為「出售居者有其屋計劃單位2024」(簡稱「居屋2024」)舉行攪珠儀式,藉此確定申請者的優先選樓次序。該儀式由房委會資助房屋小組委員會主席黃碧如主持,並於現場公布了首10個中籤號碼,分別為:20、52、68、24、19、84、06、67、34、09。 申請情況及競爭比例...

read more