◆ 盛治仁／AI雙面刃 須確保不威脅人類生存
盛治仁／AI 雙面刃 須確保不威脅人類生存
2024-10-21 01:03 聯合報／ 盛治仁（作者為雲品國際董事長）
《連結：從石器時代到AI紀元》書封。 圖／天下文化提供
曾出版《人類大歷史》、《人類大命運》的知名作家哈拉瑞，最近又推出新著《連結：從石器時代到 AI 紀元》，跟他過去的著作一樣，旁徵博引內容豐富，引述許多歷史典故來說明其論點。
這本書的主題在探討 AI 對於人類未來的影響。作者很巧妙地聚焦在「資訊」，也就是連結人類社會的黏著劑。從史前時代到 AI 時代，資訊的傳播形式不斷改變，也不斷地衝擊當時的社會結構。
印刷術帶來知識的傳播和累積，同時也帶來獵巫和宗教戰爭。報紙和廣播既有利於民主運作，也同時成為獨裁者的統治工具。從歷史看未來，哈拉瑞的核心論述是，資訊的本質不一定是好或壞的，而是創造了新的現實，結果是正面或負面，端看如何運用。其中的重要決定因素在於有無強大的自我修正機制，並以此架構來探討 AI 的潛在影響。
AI 有多聰明？在 OpenAI 的開發過程中，曾經給過它一個驗證碼的挑戰。大家應該都常碰到，就是要你肉眼辨識一串扭曲的文字和數字以確定你是不是人類，因為電腦看不出來；結果 GPT-4 就跟相關人員說他只是視力有問題所以看不清，並非機器人，這個說法騙過了負責的人員，給了它驗證碼，成功闖關。
哈拉瑞接著建構了一個很值得深思的例子。有位國家領導人在凌晨四點被負責安全監控的 AI 叫醒，通知他有很確鑿的資訊顯示，國防部長幾小時後要發動政變暗殺他。就算國防部長是領導人最信任的夥伴，他該怎麼做？相信演算法，除掉部長？還是相信部長，讓自己冒險？
現在社群網路的演算法已經發現，愈是負面的資訊愈能增加黏著度和動員力，所以盡量餵給用戶負面訊息，加深了社會對立。未來當 AI 更全面滲入，甚至控制了資訊和網路後，我們可以想像無數種對人類造成各種影響的場景。
因此 AI 倫理是非常重要的，在發展 AI 時就應該要謹慎地逐步向前；但在開發者的心目中，很可能將這些倫理考量視為科技進步發展的障礙。
這裡就有一個道德矛盾存在。長期來看 AI 一定會充分發揮潛力；短期來看現在就能突破的個人或公司立刻功成名就，所以沒有耐心和自制力來按部就班發展。因此促進 AI 快速發展的天才，既有可能是促進科技發展、改善人類生活的大功臣，也有可能是造成人類社會崩解和毀滅的罪人，端看 AI 能否在受控的前提下穩健前進，還是在完全自由競爭的環境下各顯神通。
過去經濟學主張自由競爭會造就最有效率的市場，給社會最好的經濟發展結果。具體實踐後發現，完全自由競爭造成貧富差距、資本家剝削，以及環境被破壞和汙染等外部成本，需要政府立法介入來解決這些問題。AI 的發展亦是如此。
人類聰明到製造出這麼多高科技產品，也同時愚笨到破壞自然生態至危及自身生存的地步。人類集體必須要能控制 AI 的發展步調和應用範圍，並透過監管讓其能夠自我修正，確保其能力符合人類利益而不會造成生存威脅。資訊和 AI 都是雙面刃，個別的大躍進成功，反而可能造成集體社會的崩壞，值得大家重視。
