許多專家警告，AI正對人類生存造成威脅。但也有其他專家認為，這種警告是杞人憂天。如果今天講的是核武，大家都很清楚危險所在；但講到AI，就很難看懂這究竟是危險在哪？從工業革命的歷史，就能幫助我們了解這場新的「AI革命」與生俱來的危險。

許多專家警告，AI崛起可能使人類文明崩潰，甚至是人類物種滅絕。一項2023年的研究調查了2,778名AI研究者，結果也顯示有超過三分之一認為，先進的AI有至少10%的機率會造成等同於人類滅絕一樣可怕的結果。2023年有將近三十個國家政府簽署了關於AI的《布萊切利宣言》，其中就承認：「從這些AI模型最重要的功能，可能有意或無意地造成嚴重、甚至災難性的傷害。」

對某些人來說，可能覺得這些警告就是杞人憂天。每當出現強大的新科技，都有人焦慮世界末日就要來臨。舉例來說，當初隨著工業革命進展，許多人都擔心蒸汽機和電報會摧毀人類社會、毀滅人類的幸福。但到頭來，這些機器生產出了史上最富足的社會。時至今日，大多數人的生活狀況都比十八世紀的祖先好多了。許多熱情擁抱AI的專家都保證，各種智能機器絕對會比過去的所有機器帶來更大的好處。他們說，有了AI，人類就能享有更好的健康照護、教育與其他服務，甚至還能協助拯救生態系統免於崩潰。

即便如此，這給二十一世紀傳達的訊息依然並不樂觀。要是人類得經過這麼多可怕的教訓，才學會如何管理蒸汽動力與電報技術，現在還得再付出多少代價，才能再學會管理AI？比起蒸汽機、電報和所有過去的科技，AI不但可能遠遠更為強大，也遠遠更加難以管理，因為AI正是史上第一個能夠自行做決策、創造新想法的科技。AI不是個工具，而是能夠做出決定的行為者。

就智能而言，AI不但遠遠超越了原子彈，更超越了像是泥板、印刷機、收音機這些所有過去的資訊技術。泥板能夠儲存關於稅務的資訊，但無法自行決定要收多少稅，也無法發明某種全新的稅目。印刷機能夠複製《聖經》這樣的資訊，但無法決定《聖經》要收錄哪些文本，也無法對這本宗教經典加上新的註釋。收音機能夠傳播政治演講與交響樂等資訊，但無法決定要播放哪些演講或交響樂，也無法創作演講或交響樂。AI則是能夠做到這所有一切，甚至是創造出新的大規模毀滅性武器，到無比要命的傳染疾病。過去的印刷機或收音機只是人類手中的被動工具，但AI正在成為一種主動的行為者，可能得以擺脫人類的掌握與理解，主動形塑社會、歷史與文化。

或許人類總有一天能夠找到辦法，讓AI不至於失控，真正為人類帶來福利。然而，人類在這之前，是不是又得再次經歷全球帝國、極權政體與世界大戰的循環，才能搞清楚如何善用AI？而且，比起二十世紀的科技，這些二十一世紀的科技更具威力，我們能犯錯的空間也更受限制。在二十世紀，人類在「工業技術運用」這門課上，可以說只拿了個60分，勉強低空飛過。但在二十一世紀，過關的門檻高得多，這次可得表現得更好才行。

出自：《連結：從石器時代到AI紀元》／天下文化出版社