歷史學者、哲學家暨暢銷作者，出生於以色列海法，2002年在牛津大學取得博士學位，目前是耶路撒冷希伯來大學歷史系講師，也是劍橋大學「存在風險研究中心」（CSER）特聘研究員。著有《人類大歷史》、《人類大命運》、《21世紀的21堂課》等書，為世上具影響力之公共知識份子之一。
許多專家警告，AI正對人類生存造成威脅。但也有其他專家認為，這種警告是杞人憂天。如果今天講的是核武，大家都很清楚危險所在；但講到AI，就很難看懂這究竟是危險在哪？從工業革命的歷史，就能幫助我們了解這場新的「AI革命」與生俱來的危險。
許多專家警告，AI崛起可能使人類文明崩潰，甚至是人類物種滅絕。一項2023年的研究調查了2,778名AI研究者，結果也顯示有超過三分之一認為，先進的AI有至少10%的機率會造成等同於人類滅絕一樣可怕的結果。2023年有將近三十個國家政府簽署了關於AI的《布萊切利宣言》，其中就承認：「從這些AI模型最重要的功能，可能有意或無意地造成嚴重、甚至災難性的傷害。」
對某些人來說，可能覺得這些警告就是杞人憂天。每當出現強大的新科技，都有人焦慮世界末日就要來臨。舉例來說，當初隨著工業革命進展，許多人都擔心蒸汽機和電報會摧毀人類社會、毀滅人類的幸福。但到頭來，這些機器生產出了史上最富足的社會。時至今日，大多數人的生活狀況都比十八世紀的祖先好多了。許多熱情擁抱AI的專家都保證，各種智能機器絕對會比過去的所有機器帶來更大的好處。他們說，有了AI，人類就能享有更好的健康照護、教育與其他服務，甚至還能協助拯救生態系統免於崩潰。
首先學會善用科技
遺憾的是，只要看歷史看得仔細一點，就會發現人類確實有充分的理由，該對強大的新科技抱持幾分畏懼。就算這些科技到了最後是利大於弊，但在那個快樂結局之前，往往得先經歷百般磨難與考驗。新科技之所以常常帶來歷史上的災難，並不是科技本身有什麼問題，而是人類得花點時間，才能學會善用科技。
工業革命就是個很好的例子。工業技術在十九世紀開始傳向全球，顛覆傳統的經濟、社會與政治結構，彷彿打開一條道路，讓人類有機會創造出更富裕平和的全新社會。然而，要學習建立一個良性的工業社會，絕沒有那麼簡單，得經過許多昂貴的實驗，還得產生數以億計的受害者。
正因為各方對於「如何建立工業社會」的看法不一，就造成了代價高昂的衝突。兩次世界大戰與冷戰就像是一連串關於誰是誰非的辯論，各方都能互相學習，嘗試用新的工業方法來發動戰爭。但在辯論的過程中，就造成數千萬人死亡，人類差點自我毀滅。
除了以上這些災難，工業革命也破壞了全球生態平衡，導致一波物種滅絕。在二十一世紀初，據信每年有高達58,000種物種滅絕；從1970年至2014年，脊椎動物族群總數減少了60%。人類文明的生存也受到威脅。直到現在，我們似乎還是沒能建立起一個生態永續的工業社會，我們這個世代得意洋洋的繁榮景象，背後恐怖的代價都得留給眾生與人類的子子孫孫來承擔。或許人類總有一天會找到辦法（也許正是透過AI的協助），打造出能夠生態永續的工業社會，但在那之前，工業革命的成敗仍難有定論。
透過AI做出決策
即便如此，這給二十一世紀傳達的訊息依然並不樂觀。要是人類得經過這麼多可怕的教訓，才學會如何管理蒸汽動力與電報技術，現在還得再付出多少代價，才能再學會管理AI？比起蒸汽機、電報和所有過去的科技，AI不但可能遠遠更為強大，也遠遠更加難以管理，因為AI正是史上第一個能夠自行做決策、創造新想法的科技。AI不是個工具，而是能夠做出決定的行為者。
就智能而言，AI不但遠遠超越了原子彈，更超越了像是泥板、印刷機、收音機這些所有過去的資訊技術。泥板能夠儲存關於稅務的資訊，但無法自行決定要收多少稅，也無法發明某種全新的稅目。印刷機能夠複製《聖經》這樣的資訊，但無法決定《聖經》要收錄哪些文本，也無法對這本宗教經典加上新的註釋。收音機能夠傳播政治演講與交響樂等資訊，但無法決定要播放哪些演講或交響樂，也無法創作演講或交響樂。AI則是能夠做到這所有一切，甚至是創造出新的大規模毀滅性武器，到無比要命的傳染疾病。過去的印刷機或收音機只是人類手中的被動工具，但AI正在成為一種主動的行為者，可能得以擺脫人類的掌握與理解，主動形塑社會、歷史與文化。
或許人類總有一天能夠找到辦法，讓AI不至於失控，真正為人類帶來福利。然而，人類在這之前，是不是又得再次經歷全球帝國、極權政體與世界大戰的循環，才能搞清楚如何善用AI？而且，比起二十世紀的科技，這些二十一世紀的科技更具威力，我們能犯錯的空間也更受限制。在二十世紀，人類在「工業技術運用」這門課上，可以說只拿了個60分，勉強低空飛過。但在二十一世紀，過關的門檻高得多，這次可得表現得更好才行。
出自：《連結：從石器時代到AI紀元》／天下文化出版社