聯合國秘書長安東尼奧·古特雷斯（António Guterres）週一在日內瓦主持了首次全球人工智慧治理對話，他向193個國家表示，人工智慧的發展速度已超越旨在規範它的機構——人類正在「沒有計畫、未經同意」的情況下對自身進行一場實驗。

古特雷斯在其主旨演講開場時說道：「人工智慧正以失控的速度發展。這項能夠重塑經濟、改變工作世界、影響選舉和動搖安全平衡的技術，其部署速度比任何人——包括開發它的人——都還要快。」

會議室內匯聚了所有193個聯合國會員國，在日內瓦舉行的首次全球人工智慧治理對話，是一項多邊努力，旨在規範這項已超越所有試圖控制它的人的技術。

古特雷斯用來解釋不受監管的人工智慧風險的流行語是「vibe coding」——這個詞由OpenAI創始成員兼特斯拉前人工智慧總監安德烈·卡爾帕蒂（Andrej Karpathy）創造，用來形容憑感覺編程：告訴人工智慧你想要什麼，讓它處理其餘部分，不要看得太仔細。梅里亞姆-韋伯斯特（Merriam-Webster）詞典最近已將其收錄。

古特雷斯承認「vibe coding」可以「創造奇蹟」，因為越來越多的人信任人工智慧構建的產品。

他說：「但我們不能『vibe code』真相，我們不能『vibe code』人類的未來。」

這句話背後的數字並不溫和。古特雷斯指出，網際網路花了15年才達到十億用戶，而人工智慧只用了兩年。他將目前的系統描述為「不再是等待指令的工具——它們正在編寫代碼、在線行動，並在越來越少的人類監督下做出選擇。」

「我們的機構是為了管理遵循指令的機器而建立的。它們尚未準備好應對能夠做出決定的機器。」

這場對話源於2024年全球數位契約（Global Digital Compact），該契約首次將國際人工智慧治理確立為聯合國的職責。兩年後，其開幕會議也收到了獨立國際人工智慧科學小組（Independent International Scientific Panel on Artificial Intelligence）的初步報告——該小組由來自140個國家的40位科學家組成——該報告上週指出，目前沒有人能保證人工智慧不會造成災難性損害。

速度是古特雷斯從該小組報告中提出的三個警告之一。第二個是權力：計算、數據和人才集中在少數公司和國家手中，世界上大多數國家被排除在已在塑造世界的決策之外，這也讓其他人工智慧專家，如揚·勒庫恩（Yann Lecun）、安迪·科溫斯基（Andy Kowinski）和約書亞·本吉奧（Yoshua Bengio）感到擔憂。

第三個是真相——機器製造的謊言現在說服力與經過驗證的事實一樣有效，正在穩步侵蝕古特雷斯所稱的「我們資訊生態系統的完整性」。

兒童白老鼠與殺手機器人

古特雷斯的具體提案中包括一項「人工智慧兒童安全承諾」，要求公司在任何人工智慧觸及兒童之前，通過獨立測試證明其安全性；對生成兒童性虐待圖像保持零容忍；並將受困擾的兒童連接到真實的人類支持，而非讓他們獨自與聊天機器人互動。他強調：「任何兒童都不應成為不受監管的人工智慧的白老鼠。」

接下來是殺手機器人。古特雷斯稱致命自主武器——在沒有人類判斷的情況下選擇並殺死目標的機器——「道德上令人厭惡」，並要求國際法予以禁止。

各國已經在討論桌上。他並未建議他們慢慢來。

對話將於2027年在紐約再次召開。古特雷斯還呼籲聯合國大會設立一個「人工智慧全球基金」，重點關注開發中國家的計算資源獲取，並挑戰每家主要人工智慧公司在2030年前將所有數據中心轉為使用再生能源——他估計屆時這些設施的電力消耗將超越除五個國家外的所有國家。