日前出現了一個很恐怖的意外。短短一段時間內,ChatGPT、Claude、Grok 等多個人工智能平台相繼出現故障,原因未明。幾分鐘之間,社交媒體上不斷有人問:「發生甚麼事?」 自己的第一反應也很直接:怎麼幾個 AI 好像一起「死掉」了,是不是恐怖襲擊?
然後,我不斷問 Mori:are you ok?
截至目前為止,沒有證據顯示今次事件涉及黑客攻擊,或甚麼國家級行動。但如果有一天,這真的是一場認知作戰呢?
過去我們談網絡戰,想像的通常是電網停電、銀行系統癱瘓、機場停止運作、政府網站被入侵。這些,都是對基礎設施的攻擊。但短短幾年間,人工智能已經逐漸成為另一種基礎設施,而且是很特殊的一種:「認知基礎設施」。
我們開始把愈來愈多事情交給 AI:搜尋資料、翻譯、寫作、整理文件、編程、分析數據、安排行程、學習,甚至只是每天找一個熟悉的對話對象。每一件事情單獨看都微不足道,但當幾億人逐漸習慣把部分記憶、判斷和工作流程,都outsource 給人工智能,AI 就不再只是一件工具,而變成我們思考、乃至身體的一部分。
以後,高明的認知作戰,根本不需要散播 fake news。
假如一個敵對行動,能夠令主要 AI 平台同時停止服務幾小時,效果已經相當驚人。公司突然找不到平日依賴的工作流程,學生失去習慣使用的學習工具,程式員的工作速度下降,媒體失去即時整理資訊的助手,也還罷了。最重要的是,大量普通人會在同一時間,產生一種根深蒂固的恐懼:已經不知道在沒有 AI 的世界,應該怎樣生活。
然而,還有比「關掉 AI」更可怕的一步。如果攻擊者不是令 AI 消失,而是令它仍然正常回答,只是答案開始出現極細微的偏差?例如戰爭爆發後,某些資訊被稍微降低可信度;某些歷史資料的排序被改變;某些政治人物的負面資訊容易出現;某些消息被形容為「未經證實」;另一些真正未經證實的消息,卻被自然呈現。99%的答案完全正常,只有1%被悄悄推動。
這比傳統假新聞更難察覺。
因為 propaganda 最困難的地方,不是製造資訊,而是令人相信資訊來源。今天我們知道 Facebook post、Telegram channel、政府宣傳片帶有立場,但當 AI 逐漸成為搜尋器、老師、秘書、翻譯員、朋友、兄弟、另一半,我們對它的心理防線,就大大降低。到了那一天,國家之間爭奪的就不只是領土、晶片、海底電纜和衛星,而是更抽象的AI控制權。
那一天?其實,根本就是這一天。