【國際未來學】ChatGPT可以被舉國體制影響嗎？ (Patreon)

數據專家 Pete Hunt 在《The Diplomat》撰文進行 ChatGPT 測驗之後，他預言舉國體制政府必然會嘗試對這類人工智能搜尋工具進行操控。而在過去十年，它們正是這樣顛覆 Google 等網絡平台，去影響輿論的。他提出以下可能性，都很值得警惕：

在過去二十年，網絡世界逐漸分裂，根據不同的文化和語言，產生各自的搜索引擎、社交網絡、移動金融科技應用程序和在線服務供應商，各自圍爐，各自論述。例如俄語搜索引擎的俄語搜索結果，就一直包含更多親俄網頁，更不用說外人針插不入的簡體中國市場。不久之後，我們就會看到各自圍爐的聊天機械人。

俄羅斯網絡公司 Yandex 最近宣布，將在俄語中推出名為「YaLM 2.0」的 ChatGPT 式服務；中國科技公司百度、阿里巴巴、京東、網易等，也都宣布即將推出的聊天機械人，中國政府無疑正密切關注，並推動相關發展。此刻中國政府在牆內已經禁止使用ChatGPT，理由當然是因為聊天機械人訓練數據集來自自由開放的網絡，所生成的答案儘管多麼「世界仔」，也不能滿足黨國要求。中國科技巨頭自然知道要研發出怎樣的中國式聊天機械人，才可以正式上線。

屆時會怎樣？Hunt 認為，我們可以參考搜索引擎的歷史演化：

搜索引擎的發展，由最初的核心功能是為用戶提供網頁鏈接，嘗試解答用戶的問題，或給予一些相關資料，逐漸發展成對用戶查詢直接回答，並配合Siri、Alexa 和 Google Assistant等的語音搜索，可以把答案直接讀出。ChatGPT這等級的聊天機械人更進一步，以海量訓練文本的數據集，加上雲端近乎無上限的運算能力，以及更複雜的演算法，對幾乎所有題材，都可以出口成文。但追溯本源，還是來自搜索引擎。

各國政府網站在搜索中的排名一直很高，因為它們提供了豐富的訊息，亦被分類為「值得信賴」和相關的訊息來源。過往亦有不少例子，說明一些國家會設法操控搜索結果。布魯金斯學會一份報告詳細說明，中國如何操縱與新疆和武肺相關的搜索；哈佛大學的一項研究則發現，與俄羅斯有關的智庫利用搜索引擎優化技術 (SEO) 來散播親俄宣傳。我們熟悉的「新香港」亦試圖投訴Google，去改變「香港國歌」的搜尋結果，則已經是最低端的做法。

Hunt 表示，目前尚不清楚這些「中國ChatGPT」/「俄羅斯ChatGPT」聊天機械人是否視政府為可靠訊息來源，不過大概也可想而知。可以肯定的是，不同政府及相關機構都會對影響它的回答感興趣，尤其是那些與公共衛生、國家安全和領土爭端有關的問題，可以預視這些政府都會致力於「優化」搜索結果，特別是如果這些搜索結果都會被用於訓練聊天機械人的認知和思維。

屆時整個世界，只會進一步割裂為「ChatGPT平行時空」。這還是相對理想的。最糟糕的情況是自由世界的搜尋不能干預封閉世界，但後者的人工動作卻能影響對方，久而久之，ChatGPT會否只承認一種「主流」觀點？

▶️ 創科界AI 專家 Ben Cheng：ChatGPT 4.0：人工智能機械人叛變，終有一日出現（下）
https://www.youtube.com/watch?v=lbVIEEPoDTk