【國際未來學】未來人類會很習慣獨裁社會？超人工智能與「大君主時代」 (Patreon)

物理學家鐵馬克的著作《生命3.0》除了講述人工智能的影響，也前瞻了眾多未來世界的新倫理規範。其中一個主軸，就是未來人類會很習慣獨裁社會，而且享受生活在其中。

他認為昔日人類普遍討厭獨裁制度，一來是因為制度侵犯個人自由，二來是獨裁制度往往掌握了國家機器、然後出現嚴重誤判或人為失誤，造成貪污腐化，甚或飢荒、戰爭等悲劇。

然而在可見將來，無論是民主社會還是威權社會，利用人工智能監控全國人民的趨勢，已經不可逆轉。無論是Facebook還是微信、微軟還是華為，在「國家安全」面前，都不可能不與政權合作，這些機構本身，也會逐漸成為管治制度的一部份。新一代早已假定了一舉一動都被監控，在網上網下的行為都不可能逃離天眼，也懶得再談「私隱」概念。

與此同時，有了大數據、機械學習輔助的人工智能政體，很容易可以作出基於數目字管理的社會規劃，而且不容易有誤判。在未來，產生類似昔日大躍進悲劇的可能性低了很多，卻更容易繞過種種人類劣根性，有效平均分配經濟資源於廣大人民。哪個地方的人民需要更多娛樂、休憩設施，哪裏需要更多圖書館與咖啡店，同樣可以通過人工智能政府輕易落實。這種「成功爭取」，遠比依靠中介人的代議政治來得有效率，也符合全球裁汰中介人的「uberization」大趨勢。

當人類習慣了這樣由人工智能「規劃」的社會模式，日常生活需要操心的，會變得十分有限，因為大選擇都已用不著人力操勞，剩下的「選擇」，不過是到沖繩還是首爾、食魚蛋還是壽司。再到了人工智能發展為「超人工智能」，完全掌控社會，管理者就會成為「仁慈的獨裁者」，徹底控制一切人類福祉，甚或把一般人類當作寵物飼養，成為動物園管理員。

到了極致，也不能排除超人工智能得出人類只會浪費資源的結論，請願淘汰人類，而自居為「傳承」人類文明的接班人。

鐵馬克的《生命3.0》自然受到不少論者批評，例如在《科克斯書評》 (Kirkus Review)有一篇評論，認為這位物理學家的書更多是先知式預言，多於嚴謹的科學探究。和鐵馬克一起在生命未來研究所共事的羅素 (Stuart Russell)指出，鐵馬克仍無法解答為何現在就要研究「超人工智能」。網絡文化學者羅斯 (Frank Rose)亦認為，鐵馬克對人工智能發展的正面肯定，是「高貴但幼稚」的。

然而鐵馬克對人工智能的發展，始終持正面態度，起碼相信在短期內，要達至一個消除貧窮、疾病和不正義的社會，唯有人工智能才能實現。至於長遠的未來，誰能知？

▶️ 創科界AI 專家 Ben Cheng：ChatGPT 4.0：人工智能有甚麼不能做到？（上）
https://www.youtube.com/watch?v=-1LPFuX80rM