【國際未來學】當我們習慣了獨裁：人工智能與「大君主時代」 (Patreon)

物理學家鐵馬克（Max Tegmark）的著作《生命3.0》前瞻了眾多未來世界的新倫理規範，其中一個主軸，就是未來人類會很習慣獨裁社會，而且享受生活在其中。

這本書憂慮昔日人類普遍討厭獨裁制度，一來是因為制度侵犯個人自由，二來是獨裁制度往往掌握了國家機器、然後出現嚴重誤判或人為失誤，造成貪污腐化，甚或飢荒、戰爭等悲劇。然而在可見將來，無論是民主社會還是威權社會，利用人工智能監控全國人民的趨勢，已經不可逆轉，無論是Facebook還是微信、微軟還是華為，在「國家安全」面前，都不可能不與政權合作。

這些機構本身，也會逐漸成為管治制度的一部份。新一代可能早已假定了一舉一動都被監控，在網上網下的行為都不可能逃離天眼，也懶得再談騙人的「私隱」概念。

與此同時，有了大數據、機械學習輔助的人工智能政體，很容易可以作出基於數目字管理的社會規劃，而且不容易有誤判。產生類似昔日大躍進悲劇的可能性低了很多，卻更容易繞過種種人類劣根性，有效平均分配經濟資源於廣大人民。哪個地方的人民需要更多娛樂、休憩設施，哪裏需要更多圖書館與咖啡店，同樣可以通過人工智能政府輕易落實。

這種「成功爭取」，可能遠比依靠中介人的代議政治來得有效率，也符合全球裁汰中介人的「uberization」大趨勢。

作者擔心當人類習慣了這樣的社會模式，日常生活需要操心的，會變得十分有限，因為大選擇都已用不著人力操勞，剩下的選擇不過是到沖繩還是首爾、食魚蛋還是壽司。

再到了人工智能發展為「超人工智能」，完全掌控社會，管理者就會成為「仁慈的獨裁者」，徹底控制一切人類福祉，甚或把一般人類當作寵物飼養，成為動物園管理員。

到了極致，也不能排除超人工智能得出人類只會浪費資源的結論，情願淘汰人類，而自居為「傳承」人類文明的接班人。

鐵馬克的《生命3.0》自然受到不少論者批評，例如在《科克斯書評》 (Kirkus Review)有一篇評論，認為這位物理學家的書更多是先知式預言，多於嚴謹的科學探究。和鐵馬克一起在生命未來研究所共事的羅素 (Stuart Russell)指出，鐵馬克仍無法解答為何現在就要研究「超人工智能」。網絡文化學者羅斯 (Frank Rose)亦認為，鐵馬克對人工智能發展的正面肯定是「高貴但幼稚」的。

然而鐵馬克對人工智能的發展，始終持正面態度，起碼在短期內，要達至一個消除貧窮、疾病和不正義的社會，唯有人工智能才能實現。至於長遠的未來，誰能知？

小詞典：Uberization

通過資訊科技落實「點對點」直接溝通，繞過傳統中介，以提高效率、減省成本、直接得知市場規律的新經濟模式，以共享車輛App Uber為典型，但其實在各行各業都已出現，例如點對點的教學模式裁汰傳統學校、點對點網購取代傳統商場等，業已顛覆世界經濟體系。

信報財經新聞