English + 中文。Made in Malaysia 🇲🇾

人工智能會有自我意識嗎?

什麼是意識?對有宗教信仰的人來說,人的意識就是靈魂。笛卡兒則說,我思故我在。他相信只有人能有意識,動物只是不會思考也不會痛的機械。

我們如今發現,鳥獸比我們想像中聰明;魚也不像傳說中只有七秒記憶。石斑和海鰻會借助對方的強項合作打獵,專門幫其他魚清理身子吃寄生蟲的裂唇魚則有生意頭腦,不只每天應付上千條不同性子的客戶,還會區分常客和偶然到此一遊的顧客,選擇要不要招生意或提供額外服務。

但所有動物都有意識嗎?無腦的水母會思考自己的存在嗎?植物用化學物質溝通,能感知周圍環境,但有內心世界嗎?病毒則像電腦程序,會自動執行基因裡寫好的繁殖過程,僅此而已。我不是貶低這些生物,畢竟聰明絕頂的我們選了特朗普當美國總統,相比下無意識的微生物不只是地球主人,也能讓牛高馬大的人一命嗚呼。

幾十年來,科幻小說和電影如《2001太空漫遊》到《銀翼殺手》假設人工智能會有跟人一樣的意識和情感。但《2001》故事發生在2001年,《銀翼殺手》發生在遙遠的2019年。不知道該遺憾還是慶幸,我們至今未研發出類似 HAL 9000 的電腦或生化機械人。再看看我手機上 Siri 的智能水平 ⋯⋯ 人工智能對人構成威脅的未來似乎還很遠。不過,今天的世界雖然沒有幾十年前父母輩想像的飛行車、移民火星和生化機械人,互聯網和智能手機卻顛覆了世界。同理,在人工智能有意識以前,它會先令大部分人失業,令社會面臨巨變。

撇開這些威脅不談,人工智能可能有感情和意識嗎?專家對此眾說紛紜,不是專家的我更沒有答案。也許人太糾結於自己的切身體驗,把腦細胞生產的幻覺想得太神聖,讓我們難以承認世界上可以存在各種不同的、非人的意識和情感。

情感可以很複雜,但究其本質不過是四十億年來進化而成的獎勵和懲罰機制。愛親情性慾促使我們繁殖和養育下一代,恐懼讓我們避開危險。但這些情感對我們來說像刀割肌膚一樣真實。如果我們給人工智能植入懲罰機制,讓它學會迴避做某些事情,這算不算痛或恐懼?如果我們在人工智能裡植入獎勵機制,幫人完成任務就會滿足,那算是快樂嗎?

科幻電影中常見的一個經典橋段,是主角發現自己的回憶是假的,自己只是被植入回憶的機械人。科學家還在探索意識的本質,很多科幻作者則說,人生體驗形成的記憶構成了自我,讓我們有連續的我一直存在的感覺基礎。這讓我生出有趣的想法:鑑於電腦有比人精準的記憶,人工智能如果有了意識,它們的存在是否比我們更真?

當然,科幻電影和小說乃虛構,以上純屬胡思亂想。學者又怎麼說?2017年10月《科學》神經科學特刊的一篇綜述認為,人的意識分為三個級別,即無意識的自動駕駛模式(C0)、獲取信息作出決策(C1)和自我監控(C2)。目前人工智能處於C0意識等級,如精通下棋的電腦 AlphaZero 能自主學習並思考出讓對手出其不意的招數,但它不會思考「我是誰」。人也常處於C0模式,如我們開車經常是靠潛意識操縱車子;有些因腦部損傷失明的人,依然能在障礙物中穿梭前進,或舉手擋掉丟向他的乒乓球,凸顯人腦就算沒有意識也可以對周遭的事情作出一些反應。一些科幻電影和小說想像,如果有外星智慧,那極可能是無意識的生命,像電影《湮滅》裡的外星人只會不斷改造和複製周遭的生物,這種對手無法被人理解,所以可怕。

有些專家認為,人工智能或許只能發展到這種級別。一個紅色色盲的人可以花一輩子收集關於紅色的一切知識,知道一切關於紅色的事情,但他體會不到什麼是紅色。同樣地,人工智能可以擁有超越人的智慧,甚至行為上百分百模仿人,卻未必有人的意識。但什麼是意識?正常人也看不見紫外線和紅外線,只能用科技把這些顏色轉成人體驗得到的色彩,可是不會有昆蟲鳥類親眼看見這些色彩的體驗。人的意識也不完美,而人工智能雖未必會有人的意識,但也可能發展出有別於人、人無法體會的一套思考模式、意識和情感。到時它們可能要反問:人能有像我們一樣的意識嗎?

我思故存在,愛過恨過所以活過,因為沒什麼比自己的情感和意識更真。如果人工智能產生意識,它們的意識也會是最真實的自我,它們的情感 —— 就算那只是人工植入的獎勵和懲罰機制 —— 也會是切身體會。也許在遙遠的未來,人工智能也不需要人去承認它們有意識和情感,畢竟人工智能的智力發展有無限潛能,人則受限於人性和潛力耗盡的生物大腦。到時跪求被承認真實存在的,搞不好不是人工智能,是人!

寫到這裡,我不寒而慄。幸好,我看看手機上 Siri 的智能水平,看來這一天離我們還有很遠。