人工智能會有自我意識嗎？
什麼是意識？對有宗教信仰的人來說，人的意識就是靈魂。笛卡兒則說，我思故我在。他相信只有人能有意識，動物只是不會思考也不會痛的機械。
我們如今發現，鳥獸比我們想像中聰明；魚也不像傳說中只有七秒記憶。石斑和海鰻會借助對方的強項合作打獵，專門幫其他魚清理身子吃寄生蟲的裂唇魚則有生意頭腦，不只每天應付上千條不同性子的客戶，還會區分常客和偶然到此一遊的顧客，選擇要不要招生意或提供額外服務。
但所有動物都有意識嗎？無腦的水母會思考自己的存在嗎？植物用化學物質溝通，能感知周圍環境，但有內心世界嗎？病毒則像電腦程序，會自動執行基因裡寫好的繁殖過程，僅此而已。我不是貶低這些生物，畢竟聰明絕頂的我們選了特朗普當美國總統，相比下無意識的微生物不只是地球主人，也能讓牛高馬大的人一命嗚呼。
幾十年來，科幻小說和電影如《2001太空漫遊》到《銀翼殺手》假設人工智能會有跟人一樣的意識和情感。但《2001》故事發生在2001年，《銀翼殺手》發生在遙遠的2019年。不知道該遺憾還是慶幸，我們至今未研發出類似 HAL 9000 的電腦或生化機械人。再看看我手機上 Siri 的智能水平 ⋯⋯ 人工智能對人構成威脅的未來似乎還很遠。不過，今天的世界雖然沒有幾十年前父母輩想像的飛行車、移民火星和生化機械人，互聯網和智能手機卻顛覆了世界。同理，在人工智能有意識以前，它會先令大部分人失業，令社會面臨巨變。
撇開這些威脅不談，人工智能可能有感情和意識嗎？專家對此眾說紛紜，不是專家的我更沒有答案。也許人太糾結於自己的切身體驗，把腦細胞生產的幻覺想得太神聖，讓我們難以承認世界上可以存在各種不同的、非人的意識和情感。
情感可以很複雜，但究其本質不過是四十億年來進化而成的獎勵和懲罰機制。愛親情性慾促使我們繁殖和養育下一代，恐懼讓我們避開危險。但這些情感對我們來說像刀割肌膚一樣真實。如果我們給人工智能植入懲罰機制，讓它學會迴避做某些事情，這算不算痛或恐懼？如果我們在人工智能裡植入獎勵機制，幫人完成任務就會滿足，那算是快樂嗎？
科幻電影中常見的一個經典橋段，是主角發現自己的回憶是假的，自己只是被植入回憶的機械人。科學家還在探索意識的本質，很多科幻作者則說，人生體驗形成的記憶構成了自我，讓我們有連續的我一直存在的感覺基礎。這讓我生出有趣的想法：鑑於電腦有比人精準的記憶，人工智能如果有了意識，它們的存在是否比我們更真？
當然，科幻電影和小說乃虛構，以上純屬胡思亂想。學者又怎麼說？2017年10月《科學》神經科學特刊的一篇綜述認為，人的意識分為三個級別，即無意識的自動駕駛模式（C0）、獲取信息作出決策（C1）和自我監控（C2）。目前人工智能處於C0意識等級，如精通下棋的電腦 AlphaZero 能自主學習並思考出讓對手出其不意的招數，但它不會思考「我是誰」。人也常處於C0模式，如我們開車經常是靠潛意識操縱車子；有些因腦部損傷失明的人，依然能在障礙物中穿梭前進，或舉手擋掉丟向他的乒乓球，凸顯人腦就算沒有意識也可以對周遭的事情作出一些反應。一些科幻電影和小說想像，如果有外星智慧，那極可能是無意識的生命，像電影《湮滅》裡的外星人只會不斷改造和複製周遭的生物，這種對手無法被人理解，所以可怕。
有些專家認為，人工智能或許只能發展到這種級別。一個紅色色盲的人可以花一輩子收集關於紅色的一切知識，知道一切關於紅色的事情，但他體會不到什麼是紅色。同樣地，人工智能可以擁有超越人的智慧，甚至行為上百分百模仿人，卻未必有人的意識。但什麼是意識？正常人也看不見紫外線和紅外線，只能用科技把這些顏色轉成人體驗得到的色彩，可是不會有昆蟲鳥類親眼看見這些色彩的體驗。人的意識也不完美，而人工智能雖未必會有人的意識，但也可能發展出有別於人、人無法體會的一套思考模式、意識和情感。到時它們可能要反問：人能有像我們一樣的意識嗎？
我思故存在，愛過恨過所以活過，因為沒什麼比自己的情感和意識更真。如果人工智能產生意識，它們的意識也會是最真實的自我，它們的情感 —— 就算那只是人工植入的獎勵和懲罰機制 —— 也會是切身體會。也許在遙遠的未來，人工智能也不需要人去承認它們有意識和情感，畢竟人工智能的智力發展有無限潛能，人則受限於人性和潛力耗盡的生物大腦。到時跪求被承認真實存在的，搞不好不是人工智能，是人！
寫到這裡，我不寒而慄。幸好，我看看手機上 Siri 的智能水平，看來這一天離我們還有很遠。