“智體”失控，科幻文學(xué)已討論上百年
來源： 紫牛新聞
2025-06-03 11:08:00
《碟中諜8：最終清算》近日全球熱映。片中，伊森和他的IMF團(tuán)隊(duì)面對(duì)一個(gè)看不見的敵人：意圖消滅人類的失控AI系統(tǒng)“智體”。這樣的劇情設(shè)置其實(shí)并不新鮮，可在今天這個(gè)討論碳基生物和硅基生物如何共存的“奇點(diǎn)”時(shí)刻，卻分外應(yīng)景。
什么是“智體”？它和AI有一定的相似性
作為系列終章，《碟中諜8》延續(xù)前作故事線，特工伊森·亨特為拯救世界與反派“智體”展開正面對(duì)話。
智體是一個(gè)人工智能程序，具有強(qiáng)大的預(yù)知能力。因?yàn)樗梢栽L問大量的數(shù)據(jù)，并從數(shù)據(jù)推測(cè)出結(jié)論，這實(shí)際上和當(dāng)下以DeepSeek為代表的人工智能有一定的相似度。片中，智體獲得了全球無數(shù)個(gè)頂級(jí)秘密數(shù)字文件的訪問權(quán)限，涵蓋了股市、中央銀行和機(jī)密情報(bào)，甚至核武器等領(lǐng)域。智體還發(fā)展擁有了自己的“個(gè)性”，它不再聽從于人類。
雖然該片充滿了視覺沖擊，足以讓觀眾緊張得“買了整個(gè)座位，卻只坐了邊緣”，但其核心設(shè)定并不新鮮。
采訪中，第一屆、第二屆全球華語科幻星云獎(jiǎng)專業(yè)評(píng)委，科幻文學(xué)研究學(xué)者任冬梅告訴記者，在早期影視作品中，人工智能大多數(shù)情況下作為“工具”存在，情感方面并沒有得到完全展現(xiàn)。而在1968年上映的科幻電影《2001：太空漫游》中，高智能電腦HAL9000展現(xiàn)了AI的復(fù)雜心理，前往木星途中，它錯(cuò)誤地認(rèn)為船員們正試圖關(guān)閉它，于是開始采取行動(dòng)保護(hù)自己，以致謀殺了三名冬眠的宇航員。最終，主人公發(fā)現(xiàn)真相，在與HAL9000進(jìn)行了緊張的對(duì)決后成功將其關(guān)閉。
《黑客帝國(guó)》中的人工智能“矩陣”，《流浪地球》中的MOSS，都具有獨(dú)特的個(gè)性和情感，而非簡(jiǎn)單的“工具”?！段鞑渴澜纭贰懂愋巍穼⑷斯ぶ悄苊枥L成恐怖的威脅；“終結(jié)者”系列則展示了一種極端的人工智能形象——天網(wǎng)，它試圖通過消滅人類來保護(hù)自己。這些影片在人工智能對(duì)人類的潛在威脅和挑戰(zhàn)方面都有所表現(xiàn)。
從輔助到反叛，最后會(huì)是共存嗎？
“人工智能是另一種生命形態(tài)，它們的智力可能會(huì)遠(yuǎn)遠(yuǎn)超越人類?！求w’情節(jié)背后，反映的其實(shí)是人類對(duì)于技術(shù)失控的恐懼和擔(dān)憂?！比味氛f。而盤點(diǎn)科幻文學(xué)史，人類對(duì)人工智能的這種復(fù)雜情緒，在科幻文學(xué)誕生之日起就已出現(xiàn)。
英國(guó)作家瑪麗·雪萊在1818年創(chuàng)作了《弗蘭肯斯坦》，被認(rèn)為是科幻文學(xué)的先驅(qū)之作。作品中，科學(xué)家維克多·弗蘭肯斯坦用來自不同尸體的部件創(chuàng)造了一個(gè)人造生命體。這個(gè)“怪物”雖然丑陋，但內(nèi)心渴望被愛。他請(qǐng)弗蘭肯斯坦為其創(chuàng)造一個(gè)伴侶。但因擔(dān)心怪物種族的繁衍，弗蘭肯斯坦決定毀掉正在制作的第二個(gè)生命體。但這一行為讓怪物十分憤怒，他開始對(duì)弗蘭肯斯坦展開報(bào)復(fù)。重慶大學(xué)學(xué)者李廣益、童博軒認(rèn)為，當(dāng)時(shí)雖然沒有“人工智能”這一概念，但作品中對(duì)人造智慧生命及其科技倫理問題的探討對(duì)后世科幻文藝中的人工智能想象產(chǎn)生了深遠(yuǎn)影響。直至今日，我們?nèi)栽谟懻揂I的倫理問題。
美國(guó)作家艾薩克·阿西莫夫在小說集《我，機(jī)器人》中提出了“機(jī)器人三定律”，為人工智能倫理學(xué)奠定了基礎(chǔ)：第一定律，機(jī)器人不得傷害人類個(gè)體，或者目睹人類個(gè)體將遭受危險(xiǎn)而袖手不管；第二定律，機(jī)器人必須服從人給予它的命令，當(dāng)該命令與第一定律沖突時(shí)例外；第三定律，機(jī)器人在不違反第一和第二定律的情況下要盡可能保護(hù)自己的生存。
隨著科技的飛速發(fā)展，科幻作品中的人工智能從早期的人類輔助“工具”開始被賦予更加接近人類智能的特質(zhì)，“機(jī)器人三定律”在文學(xué)作品中常常被打破，以《神經(jīng)漫游者》為代表的科幻作品，展現(xiàn)了人工智能的反叛意識(shí)，這對(duì)以人類為主導(dǎo)的社會(huì)秩序提出了挑戰(zhàn)。同時(shí)也讓人反思，人工智能存在的意義是什么？人工智能能否擁有或模擬出與人類相似的情感和意識(shí)？人工智能與人類能否達(dá)成某種共存未來？
在國(guó)內(nèi)， 《孤寂星球》 這本科幻小說集中多個(gè)故事描繪了人類與具有自我意志的AI之間的斗智斗勇?！冻灿X醒》 《云球》 《人工智能之覺醒》，不僅描繪了人工智能的覺醒和發(fā)展，還深入探討了科技與倫理、人機(jī)關(guān)系等主題。
美國(guó)作家丹·西蒙斯的“海伯利安”系列，作家石黑一雄的《克拉拉與太陽》等作品將人工智能看作一個(gè)有限度的獨(dú)立個(gè)體，作者在積極思考關(guān)于人工智能的權(quán)利和地位的問題，探討在一個(gè)由人工智能輔助或主導(dǎo)的世界中，人類如何保持其獨(dú)特的“人類價(jià)值”。
未來的討論，會(huì)更加深入
人工智能是科幻世界中耀眼的寫作題材。在科幻作家看來，人工智能不僅是技術(shù)進(jìn)步的象征，更是探討人類主體性、技術(shù)異化與未來社會(huì)圖景的絕佳載體。
“一方面，科幻作品展示著智能發(fā)展的奇崛想象，另一方面科學(xué)技術(shù)又把想象變?yōu)楝F(xiàn)實(shí)，同時(shí)又激發(fā)起創(chuàng)作者新的想象力。科幻文藝發(fā)揮著‘預(yù)言’與‘寓言’的雙重作用，持續(xù)啟發(fā)我們對(duì)未來的想象以及在現(xiàn)實(shí)中的實(shí)踐?！敝貞c大學(xué)學(xué)者李廣益、童博軒在《人工智能想象在科幻文藝中的百年演變》一文中表示。
科幻文藝對(duì)人工智能題材的表現(xiàn)，源于其對(duì)技術(shù)變革及其影響的深刻洞察。作品通過設(shè)想與人工智能共存的世界，挑戰(zhàn)我們對(duì)“智能”的定義，探索機(jī)器與人類、人與非人之間的界限，以及這些界限可能如何被重新定義?！拔磥?，隨著人工智能技術(shù)的進(jìn)一步發(fā)展，科幻作品將更加深入地探討人工智能的自我意識(shí)、情感以及與人類共生的可能性，并激發(fā)我們對(duì)技術(shù)發(fā)展負(fù)責(zé)任的思考和行動(dòng)”。
臧磊 采寫整理
資料來源：光明日?qǐng)?bào)、澎湃新聞等
校對(duì) 石偉