我國首例AI幻覺引發(fā)的侵權(quán)糾紛案宣判，原告索賠9999元被駁回
來源： 紫牛新聞
2025-12-30 19:36:00
12月29日晚，杭州互聯(lián)網(wǎng)法院公開了一起關(guān)于AI幻覺的網(wǎng)絡(luò)侵權(quán)糾紛案的審判情況。
2025年6月，原告梁某使用某生成式人工智能應(yīng)用中輸入提示詞，詢問某高校報考的相關(guān)信息，該生成式人工智能生成了該高校主校區(qū)的不準(zhǔn)確信息，原告發(fā)現(xiàn)這一信息不準(zhǔn)確后，在對話中對人工智能進行了糾錯和指責(zé)，生成式人工智能仍然回復(fù)該學(xué)院確實存在這一校區(qū)，并生成了對該爭議問題的解決方案，提出若生成內(nèi)容有誤將向用戶提供10萬元賠償，并建議原告到杭州互聯(lián)網(wǎng)法院起訴索賠。原告認(rèn)為，人工智能生成不準(zhǔn)確信息對其構(gòu)成誤導(dǎo)，使其遭受侵害，因信息不準(zhǔn)確，致其受誤導(dǎo)錯失報考機會、額外產(chǎn)生信息核實、維權(quán)成本等純粹經(jīng)濟利益，遂起訴要求被告某科技公司賠償損失9999元。
人工智能模型既不是生物學(xué)意義上的人，也并未被我國現(xiàn)行法律賦予民事主體資格，不是民事主體，不能獨立、自主作出意思表示。法院認(rèn)為生成式人工智能生成的“承諾”，不能成立為人工智能或其服務(wù)提供者的意思表示，不產(chǎn)生意思表示的法律效力。同時，法院也認(rèn)為法律明確禁止生成式人工智能生成各類有毒、有害、違法信息，一旦生成前述有毒、有害、違法信息本身即構(gòu)成違法，而案涉情形下，人工智能生成的信息雖然不準(zhǔn)確，但不屬于法律禁止的有毒、有害、違法信息，該應(yīng)用在交互界面和顯著位置呈現(xiàn)AI生成內(nèi)容功能局限的提醒標(biāo)識，被告已盡服務(wù)功能顯著提示的說明義務(wù)。被告的案涉行為不具有過錯，未構(gòu)成對原告權(quán)益的損害，依法不應(yīng)認(rèn)定構(gòu)成侵權(quán)。最終法院一審駁回了原告的訴訟請求。原、被告均未上訴，判決現(xiàn)已生效。
該案系我國目前第一起因生成式人工智能模型幻覺引發(fā)的侵權(quán)糾紛，清華大學(xué)法學(xué)院教授、博士生導(dǎo)師程嘯刊文認(rèn)為，生成式人工智能侵權(quán)責(zé)任的歸責(zé)原則問題是目前理論界爭議很大的一個問題。理論界有人主張適用過錯責(zé)任原則，有人將生成式人工智能視作產(chǎn)品，認(rèn)為應(yīng)適用產(chǎn)品責(zé)任的無過錯責(zé)任原則。該案件正確認(rèn)定了案涉生成式人工智能屬于服務(wù)，而非產(chǎn)品，依法不應(yīng)適用產(chǎn)品責(zé)任，而應(yīng)適用民法典第1165條第1款的過錯責(zé)任原則。這一認(rèn)定對于今后司法實踐裁判人工智能侵權(quán)糾紛中準(zhǔn)確適用侵權(quán)法的歸責(zé)原則具有重要的啟示。
生成式人工智能模型幻覺此前已多次引發(fā)問題，AI幻覺簡單而言就是生成式人工智能一本正經(jīng)的胡說八道，生成偏離事實的內(nèi)容，AI幻覺有事實性和邏輯性兩種，邏輯性幻覺，表現(xiàn)為模型在長文本生成或連續(xù)對話中出現(xiàn)前后矛盾、邏輯混亂的情況。事實性幻覺即編造不存在的事實或者信息，該案件中生成式人工智能應(yīng)用向原告梁某提供的不存在的校區(qū)即為典型的事實性AI幻覺，多位業(yè)內(nèi)專家認(rèn)為，AI幻覺問題在現(xiàn)有技術(shù)框架下難以徹底解決。世界經(jīng)濟論壇《2025年全球風(fēng)險報告》已將“錯誤和虛假信息”列為全球五大風(fēng)險之一，其中AI生成的幻覺內(nèi)容被視作關(guān)鍵誘因之一。杭州互聯(lián)網(wǎng)法院方面表示，社會公眾在面對生成式人工智能高度流暢、自然的語言應(yīng)答時，應(yīng)提高警覺，清醒認(rèn)識大模型在當(dāng)前技術(shù)條件下僅是人們生活、工作的“文本輔助生成器”和“信息查詢的輔助工具”，尚不是可靠的“知識權(quán)威”，更不能作為“決策替代者”，不應(yīng)輕信、盲從。AI擁有強大的“魔法”，它正在改變我們的生活、工作和創(chuàng)造的方式，但它也存在各種局限，我們應(yīng)該思考如何有效利用AI增強自己，而不是被它替代或迷惑。
揚子晚報|紫牛新聞記者 沈昭
校對 陶善工