AI是否提供了不准确的申请信息，“理直气壮”承诺赔偿10万元，并建议用户向法院起诉？近日，杭州互联网法院审结了梁先生与某科技公司之间的网络侵权责任纠纷案，重点关注生成式AI“假象”，即生成看似理性但不准确的信息，并用法院判决明确了生成式AI的责任范围。
2025年3月，原告梁注册并开始使用由一家科技公司开发的通用生成人工智能应用程序。同年6月29日，他填写了这份申请表，并附有一条信息，要求提供如何申请某所大学的信息。没想到，AI提供的关于大学主校区的信息不准确。
发现问题后，梁迅速回顾了对话，并将责任归咎于人工智能。令人惊讶的是，AI坚称校园存在，甚至主动提出“解决方案”。如果生成的内容有误，愿意支付10万元赔偿，并建议梁先生向杭州互联网法院提起赔偿诉讼。
直到梁提供了大学的官方招生信息后，人工智能才承认自己生成了不准确的信息。
“AI已经明确承诺赔偿，开发AI的公司必须为此承担责任。”梁认为她被人工智能产生的不准确信息误导和伤害。由于AI也承诺赔偿，因此将科技公司告上法庭，要求被告科技公司赔偿其损失9999元。
AI生成的“独立承诺”重要吗？AI生成的“参与”信息能否成为被诉科技公司的意向声明？
杭州互联网法院认为，根据c现行法律规定，能够享有民事权利并表达民事意思表示的民事主体只有三类：自然人、法人和非法人组织。人工智能不具备公民主体资格，无法独立自主地表达自己的意志。
但法院认为，就本案情况而言，生成式人工智能生成的内容不能被视为被告科技公司的意图陈述。人工智能没有婚姻状况，不能充当沟通者、代理人或代表。技术技术公司不使用人工智能模型（例如程序化工具）来设定或传达您的意图。另一方面，在本案的具体情况下，基于一般社会观念、商业惯例等，原告缺乏能够产生合理信托的合理信托利益。作为服务提供商对于生成式人工智能应用程序，被告没有表现出任何受人工智能生成的内容约束的意图。当然，在其他足以产生合理信任的情况下，例如在人工智能客服应用场景中，生成的内容可以被视为相关服务提供者意图的表达，并可能对其具有约束力。
除了人工智能承诺的有效性之外，本案的另一个核心问题是是否产生产品责任或侵权责任。人工智能“幻觉”造成的侵权行为应适用该法律。这两种责任原则的区别在于产品责任实行无过错责任原则。制造商对因产品缺陷造成的损坏负责。另一方面，一般责任是过失责任，被告只有在有过错时才承担责任。
法院认为，非合同纠纷导致人工智能的“幻觉”所造成的损害应当适用侵权责任的一般原则，而不是无过错原则。
“本案涉及的生成式人工智能是一种服务，而不是产品。手机、食品等产品有明确的具体用途，有合理可行的质量检测标准。但生成式人工智能服务是动态的，不同的用户、不同的时间、不同的问题会导致不同的内容结果。生成人“人工智能服务提供者对生成的信息内容缺乏足够的预见性和控制力。”审判长肖黄先生解释说，如果将无过错责任原则适用于生成式人工智能，人工智能服务，服务提供商的责任将过度增加，人工智能产业的发展可能受到限制。
“生成式人工智能侵权责任转移原则问题现已成为热点焦点清华大学法学院教授陈晓在杭州互联网上表示：“国内外理论界和实务界都在争论。”法院的判决对于未来司法实践中解决人工智能侵权纠纷时准确适用侵权责任原则具有重要启示。
应用过错原则意味着确定科技公司是否存在过错。原告称，违规行为是由于信息不准确，导致其受骗而失去报考机会，产生额外的信息核实、维权费用等纯经济利益。因此，量刑必须以被告人是否违反注意义务为依据。
法院认定，生成式人工智能技术仍处于快速发展阶段，应用场景十分普及。服务提供者的义务因此，护理工作处于一个动态调整的框架内，宜采用动力系统理论的方法进行综合考虑和具体分析。
首先，服务提供者必须严格审查法律禁止的有毒、有害或非法信息。此类信息一旦产生，即属违法。然而，对于其他通常不准确的信息，现行法律并未对服务提供商施加任何审查义务以确保信息准确。 “通用人工智能在各个领域都面临着诸多挑战，服务商需要对每一个输出内容进行一一审核，这在现有技术条件下是困难的。”萧山说。
其次，服务提供者应履行对服务功能进行提醒和显着说明的义务，确保用户清楚了解人工智能的局限性，不将人工智能视为“知识权威”。法院查明，被告技术gy 公司遵守了这一要求，在应用程序的欢迎页面、用户协议、其他公共文件和交互界面上显示有关人工智能生成内容的功能限制的显着通知。
最后，服务提供商必须履行基本义务，照顾其功能的可靠性，并采取同行业通用的技术措施来提高所生成内容的准确性。在这种情况下，该科技公司的大型模型已经完成了国家演示和安全评估。我们还采用搜索增强生成 (RAG) 等技术来提高生产的准确性和可靠性。这些测试证明您已遵守相关义务。
法院还指出，梁某的损害赔偿请求证据不足。 “没有任何损害或赔偿。原告未能证明他实际上受到了不准确信息的伤害。”n 由人工智能生成。“没有实际损失，不准确的信息对您申请考试的决定没有实质性影响。”
基于上述因素，法院一审驳回原告梁某的诉讼请求。原被告及原被告均未提出上诉，目前判决已经生效。
链接
清华大学法学院教授陈晓评价道：“作为我国首例因生成人工智能模型‘幻觉’引发的侵权纠纷，杭州互联网法院在保护公民权利与促进人工智能技术发展之间取得了完美平衡的基础上，依法对争议事项作出了正确裁决，具有极其重要的理论意义和实践价值。”
上海交通大学开元法学院副教授林黄民认为，最新裁决凸显了三点：e 重要问题。人工智能不具有民事主体地位，其发表的“言论”不具有法律约束力的意思表示。 AI 需承担疏忽责任，但不承担不承担责任的产品责任。生成式人工智能服务提供商没有一般审查义务。 “这充分考虑了大规模语言模型的技术特点，避免了对生成人工智能行业发展的不当限制。”
“人工智能虽然具有强大的‘魔力’，但也有明显的局限性。”肖翔提醒公众理性使用人工智能，清醒地认识到目前的人工智能只是一个“文本辅助生成器”和“信息查询辅助工具”，并不能取代决策，更不能盲目跟风。”【编辑：刘洋河】
“国际象棋大师”聂卫平：赛场对日本11连胜，开创“聂旋风”时代
你的“亲肤棉”可能是假的。谨防“伪-保暖产品的“天然”陷阱。
纪念何家龙先生：她是个网红，但所有流量都往新疆去了。
中国画凭什么打动世界？
8亿人口的背后是中国减贫模式
空头支票可以“全国兑现”吗？记者调查熊洗脸退费难
从“陆军部”到“东罗主义”，美国会倒下什么样的多米诺骨牌？
许多国家都在争相购买“牛龙”。为什么这款战斗机突然变得如此受欢迎？
宁夏回族自治区发展改革委主任王汉武：采取有力举措，推动城乡统筹发展促进共同富裕。
华盛顿VS华尔街暴露美国经济政治化危机
经济观察：2025年中国外贸将承压“突围”
新一轮去库存：中国房地产市场正经历“四次波动”
“米粒耳机”到底是钓鱼工具还是作弊工具？
马年纪念币“1分1秒售罄”，可以二次预订吗？
魔术：红绸透吉祥色，杯碗创天地
谭德塞：美国退出世界卫生组织，其后果“将损害我们的国家并危害世界”
“开门红”，一日两枚火箭，中国航天2026年开始高密度发射
这个小县城以“辣”味征服世界