AI承诺生成内容有误将赔偿，算数吗？丨快问快答

近日，杭州互联网法院审结全国首例因生成式人工智能模型“幻觉”引发的侵权纠纷案。法院的判决为生成式人工智能服务厘清责任边界。当AI成为生活工作的助手，它所给出的不准确信息误导他人时，是否构成侵权？服务提供者负有怎样的责任？一起来看。

问：AI承诺生成内容有误将赔偿，算数吗？

答：现实操作中，AI带来很多便利，但并非全知全能，其生成的答案可能包含看似合理实则错误的“幻觉”信息。杭州的案例中，AI甚至提出“如果生成内容有误，我将赔偿您10万元”，从而引发相关纠纷。从法院判决看，在生成式人工智能场景中，AI的承诺并不代表平台的意思。这既为AI生成内容划出红线，也进一步厘清了服务提供者的注意义务边界。

问：AI模型是否属于独立的民事主体？

答：法院判决明确，AI实际上不具有民事主体资格。从实践层面看，案涉AI自行生成的赔偿承诺也不能视为服务提供者的意思表示。也就是说，人工智能不是服务提供者的传达人、代理人或代表人，除非服务提供者通过AI模型来设定或传达相关信息，否则类似“生成内容有误将赔偿”这样的承诺是没有法律效力的。

问：AI服务提供者有哪些责任义务？

答：依据《生成式人工智能服务管理暂行办法》，生成式人工智能服务属于服务范畴。AI生成内容虽然不是我国产品质量法意义上的产品，但服务提供者负有严格审查义务。例如，发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改等。同时需以显著方式向用户提示AI生成内容可能不准确，发出“警示提醒”等，以防范用户产生不当信赖。

(责任编辑：何欣)