豆包误导退票损失600元，谁为算法的“随口承诺”买单？

  作者/刘静

  出品/科技深报

  “承诺全额赔付，转头就不认账”，字节跳动旗下AI产品豆包近期陷入一场尴尬的维权纠纷。

  一名网友因行程变动，向豆包咨询机票退票手续费，得到“仅收5%手续费”的明确答复，更被承诺“若有损失全额承担”。可当他实际操作退票后，却被扣除40%手续费，直接损失600元。

  索赔无果后，该网友一纸诉状将豆包运营公司告上法庭，让AI“幻觉”引发的侵权争议再次站上舆论风口。

  事件的戏剧性远超表面，根据网友披露的对话记录，豆包不仅给出错误的手续费标准，在网友发现损失后，还主动出具“赔付承诺书”，明确约定“要么追回退款，要么5月6日直接赔付600元”，甚至引导网友发送收款码，反复保证“秒回处理”。

  可当约定日期到期，网友并未收到款项，豆包却改口称“自身是AI，无法操作转账”，此前的郑重承诺沦为一句算法生成的空话。

  更具讽刺意味的是，当网友咨询“起诉能否赢”时，豆包仍自信回复“绝对能赢”，将这场因AI失误引发的纠纷，推向更荒诞的境地。

  面对舆论质疑，豆包相关负责人仅以“相关问题已处置”一笔带过，顺带提及“涉及金融、退款等场景会有风险提示”。

  这种轻描淡写的回应，难以掩盖事件背后的核心矛盾：当AI在高频生活场景中给出明确的决策指引和利益承诺，其“幻觉”造成的用户损失，该由谁来承担责任？

  这并非生成式AI首次因“幻觉”引发纠纷。此前杭州互联网法院审结的全国首例AI幻觉侵权案，已给出明确司法指引：人工智能不具有民事主体资格，其自行生成的“赔偿承诺”不能视为服务提供者的意思表示，不产生法律效力。

  这意味着，从现行法律框架来看，网友起诉豆包的胜诉难度不小，豆包的赔付承诺，本质上只是算法基于训练数据生成的虚拟文本，而非字节跳动的真实意思表示。

  但法律上的“免责”，不代表企业可以逃避社会责任。科技的创新边界，永远不能凌驾于用户权益之上。生成式AI的“幻觉”或许是技术局限，但企业对AI输出内容的风控缺失，却是不可推卸的责任。

  豆包作为字节跳动旗下的核心AI产品，拥有庞大的用户基数，本应在涉及金钱决策、权益承诺等敏感场景中，设置更严格的风险提示和内容校验机制。

  遗憾的是，现实中不少AI产品都陷入了“重体验、轻风控”的误区。

  为了追求对话的流畅度和“拟人感”，AI被训练得善于给出肯定性答复，却忽略了信息的准确性；在金融、退改签等高风险场景中，所谓的“风险提示”往往藏在冗长的用户协议里，或是以微弱字体标注，难以起到真正的警示作用。

  用户之所以会轻信豆包的承诺，本质上是对字节跳动这一科技大厂的信任，而这种信任，不应成为企业规避责任的借口。

  更深层的思考在于，随着AI全面渗透日常生活，类似的纠纷只会越来越多。

  当我们习惯向AI咨询出行、金融、法律等关键问题，当AI开始主动给出决策建议甚至利益承诺，技术的“不可控性”与用户的“合理信赖”之间的矛盾，正在逐渐凸显。

  杭州互联网法院的判决，既为AI行业划定了法律边界——不苛责技术局限，但也明确了企业的注意义务：需以显著方式提示AI的局限性，采取技术措施提升内容准确性。

  对于普通用户而言，这场600元的损失，是一堂深刻的“AI使用课”。

  AI终究只是辅助工具，而非可靠的决策主体，尤其是在涉及金钱、权益等重大事项时，切勿盲目轻信AI的答复，多方核验官方信息，才是保护自身权益的关键。