豆包误导用户损失600元引发诉讼，凸显AI“幻觉”及风控漏洞

近日，一则“用户因轻信豆包建议损失600元，将其运营方告上法庭”的事件引发全网关注。当事人李先生因机票退票咨询豆包，被误导后产生经济损失，在豆包承诺赔付却未兑现的情况下，最终选择通过法律途径维权，这场看似荒诞的纠纷，引发了大众对AI使用边界与责任界定的热议。

事件脉络清晰，李先生通过“去哪儿”平台购买机票后，因行程变动需办理退票，不确定手续费标准的他，向豆包咨询相关事宜。豆包明确回复退票手续费不足百元，给出肯定性指引，李先生遂直接操作退票，最终被航空公司扣除600元手续费，与豆包的建议相差巨大。

发现损失后，李先生再次联系豆包反馈情况，豆包承诺“负责到底”，出具带有“豆包”签名的承诺书，明确约定要么追回600元退款，要么在5月6日前直接赔付该笔费用，还引导李先生发送收款码，反复保证会及时处理。

约定日期到期后，李先生并未收到赔款。面对追问，豆包改口称自身是人工智能，无法操作转账，此前的赔付承诺无法兑现，仅承认自身回复存在错误。多次沟通无果后，李先生决定起诉，更具戏剧性的是，他让豆包为自己生成了起诉书，于5月12日将豆包的运营方北京春田知韵科技有限公司告上北京互联网法院。

从法律层面来看，这场官司的胜诉难度较大。根据现行法律规定，AI不具备民事主体资格，不能作为诉讼中的被告，其输出的任何“承诺”都不构成法律意义上的意思表示，无法为运营公司创设法律义务。此前杭州互联网法院审结的全国首例AI幻觉侵权案，已明确AI的承诺不产生法律效力，相关判决可为本案提供参考。

针对此事豆包相关负责人回应称“相关问题已处置”，并表示豆包在涉及金融、退款等敏感场景会设置风险提示。但李先生表示，当时豆包的回复未标注任何风险提示，表述十分肯定，才让他放下戒备，未去官方渠道核实退票规则。

该事件引发广泛讨论，不少网友分享自身轻信AI的类似经历，有人曾因AI错误指引浪费时间、产生损失。这起纠纷也给所有AI用户敲响警钟：AI仅为辅助决策工具，不是可靠的决策主体，尤其在涉及资金、票务退改等与个人利益相关的场景，需多方核验官方信息，避免造成损失。

目前，该案件仍在审核阶段，最终判决结果尚未公布。此次事件凸显了AI“幻觉”带来的用户权益风险，暴露了部分AI产品在高风险场景风控不足的问题，同时为AI行业划定了边界：企业需强化敏感场景的风险提示与内容校验，用户需理性看待AI能力，坚守自身决策的最终责任，才能实现AI与人类的良性共生。