针对近期网络热议的“豆包AI误判蘑菇导致用户中毒”事件,火山引擎多模态大模型“豆包”团队已正式联系上当事用户,并对事件全过程进行了核实与技术梳理。
反馈结果显示,该用户此前使用豆包拍照识别小区内采摘的野生蘑菇时,系统虽将其识别为“鸡腿菇”,但同时在对话框中明确输出了多条高风险预警。系统当时指出,该品相“极容易和剧毒的大青褶伞混淆,误食会引发严重的胃肠炎症状”,并明确发出“强烈建议不要食用”以及“仅凭图片无法100%排除有毒相似种可能”等免责与安全提示。

针对此类涉及人身安全的复杂高风险场景,植物学家及行业专家指出,多模态AI的视觉识别目前仍处于技术发展阶段,即便是专业学者在面对非熟悉区域的菌类时亦存在辨别误差,而部分剧毒毒蕈的致死率极高,不容试错。豆包团队对此回应称,大模型目前正在持续优化和提升识别准确性。
本次事件再次引发了业界对大模型应用安全边界的深度思考。行业专家提醒公众,涉及生命安全与健康的AI输出内容仅具备参考价值,用户务必通过多方权威渠道咨询求证。同时,城市社区绿化带等环境内的野生菌类或果实,极易残留农药及其他未知污染物,即使品种本身无毒亦存在极高的食品安全隐患,公众应坚决杜绝采食行为。
本文聚焦多模态大模型在高风险识别场景中的边界问题。与通用图像识别不同,野生菌鉴别需要结合形态、生态环境、地域分布和毒理知识,单张照片很难给出绝对结论。相比只输出类别的方案,豆包这类产品更强调风险提示与安全免责,但在生命健康场景中,仍应以专业鉴定、权威科普和线下求证为准。
豆包识别野生蘑菇靠谱吗?
不适合把它当作最终判断依据。此次事件中,系统虽给出“鸡腿菇”识别结果,但同时明确提示可能与剧毒大青褶伞混淆,并建议不要食用。涉及野生菌,必须以专业鉴定和权威渠道为准。
AI识别蘑菇为什么会误判?
因为野生菌外观相似度高、拍照角度和光线也会影响识别,多模态AI目前仍处于持续优化阶段。即使专业人士面对陌生菌种也可能出错,所以不能仅凭图片判断是否可食用。
发现野生蘑菇能直接采来吃吗?
不建议。即便菌种本身无毒,社区绿化带等环境也可能存在农药残留或未知污染物,食品安全风险很高。对野生菌最稳妥的做法是不要采食,必要时尽快咨询专业机构。
高风险识别该怎么设计提示?
必须默认高风险保守策略:给出不确定性、明确禁止食用建议、提示多源核验,并在医学、食安等场景强制展示免责声明。模型越像“会判断”,越要把边界说清楚。
如何降低AI误判的安全事故?
在产品层加分级风控:高危类别触发人工复核、知识库交叉验证和黑名单机制;在用户层强化教育,告诉用户AI只能辅助识别,不能替代专业鉴定。
