写真で野生キノコを識別すると誤判定される？ドゥーパオは緊急に応答：AIによる識別は参考情報であり、盲目的な食事には気をつけてください

最近、ネットで話題となっている「ドゥーパオAIがキノコを誤って判断し、ユーザーに中毒を引き起こした」という出来事について、火山エンジンのマルチモーダル大規模モデル「ドゥーパオ」チームは正式に当事者と連絡を取り、出来事の全過程を確認し、技術的な整理を行いました。

フィードバックの結果、このユーザーは以前、ドゥーパオを使って自宅周辺で採集した野生キノコを写真で識別した際、システムは「ハギノタケ」と識別しましたが、同時に会話ボックス内で複数の高いリスク警告が出力されました。その際、システムはこの品相が「劇毒のアカナシダケと非常に似ており、誤食すると重度の胃腸炎を引き起こす可能性がある」と指摘し、「強く食用しないことをお勧めします」と「画像だけでは有毒な類似種を100％排除できない可能性がある」などの免責事項と安全上の注意喚起を明確に伝えました。

こうした人命に関わる複雑で高リスクな状況において、植物学者や業界の専門家は、マルチモーダルAIの視覚認識はまだ技術的に発展段階であり、専門家でも不慣れな地域の菌類を扱う際には誤認する可能性があると指摘しています。また、一部の劇毒キノコは致死率が非常に高く、間違いは許されません。ドゥーパオチームは今回の対応について、大規模言語モデルが継続的に最適化・改善されていると述べました。

今回の出来事は、大規模モデルの応用における安全境界について業界内で深い考察を引き起こしました。業界の専門家は、生命や健康に関わるAIの出力内容はあくまで参考として扱い、ユーザーは複数の権威ある情報源から情報を確認する必要があります。また、都市部のコミュニティの緑地などにある野生のキノコや果実には、農薬や他の未知の汚染物質が残留していることがあり、種類自体が無毒であっても非常に高い食品安全のリスクがあります。一般市民はこれを絶対に採集・摂取してはなりません。