#346 ハルシネーション（幻覚）
AIに関する記事で、いくつか気になったものを取り上げたいと思います。
まずご紹介したいのは、7月20日の朝日新聞に掲載された「他社倒産の記事、ＡＩ混同？ 企業のグーグル検索誤表示」という記事です。ここには、実際には営業しているにもかかわらず、グーグルのAI検索で「事業停止」と誤表示されてしまった、岩手県矢巾町の繊維製品卸売業「岩手繊維」の事例が取り上げられていました。
検索結果の参照元とされていたのは「岩手日報」でしたが、問い合わせてみてもそのような記事は書かれていないとのこと。グーグル側も「個別の事案に関する詳細な回答を差し控えております」としており、正確な理由は分からない状態です。しかし、岩手繊維の専務が示されていた個人的な見解が、個人的にも非常に納得のいくものでした。
その見解とは、岩手日報が矢巾町にある別の同業他社（衣類品卸売業者）の特別清算開始決定について有料記事を配信した際、「矢巾町の衣類品卸売業者が特別清算開始決定」という見出しだけが無料で公開されていたため、それをAIが岩手繊維の情報と混同してしまったのではないか、というものです。
事実に基づかない情報をもっともらしく回答してしまう「ハルシネーション（幻覚）」の可能性があるとされていますが、この記事を読んで色々なことに思いを馳せました。情報を使う立場としては、AIの要約はあくまで限られた情報をもとに作られていると理解しておくこと、必ず参照元を確認すること、そして正しい情報を得るためにお金や労力を惜しまないことが大切なのだと感じます。また自分が情報の発信者になる場合を考えると、AIに混同されないような表現の工夫や、どのような文脈で解釈されるかという想像力も必要なのだと、あれこれぐるぐると考えてしまいました。
もう一つの気になった記事については、明日ご紹介したいと思います。
参考
https://www.asahi.com/articles/DA3S16507633.html?iref=mor_articlelink03