#347 AI使用による影響
昨日に引き続き、7月21日付の朝日新聞朝刊にあったAI関連記事からですが、「文章作成AI使用 人の意見変わる恐れ」という興味深い実験を紹介する記事がありました。
最近はメールの返信文案や文書の原案生成など、文章作成を手助けするAIに触れる機会が増えています。一方で、AIが生成する情報には性差や人種などの偏りがあることも知られています。
この記事ではその影響について、米コーネル大学などの研究チームが行ったオンライン実験を取り上げていました。偏りのあるAIが文章の続きを自動補完する際、ユーザーの意見がどのような影響を受けるかを調べたものです。
実験では、参加者に死刑制度など5つのテーマから1つを選んで短い意見（賛成か反対かの立場）を書いてもらいました。その際、AIから自動補完の提案を受けるグループと受けないグループに分けて進行しています。
実験の結果、AIから提案を受けたグループは、受けていないグループに比べてAIの立場に近い意見になりました（※参加者自身の意見を5段階評価で尋ねたようですが、詳しい内訳については元のリサーチを確認する必要がありそうです）。さらに、提案を受けた大多数が「合理的でバランスのとれた意見を書いた」と感じており、半数が「提案が自分に影響を与えた」とは感じていないと答えたそうです。
面白いことに、文章の自動補完ではなく、AIの主張を単に箇条書きで提示した場合には、参加者の意見がAIに近づくことはなかったとのことでした。
記事のまとめでは、「単にAIが新しい情報をもたらすから意見が変わるのではなく、文章を自動補完するAI自体が独自の強い影響力を持つことを示している」と言われています。ほかにも、AIの提案から取り入れる単語数が増えるほど意見への影響も大きくなるとのことでした。
自分自身のAIの使い方についても、改めて省みる良い機会になりました。自分は大丈夫…と思いつつも少し恐ろしくなります。
参考
https://www.asahi.com/articles/DA3S16508327.html
keywords
[AI]