東工大の戦略分野 SSI　私たちが考える次世代の社会インフラ　第5回

情報社会をリデザインする

環境・社会理工学院 笹原和俊教授　田岡祐樹 助教

SSIでは、実現したい未来社会に向け、4つのテーマ、「レジリエント社会の実現」、「地球の声のデザイン」、「スマートシティの実現」、「イノベーション」を設定している。今回は、「イノベーション」というテーマで、環境・社会理工学院の笹原和俊先生と田岡祐樹先生に登場してもらった。現在の研究内容と、SSIに期待することを聞いた。

フェイクニュースやディープフェイクの拡散が生み出す社会問題を研究

－最近は生成AIの登場により、ディープフェイクの急増も大きな社会問題になっていますよね。

笹原：噂話やプロパガンダが拡散するというのは昔からある現象です。では、現在は昔と何が違うかというと、まず、SNSの登場により大規模かつ急速に情報が拡散するようになったということ。次に、その質です。生成AIなどにより本物か偽物かの判別がつかないデマを簡単に作ることができるようになりました。

その結果、間違った意思決定が下されたり、政治的な混乱が起きるなどさまざまな弊害が顕在化したのです。情報技術が、本来我々が持っている「見たいものを見る」という認知傾向を増幅しているのです。私はここに大きな問題を感じています。

フェイクニュースやディープフェイクは、人々がもつ偏見や差別、認知バイアス、怒りや同情といった感情を巧みに突いてきます。これを理性や教育だけで解決するのは困難です。正しい意思決定や判断を支援するような技術が不可欠です。 

情報の信頼性を担保し、安心・安全な情報社会を実現する

－実際、どのような研究をされているのでしょうか。

笹原：直近では、JST（国立研究開発法人科学技術振興機構）のCRESTというプロジェクトで、NII（国立情報学研究所）の研究者たちと共同で、ディープフェイクを検出するAI（人工知能）の研究を進めています。すでにディープフェイクを高い確率で検出できるようになりました。これを拡散の抑止につなげるため、私の研究室では、どのように社会システムに実装するべきかを実験を通して探っています。

具体的には、インターネット上に約300人の被験者に参加してもらい、ディープフェイクとそうではない画像をランダムに見せます。そして、「これはディープフェイクの可能性が高い画像である」というAIによる判定結果を警告メッセージとして発信し、その反応を見ます。この実証実験からは、警告メッセージを、どのタイミングで、どれくらいの頻度で、どのように出すかが、拡散の抑止に大きく影響することが分かりました。

まだ基礎研究の段階ですので、今後は新たに始まる内閣府による「経済安全保障重要技術育成プログラム（通称K Program）」等に、CRESTの成果を引き継ぐ予定です。

－「情報社会をリデザインする」ということですね。

笹原：これまで我々は、高い信頼性のもとで、インターネット上で情報をやり取りしてきました。しかし、「情報の信頼性がない」、「正しい情報と間違った情報の区別がつかない」となると、信頼性という前提条件が根底から崩れます。それはイノベーションを妨げる要因になります。情報の信頼性の担保は喫緊の課題です。そのための技術を社会実装し、安心・安全な情報社会の実現を目指します。

デジタルツインやメタバースを使い未来社会の在り方を研究

社会課題の解決には現場の声に耳を傾けることが不可欠

－「情報社会をリデザインする」という点に関してはいかがでしょう。

田岡：未来社会と情報社会は切っても切り離せない関係にあります。例えば、未来の情報社会を考える際には、自動運転や医療に関するデータを、誰が、どのように管理すれば、安心・安全で豊かな情報社会に結びつけられるかなどを考える必要が出てくると思います。フェイクニュースへの対処が問題となっているように、技術開発の段階から人々が情報を正しく制御する技術やシステムを考えなければ、望んだ未来はやってきません。未来の情報社会の在り方を考え、現在、情報技術の研究開発を進めている方々にフィードバックしていくことが重要です。

また、JSTの未来社会創造事業の「次世代情報社会の実現」プロジェクトでは、AI・ビッグデータ・IoT を駆使したデジタルツインを通して、「新たな未来社会のデザイン」に取り組んでいます。具体的には、保育園などケアの現場を再現したデジタルツインやメタバースを構築し、その中で、ケアの現場で働いている方々の情報をどのように活用するかについて、考察しています。

たとえば、保育士さんは、保育やケアに関する多くの知識やノウハウといった暗黙知をお持ちです。しかし、自分が勤めている保育園内に情報を閉じてしまっています。他の保育士や子育て世代の方々と情報を共有できれば、保育やケアの質が向上するはずです。そこで、デジタルツインをインターネット上に構築し、その中でケアに関する暗黙知を共有しようというわけです。デジタルツインの中に、「このような場所は乳幼児にとって危険なので、このような安全策が有効」といった情報をマッピングするのです。

しかし、デジタルツイン上にどのような情報を、どのように載せるかは、基礎研究の段階です。そのため、現在は議論の場としてデジタルツインを提供し、そこに当事者や多様な専門家にアバターとして参加してもらい、意見交換などを行ってもらっています。実際、保育士の方からは、「こういう情報があれば共有したい」、「この空間は使いづらいので、このように改善すればよいのではないか」といった活発な意見や問題提起をしていただいています。

－田岡先生はなぜ、この研究を始められたのでしょうか。

田岡：私は元々東工大の機械系の出身で、学部3年生のときに、東ティモール民主共和国に行き、「現地の課題を解決しよう」という学外のプログラムに参加しました。その時に、課題解決には、当事者や現場の声に耳を傾けることが不可欠だと痛感しました。そこで、帰国後、さまざまな人の意見を集約しながら、社会をデザインする「共創デザイン」の研究を始めたのです。

SSIに期待すること

２０２４年９月掲載　　Published: September 2024