Q & Aへの回答

合原 一幸先生への質問

Q: 疾病予防のためにはゲノムではなくRNA-Seqの方が良いという発想は斬新でした。　ビジネスにできそうだと思いました

A: どうもありがとうございます。ビジネス化出来ると思います。

Q: 合原先生に質問があります。災害の前には動物が異常な行動をすると聞いたことがあります。このような動物の動きを、災害の数理モデル作成に役立てられますか？

A: 動物の動きを解析する技術は確立してきていますので、そのような現象があるのであれば、可能だと思います。

Q: 新型コロナ感染者数の急激な減少についても何か説明するアイデアがありますでしょうか？

A: はい、実際に研究しています。

Q: チューリングは人工知能に乱数が必要だと言っていました．ディジタルで完全な乱数を実現できるかどうかが鍵ではないでしょうか？

A: たいへんチャレンジングな問題ですが、それだけでは解決できないような気もします。

Q: 複雑なモデルになればなるほど、学習データが必要であったり、オーバーフィッティングなどが原因となる未学習データへの不安定性が高まると思いますが、どのようにバランスを取るべきなのでしょうか？

A: 情報量規準をどう考えるかという問題がまずありますが、あまりに複雑なモデルはパラメータフィッティングが難しく実用になりにくように思います。

加藤良文先生への質問

Q: 人間でも，たとえば津田先生を津田先生と認識した際，何故津田先生と認識したのかを説明できないのではないですか？車にだけ説明を求めて良いのでしょうか？

A: 一般論として、工業製品として世の中に出す場合には、自動車のAIの説明責任は必要だと考えます。

Q: 説明責任、品質保証、保険、トレーサビリティ、敵対的操作等々の問題があり、完全自動運転は本当にできるのでしょうか？できないと思った方がコスパがよいのではないでしょうか？テキトーな自動運転機能をもった売れ筋商品を出したものが勝ちなのでは？工学に完璧はないと思います。

A: ある前提条件では成り立つと思っています。すでに米国では実用化された例があります。

Q: 自動車ではAI搭載車と非搭載車の混在が実現を難しくしていると思います。例えば、ヒト用ドローンの応用とかで導入することを考えれば、スマートに行くような気がするのですが、そのような計画はないでしょうか？

A: 自動運転車両と非自動運転車両の混在は、一般道の自動運転では避けられない問題ですが、すでに米国では実用化された例があります。人用のドローンへの応用に関しては、不勉強で存じ上げません。

津田 一郎 センター長への質問

Q: AIが賢くなったら（例えば人間を超えたら）、いくら説明されてもわからないと思いますが・・？

A: 人と人がコミュニケーションをしながら他者理解を深めていくような創発的コミュニケーションをAIが賢くなればできるのではないかと考えます。人の場合も内部モデルの深いところまでは理解できないことが多く、AIもそれは同様でしょう。この意味で、AIを研究する＝AIと創発的にコミュニケーションする、方法の開発が重要だと思います。AIが人を超えてもそれは可能だと思います。人間は人を超えている自然を相手に研究し理解を深めてみました。部分的には制御もするようになりました（複雑系では制御ではなく、ハーネシングというべきだと思いますが）。人を超えるAIのような複雑な人工物を新しい自然とみなせば、我々人はそのような自然の理解を深める方法論をすでに獲得しています。そういう意味で、私は楽観的です。

全体への質問

Q: AIがこういう答えを出したと言われたときに、一個人として反論できるのか？社長がこう言っているという場合は、個人でも若干の反論はできる。人間には、頭ではわかっているが、なんかおかしいと思う時があり、時々それがあたっていることがあります。

A:

・むしろ、反論可能なようにAIを創っていくべきではないでしょうか。そこはELSI課題だと思います。つまり、創発的なコミュニケーションがAIとの間にも可能なように、AIを設計する必要があると思います。（津田）

・反論というより、AIの答えを参考にして人間が考えるのがいいと思っています。(合原)

・ある条件で、AIは正しい判断をするのでしょうが、汎化できない結果もあると思います。それを前提として、通常はうまく動きながらも、万が一にも、カタストロフィックな事が起きないようにシステム設計をすることが必要だと思います。（加藤）

※敬称略、回答順

Q: 今回のシンポジウムの復習をしたいのでオフラインで配布された資料等があれば欲しい。

A: ご参加いただきありがとうございます。今回は事前資料等はご用意しておりませんのでご了承ください。