CHAPTER 2：影響を設計に組み込む ── ELSI・RRI・バイデザイン  

AIの影響をあとから考えるだけでよいのか 

AIをめぐる課題は、技術的な性能だけの問題ではありません。
公平性、責任、安全性、権利、プライバシー、説明、人間の関与、働き方や関係性への影響など、さまざまな価値が関わっています。

こうした課題は、AIを社会に導入したあとで、問題が起きてから考えればよいものではありません。
どのデータを使い、どの目的を設定し、誰に影響が及び、どのリスクを想定し、どのように説明や異議申し立ての仕組みを用意するのかを、設計や運用の段階から考える必要があります。

このように、科学技術が社会に与える倫理的・法的・社会的な影響を考える視点は、ELSI（Ethical, Legal and Social Implications）と呼ばれることがあります。
また、研究やイノベーションを社会にとって望ましい方向に進めるために、早い段階から影響や責任を考え、関係者とともに進めようとする考え方は、RRI（Responsible Research and Innovation）と呼ばれます。

AI社会を考えるとは、技術の外側にある問題をあとから付け足すことではなく、技術を社会の中で使うための条件を、最初から考えることでもあるのです。

不確実性の中で考える 

AIの影響を早い段階から考えることは重要ですが、それは簡単ではありません。
新しい技術が生まれたばかりの段階では、その技術が社会でどのように使われ、どのような影響をもつのかを正確に予測することは困難です。
一方で、技術が広く普及し、制度や仕事、生活の中に組み込まれてからでは、問題が見えても変更が難しくなります。

このような難しさは、コリングリッジのジレンマと呼ばれます。

だからこそ、AIの設計では、早い段階から問いを立て、使いながら影響を確認し、必要に応じて見直せる余地を残しておくことが重要です。

価値を設計に組み込む ── バイデザインとバッドデザイン 

AIをめぐる課題は、「問題が起きたら対応すればよい」というものばかりではありません。
AIが社会の中で大きな影響をもつ場合、公平性、説明可能性、透明性、人間の関与、異議申し立て、責任の所在などを、設計や運用の中にあらかじめ組み込むことが重要になります。

こうした考え方は、バイデザイン（by Design）という言葉で表されます。
たとえば、プライバシーを守る仕組みを最初から設計に入れることは、Privacy by Design と呼ばれます。

AIでも同じように、誰が最終判断をするのか、理由を確認できるのか、異議を申し立てられるのか、AIを使わない選択肢があるのかを、あらかじめ考えておく必要があります。

一方で、人々の多様な状況や経験を想定し損ねると、特定の人に不利益を生む設計になることがあります。
ここでは、そのような設計をバッドデザインとして考えます。

たとえば、音声認識AIが特定のアクセントを持つ人の声を認識しづらい場合、そこには「誰の話し方を標準として設計したのか」という前提があります。
バッドデザインに気づくことは、誰の経験や視点が設計から抜け落ちているのかを問い直すことです。

ただし、価値を設計に組み込むことは、単に「よい価値」を並べることではありません。
公平性、安全性、プライバシー、効率性、透明性、人間の関与などは、場面によって互いに緊張することがあります。

大切なのは、どの価値が衝突しているのかを見えるようにし、どの場面で何を重視するのかを考えることです。