Chat GenerativePre-trainedTransformer(生成系AI)
生成系AIに関するINIADの見解
2023年4月14日
坂村 健
INIAD (東洋大学情報連携学部)wiki 学部長
「自分の頭で考える」─ AI時代における学問と教育
東洋大学・創立者の井上円了先生の最も重要な教えは「自分の頭で考える」ということです。ただ、それは言葉は簡単ですが、実際には難しいことです。皮肉屋なら「他人から自分の頭で考えよと言われて納得している時点で、自分の頭で考えていないだろう(笑) 」と言いそうです。
そもそも、人は完全に「自分の頭だけ」で考えることはできません。我々は、過去の学問の蓄積の上に立って──いわば巨人の肩に乗っているから、より遠くを見ることができるのです。
「自分の頭で考える」という言葉での井上先生の真意は、著書にある「思い込みや偏見にとらわれることなく、自分の目で確かめ、自分の頭で考える。客観的な観察と主体的な思考に基づいて世界を見つめなければならない。」で明確に示されています。
「思い込みや偏見にとらわれることなく」という部分が重要であり、これは心理学の分野の「2つの思考モード」で言うなら「システム2で考えよ」ということだと解釈できます。
「2つの思考モード」の「システム1」は、偉い人が言ったから、イデオロギー的に正しいから、組織の習慣・決まりごとだから、さらには単なる思い込みとか、直感的・感覚的に判断するという低コストで楽な思考です。生きるために、生物が最初に身に着けた「反射的思考」であり、直感ベースで自動的に素早く結論が出ます。すぐに行動できるため、実世界への対応には良いですが、思い込みによる間違いも多いです。
それに対して「システム2」は、ステップを踏んで問題を分析的に考え、論理的に考える思考であり、頭を使う努力が必要になります。頭脳を発達させた人類が後天的に身につけた「思考の連鎖」であり、熟慮して論理をたどるため、間違うことは少ないですが、決断まで時間がかかります。
「巧遅は拙速に如かず」という言葉もあるように、実世界では考えているうちに手遅れになることもあります。そこで、システム1で対応し、余裕ができてからシステム2で見直しすることが人間の望ましい思考様式となります。
問題は、システム1で結論を出してしまい、そこで楽をして止まってしまう人です。それこそが「自分の頭で考えていない人」なのです。
逆に言えば、井上先生の言う「自分の頭で考える」ために必要な姿勢──つまり、INIAD生に求められるのは、以下のような姿勢です。
· 自分を疑う
o 思い込みに惑わされていないか？ 他人に考えを誘導されていないか？
· 別の立場に立って、問題を見直す
o イデオロギーなどで「先験的」に正解を定めていないか？ その結論になるように物事を考えていないか？
· ステップ・バイ・ステップで順を踏んで考える
o 難しい問題に対し思考停止していないか？ 単純な答えに一足飛びで飛びついていないか？
· 自分自身に質問し、答えを探す
o なぜこれが正しいと思うのか？ これをどのように証明できるか？など
· 現実を見る
o これは現実的か？ このアイデアを実際に実行することができるか？ これは人々の利益になるか？など
· 情報を収集・検証する
o この情報源は信頼できるか？ この情報はバイアスに影響されている可能性があるか？ これは事実か、それとも意見か？など
· 自分自身の感情を管理する
o 自分の感情が自分の判断に影響しているか？ 最初の自分の思いに固執しているだけではないか？など
ChatGPTを使うということ
先に触れた「思考の連鎖: Chain of Thought」という言葉は、ChatGPTをはじめとした最近の生成系AIの性能を決めると言われる尺度であり、GPT-2がGPT-3に進化したときに飛躍的に伸び、それが生成系AIのブレークスルーとなりました。そして、さらに今年3月にGPT-4になり、さらに性能が向上したと言われています。
例えば、INIADの1年生が履修する「情報連携学概論」の「哲学」の単元で、去年の第一回の簡単なレポート課題をGPT-3.5に与えた場合の回答でも、十分に上位に入る出来でした。しかし、GPT-4の回答ならば、ほぼ満点の出来になります。
AIが哲学のレポートを書ける時代になった以上「～について書け」というような単純な課題は、学生が生成系AIを使う前提で大学としても評価を考えなければなりません。
「AIを使うな」というのは簡単です。しかし、答えの文章だけを見てAIを使ったかどうか判定することは不可能です。もちろん、課題を出す前にChatGPTなどの生成系AIに通して教師が回答を確認し、学生の提出がその回答と似ているかを判定することはできます。しかし、それも利用者が対話により誘導すれば、一般的な回答との類似性の少ない回答に仕立てることも可能です。結局「あまりに一般的に正しい回答だ」とか「よく書けているのはおかしいから、AIを使っただろう」といった理不尽な疑いしかできなければ、正直者がバカを見るだけの制度になり、モラルハザードにつながります。
そこで、INIADではChatGPTの利用について制限を付けないだけでなく、むしろ推奨することを考えています。
その理由は、ChatGPTを使うことが必ずしも「自分の頭で考えない」ことに繋がるとは思わないからです。ChatGPTとは対話のセッションを何度も続けることができ、その過程で自分の考えを深めることもできます。そこが、聞いて答えるだけの検索エンジンとは大きく異なる点です。
実際、同じ課題をAIを使って解かせても、どう設問するか、回答に対して聞き返して深掘りするなど使う人が適切な対話ができれば──そして、最後のまとめにあたり自己の判断で適切に判断して取捨選択し、必要なら補足や書き換えができるかまで、その人の能力により結果の質が大きく変わります。ChatGPTにレポート課題を投げて最初に出てきた回答をそのまま出す「撮って出し」では、回答はいかにも凡庸な回答しか出ないのです。
逆に言うと、ChatGPTを使うことを許すのは、学生が「楽ができる」ようになるのではなく、その結果の質がより厳しく評価されるということなのです。単に「正しい」だけでは低い評価にしかならず「ユニークな視点がある」とか「深く検討している」など、より高度な結果を求められるようになります。そのためにINIADでは、より深い評価を行うための教育スタッフの負担を軽減できる評価のサポートAIのシステム開発も行っています。
そのように評価が厳しくなる以上、ChatGPTを使わない──使えないことは大きなハンディになりうるということで、INIADではChatGPTの利用を容認するだけでなく、むしろ積極的に推奨します。その採点にあたり、より深い評価を行う教育スタッフの負担をAIにより軽減できるように、評価のサポートAIのシステム開発も行っています。
「自分の頭で考える」ためのChatGPT
先に上げたように「自分の頭で考える」ために必要な姿勢の一つは「別の立場に立って、問題を見直す」というものです。最初のうちは、これを自分ひとりで行うのも難しいことも多いでしょう。しかし、ChatGPT──特にGPT-4ベースのChatGPTを「壁打ち」の相手にできれば、AIにアンチテーゼを考えてもらい、弁証法的な思考を繰り返し、より深く課題を考えるような思考の訓練も可能になります。
わからないことがあっても、何回でもいろいろなやり方で説明してもらっても恥ずかしくないし、また日本の学生は正面から反論されることを自己への攻撃と捉える傾向があり、ディベートで感情的になることもありますが、AI相手の「壁打ち」なら「自分自身の感情を管理する」のも容易でしょう。
このような「自分の頭で考える」訓練は、哲学だけでなくINIADで教えるすべての学問分野で有用です。AIは、いやがりもせずずっと付き合ってくれる最高の「思考のためのバディ」になるのです。
さらに言えば、最終的な考査においては、ネットワークが使えない状況で試験を行います。ChatGPTを訓練相手として日頃から自らを高めておかずに、楽をしているだけの学生は当然最終評価は低くなります。そして、その差はさらに大きくなることでしょう。
それは、まさに将棋の世界で藤井聡太さんがAIをバディとして精進することで本番を勝ち抜き、六冠に至った道と同じなのです。
さらに、そのようにChatGPTを使って思考を深めるスキルは、これからのINIADの学生が社会にでたときに強く求められる資質です。そのためINIADではChatGPTをどう使うかのプロンプトエンジニアリングについて、新しい教科として教育していく計画です。
また、ChatGPTでは課金しないと使えないGPT-4モデルを使えるかどうかについての不公平が生じるという懸念があります。そこでGPT-4モデルとプログラミング教育において使えるAPIを利用できるようにする環境整備を、INIADの全学生向けに行います。
なお、生成系AIの急激な進化という新しい状況に対応するということで、全てはアジャイルであり、この方針も結果を見て変更するかもしれません。
一番の懸念は、対話により考えを深めるのでなく設問をそのままコピーし、出てきた最初の回答をそのまま提出するような何も「自分の頭で考えていない」使い方しかしない学生が出てくることです。これがあまりに目につくようなら、その学生の利用を停止するかもしれません。
しかしながら、ChatGPTの利用に制限を付けることは、学生がより深い思考をすることを阻害するだけでなく、現代社会における技術革新に対する抵抗感を育ててしまうことにもつながります。ぜひ、学生の皆さんが正しく「自分の頭で考えて」ChatGPTを使ってくれることを切に願っています。
また、学生がChatGPTを使って自分の考えを深め、より高度な思考力を身につけられるように、適切な環境の提供をINIADでは進めていきます。
ChatGPTを使って自分自身を疑い、新しいアイデアを生み出すことができる学生は、自己実現型人材として社会で活躍できるでしょう。INIADは、ChatGPTを使った思考の深め方を学生に教え、より高度な思考力を身につけられるよう支援していきます。これからの時代に必要とされる知識とスキルを身につけた、自己実現型の人材を育成していくことが、INIADの使命であり、責任でもあるのです。