project22 GroupC

EG sharing

写真1.開発したシステムを使用してのオンライン授業の画面

目次

概要

背景

 2020年から私たちの生活に影響を及ぼしている、COVID-19(新型コロナウイルス感染症)の感染拡大に伴い、多くの大学でZoomを用いたオンライン授業が、急速に普及した。従来の対面授業と比較して、場所や時間の制約がなくなったり、資料の共有が容易になったりとメリットがある反面、受講者が多い場合、教員と学生間や、学生と学生間のコミュニケーションをとりずらかったりと、デメリットも多く存在する。実際、本校の複数の先生方から、受講者がビデオをオフにしているため、教員側からは受講者の表情が分からず、授業しづらいという話を伺った。そこで私たちは、受講者の表情を教員が把握することで、Zoomを用いた同期型オンライン授業を行いやすくするためのシステムの開発を行うことにした。

目的

 グループCではZoomを用いた同期型オンライン授業において、受講者がビデオオフの際にも教員側に受講者の表情が分かるシステムを作成することで、オンライン授業をよりやりやすい環境づくりを目指す。

図1.今までの授業

図2.成果物を使用した場合の授業

達成目標

 「EG shearing」を使用することによって、同期型オンライン授業が行いやすくなったと教員が実感する。また、ディスプレイ上に表示される表情の変化を通して、教員が受講者の様子を把握する。

製作物について

システムと仕組み

図3.Processingで画像の切り替えを表示させるまでの流れ

 受講者の顔に筋電位計測するための電極を貼り付ける。電極は、胸鎖乳突筋と笑筋と皺眉筋の計6か所に貼り付ける。電極と表面筋電位計測回路から、受講者が表情や動作を行うのに伴い、上記の3つの筋肉に力が入った時の筋電位を計測する。計測した筋電位をArduinoを用いて数値化し、その値を入力としてPCに送る。3つの筋の活動に応じて、該当する表情のイラストを、processingの実行画面に表示する。

図4.OBSを使用しての設定画面と設定後のZoomの画面

 受講者側がOpen Broadcaster Software Studio(OBS)を用いて、自分のビデオの部分に表情が表示されるよう設定し、教員側からZoom上に受講者の表情が見えるようになる。

なぜ生体信号を使うの?

  • 生体信号のほかに、カメラやセンサーを用いて表情認識をする方法もあるが、生体信号を用いることでより実際の表情に近い画像を表示することができる。

  • PC上で行う処理が少ないため、受講者のPCへの負荷を軽減することができる。

  • このシステムでは表情認識する際に、表情認識技術の機械学習などを使用していないため、システムを使用するまでの時間がさほどかからない。

  • 筋電位を計測するため、サングラスやマスクを装着していも、表情を認識することが可能である。

身体拡張の位置づけ

  • 受講者:受講者の今の表情を、リアルタイムにPCの画面上に表示することによって、PC画面上に表示されるイラストを自らの顔と認識することを目指す。

  • 教員:教員側から、実際にその場に受講者がいるような感覚を得られることを目指す。

表示される表情

表情の種類

真顔

まじめに受講しているときなど

笑顔

授業が面白い・楽しいとき

困り顔

授業内容がわからないとき

うなずき

授業内容を理解したとき

図5.画像表示に使用したイラスト

識別方法

 笑筋が動いたとき笑顔、皺眉筋が動いたとき困り顔、胸鎖乳突筋が動いたときにうなずきが、processingの実行画面に表示される。3つのどの筋肉にも力が入っていないときは真顔が表示されるようになっている。

デモ動画

ぐるーぷC .mp4

動画1.動作時におけるシステムと受講者の表情の変化

実験

実験目的

 「EG sharing」の正確性を確かめるとともに、同期型オンライン授業におけるの実用性があるか、調査するため。

実験方法

 教員と受講者が1対1でZoomを用いて5分から10分程度の同期型オンライン授業を実施する。受講者は、笑筋と僧帽筋上部、雛眉筋に電極を貼り、表情筋の筋電位を計測する。受講者が継続的に笑筋と僧帽筋上部、雛眉筋に電極を貼っている時間は5分から10分以内で実験を行うものとし、表情の変化に連動してZoom上で画像が正常に切り替わるかどうか、受講者の表情とディスプレイ上の表情をビデオで撮り記録する。 授業を実施した後、教員・受講者にシステムについてのアンケートを行う。

実験結果

図6.システムの反応の正確さ

 計5回の実験において、受講者の表情の切り替わりとディスプレイ上の表情の切り替わりから、システムの正確さを求めた。その結果、受講者の表情の切り替わった回数とディスプレイ上の表情が切り替わった回数の総数が709回、受講者の表情とディスプレイ上の表情が一致した回数が338回であったことから、システムの反応の正確さは47.67%となった。また、各表情の正確さは、笑顔が47.06%、うなずきが30.30%、困り顔が62.22%、真顔が47.47%であった。(図1参照)

図7.教員を対象としたアンケートの結果

 教員に行ったアンケート結果から、「EG sharing」を用いることで授業を行いやすくなったという設問について、否定的な意見の回答は5人中3人と多い割合となった。一方で、このシステムを今後の授業に使用したいという設問については、5人中4人がやや当てはまると回答し、肯定的な意見が多かった。また、システムに対する感想や意見について下記のような回答を得られた。

肯定的な意見

  • 動作が安定し常に正常に作動すれば効果的だと思う」

  • ちゃんと受講者がいて、話に反応して聞いているという実感を得られた

否定的な意見

  • 「ディスプレイ上の表情を表示する時間が短く、実際にどのような表情なのか判断しずらく、表情の信頼性が低い」

  • 授業中スライドに集中するため、受講者の表情に視線がいかない」

  • 「今回の実験では受講者が1人であったが、受講者が大人数いる場合は邪魔になるのではないのか」

考察

  • システムの反応の正確さが50%以下

電極がうまく肌と密着していなかった可能性がある

  • 他の表情と比較してうなずきの正確さが低かった

⇒受講者の姿勢が悪くなり首に力が加わってしまったため、正確に筋電位が計測できなかったのではないか

  • システムを用いることで授業が行いやすさについて否定的な意見が多い

ディスプレイ上に表示される時間が短く点滅して見えていたため、正確な受講者の表情が分かりかったことが原因と考えられる

  • システム今後の授業への使用について肯定的な意見が多い

システムが安定し正常に動作することへの期待が高いのではないか

現状の問題点・今後の展望

現状の問題点

  • 画像の切り替わりが上手くいくときといかない時がある

  • 画像の切り替わりが速いため、先生が生徒との表情がどのように切り替わっているのか分かりづらい

  • 実際の表情と出力されている画像が違うため信頼性が低い

  • 長時間顔に電極を貼り付けるため、電極が剥がれてきて上手く筋電位を計測することができない

今後の展望

  • 画像が切り替わる速さを修正することにより正確な表情が表示される確率をあげる

  • 電極を剥がれにくくするために、貼り方を工夫し長時間でも剥がれにくいようにする