法政大学 応用情報工学科 研究室紹介
藤井章博 研究室の活動から
最終更新:2024年4月8日
研究室紹介動画(2022年)
自然言語処理における強化学習と転移学習
自然言語処理における強化学習と転移学習
BERTに代表されるAttention 機構の導入で、大規模コーパスに関する分析性能が劇的に向上した。一方で、メモリサイズや演算時間の増大への対象が課題である。モデルの学習における「蒸留」を導入し、分析精度を保ちつつメモリサイズ、演算時間を大幅に減少させることに成功した。向「Ensemble Compressed Language Model Based on Knowledge Distillation and Multi-task Learning」IEEE intnl. conf. ICBIR 2022
向「Reputation Analysis Based on Weakly-Supervised Bi-LSTM-Attention Network」IntelliSys 2021
和歌のデータ公開
和歌のデータ公開
LOD(Linked Open Data:リンクトオープンデータ)は、オープンデータを柔軟に提供する技術であり、Wikiなどで利用されている。実践女子大学の下田歌子研究所と協力して和歌の短冊画像データ(同大図書館所蔵、一般公開中)とテキストデータの関連付けを行い、オープンデータとして公開する取り組みを行っている。向う2年間修士課程の学生が本研究に取り組む予定であるので、対象を御製にも拡大したい。
和歌学習済みモデルの活用とアプリケーション開発
和歌学習済みモデルの活用とアプリケーション開発
小林隆氏が収集した歴代天皇の御製をニューラルネットワークに学習させた。その際、古文に関しては、国立国語研究所が提供する中世古文辞書を利用した。右図は、「初春」を先頭語彙として10語程度を出力させた結果を示す。読み手に対する語彙の提示に基づく和歌創作支援が考えられる。
関連情報