［文脈］
デジタルメディアにまつわる諸問題を一網打尽にして世界を次世代に導く
アクシオンは、以下に詳述する、デジタルメディア消費をめぐる諸問題を解決する製品を作ることを目的としている。
SNSの時代の変遷
SNSのダウンサイドが明白：モバイルフォンのグローバルな普及は、SNSの世界化を引き起こした。アラブの春がモバイルの政治・社会への決定的な影響を知らしめたが、やがてそれが余りにも大きな損失を人類社会に与えていることが露見している。
情報爆発
可処分時間の完全支配：90年代の人間 に比べて1.5〜2倍のメディア接触時間に到達。
モバイル化：近年の接触時間の増加はモバイルが牽引。ある種の中毒。
認知機能の限界
処理能力の限界。 認知負荷が高まるとノード間を流通する情報が劣化。大量の情報に浴びせられると誤情報を拡散してしまう。情報の質と人気度の相関が低い:高品質な情報は低品質な情報に対してほとんど優位性 を持たないことが予想される。
- Xiaoyan Qiu et al. Limited individual attention and online virality of low-quality information, Nature Human Behaviour, Vol. 1, June 2017.
推薦システムとフィードバックループ
パーソナライズされた推薦: インターネット製品は、ユーザーの個人的特徴や過去の行動に基づいて個別の商品リストを生成する推薦システムを組み込んでいる。
商業的成功と懸念: これらのシステムは商業的に成功しているが、「エコーチェンバー」や「フィルターバブル」といった自己強化型のパターンを生み出し、ユーザーの関心を狭める可能性に関する懸念が高まっている。
イーライ・パリサーの見解: ジャーナリストのイーライ・パリサーは、個人化技術の普及により、インターネットユーザーが多様な情報源や視点に触れる機会が減少していると主張している。彼は「フィルターバブル」という用語を生み出し、オンラインでの個人化が人々を多様な視点やコンテンツから隔離する可能性を説明した。
グエンの発見: グエンらの研究では、共同フィルタリング（似た行動履歴を持つユーザーのデータに基づいてアイテムを推薦する方法）を使用する推薦システムが、ユーザーが触れるアイテムの範囲を狭めていることが明らかになった。しかし、推薦されたアイテムを実際に使用するユーザーは、それらのアイテムをより積極的に評価する傾向があることも発見された。
Nguyen, T.; Hui, P.; Harper, F.; Terveen, L.; and Konstan, J. 2014. Exploring the filter bubble: The effect of using recommender systems on content diversity. In Proceedings of the 23rd international conference on World wide web, 677–686.
エコーチェンバー
機械学習の利用: インターネット製品のレコメンデーションシステムに広く導入されている。
影響とフィードバックループ: これらのシステムによる決定はユーザーの信念や好みに影響を与え、それがシステムが受け取るフィードバックに影響する可能性がある。これによりフィードバックループが形成されることが、DeepMindのRay Jiang (2019)による研究で示唆されている。
"Degeneracy" toward each recommendation algorithm. Algorithms have a shorter time for people's interest to become fixed compared to random. Ray Jiang, Silvia Chiappa, Tor Lattimore, András György, and Pushmeet Kohli. 2019. Degenerate Feedback Loops in Recommender Systems. In Proceedings of the 2019 AAAI/ACM Conference on AI, Ethics, and Society (AIES '19). Association for Computing Machinery, New York, NY, USA, 383–390. https://doi.org/10.1145/3306618.3314288
Masoud Mansoury, Himan Abdollahpouri, Mykola Pechenizkiy, Bamshad Mobasher, and Robin Burke. 2020. Feedback Loop and Bias Amplification in Recommender Systems. In Proceedings of the 29th ACM International Conference on Information & Knowledge Management (CIKM '20). Association for Computing Machinery, New York, NY, USA, 2145–2148. https://doi.org/10.1145/3340531.3412152
党派性による分断
2016年の米大統領選時のTwitterのネットワーク分析。ネットワークグラフを政治的イデオロギーで色分け(青はリベラルな平均を、赤は保守的な平均を表す)。
- Brady, William & Wills, Julian & Jost, John & Tucker, Joshua & Van Bavel, Jay. (2017). Emotion shapes the diffusion of moralized content in social networks. Proceedings of the National Academy of Sciences. 114. 201618923. 10.1073/pnas.1618923114.
ケンブリッジ・アナリティカ事件
英国のコンサルティング会社であるケンブリッジ・アナリティカ（CA）は、8,700万人ものFacebookユーザーから、本人の同意なしにデータを収集。2016年のアメリカ合衆国大統領選挙と英国のEU離脱をめぐる国民投票における「説得可能な投票者」（Persuadable）の抽出に成功した。彼らはFBのターゲティング広告を使い、説得可能者の投票行動を変容させるよう働きかけた。報道では、米国の複雑な選挙区や選挙人団という制度によって重要性を増した浮動票を動かすことに成功し、トランプの当選やEU離脱の多数派形成を成功させた、とされている。
CAは各ユーザーのFacebookデータを使用して、ユーザーの性格を推定した。個性を定量化するために、5つの主要な特性を心理学の「ビッグファイブ」のモデルに従って採点した。これによって分類されたユーザー（選挙民）に対してターゲティング広告を仕掛け、投票意思の変容や、投票の棄権を引き出したと言われる。
CAの心理ターゲティングは主に、スタンフォード経営大学院の計量心理学者Mical Kosinskiらの先行研究を根拠にしている。Kosinskiは2013年にオンライン行動から属性、性的指向、性格を理解できるとする研究を発表、スタンフォードに移った後、ケンブリッジ大学のWu Youyouとともに2015年にFacebookのいいねからその人の性格を性格に理解できるとする研究を発表していた。
CAの戦略の効果を測ることは難しい。同時に様々なエンティティによるソーシャルメディアの攻撃が同時多発的に起きており、その効果を推し量り難い。また、Facebookは外部の研究者に対して、公正にデータを公開してきたとは言えず、実際に何が起きたのかを知るためのデータには巨大な穴が空いている。CAは上述されたような手法は使っておらず、与えられた資金の大半を広告やコンテンツ製作に当てた可能性がある。規制を受ける前の当時のFacebook広告のターゲティング能力は高く、カスタムオーディエンス機能を使い、選挙民に関する他のデータと突合するだけでもかなり高い精度でのターゲティングができたはずだ。CAが引き受けた大量の資金で、特定の候補者を誹謗中傷する広告を、その支持者に対して打つだけでも、投票行動に影響を与えられる可能性があっただろう。