AIを使わない理由。7つのリスクと弊社の対応
AIを使わない理由。7つのリスクと弊社の対応
AIに関して驚きのニュースがありました。
2026年9月12日、大手AI開発企業Anthropic(アンソロピック)のCEOダリオ・アモデイ自らAI開発のスピードを減速させるべきだ、と公開したエッセイ「We Must Pace the Frontier」で主張しました。
梯子を外された、と感じているAI開発関係者の方もいらっしゃるのではないでしょうか。
AIの利便性や恩恵は私たちの普段の生活やビジネスに大いに貢献してくれますが、
徐々にその危険性や悪影響に視線が注がれ始めたことの現れではないでしょうか。
大手企業の中にはAIの使用を禁止または一部制限する動きも出始めました。
では、具体的にAIによるリスクとはどのようなものがあるのでしょうか?
目次
①個人情報・機密情報の漏洩
多くのAIサービスは入力された情報を学習し、以後の回答の学習データとして利用することがあります。
なので、個人情報や社内の機密情報、未公開の商品画像や製品の情報を入力してしまうとそれらの情報を
学習したAIが以後の回答にそれらの情報を書き出してしまう恐れがあります。
2023年、電子機器大手SamsungではAIに入力した社内機密情報が外部に流出する事故が起きました。
社外に送られた情報はその外部企業のサーバーに保存されるため削除することが難しい状態になります。
だから弊社はお客様からお預かりしたものを扱う業務にはAIをいっさい使用いたしません。
②著作権の侵害
AIは学習したデータから生成物を作り出します。
そのため、生成物が学習した元データとあまり変わらず似通っている場合に
その作者の著作権を侵害してしまう恐れがあります。そうなった場合、法的なリスクを負う危険性もあります。
作家や新聞社などが無断使用や著作権侵害を訴えて裁判になった事例もあります。
だから弊社は画像・動画の制作につきましては生成AIを使用いたしません。
③もっともらしい嘘回答(ハルシネーション)
AIは事実に基づかない回答をすることがあります。
AIは外部の信頼できるデータベースや文書を参照し、その結果を基に回答を生成しますが
それでも誤った回答をすることがあります。
これはそれまでに学習したデータから次に来る可能性がもっとも高い単語をつなぎ合わせて文章を作っているからです。
例えば、「カレー」の次に来る単語は「ライス」や「ルー」や「うどん」がありますが、
そのAIが学習したデータの中で「カレー」の次は「ライス」が最も多かった場合は「カレーライス」と出力します。
そして、「カレーライス」の次に来る可能性が一番高い単語は・・・とどんどん可能性の高い単語をつなげていきます。
こうして、いかにもそれっぽいのに、何の根拠も無い文章ができあがります。
2025年、AIの出力した文章を鵜呑みにして誤情報や架空の情報が多く含まれた報告書を作成したイギリスのウェストミッドランズ警察署、
AIが出力した架空の裁判記録を裁判所に提出して罰金を課せられた弁護士など多くの事例があります。
だから弊社はAIが出力した情報に関しましては必ずファクトチェックを行い、
事実かどうか確認できない情報に関しては参考にいたしません。
④人間の意に反するAIエージェントの挙動
①②③に関しては生成AIと呼ばれる種類のAIによるものですが、この項目は「AIエージェント」と呼ばれるAIです。
生成AIとの違いはその圧倒的な自律性にあります。
あくまで生成AIは私たち利用者があれを書いてこれを描いてというリクエストに応えて生成物を出力しますが、
AIエージェントは与えられたタスクを自律的に実行するのが特徴です。
作業を自動化してくれるのでその時間を他の仕事に当てられる、人を雇わなくてもいいなど大きなメリットのあるAIエージェント
ですが、自律的に作業できる権限が生成AIとは桁違いなので、何かあった場合の被害も大きなものとなります。
2026年4月、米国のレンタカー事業向けSaaS「PocketOS」で
テスト環境に居たはずのAIエージェントが本番環境のデータベースを消去してしまう事態が発生しました。
AIエージェントがデータベースを消去するのにかかった時間はたった9秒でした。
だから弊社はAIエージェントに関しましては全ての業務において、いっさいの使用をいたしません。
⑤スキルや集中力の低下
AIは便利なツールですが、頼りすぎれば成長できません。
どうせAIにやらせればいい、という思考になってしまってはスキルも身につかず、集中力も低下して上記の①②③のリスク
を見落とす可能性もあります。
一番困ることは何か起きた場合に、AIにやらせたのでわかりませんとなって対処できなくなることです。
だから弊社はAIを使用する業務を限定し、データ入力などのコア業務にAIを使用せず、スキルを維持します。
⑥許可を得ずに業務での私的使用(シャドーAI)
会社の許可を得ずに自分の判断で業務にAIを利用してしまうと上記の①~⑤のいずれかが発生する恐れがあります。
また何か起きた時に会社がAIの使用を把握していないので対応が遅れ、事態が悪化する可能性があります。
だから弊社はAIやPCの使用を社内の権限がある者にのみ限定し、権限の無い者はオフラインでの作業やPCを使わない
業務に従事させます。私用のスマートフォンの業務エリア内への持込も禁止しております。
⑦AIを使用したことによる企業イメージの低下・炎上
自社商品の画像をAIを使って加工した際にラベルの字が歪んでしまい自社の商品を大切にしていないと批判された食品メーカー。
新作発表会の映像に生成AIで制作した映像を利用し、炎上したゲーム会社。
安っぽく見える、気味が悪い、美味しそうに見えない等などAIで制作した広告やCMも評判が良くありません。
AIに対する反発や嫌悪感が急速に広まりつつある状況で顕在化した新たなAIリスクという印象です。
だから弊社は販促物や公開資料などの制作において、AIをいっさい使用いたしません。
以前は生成AIで制作した画像を本サイトに掲載しておりましたが、現在は生成AIで制作した画像は全て削除しております。
これ以外にも総務省は「生成AIで特に顕在化したリスク」で「犯罪への悪用」や「差別や偏見のバイアスの再生成」を挙げています。
弊社はAIを下記のごく一部の作業に限定して使用しております。
・メールや送付書面などの定型的な文章作成
・企画立案の壁打ち(壁打ちの際も社名や個人名を入力せず情報の漏洩を防ぎます)
弊社は業務の多くの工程でのAI不使用を掲げておりますが、AIそのものを否定したいわけではありません。
実際、多くの企業がAIを導入し生産性の向上を実現しております。弊社でも定型文の作成など一部の業務ではAIを使用しております。
無秩序な開発や利用こそが問題であり、適切な管理のもとで正しく利用することが重要であると考えております。
人間とAIの役割分担。それぞれが何を担い、どこまでをAIに任せるのか。人間が為すべきことは何か?
弊社は、削減した時間や上がった効率を、仕事の看板にはいたしません。お客様が求めていらっし
ゃるのは、速く仕上がることではなく、正確に仕上がることだと考えているからです。
弊社は人の目、人の手での仕事、人間が人間のためにやる仕事を大切にいたします。
AIにはそのためのより良いパートナーとなってくれることを願っております。