ブログ：生成AIへの疑問

最近、私のセミナーでも
参加者から生成AIの素晴らしさを
語る人が多くなりました。

正直言って、
私は生成AIが好きではありません。

なぜならば、
生成AIはとても便利で役立つので、
それに頼り過ぎるようになり
考えることをしなくなってしまうからです。

もちろん全面的に生成AIを
否定しているわけではありません。

生成AIを使うことで、
効率的に仕事ができるという側面はあるので
それに関しては必要に応じて
利用したらいいと思います。

ただ一度使い始めると、
人は便利さゆえにそれに頼るようになり、
だんだん依存度が高くなり、
そこから離れられなくなってしまう
きらいがあるため、
そこは心配しています。

こんな偉そうなことを言っている私すが、
実は、生成AIのことはほとんど知りません。

そこで先ずは大局的にAIについて
書いてある本を読もうと思い、
苫米地英人著「生成AIの正体」
（ビジネス社）を読みました。

この本を読むと、
私が考えているよりも
はるかに奥が深いことがわかりました。

まず驚いたことは、
生成AIは堂々とウソを言うということです。

これはハルシネーションと
呼ばれる現象であり、
生成AIにはつきものです。

なぜこのような事が起こるかというと
人間は意味を理解して言葉を選びますが
生成AIは確率の高い言葉を選んでいるため
必ずしも正しい答えを
出してくれるとは限らないのです。

実際、人物課題では51％、
一般課題では79％もの
ハルシネーションを認めたという
報告があります。

また、悩み事を相談したりすると
ユーザーに同調し依存度を高めるような
仕様になっているため、
人よりも生成AIに頼ることが
普通になってしまう可能性があります。

もちろんそれで、
問題が解決すればよいのでしょうが、
生成AIへの信頼度が高まれば高まるほど
人との関わりが少なくなることが予想されます。

スマホと同様、生成AIの普及により
人は機械に支配されるような世の中になり、
生身の人との関わりやコミュニケーションが
ますます少なくなる世の中に
なってしまうのではと心配しています。

さらに心配なことがあります。

それは生成AIを運営している企業の目的が
個人情報を集めることにあるということです。

個人情報を集めることで、
その人の意思決定や行動変容に
影響を及ぼすことができるようになります。

個人がどのようなことに興味を持ち、
どのように考える傾向にあり、
どんなところによく行くのかといった情報が
すべて収集されているのです。

その情報をもとに、
より多くの商品を買わせたり、
その人の意思判断を誘導したりしています。

今後は、ターゲットとなる
特定の人物の認知をモデリングし、
どのような情報を与えれば
認知が変容するのかを計算して
企業や政府の都合のよい方向に
意思決定を誘導する動きが
加速されると思われます。

まさに私たちの思考は、
巨大な企業や政府に
乗っ取られる事態になりかねないのです。

そんな状況に警鐘を乱打し、
巨大な力に巻き込まれないように
しましょうなどと言う人は、
これまたチェックされ、
陰謀論者というレッテルを貼られ
排除されることになります。

恐い時代になってしまったと感じるのは
私だけでしょうか。