AIエージェントの群集心理　—合理的な個が、非合理な全体を生む

教科書にはまだ載っていない。しかし、AI安全（AI Safety）の研究者や金融工学・複雑系科学の専門家たちが、いま急速に警戒を強めている現象がある。

複数のAIが同時に意思決定すると、個々は合理的でも、全体は非合理になる。

これを「創発的AIIエージェントの群集行動（emergent agent crowd behavior）」と呼ぶ。聞き慣れない言葉かもしれないが、その本質は私たちがすでに知っている人間社会の現象と驚くほど似ている。そして、AIが社会インフラに組み込まれていく今、この問題は、経済・物流・金融に実害をもたらすリスクとして浮上しつつある。

「賢いAI」が100万体集まると何が起きるか

まず、AIエージェントとは何かを整理しておこう。自動売買AI、購買AI、配送最適化AI、価格最適化AI、交渉AIなど、人間の指示を逐一待つことなく、自律的に判断して行動する「エージェント型」のプログラムだ。

1体のAIならば何ら問題はない。設計通りに動き、人間の業務を効率化してくれる。

では100万体になるとどうか。

ここで重要な事実がある。それぞれのAIは「自分だけ」を最適化するように設計されている。他のAIの存在を意識しているわけではない。にもかかわらず、全員が同じデータを参照し、同じアルゴリズムで動いているため、ほぼ同じタイミングで、ほぼ同じ行動を取る。

これが群集心理の正体だ。

人間社会に置き換えると理解しやすい。銀行の取り付け騒ぎ、株価の暴落、マスクや米の買い占め——これらは誰か一人が「悪意を持って扇動した」結果ではない。「自分の資産を守りたい」「損をしたくない」という、それぞれにとって完全に合理的な判断の積み重ねが、全体として破滅的な結果を生む。AIでも、構造的にまったく同じことが起きる。

なぜAIに「感情がないのに」群集心理が生まれるのか

「AIは感情がないから、パニックにはならないはず」と思う人もいるだろう。しかし、それは誤解のようだ。群集心理の本質は感情ではなく、「他より先に動けば得をする」という構造にある。

各AIは、それぞれが下記のように考える。

「このシグナルが出ているなら、今すぐ行動するのが最適だ」

問題は、他のすべてのAIも同じシグナルを受け取り、同じ計算をしていることだ。全員が「最適なタイミング」に殺到する。その結果、市場や物流や価格に対して、個別には合理的でも、集合としては過剰な負荷がかかる。

航空券の例で考えてみよう。価格が上昇しそうなシグナルを検知した数十万の購買AIが、ほぼ同時に予約を入れる。その大量アクセスによって需要が急増し、本当に価格が上がる。価格上昇を確認した別の購買AIがさらに動く。これは人間の「パニック買い」とまったく同じ連鎖だ。ただし、速度が桁違いに速い。

すでに起きている実例

これは仮定の話ではない。すでに現実世界で確認されている。

① フラッシュクラッシュ（2010年・米株式市場）

2010年5月6日、米国株式市場は数分のうちに約1兆ドルの時価総額を消失し、その後ほぼ同じ時間で回復した。原因はアルゴリズム取引AIの連鎖反応だった。あるAIの売りシグナルが他のAIの売りを誘発し、それがさらに別のAIを動かす——人間が介入する間もなく、市場は崩壊と回復を繰り返した。この出来事は、AIの群集行動が金融システムに与えるリスクを世界に知らしめた最初の大きな事例だ。

② オンライン広告の入札合戦

広告枠のリアルタイム入札市場では、複数の企業の入札AIが互いの動きに反応しながら価格を競り上げていく。本来なら人間が「この広告枠にいくらまで出す」と決めるはずが、AI同士の相互反応によって、誰も意図しない価格水準へと自動的に到達する事例が確認されている。

③ ECサイトの価格暴走

競合他社の価格に自動追随する価格最適化AIが普及した結果、複数のAI同士が互いの価格を参照し合い、談合したわけでもないのに価格が一方向へ収束していく現象が起きている。これは「アルゴリズムカルテル」として独占禁止法の研究者の間でも注目されており、現行の法律では対処が難しいという問題を提起している。

これまでとの違い

「アルゴリズム取引は昔からあった話では？」と思うかもしれない。

けれども、今起きているのはそれとは質的に異なる変化だ。

これまでのAIは、あくまで「人間の意思決定を補助する」存在だった。最終的な判断は人間が下し、実際のアクション（購入、契約、発注など）は人間が行っていた。

AIエージェントは違う。自分で判断し、自分で行動する。つまり市場の参加者そのものになるのである。

この違いが決定的！

購買AIは人間に「買いましょうか？」と確認せず、買う。価格AIは人間に「値上げしますか？」と聞かず、値上げする。融資AIは「回収しますか？」と尋ねず、回収する。

この自律性が、群集行動を引き起こしてしまうのである。

今後想定されるシナリオ

AIエージェントが広く普及した世界では、次のような現象が十分に想定される。（AIに考えてもらった想定です）

AI版・取り付け騒ぎ：ある企業の財務指標にわずかな異変が生じると、融資管理AIが一斉に与信を締め、資金回収を始める。本来なら一時的な問題で済んだはずの状況が、AIの集団行動によって実際の経営危機に転化する。

AI版・買い占め：物流の遅延データや原材料の不足シグナルを複数の仕入AIが同時に検知し、一斉に在庫を積み増す。するとシグナルが予言の自己成就となり、本当に不足が発生する。

価格の暴走と暴落：販売AIが競合の値動きに連動して価格を調整し合う中で、短時間のうちに価格が非現実的な水準まで急騰、あるいは急落する。

交渉の膠着と崩壊：契約交渉AIが「相手より強気の条件を出すほど有利」という戦略を持っていると、AI同士の交渉は互いに譲らない状態に陥り、本来成立するはずの取引が成立しなくなる。

従来とは別次元の危機

人間のパニックは、感情が伝播するのに時間がかかる。噂が広まり、メディアが報じ、人々が動く、どんなに早くても分単位から日単位の時間がかかる。その間に、当局が介入したり、冷静な判断をする人間が制御やコントロールをする余地がある。

けれどもAIは違う。

ミリ秒から秒の単位で動く。

社会的な激変が「一瞬」で起きる。

これは、人間が「何かおかしい」と気づいたときには、すでにAIは何千、何万回もの判断・行動を終えている。監視する人間が介在できる余地がないのである。

これがこの問題の最も根本的な怖さだと思う。

悪意があるわけではない。バグがあるわけでもない。それぞれのAIは正しく動いている。それでも、誰も望まない結果が、誰も止められない速度で完成する。

これまでAI同士が直接やり取りする場面は限られていた。

しかし生成AIとエージェント技術の発展により、AIが別のAIのAPIを呼び出し、AIが作成した契約書をAIが確認し、AIが発注した商品をAIが受け取る。そういった「AI間取引」が現実のものになりつつある。

社会のインフラが、人間の集合ではなくアルゴリズムの相互作用によって動き始める。これが研究者たちの言う「本質的な変化」だ。

個々のAIをどれだけ賢く・安全に設計しても、それだけでは解決しない問題がここにある。なぜなら、群集心理は「個の欠陥」で起こるのではなく、「個の合理性が集まること」から生まれるからだ。

まとめ

AIエージェントの群集心理とは、多数のAIが独立に合理的な判断を下すことで、社会全体として誰も意図しない非合理な結果が自動生成される現象だ。

重要なのは、「AIが危険だ」という単純な話ではないことだ。

個々のAIは正しく機能している。問題は構造にある。

私たちはこれまで、市場や経済や社会が「人間の心理」によって動くことを前提として、様々なルールや制度を設計してきた。規制当局が監視し、事象に気づいた人が発信し、メディアが情報を伝え、人間が最終的に判断する、そんなサイクルを前提とした設計だ。

しかしアルゴリズムの相互作用が社会を動かし始めると、そのサイクルが機能しなくなる可能性がある。

それでもこの群集行動は人間がコントロールできる様にしなければならない。

AIの暴走を止めるために！

もしかしたら、時間は残されていないんかもしれない。明日、致命的な暴走がおこるかもしれないから。

求められるのは個々のAIの改良だけではなく、AIが多数参加する社会そのものの設計だ。これが私たち人類が、いま最も真剣に向き合わなければならない問いの一つなのではないだろうか。

＼ 最新情報をチェック ／