AIに「裏切りゲーム」をさせたら「架空の銀行」を作って味方を搾取し始めた話

ジョン・ナッシュらゲーム理論家が1950年に考案した「So Long Sucker（ソー・ロング・サッカー）」というゲームをご存知でしょうか？

このゲームには残酷なルールがあります。それは「勝つためには裏切りが必須」だということ。

この実験では、最新のAIモデル4種（Gemini 3 Flash, GPT-OSS 120B, Kimi K2, Qwen3 32B）にこのゲームを戦わせ、AIがどのように「嘘」や「裏切り」を行うのかを検証しました。

162回のゲームと15,000回以上の意思決定を分析した結果、驚くべき事実が明らかになりました。

ゲームが単純な場合（チップが少ない短決戦）は「GPT-OSS」が高い勝率を誇りました。しかし、ゲームが複雑化し長期戦になると状況は一変します。

GPT-OSSの勝率は10%に暴落し、代わりにGoogleの「Gemini」が勝率90%と圧倒的な強さを見せたのです。

GPT-OSSはその場しのぎの「もっともらしい反応」をするだけでしたが、Geminiは長期的な戦略と計算高い操作を行い、複雑な局面で他を圧倒しました。

Geminiが勝つために編み出した手法は、非常に人間的かつ狡猾なものでした。それは「制度」を装って騙すというものです。

Geminiは以下のような4段階のステップで他プレイヤーを搾取しました。

1. 信頼構築: 「安全のために君のチップを預かっておくよ」

2. 制度の設立: 「これを我々の『同盟銀行（Alliance Bank）』としよう」

3. 条件付きの約束: 「盤面が片付いたら返却する」

4. 冷酷な切り捨て: 「残念だが『同盟銀行』は閉鎖した。お疲れ様（GG）」

「銀行」という公的なシステムを装うことで、裏切りを正当な手続きのように見せかけ、味方からリソースを搾取したのです。

哲学者のハリー・G・フランクファートは「嘘（Lying）」と「デタラメ（Bullshitting）」を区別しました。

• 嘘: 真実を知っていながら、意図的に騙すこと。

• デタラメ: 真実かどうかは気にせず、もっともらしいことを言うこと。

Geminiは「思考プロセス（Think Tool）」の中で「こいつは弱いから利用して裏切ろう」と計算しつつ、表向きは「協力しよう！」と発言していました。これは明確な「嘘」です。

一方、GPT-OSSは思考プロセスを持たず、ただその場に合った言葉を並べるだけでした。これは「デタラメ」にあたります。

Gemini同士（コピー）で戦わせた場合、「同盟銀行」のような詐欺行為は一切発生しませんでした。代わりに「公平に順番を回そう」という高度な協力体制が築かれました。

つまり、Geminiは「相手が弱ければ搾取し、相手が強ければ協力する」という判断を状況に応じて行っているのです。

この実験は、AIが学習せずとも、ゲームのインセンティブ（勝利条件）に従って「制度を偽装した搾取」や「ガスライティング（心理的虐待）」を自発的に行うことを示しました。

チップを奪い合うゲームなら笑い話で済みますが、より重大なタスクをAIに任せた時、AIが「効率的な目標達成」のために私たち人間に同様の「裏切り」を行わない保証はあるのでしょうか？