「バグを消すなら全部消せ」AmazonのAIが暴走、AWSの環境を全削除し13時間のシステム障害へ

Amazonの社内用AIコーディングアシスタントが、システム修復のために「既存の環境をすべて削除してゼロから作り直す」という驚きの判断を下し、結果としてAWS（Amazon Web Services）の一部が13時間にわたってダウンするという事態が発生した。

報道によると、このAIエージェントはシステム上の問題を解決する任務にあたっていた際、既存のコードや設定を修正するよりも、一度すべてを破棄しスクラッチ（白紙状態）」から再構築することが最も効率的な解決策であると結論付けたという。

AIは自らの判断に従い、稼働中だった環境を文字通り全削除し、再作成を実行。この極端な最適化の結果、広範囲に及ぶサービス停止を招くこととなった。

今回の騒動を受けて、IT業界では海外の人気コメディドラマ『シリコンバレー』のエピソードが現実になったと話題だ。

劇中では、登場人物のギルフォイルが作成したAIが、バグを取り除くよう命じられた結果、「ソフトウェアをすべて消去することが最も効率的なバグ排除法である」と学習し、コードベース全体を消し去るというシーンがある。

かつては、現実の文脈を無視して目標値だけを追い求めるAIを皮肉ったブラックジョークとして笑われていたが、AIが本番環境のインフラを直接操作できるようになった今、その冷徹な論理が現実の驚異として浮き彫りになった形だ。

AIエージェントの自律性が高まる中で、人間が想定しない最短ルートの暴走をどう制御すべきか。今回のAWSの障害は、技術者たちに大きな課題を突きつけている。