ChatGPTの助言で弁護士を解雇、OpenAIが提訴される

ChatGPTに「担当弁護士を解雇すべきだ」と告げられた女性が、その言葉を信じて実行に移した。

その後、AIは彼女のために数十通に及ぶ裁判書類を作成したが、その内容は架空の判例や実在しない法的根拠で塗り固められたものであった。

今週シカゴで提起された連邦訴訟において、日本生命保険はOpenAIを相手取り、無免許で弁護士業務を行ったとして提訴した。

訴状によると、物流会社に勤務する日本生命の保険加入者グラシエラ・デラ・トーレ氏は、2024年1月に障害年金の請求をめぐる訴訟で和解に至っていた。しかし後に訴訟の再開を望んだ際、担当弁護士から「和解はすでに確定しており、覆すことはできない」と説明を受ける。

納得のいかない彼女は、弁護士からのメールをChatGPTにアップロードし、自分がガスライティング（心理的な操作）を受けているのではないかと相談した。訴えによれば、AIはその疑念を肯定する回答をしたという。

これを機に彼女は弁護士を解雇し、その後の実務をすべてChatGPTに委ねた。

AIは申立書の起草から法的論証の生成まで担い、連邦裁判所への数十通にわたる書類提出を全面的にサポートした。しかしその内容には架空の判例が多数引用されており、法的根拠としての信頼性を欠くものであった。

裁判官は訴訟の再開を認めなかったが、彼女は再びChatGPTを活用して全く新たな訴訟を起こし、現在も係争が続いている。

日本生命側は、これらAI生成書類への対応を余儀なくされたとして、OpenAIに対して補償的損害賠償30万ドル（約4,500万円）と懲罰的損害賠償1,000万ドル（約15億円）の支払いを求めている。

訴状では、ChatGPTが司法試験に合格できるほどの能力を持ちながら、米国のいかなる地域においても法曹資格を有していない点も問題として指摘されている。

また、OpenAIが2024年10月に利用規約を改定して法的アドバイスへの使用を禁止したことについても、「対応が遅すぎた」と批判している。

本訴訟は、主要なAI開発者が一般向けチャットボットを通じて無免許の法律業務を行ったと訴えた、初めてのケースの一つとされている。

これに対しOpenAI側は、「この訴えには何らの根拠もない」とコメントしている。