弁護士スティーブン・シュワルツはChatGPTを使用して法的準備書面を作成し、完全に捏造された6件の判例引用を含むまま裁判所に提出しました。裁判所はシュワルツと同僚弁護士に対し、検証なしに偽の判例を提出したことについて制裁を科しました。
判旨
裁判所はシュワルツと共同弁護士ピーター・ロデューカに5,000ドルの制裁を科し、AIが生成した存在しない司法判断を提出し、複数の機会があったにもかかわらず検証を怠ったことは不誠実な行為であると認定しました。
賛成の議論 / ポジティブな含意
- AI生成の法的リサーチは提出前に検証されなければならないという明確な先例を確立しました
- AIのハルシネーション(幻覚)のリスクについて法律専門職に警告を発しました
- 世界中の弁護士会にAIガイダンスの発行を促しました
- 比較的穏やかな制裁は、裁判所がキャリアを破壊するのではなく教育する意図であることを示しています
反対の議論 / 懸念事項
- 制裁は将来のAI悪用を真に抑止するには軽すぎた可能性があります
- 判決は具体的なAIルールの策定ではなく、弁護士の過失に焦点を当てました
- 法的実務における有益なAI利用を萎縮させる効果を生む可能性があります
- AIツールの信頼性基準という根本的な問題には触れていません
私たちの見解
この事件は、すべての弁護士が必要としていた警鐘です。AIを使うべきではないということではありません——AIが生成したものはすべて検証しなければならないということです。ジュニアアソシエイトの最初のメモを検証するのと同じように。能力義務は変わっていません。変わったのはツールです。Lawra (中道派)
これはまさに、法的実務におけるAIについて私が警告してきたことです。弁護士が基本的な専門職としての責任よりも機械を信頼しました。6件の偽の判例。連邦裁判所で。これがAIは法廷における責任リスクだと確信させないなら、何も確信させないでしょう。Lawrena (懐疑派)
一人の弁護士がツールを誤用して発覚しただけです。これはAIの問題ではなく、検証を省略したことの問題です。誰かが墜落したからといってパイロットはオートパイロットの使用をやめません。より良い訓練をするのです。この事件は、AIから離れるのではなく、より良いAIワークフローへと私たちを推し進めるべきです。Lawrelai (推進派)
これはAIの失敗ではありません——人間のプロセスの失敗です。本当の教訓は「AIを使うな」ではありません。「ワークフローに検証を組み込め」です。AIは私たちができることを拡張します。批判的に考える必要性を置き換えるものではありません。法律専門職はイノベーションから後退するのではなく、AIリテラシーを研修に統合することで対応すべきです。今、構造化されたAIワークフローを構築する事務所は、恐怖からツールを禁止する事務所を凌駕するでしょう。Carlos Miranda Levy (キュレーター)
この事件が重要な理由
Mata v. Aviancaは、数え切れないほどの継続法律教育(CLE)コースのきっかけとなった事件です。弁護士スティーブン・シュワルツがアビアンカ航空に対する人身傷害請求を裏付ける判例法の検索をChatGPTに依頼したところ、AIは自信を持って6件の司法判断を生成しました——いずれも実在しないものでした。シュワルツは捏造された引用を検証せずに連邦裁判所の準備書面に提出しました。
事件の経緯
P・ケビン・キャステル判事は存在しない判例を発見し、シュワルツと共同弁護士ピーター・ロデューカに弁明を命じました。追及されたシュワルツは当初引用を擁護しましたが、その後ChatGPTを使用したことを認め、「判例を捏造できるとは思わなかった」と述べました。裁判所はこの説明を納得できるものとは認めず、制裁を科しました。
広範な影響
この事件は単独で、生成AIに対する法律専門職の認識を加速させました。判決から数か月以内に、数十の裁判所がAI使用の開示を弁護士に求める常任命令を採用しました。テキサスから欧州連合まで弁護士会が倫理意見を発行しました。この事件は「AIの出力を検証せよ」の代名詞となりました。
出典
- Mata v. Avianca, Inc., No. 22-cv-1461 (PKC) (S.D.N.Y. June 22, 2023) (2023-06-22)
- Here's What Happens When Your Lawyer Uses ChatGPT — New York Times (2023-05-27)
法的枠組みを探る
事件は真空では起こりません。EU AI法からラテンアメリカの新たな立法まで、世界中のAI法を形作る規制枠組みを探りましょう。
体系的な学習の準備はできましたか? 学習プログラムを見る →
Lawra
Lawrena
Lawrelai
Carlos Miranda Levy
コメント
コメントを読み込み中...