ニューヨークの弁護士がChatGPT（チャットGPT）を使って嘘の過去判例で弁護してしまい大炎上したことの詳細

弁護士がChatGPTを使って嘘の過去判例で弁護してしまい大炎上

【悲報】

ニューヨークの弁護士さん。
ウソの過去判例で弁護してしまい大炎上。

ChatGPTを使った事を白状してしまう。

詳しくは次で >>>
1/3 pic.twitter.com/xfv1iwM4Hh

— 森山大朗(たいろー) Work in Tech! (@tairo) May 29, 2023

・判例調査のためにChatGPTを使用
・裁判所の提出書類に6つの偽判例を引用
・ChatGPTに「この判例は実在する？」と確認していた
・ChatGPTは「実在する判例だ」と回答
・相手方の弁護士が「そんな判例はない」と指摘
・そこでようやく誤りに気づいた
・6月8日に公聴会を予定している

2/3

— 森山大朗(たいろー) Work in Tech! (@tairo) May 29, 2023

個人的に気になった点：

・AIは資格がないから弁護はできない
・でも弁護士の助手ならできるはず
・AIが推薦した判例をまま載せたのは怠慢
・最後の最後は自分で調べないとダメ
・過去判例調査プラグインの需要が確認できた

3/3

— 森山大朗(たいろー) Work in Tech! (@tairo) May 29, 2023

【悲報２】

ChatGPTに弁護士プラグイン見つけたった。

と思ったら。

弁護士をひたすら紹介してくるだけだったorz…。 pic.twitter.com/vtB70Lrmvv

— 森山大朗(たいろー) Work in Tech! (@tairo) May 29, 2023

ホームページ制作はAIではなくプロにお任せ

ChatGPTのようなAI技術は急速に進歩しています。

しかし、ホームページ制作においてAIをプロレベルで実用化できるまでは時間がかかそうです。

AIを使用した制作物は著作権の問題もクリアになっておらず訴訟のリスクもあります。

現時点でのホームページ制作は信頼ができるプロの制作会社に依頼しましょう！

ホームページ製作0円から！【サクペジ】

忙しい時間帯の顧客対応を効率化【ホームページDX】

GPT-4についてまとめ

• ・現状ChatGPT Plusで利用可能（月額料金は20米ドル）
• ・画像入力対応
• ・司法試験を受けたら上位10%のレベル
• ・ジョークを理解できる
• ・嘘をつく可能性低下
• ・日本語でも高精度な対応
• ・25,000語を1つのプロンプト内で処理可能
• ・マルチモーダルAI（画像＋テキストからテキスト生成可能）

ChatGPT（チャットGPT）はOpenAIが2022年11月に公開したチャットボットです。OpenAIのGPT-3ファミリーの言語モデルを基に構築されており、リアルな会話文を生成することが可能です。

会話だけでなくマークアップ言語のHTMLやPythonのようなプログラミング言語の生成も可能です。また、表計算ソフトの関数も得意としています。

弁護士がChatGPTを使って嘘の過去判例で弁護してしまい大炎上したことの反応

米大手弁護士事務所では、AIが指示を出して末端の弁護士に訴訟準備させていると５年以上前のテレビで見た記憶が。
すでに特化AIは実用だと思ってたんですが弁護士なら誰でも導入できるわけではないのですね。

人に残された仕事は
「責任をとること」
ということか。

これ、GPT3.5とGPT4のどっちを使用したのか気になります。

GPT4でも判例を聞いた時に架空の事件番号と架空の概要を答えて来るのでホントっぽいのでマジ注意です😅
僕の場合は、相手が裁判所じゃなく取引先でさらにソースを調べて架空なのがわかったので未遂でしたが架空のストーリーを答えてくるのはエグい。

ちゃんと文献引用して明示するAIも有りますよ。perplexityなど。

ChatGPTにありがちな現象ですが、きちんとAIを選べばこんなトラブルは起きません。

Chat GPTから
判例の回答があったなら、
それを確認するくらいの
行動はして欲しかったですね😅

まだ
出たばかりなんだし、
丸投げはいかんだろと思う。

引用元：Twitter