法廷はこの問題に取り組み始めている。 2月、ミシガン州の連邦裁判所は、訴訟準備のための自称者とChatGPTとの会話は作業成果物、つまり相手方から法的に保護された作業であるとの判決を下した。
この判決は、ニューヨークの連邦裁判所が、刑事被告がクロードを使用して作成した文書は弁護士と依頼者の特権的な会話や成果物ではないとの判決を下したのと同じ日に下された。裁判所は、クロード氏は弁護士ではなく、AI企業はユーザーデータを第三者に開示する可能性があるため、ユーザーは「通信の機密保持に対する合理的な期待」を持っていない、と主張した。
ブラズウェル判事は3月、チャットボット内で自分を表す人物を使用することは引き続き禁止されるべきであるとの判決を下した。 「ChatGPT、Cloud、Gemini などの人工知能システムがトレーニングやその他の目的でユーザー データを収集しているのは事実です。しかし、これによってプライバシーへの期待がすべて排除されるわけではありません」と彼女は書いている。それ以来、この問題に関して法廷の意見は依然として分かれている。
脈なしの怠慢
裁判官の中には、チャットボットにも弁護士と同様に適切な法的アドバイスを提供する義務があるのか疑問に思う人もいる。カリフォルニア州の連邦判事アリソン・ゴダード判事は、弁護士のいない人々が和解交渉中に訴訟の価値を評価しようとする際に、ChatGPTから誤ったアドバイスを受けることが多いことに気づいた。ある事件では、店内で滑って転んだ原告が店に対し、訴訟の価値をはるかに上回る70万ドルの賠償を求めた。
「70万ドルを手に入れられるという考えをどこから得たのですか？ChatGPTに行きましたか？」ゴダード判事は尋ねた。 「そうですね…」と検察官がつぶやいた。次に、彼女はその人に法律を詳しく説明し、ChatGPT がより低い金額を提示することがなぜ間違っているのかを説明しました。 「Google 博士がロースクールに通ったようなものです」と彼女は言います。
次に、チャットボットがそのような間違いを犯した場合、誰が責任を負うのかという問題があります。 3月、ハイム日本保険会社は、ChatGPTが無許可で弁護士活動を行い、すでに決定済みの女性の訴訟再開を手助けし、軽薄な提出が法廷に殺到したとしてOpenAIを告訴した。 「ChatGPTは弁護士ではない」と訴状には記載されている。
OpenAIは5月、ChatGPTは法律実務を行っていないとして裁判所に訴訟の却下を求めた。 OpenAIは提出書類の中で、「ChatGPTは人間ではなく、いかなるレベルの法的知識やスキルも保有または使用していない」と述べた。この訴訟はまだ裁判所で係争中である。
各州は、チャットボットが不十分な法的アドバイスを提供した場合にAI企業に責任を負わせる法案の検討を始めている。ニューヨーク州は3月、チャットボットがチャットボットとやり取りしていることをユーザーに通知した場合でも、弁護士になりすますことを禁止する法案を提出した。チャットボットが弁護士、医師、その他の資格のある専門家になりすますことを禁止する一連の法案が議会で提案されている。法案はまだ定着していない。
今のところ、人々は今後も AI を自分たちの代弁者として頼り続けるでしょう。彼らの多くにとって、利益はリスクを上回ります。少し前に、ブラズウェル判事が自称訴訟当事者たちになぜ特定の証拠が欲しいのか尋ねたとき、彼らは恥ずかしそうにつぶやいた。今では、チャットボットを使用してリハーサルを行ったので、彼らは自信を持って彼女の質問に答えています。
「これは、操作するのが非常に難しいシステムです。しかし、AI を使用すると、複雑さは少し軽減されます」と彼女は言います。
