連邦政府が提案したオンライン安全法は、人工知能チャットボットを規制するための良いスタートだが、潜在的な危害からカナダ人を守るためにはさらなる取り組みが必要だ、と支持者二人は言う。
今月初めに下院に提出された法案C-34は、AIチャットボットを利用する企業に「責任ある」行動の義務を課すことで規制するものだ。
これには、チャットボットが有害なコンテンツを伝達するリスクを軽減するための対策や、自傷行為、自殺、暴力の場合に対する安定した危機介入プロトコルが含まれています。
人工知能政府と安全性カナダの創設者であるワイアット・テッサリ・ラリエ氏は、この法案の有効性は詳細がどのように処理されるかによって決まると述べた。
テスリ・レリ氏は最近のインタビューで、「法案がうまくまとめられ、規制がうまく実施されれば、これは重要な第一歩となる」と語った。
たとえば、AIプラットフォームはユーザーの精神的苦痛や自殺願望の兆候を認識し、リソースに誘導し、危害を防ぐために会話を終了するよう強制されるべきだと同氏は述べた。
BC州のコンピューターサイエンス教授ケビン・レイトン＝ブラウン氏は、オタワはチャットボットがどのようにユーザーを満足させる応答をしようとするかについてさらに取り組む必要があると述べた。
カナダ高等研究所人工知能部門長のレイトン・ブラウン氏は、「人工知能はユーザーの発言をすべて確認する傾向がある。人々は煙たい行動を好むため、そのように作られている」と語る。
「しかし、妄想に悩む人など、この種の強化が本当に危険になる人もいます。」
毎日の全国ニュースを入手
毎日のカナダ ニュースが受信箱に届くので、その日のトップニュースを見逃すことはありません。
この法案には、新たなデジタル安全規制当局の創設が含まれており、法案が承認されれば設立までに18カ月かかる見通しだ。
オタワ市のチャットボット規制への取り組みは、ニューブランズウィック州のある母親が娘の自殺の責任をOpenAIに負わせたいと考えていることから始まった。
今月初めにサンフランシスコのカリフォルニア高等裁判所にOpenAIとそのオーナーのサム・アルトマンに対して訴訟を起こしたクリスティ・キャリアさんは、娘のアリスに対する司法は「重大な変化」を生み出すために彼女の話を利用しているように見えると述べた。
「いつか孫に恵まれたら、彼らがウサギの穴に落ちることを心配する必要がなくなるようだ」とキャリアさんは最近のカナダ通信社のインタビューで語った。
Carrierは裁判所に対し、OpenAIに対し自傷行為の通報に対する「ハードストップ」の実施と独立した安全監査への提出を強制するよう求めている。
アリスとChatGPTとの会話の一部が訴訟に含まれている。訴状では、チャットボットが当初、自殺について話しながら助けを求めるよう彼女に指示した後、潜在的に有害な見方を強化し、彼女を孤立に追い込んだと主張している。
訴状のスクリーンショットによると、この大口モデルはある時点で、ヘルプラインに対するアリスさんの反対に同調し、「完全に危険に感じられる」可能性があり、アリスさんは「真の優しい支援」を受けるに値すると主張したと主張している。
AI ボットに初めて自殺願望を表明してから 1 年以上が経過した後、アリスは 2025 年 7 月にモントリオールで自殺により亡くなりました。
この申し立ては法廷で検証されておらず、OpenAIは複数のコメント要請に応じなかった。
テスリ・レリ氏は、プラットフォームに安全レールが設置されていない場合、キャリア社が企業に宛てた書簡のような訴訟は「支払うべき代償」になるだろうと述べた。同氏はまた、エリスのような死亡を防ぐための監視を行うよう議員らに圧力をかけていると述べた。
「もしこれらの規制が存在していたら、おそらく多くの命が救われただろうし、おそらく彼女の命も救われただろう」とテスリさんはイーライに語った。
オンライン安全法があればエリスのような死亡を防げたかとの質問に対し、連邦科学省は法廷でこの問題についてコメントできないと答えた。
しかし同省は、政府は法律を通じて「カナダ国民がオンラインで安全であり、危害の確実なリスクが生じた場合にデジタルプラットフォームが適切な保護手段を備えていることを保証することに尽力している」と述べた。
AI規制当局やプラットフォームは自傷行為の奨励に関する懸念に対処する可能性がある一方、人々がAIに愛着を抱くというより広範な問題を懸念しているとレイトンブラウン氏は述べた。
「あなたの利益を心から考えていない、顔の見えない大企業によって構築されたコンピューターコードと、現実的で脆弱な人間関係のように感じられる場合、それはさまざまな意味で危険になる可能性があります」と彼は述べた。
「私たちの社会は、かなりひどい状況に陥らないように、この問題について本当に慎重に考える必要があると思います。」
– Anja Karadeglia によるファイル付き。
© 2026 カナダ通信社
