ディープフェイクとジェンダーに基づく暴力

2017年、ジャーナリストのサマンサ・コールは、オープンソースの人工知能（AI）技術を利用して有名人の顔を使った合意のない自家製ポルノや性的画像を作成していた人物をRedditで発見した。この男は自らを「ディープフェイク」と名乗っていた。

初期のディープフェイクは不具合が多く、非現実的に見えるため、簡単に見分けることができました。しかし、このテクノロジーは非常に洗練されているため、コンピューターと人工知能についてある程度の理解があり、まともなコンピューターにアクセスできる人なら誰でも、まともなディープフェイクを簡単に作成、配布、販売できるようになりました。

ディープフェイカーがしなければならないことは、インスタグラムなどの公開ソースからターゲットにしたい人物の画像を見つけて、非常にリアルな性的画像やポルノを作成することだけです。

ダルハウジー・シューリッヒ法科大学院の助教授スージー・ダン氏は、「性的自律性や創作物にのみ伴う危害といった現実的な問題が存在する」と語った。 rabble.ca インタビュー中。

ダン氏は続けて、「今では、接触することなく、実際にかなり深刻な方法で人々を性的に犯すことができる人々が存在することができる」と述べた。

ジェンダーに基づく暴力の新たな形態

極めて性的な捏造を作成すること自体が、性的自律性、つまり干渉を受けることなく自分の身体やセクシュアリティについて決定する個人の権利の侵害です。

本物の性的コンテンツであると主張するディープフェイクをインターネット上に投稿したり、親密な画像を同意なく配布したりする。それによる社会的被害は同じだからだ。

Sensity AI のレポート「ディープフェイクの現状 2019 年の状況、脅威、影響」によると、ディープフェイクの 96% が同意なしに性的コンテンツを作成するために使用されていることがわかりました。これらのディープフェイクのうち、99％は女性の写真でした。

これはジェンダーに基づく暴力の最新形態です。

「カナダだけでなく世界中で、性的なディープフェイクの害が認識されつつある。こうしたディープフェイクがこのRedditサイトから出始めたとき、多くの人がPornhubやその他の場所に投稿していた。すぐに、Pornhubを含むほとんどのソーシャルメディア企業が、この種のコンテンツは許可されていないというポリシーを作成し、我々はこれをダンの他の同意のない画像投稿法と同じカテゴリーに置いた。」

オーストラリア人のノエル・マーティンさんは、オンラインで彼女を見つけた何者かに狙われました。彼らはフォトショップで加工した偽のポルノを作り始め、最終的にはマーティンの徹底的なパロディに終わった。

マーティン氏は、オーストラリアの非同意画像法に「画像の変更」という用語を追加するなどの法改正を支持した。改変された画像が含まれるということは、同意なしに性的な画像（本物の肖像またはディープフェイク）を共有する者は誰でも法の対象となることを意味します。

カナダの刑法にはこの規定は含まれていません。したがって、性的な画像があなたの同意なしに公開された場合、告発するには実際にあなたの裸体が必要です。

ブリティッシュ コロンビア州、アルバータ州、サスカチュワン州、ノバスコシア州、ニューファンドランド ラブラドール州の民法には、損害賠償および傷害の請求の可能性を提供する改変された画像が含まれています。

この選択肢のない州や準州でも民事訴訟を起こすことはできるが、それは新たな法的議論、つまりこの種のものとしては初めての、つまり先例となる。

ジャーナリスト、ゲーマー、ライブビデオストリーミングサービスTwitchの利用者など、特定の女性グループはディープフェイクになる可能性が高い。

ディープフェイクは被害者に現実的な影響を与える

「ディープフェイクがあなたの名前と結び付けられ、グーグルで検索されると、たとえそれが偽物であると人々が知っていたとしても、人々があなたをどのように認識するかに影響を与えます」とダン氏は説明した。

ディープ偽造は、特に労働法が脆弱で、このコンテンツを通じてターゲットにされた人々を保護できない場合に、重大な経済的影響を与える可能性があります。

その結果、女性は孤立したり、精神的な問題に苦しんだりする可能性があります。女性はオンライン ストアから写真を削除することができます。しかし、女性のキャリアはオンラインで公の場に存在することがますます求められているため、これらのイメージを取り除く選択をすることは、女性の収入やキャリアアップに影響を与える可能性があります。

「女性には実際に性的自主性の喪失が起きています。そして、私たちが性的自主性を失うと、人々はさまざまな反応を示すでしょう。それを単に迷惑だと思う人もいるかもしれませんが、他の人にとっては壊滅的で人生を台無しにする可能性があります」とダン氏は述べた。

しかし、ダン氏は、法律は前進しており、法的対応のほとんどは同意のないポルノの配布に関連していると述べた。

一部のポルノ サイトでは、誰が投稿できるか、何を投稿できるかについてコンテンツ管理ルールを設けています。ただし、Meta、Instagram、TikTok では、明確なコンテンツ管理ルールはありますが、常に施行されているわけではありません。

「私がポルノについて話すとき、私が話しているのは、特に公衆の閲覧を目的として作成されたコンテンツのことです。性的虐待コンテンツや画像ベースの虐待について話すとき、それはポルノサイトに掲載されているコンテンツですが、それをポルノとして分類すべきではないと思います。これは虐待コンテンツです」とダン氏は説明した。

画像ベースの性的搾取的なコンテンツをポルノ サイトにアップロードする場合、通常、年齢確認や同意など、チェックを入れる必要があるチェックボックスが多数あります。すべてのボックスにチェックを入れると、コンテンツが公開されます。

しかしダン氏は、ビデオを見てもそれが合意に基づいたものかどうかを知ることはできないと指摘する。

これは依然として最大の課題の 1 つであり、ポルノ ウェブサイトの義務と、関係者全員が素材のアップロードに同意していることを確認する方法について、継続的な話し合いが必要です。

ダン氏によると、強力な倫理慣行がシステムに組み込まれていない限り、ウェブサイトは画像ベースの性的暴行コンテンツをいとも簡単にアップロードしてしまう可能性があるという。

法制度はテクノロジーとともに進化する必要がある

ダン氏はまた、軽度の暴力が進展するにつれ、社会と法制度はテクノロジーを利用した虐待を表現する言語を作り出す必要があるとも指摘する。分類し、それが引き起こす損害を特定して治療するには、その前に名前を付ける必要があります。

現在、カナダの刑法には改変された画像は含まれていません。しかし、ダン氏は、これらを組み合わせることで、何が犯罪で何が犯罪に抵触するかの境界線はどこにあるのかについて大きな議論が生まれると述べています。画像は非常にリアルである必要がありますか?この定義は、性的な物語や人物の漫画も含めるように拡張されるべきでしょうか?

これらの複雑な問題は、ディープフェイクなどのテクノロジー主導のジェンダーに基づく暴力に焦点を当てた刑事制度と民事制度の両方の内部での成長を通じてのみ対処することができます。

この変更を有意義なものにするためには、ソーシャルメディア企業やポルノサイトに対する規制を強化し、性的な画像やポルノコンテンツを禁止する規則を確実に整備する必要がある。また、このコンテンツが適時に削除されることを保証するために、このコンテンツが公開された場合の対処方法に関するルールも必要です。

ダン氏は、オンラインでの合意に基づいた性的表現と性的虐待は区別されるべきだと警告する。これは重要です。なぜなら、人々が不快な性的コンテンツを排除しようと努めるとき、すべての性的コンテンツを一掃したくなることがあるためです。

「私たちの社会では、性的表現コンテンツが非常に重要な役割を果たしています。ですから、オンラインでの性的コンテンツの入手方法を改善することを考えるとき、赤ちゃんをお風呂のお湯と一緒に捨てないように注意しなければならないと思います。私たちは肉体的に前向きで健全な性的表現を望んでいますが、それは性的暴行とは違います。子供の健全な性的ウェブサイトと同じように、健全な性的表現をすることができます。一掃される可能性のある情報です」とダン氏は語った。

トロントに本拠を置くバーバラ・シュライファー記念クリニックの弁護士で院長のディパ・マットー氏はこう語った。 rabble.ca「まだ事件が起きているのを見ていないが、実際に事件が起きたら、それは困難になるだろう。オンライン暴力は全般的に増加傾向にあり、AIが大きな役割を果たしているのは間違いない。」

マトゥー氏は、攻撃的なオンライン コンテンツに対する法的テストに別の基準を設けるべきではないと考えています。それが、この人に性的または精神的嫌がらせをするという同じ意図を持って作成および作成された人工知能である場合。彼らの評判を攻撃する。あるいは恐喝した場合、それは犯罪であり、性暴力とみなされるべきです。

「これは強制と統制のパターンの一部であり、より真剣に受け止められるべきである。なぜなら、行為の意図は、あなたがそれを計画し、テクノロジーを使用する範囲で自分自身を適用したことを示しているからである。したがって、この観点から、それは他の犯罪よりもさらに真剣に受け止められるべきである」とマト氏は述べた。

マトゥー氏は、誰かが意図的に画像を購入し、被害者に危害を加えようとする目的で画像を性的な対象とした場合、いかなる言い訳も許されるべきではないと考えている。

マトゥー氏は、性暴力によるトラウマが被害者に一生影響を与える可能性があることが科学的に証明されていると指摘する。

マトさんは、刑務所制度が教育制度になることを望んでいます。なぜなら、彼女の考えでは、誰かを狭い空間に閉じ込めて能力を制限するだけでは、実際に彼らを変えるのに十分ではないからです。

「これはあなたの同意なしに起こることであり、あなたの主体性が奪われます。したがって、精神的なダメージはさらに深刻です。本当に必要なのは、これらの犯罪が起こらなくなるように社会を変えることです」とマト氏は述べた。