クロード・A・スーパーブレイン

私たちの多くはここ数日、大統領が「文明全体」を終わらせるのではないかと心配しているが、あるシリコンバレーのテクノロジー企業は、警告なしに誤って社会を混乱させる可能性があると警告した。 全て 私たちが知っている文明。 サンフランシスコのテクノロジー企業アンスロフィックが火曜日に発表した。 そうではなかった Claude AI のスーパーブレインの新バージョンをリリースします。これは非常に強力なので、たとえ安全であっても、数時間ではなく数日でほぼすべてのコンピューター システムをハッキングする能力を備えています。 「経済、公共の安全、国家安全保障への影響は深刻になる可能性がある」とアントロピック氏は声明で述べた。 AI への懸念は新しいものではありません。私たちは、人工知能が仕事を得るのではないか、子供たちにとって本物すぎるおもちゃについて、そして私たちの一挙手一投足が大量に監視されるのではないかと心配しています。しかし、Anthropic の自社製品に関する警告は、これらの特有の問題よりも重大です。それは災害がすぐそこまで迫っているという自宅からの電話だ。それはひどいし、行き過ぎているように聞こえます、私は知っています。しかし、問題はそうではありません。 覚えているかもしれないが、アントロピック社は、米国「戦争」長官ピート・ヘグセスが取引している会社である。彼女は、クロードが監督なしで戦闘に参加し、学校で少女たちを誤爆するようなことをする可能性を望まなかったからだ。 さて、その会社は次のような恐ろしい警告を発した。この混乱を引き起こした既存のクロードは時代遅れであり、リリースしないように懸命に努力している新しいクロードよりも驚くほど強力ではない――ただし、クロード・ミトス・プレビューと呼ばれるこの新しいクロードは、すでに少なくとも一度は単独で機能しなくなっている。ちょっと待ってください。人間が対処できる実存的恐怖には限界があります。 「私たち全員が懸念すべきです」とローマン・ヤンポルスキーは、確実に人類の進路を変えるであろうテクノロジーの最新の進歩について私に語った。彼は米国を代表する AI 安全性研究者の 1 人であり、ケンタッキー州ルイビル大学の教授です。…