AppleのWorldwide Developers Conference（WWDC）の月曜日の基調講演中、発表者はSiriにFIFAワールドカップトーナメントのスケジュールを尋ね、その後仮想アシスタントに特定の試合の観戦パーティーを計画するよう依頼した。 Siri はインターネットからスケジュールを取得し、ゲームでプレイした 2 か国の料理を提案し、ユーザーのメッセージング アプリの履歴を調べてココナッツ クッキーについての言及を見つけ、パーティーのメニューを含むテキストの招待状を作成し、グループ チャットに送信する準備をしました。Siri はユーザーがアプリに触れずにこの振り付けを実行しました。
Appleが2年間約束し、繰り返し否定してきたプロアクティブなアシスタントがついに登場したようだ。しかし、この種のデジタルタスクを実行するには、Siri は、Apple が何年もかけて壁に隠してきた個人データ (メール、写真、メッセージ、カレンダー) に深くアクセスする必要があります。新しい機能ごとに、企業のプライバシー アーキテクチャがカバーしなければならない領域が拡大します。 WWDCでは、Appleの基調講演者らは、Siriへのユーザーリクエストは非公開のままであり、データは処理後に保存されず、外部の研究者がシステムをテストできるという、同じプライバシーの主張に繰り返し戻ってきた。
ミシガン大学でユーザビリティプライバシーを研究しているフロリアン・シャウブ氏は、アップルが外部の監視に対してオープンであることは歓迎だが、限界があると語る。 「多くの場合、消費者はコードをレビューするための専門知識を持っていません」と彼は言います。しかし、仕様を公開し、研究者や規制当局が自社のシステムをテストできるようにすることで、アップルは「少なくとも自社の主張の外部検証を容易にしている」。
科学ジャーナリズムの支援に対して
この記事を気に入っていただけましたら、受賞歴のあるジャーナリズムをサポートすることをご検討ください。 サブスクリプション。サブスクリプションを購入すると、今日の世界を形作る発見やアイデアに影響を与えるストーリーの未来を確保することができます。
Apple Intelligence を活用した新しい Siri (Siri AI) は、Apple が「システム オーケストレーター」と呼ぶアーキテクチャに依存しています。これは、Spotlight の「セマンティック インデックス」、画面上の情報、アプリ内でアクションを実行するツールの間を流れるデータを調整する層です。 Siri の基礎となるロジックは、Apple ハードウェア用にカスタム構築された、同社が AFM 3 Cloud Pro と呼ぶ最上位のクラウド モデルを含む、新世代の Apple コア モデルに依存しています。 Appleは、リクエストが携帯電話には複雑すぎる場合、Private Cloud Computeがユーザーデータを保持しないサーバー上でリクエストを処理し、外部の研究者がレビューできると述べている。によると ブルームバーグ、 報道によると、これらのモデルのうち最大のものは、Google が Apple に年間約 10 億ドルでライセンス供与した、約 1 兆 2000 億のパラメータを備えた特別バージョンの Gemini から派生したものです。月曜日の基調講演に先立ち、The Informationは、そのクラウド処理の一部がGoogleのデータセンター内のNvidiaチップ上で実行される可能性があると報じた。
Apple幹部は、この展開をGoogleの人工知能スタックやGoogleのモデルインフラストラクチャと区別した。しかし、Apple がこのハイブリッド クラウドの取り決めをプライベート クラウド コンピューティング用に発注している外部テストに公開するまでは、これらのモデルのデータ ルーティングのセキュリティは同社の言葉に大きく依存します。
暗号化は保管中および転送中のデータを保護しますが、Siri のようなアシスタントが与えられたアクセスを悪用することを防ぐことはできません。電子メール、Web ページ、または共有ドキュメントからのテキストは、ユーザーの指示と同じストリームでモデルに到達できます。ソフトウェアにとって、この外部テキストは、たとえユーザーがそのような意図を持たなかったとしても、コマンドとして機能する可能性があります。研究者らはこれを間接注入と呼んでいます。プログラマーのサイモン・ウィリソン氏は、そのリスクを「致命的な三重奏」と表現しています。個人データを読み取り、信頼できないコンテンツを取り込み、情報を渡すことができるアシスタントは、だまされてその個人データを見知らぬ人に渡す可能性があります。 Siri の新機能を備えた電話アシスタントは、これらすべての要素を 1 つにまとめます。
AI エージェントを研究しているノースイースタン大学のセキュリティ研究者であるナタリー シャピラ氏は、「自律型エージェントは、即時注入の攻撃対象領域を大幅に拡大します」と述べています。 「課題は、モデルをいくつかのアプリケーションやサービスに接続する一連の権限と操作です。」
昨年、Aim Security の研究者は、Microsoft 365 Copilot にまさにその穴があることを発見しました。彼らはこれを EchoLeak と呼び、実稼働 AI アシスタントに対するゼロクリック攻撃です。 1 通の電子メールには、受信者が関係のないことを尋ねたときにソフトウェアが実行する指示が埋め込まれていました。盗まれたデータは、ソフトウェア自体がアップロードした画像からこっそり流出しました。クリックするリンクもなく、画面にも何も表示されませんでした。 Microsoft は、誰かがこの脆弱性を使用したことが判明する前に、この脆弱性にパッチを適用しました。 WWDC での Apple の Safari デモは、同じ構造的リスクが Siri を超えてどのように広がるかを示しました。ブラウザは、Wave コーディングを使用してカスタム拡張機能を作成できるようになります。
Appleは、主要なデジタルプラットフォームに対する競争法であるEUのデジタル市場法のため、Siri AIはEUでは発売時にiPhoneやiPadには搭載されないとしている（ただし、EU圏のMacやその他のデバイスでは動作する）。 （中国では、新機能は規制当局の承認を待っている。）Appleは、欧州の法律により、ライバルのAIアシスタントにもユーザーデータへの同様の深いアクセスを与えることが強制されると主張した。同社は、自社のアーキテクチャには競合他社にはないリスクが含まれていると主張しているが、新しいSiriを実際にテストした独立した研究者はいない。アップルはコメントの要請にすぐには応じなかった。
一般公開は年内に予定されている。それが到着すれば、セキュリティ研究者も一般ユーザーも同様に、Apple の段階的なデモを超えた Siri の到達範囲を体験することになるでしょう。
科学のために立ち上がる時が来た
この記事が気に入っていただけましたら、サポートをお願いいたします。 サイエンティフィック・アメリカン 180 年にわたって科学と産業の擁護者としての役割を果たしてきましたが、今はその 2 世紀の歴史の中で最も重大な瞬間かもしれません。
私は サイエンティフィック・アメリカン 私は 12 歳から定期購読者であり、それが私の世界の見方を形作るのに役立っています。 サイアム いつも私を教育し、楽しませてくれて、私たちの広大で美しい宇宙に対する畏敬の念を抱かせてくれます。あなたにもそれが役立つことを願っています。
もしあなたが に登録する サイエンティフィック・アメリカンあなたは、私たちの報道が有意義な研究と発見に焦点を当てていることを保証するために協力してください。米国中の研究所を脅かす決定について報告するリソースがあること。そして、科学そのものの価値があまりにも認識されていない現在、私たちは駆け出しの科学者と現役の科学者の両方をサポートします。
その代わりに重要なニュースを受け取ります。 魅力的なポッドキャスト、素晴らしいインフォグラフィック、 ニュースレターや必須のビデオをお見逃しなく 挑戦的なゲーム、そして科学の世界で最高の執筆とレポート。あなたもできます 誰かに定期購入を勧める
私たちが立ち上がり、なぜ科学が重要なのかを示すことがこれほど重要な時期はありません。このミッションで私たちをサポートしていただければ幸いです。
