企業テクノロジーのリーダーにとって、ヨーロッパの AI ルールをめぐる現在の議論は、一見単純に聞こえるかもしれません。規制当局がリスクの高い AI 要件の一部を抑制したり、コンプライアンスの負担を一部軽減したりすれば、レポートの層が減り、概念実証と運用の間のハードルが減り、導入がより簡単になるように見えるかもしれません。
しかし、ことはそれほど単純ではありません。
LikelyAI のソリューションリーダー。
高リスクの AI 使用に対する可視性が弱くなったり遅れたりしても、リスクは消えません。それは下流の、実際にシステムを導入する組織に移ります。
ブリュッセルの実施に関する方向性は、これを特に明確にしている。机上の規制の柔軟性は、実際には責任の軽減にはつながらない。企業は依然として AI の動作に対して責任を負っています。
ほとんどの組織は AI ツールを単独で導入するわけではないため、これは重要です。彼らは、顧客とのコミュニケーション、運用ワークフロー、コンプライアンステスト、文書処理、請求プロセス、社内意思決定サポートなどでこれを使用します。そこでは、出力が現実の結果をもたらし、「モデルが間違っていた」ということが擁護可能な答えではありません。
取締役会、リスクチーム、運用責任者は、システムがなぜこの出力を生成したのか、何がこの決定を形作ったのか、不確実性がある場合はどうなるのか、事後にそのロジックをテストできるのかなど、同じ基本的な質問に対する回答が必要になります。
負担はコンプライアンスの事務処理から運用の証明へと移ります
これまでの想定では、規制によって企業は「責任ある AI」がどのようなものであるかを正確に知ることができました。実際、多くのテクノロジー リーダーは、コンプライアンスは問題の一部にすぎないと認識しています。より困難な課題は、人工知能システムが、ミスが重大な結果をもたらす作業プロセスで使用できるだけの信頼性があることを証明することです。
現在企業環境に導入されている AI のほとんどは、大規模言語モデル (LLM) に基づいて構築されています。これらのシステムは強力ですが、設計上は確率論的です。ルールに縛られ透過的に問題を考えるのではなく、データ内のパターンに基づいて次に可能性の高い出力を生成します。
このため、曖昧さの定式化、要約、処理には役立ちますが、意思決定に一貫性があり、追跡可能で、事後に簡単に正当化できる必要がある作業プロセスにはあまり適していません。
これが、「関与者」の防御が一見よりも弱いことが多い理由です。人間の監査人が、どのようにして答えに到達したかを説明できないブラック ボックス モデルからのチェック出力を感知することを単に求められた場合、組織は信頼の問題を解決したことにはなりません。
信頼性の低いプロセスを手動で停止するだけです。これにより、短期的には法的リスクが軽減される可能性がありますが、生産性、説明責任、信頼は向上しません。また、AI 出力を人間が監視すると自動化の目的が損なわれるため、拡張性も低くなります。
実際には、これは、CIO、CTO、AI マネージャーが、モデルがデモで印象的に見えるかどうかではなく、本番環境でのテストに耐えられるかどうかについて考える必要があることを意味します。
企業バイヤーが代わりに優先すべきこと
調達や導入を決定する際には 4 つの質問があり、その答えは確率論的思考と決定論的思考を組み合わせたアーキテクチャ、つまり専門家がニューロシンボリック AI と呼ぶものを指すことが増えています。
まず、システムは、専門家でないレビュー担当者が理解できる方法で、どのようにして答えに到達したかを説明できるでしょうか?合理的な要約を作成するだけでなく、結果を形成したロジック、ルール、または制約を明らかにします。
第二に、彼はどのような場合に答えるべきではないかを知っていますか?一か八かの状況では、有用な AI システムは常に流動的に応答するものではありません。曖昧さを検出し、信頼度が低すぎる場合には、拒否、エスカレーション、または「わからない」と言うことができます。 LLM は、たとえ答えが分からない場合でも応答するように調整されているため、これを行うことはほとんどありません。
第三に、事後監査は可能でしょうか。規制当局、顧客、または社内の審査担当者がなぜその決定が下されたのか疑問を抱いた場合、チームには自信の声明や一般的な免責事項以上のものが必要です。彼らには道が必要なのです。
第 4 に、アーキテクチャは解決される問題の種類に適していますか?ここで、神経記号 AI が直接関係します。ニューラル システム (LLM) は、パターン認識と言語の柔軟性に優れています。シンボリック システムは、ルール、制約、一貫性、監査可能性の点で優れています。
スプレッドシートが数式の結果を計算するとき、別の答えを想像していたかどうかを再確認する人は誰もいません。これは、規制されたワークフローにおいて組織が AI に必要とする標準です。
ニューロシンボリック AI は、言語を解釈して情報を抽出する神経能力を使用し、結果を判断して説明するために記号的推論を適用することで、両方を組み合わせます。ロイズ銀行グループを含む組織は、すでに規制された環境でこれらのアプローチを試しています。
組織の本当のリスクは規制ではなく、不透明な成果物である
業界は長年にわたり、透明性を、システムが構築された後に、開示、警告、コンプライアンス ダッシュボードなどを通じて追加できるものとして扱う傾向がありました。企業展開の現実を見ると、このアプローチの限界が明らかになります。システムが設計によって密閉されている場合、いくら事務処理を行っても、システムを真に信頼できるものにすることはできません。
だからこそ、ヨーロッパでの現在の議論はビジネステクノロジーのリーダーにとって重要なものであるはずです。政策立案者がより多くの時間を与えたり、特定の正式な要件を緩和したりしたとしても、基本的な責任は消えません。
パイロットから実稼働へ最も効果的に移行する組織は、コンプライアンスに対して最も寛容な見方をする組織ではありません。彼らは、最初から厳しい監視に耐えられるアーキテクチャ、制御、運用モデルを選択することになります。
透明性義務が弱まった場合、組織は責任を逃れるのではなく、責任を吸収します。問題は、導入したシステムがこのテストに耐えられるかどうかです。
ビジネスに最適なAIチャットボットを導入しました。
この記事は年に作成されました TechRadar プロの視点今日のテクノロジー業界で最も優秀な人材を紹介するチャンネルです。
ここで表明されている見解は著者の見解であり、必ずしも TechRadarPro または Future plc の見解ではありません。寄付に興味がある場合は、こちらで詳細をご覧ください: https://www.techradar.com/pro/perspectives-how-to-submit
