企業の世界は現在、AI への野心と現実世界の実行との間に大きなギャップがあることを目の当たりにしています。過去 18 か月の物語は、大きな言語モデルと生成 AI の変革の可能性によって支配されてきましたが、多くの企業にとっての運用上の現実は「概念実証の墓場」です。
組織は多額の投資を行っていますが、多くの場合、期待される投資収益率を実現できません。
Hammer Distribution の AI マネージャー。
これらのプロジェクトが遅れている理由を理解するには、ソフトウェアとユーザー インターフェイス以外にも目を向ける必要があります。ボトルネックは想像力の欠如ではありません。これは、インフラストラクチャ レベルで発生する深刻な基本的な断片化です。
実験の時代から実装の時代に移行するにつれ、業界は AI の「パイプライン」がアプリケーション自体よりもはるかに複雑であることに気づき始めています。
誤ったスタートとパブリック クラウドのパラドックス
多くの組織にとって、パブリック クラウドへの最初の移行は、AI 実験のための論理的で低コストのエントリ ポイントを提供しました。コンピューティング能力のインスタンスを迅速に拡張できるため、即時の資本投資を必要とせずに迅速なプロトタイピングが可能になりました。
ただし、これらのワークロードが小規模なテストから本格的な運用に移行するにつれて、このモデルの制限が財務上および運用上の大きな負担となっています。
パブリック クラウド インフラストラクチャは本質的に短期的には柔軟性がありますが、多くの場合、長期的な財務計画に影響を与える予期せぬコストが発生します。 AI ワークロードが大規模に展開される場合、請求に対する「測定された」アプローチは予算の「ショック」を引き起こし、取締役会がプロジェクトを一時停止したり、場合によってはキャンセルしたりする可能性があります。
さらに、データグラビティの概念が大きな懸念事項になります。これは、データセットが増大するにつれて、転送がますます困難になり、コストが高くなるという考えです。
大規模な独自のデータセットは、事実上ハイパースケーラーのエコシステムにロックされています。クラウドとのデータのやり取りに伴う終了料金や遅延ペナルティを考慮すると、リアルタイム処理はほぼ不可能になります。
これにより、データとコンピューティング能力の間に物理的な分離が生じ、パフォーマンスが低下し、ビジネスでの実際の結果が得られなくなるアーキテクチャ上のボトルネックが発生します。
割り算の 3 つの柱
投資と ROI の間の現在のギャップは、ほとんどの組織が現在内部で対処する準備が整っていない 3 つの特定領域の断片化によってさらに拡大しています。
1. 断片化されたデータと主権の危機 今日の組織は、さまざまな地域、部門、規制管轄区域にわたって収集されたデータを統合することに苦労しています。世界中で常駐性と主権の要件が厳しくなるにつれ、データが実際に存在する場所でモデルをトレーニングおよびデプロイできることが成功の前提条件になります。
私たちはソブリン AI に対する需要に大きな変化が見られます。これは、組織がデータ、知的財産、モデルの物理的な場所に対する絶対的な制御を維持する必要があることを意味します。
このレベルの管理がなければ、企業は規制を遵守しないだけでなく、機密の知的財産が漏洩する可能性があるというリスクを負います。インフラストラクチャが主権をサポートしていない場合、プロジェクトはパイロット段階を終了する前に破滅することがよくあります。
2. 特別なスキルのギャップ 人工知能には、データ サイエンスとシステム アーキテクチャの特別な融合が必要です。これらの環境を管理する一般的な IT チームだけではもはや十分ではありません。 AI の導入を成功させるには、高スループットのストレージ、低遅延のネットワーキング、および GPU を多用する導入に関する専門知識が必要です。
多くの組織は、適切なソフトウェア ツールを持っていますが、スタック全体を最適化するために必要な深い技術知識がありません。これは、非効率で脆弱な「偶発的なアーキテクチャ」と呼ばれるものにつながります。
これらのシステムは最終的に実稼働レベルの AI に必要なスループットをサポートできず、テクノロジーのビジネス ケースを台無しにするパフォーマンスの低下につながります。
3. インフラストラクチャの複雑さと棚レベルでの課題 本番環境に対応した AI 環境を構築することは、もはや個々のハードウェア コンポーネントを購入するだけではありません。それは、複雑なエコシステムを棚レベルで検証することです。
高密度電源管理から液体冷却とマルチノード GPU クラスターの統合に至るまで、AI の物理的要求は膨大です。これらのコンポーネントが断片的な方法で調達および管理されると、アーキテクチャ上の障害のリスクが増加します。
多くのプロジェクトは、制御されたサンドボックス環境からミッションクリティカルな運用環境への重要な移行中に失敗します。基盤となるインフラストラクチャがデータと同じ速度で拡張できないためです。
調達の経済的障壁
概念実証の墓場における重大かつ見落とされがちな要因は、AI の構築方法とその支払い方法の間の経済的な不一致です。従来、エンタープライズ インフラストラクチャには多額の先行投資が必要でした。
AI の急速な発展の中で、2 年以内に交換される可能性のあるハードウェアに数百万ドルを投入することは、多くの CFO が受け入れたがらないリスクです。
対照的に、実験には魅力的に見えるクラウドの運用コスト モデルは、高強度の固定ワークロードに使用すると法外に高価になります。
業界には中道が必要です。これには、経済的な予測可能性とオンプレミス インフラストラクチャの物理的制御に加えて、従来クラウド利用に関連付けられていたキャッシュ フローの柔軟性が必要です。
チャネルが段階的な導入アプローチと、インフラストラクチャのコストと実際のワークロードの導入を一致させる資金調達モデルを提供できるようになるまで、ROI のギャップは依然として大きいままです。
入札を超えて
このギャップを埋めてプロジェクトを墓場から救うには、AI の提供に対する業界のアプローチを進化させる必要があります。企業がここでサーバーを購入し、そこにストレージ アレイを購入するという断片化されたハードウェア調達の従来のモデルでは、現代の AI の需要には不十分です。
私たちは統合されたエコシステムの要求に向かって進んでいます。これは、派手な売り込みから、厳密な技術検証に移行することを意味します。業界には、組織が 1 ポンドの資本を投入する前に、検証済みのスタックで特定のワークロードをテストできる環境が必要です。
これには、ハードウェア ベンダー、専門の AI コンサルタント、インフラストラクチャ インテグレーター間の新たなレベルのコラボレーションが必要です。目標は、投資が完了する前に結果を証明することでプロセスのリスクを軽減することです。
今後の方向性: ユーティリティとしての AI
トレンドとしての人工知能から補助ツールとしての人工知能への移行には、テクノロジー スタックの根本的な再考が必要です。主権、パフォーマンス、経済的予測可能性が、成功を測る 3 つの指標でなければなりません。
AI がその約束を真に果たすためには、ハイパースケーラーがデータセンターの構築を決定した場所ではなく、データ、ポリシー、優先順位が指示する場所で組織がモデルを実行できるようにする必要があります。
これらの基本的なインフラストラクチャの課題に取り組み、より協力的で検証されたエコシステムに移行することで、私たちはついに実験の失敗の時代を乗り越えることができます。そうして初めて、組織に真の価値をもたらす持続可能な ROI 主導の AI の未来を構築することができます。
最適なAIツールを導入しました。
この記事は以下の下で作成されました TechRadar プロの視点今日のテクノロジー業界で最も優秀な人材を紹介するチャンネルです。
ここで表明されている見解は著者の見解であり、必ずしも TechRadarPro または Future plc の見解ではありません。寄付に興味がある場合は、こちらで詳細をご覧ください: https://www.techradar.com/pro/perspectives-how-to-submit
