IntelとPisonはネイティブAIの最大の限界を解決したいと考えている

誰もが自分の PC 上でネイティブ AI を実行したいわけではありません。しかし、もしそうなら、大きな問題があります。ほとんどの高度なモデルは、PC のメモリとストレージの制限に適合することができません。 Pison と Intel は解決策に取り組んでいます。

Phison の aiDAPTIV ソリューションを使用すると、260 億パラメータの AI モデルを、通常必要な 32 GB の RAM と比較して、16 GB の RAM を搭載したラップトップで実行できます。これには 2 つの利点があります。ネイティブ AI をより多くのラップトップに導入できることと、より強力なラップトップでさらに大きなモデルを読み込んだり、AI と一緒に別のタスクを実行できるようになることです。コンピューター上では、AI がシステム リソースを独占し、他の作業が実行できなくなることがあります。これにより、ユーザーは専用の AI コンピューターの購入を余儀なくされる場合があります。

これはシンプルな生産性ソリューションであり、PC 上で大規模な AI モデルを実行したり、ラップトップを他のタスクに解放したりできます。

部屋は終わりました

AI のハードウェア問題の 1 つは、LLM に曲をリクエストするような単純なものであっても、原油価格を監視して予測するためのより複雑な命令セットであっても、トークンを計算する必要があることです。いずれの場合も、トークンはビデオ メモリ内でオンザフライで作成されます。 (Intel は従来、ラップトップの RAM の半分を統合 GPU と Windows に分割していましたが、2025 年 8 月に消費者が割り当てを手動で調整できるようになりました。)

問題は、ユーザーが LLM を使い続けるにつれて、更新だけでなく元の指示が何であったかを覚えていなければならないことです。再計算したり、参照として保存したりできます。問題は、AI 機能が通常、GPU と共有されるビデオ RAM またはシステム RAM で処理されることです。結果？すべてが壊れてしまいます。

RAM は AI 機能が計算される場所であるため、データを「保存」するためにその一部を奪うと、その効率が低下します。

しかし、解決策はあり、おそらくすでにご存知でしょう。 Microsoft Word は PC の CPU 上で実行され、そのために RAM が使用されますが、文書はクラウドまたは SSD に保存されます。 Word が文書を必要とする場合、Windows に文書を SSD から取得するように要求します。パイソンも似たようなことやってますね。

Phison の aiDAPTIV は、高性能で耐久性に優れた NAND フラッシュを AI キャッシュとして使用し、後で使用するために呼び出されるトークンを保存します。 (技術的には、キャッシュにはキーと値 (KV) データが保存されますが、コンテキストの長さとモデルのサイズとともに増加します。) 通常、これによりプロセス全体が遅くなります。 aiDAPTIV が実行しようとしているのは、モデルのニーズを予測し、RAM と SSD の間でデータをインテリジェントに送受信して、パフォーマンスに影響を与えることなく大規模なモデルを実行できるようにすることです。

ペイソン

両社によると、この提携は、OpenVINO ツールキットのサポートを含め、インテル Core Ultra プロセッサーを搭載したインテル AI PC プラットフォーム上で Phison のテクノロジーを実現することに重点を置いているという。 Pison と Intel は協力して、ソフトウェア ベンダー向けのテクノロジーのデモンストレーションに取り組んでおり、最終的にはソフトウェア ベンダーがそのテクノロジーに合わせてアプリケーションを最適化する可能性があります。

もちろん、ユーザーが ChatGPT または Cloud を使用してクラウドではなくローカルで AI を実行したいと想定しています。また、ユーザーはメモリ要件の低減と高速化のために精度を犠牲にする定量的モデルではなく、AI モデルの「フル ファット」バージョンを実行したいと考えていることも想定しています。

私たちは前にもこの道を通ったことがあります…

aiDAPTIV の概念は非常に単純に思えますが、潜在的な落とし穴があります。この共同作業は、高い耐久性と継続的なパフォーマンスを実現するように設計された、Phison の特殊な SSD ドライブの Pascari AI100E ファミリを使用して実行されます。これは、実装を成功させるには、ラップトップ メーカーが特に Pascari の SSD を購入する必要がある可能性があることを示唆しています。本稿執筆時点で、M.2 2280 構成の 1TB Pascari AI100E の価格は Best Buy で 2,516 ドルです。

インテルは過去にもこの道をたどってきました。 3D XPoint メモリをベースとした Optane は、Intel と Micron が共同開発したまったく新しいタイプのメモリで、フラッシュというよりも従来のメモリに近い動作をします。しかし、消費者需要の不足により、Intelは2021年にOptane SSDの生産を停止し、1年後に5億ドル相当の在庫を償却せざるを得なくなった。

四半世紀前、私は Direct Rambus DRAM の発売、遅延、ハニーについても取り上げました。この DRAM では、メモリ メーカーは、特定の種類のコンピュータ メモリに関して Intel と Rambus の間でパートナーシップを結ぶよう求められていました。メモリベンダーは公的には同意したが、非公式にはRambusとそのライセンス要件を否定した。レッスンは？技術的な優位性は別のことですが、単一のベンダーまたはテクノロジーを提供する力を持つことはまったく別のことです。これがどのように発展するか見てみましょう。