IEEE、大規模言語モデルに関する仮想トレーニング コースを開始

大規模な言語モデルが研究室からエンジニアの日常のワークフローに移行しました。 LLM は、ソース コードの脆弱性を特定したり、断片化されたプロジェクトの議論を厳密な技術仕様に変換したりするなど、複雑なタスクを調整できる思考エンジンとして機能します。

一般の人は AI ツールを使用して電子メールを作成し、休暇を計画しますが、技術専門家は、デジタル インフラストラクチャの構築および維持方法を根本的に変える主要なアーキテクチャ要素として LLM を使用します。 AI モデルが主流のエンジニアリング実践に移行するにつれ、技術的な専門知識に対する需要が高まります。

MarketsandMarkets によると、LLM テクノロジー市場は 2030 年まで毎年約 33% 成長すると予想されています。この急速な拡大は、モデルの実装とセキュリティのスキルがニッチなものから技術者の中心的な要件に移行していることを示しています。

LLM を効果的に使用するには、技術専門家がチャットボットとして扱われることから脱却する必要があります。基本レベルでは、AI システムは、固定された順序でデータを処理する古い方法に代わるフレームワークである Transformers アーキテクチャに基づいて構築されています。情報を一度に 1 ステップずつ分析する以前のモデルとは異なり、Transformers はセルフアテンション メカニズムを使用して、膨大なデータ セットを同時に同化します。

技術専門家にとって、LLM はデジタル インフラストラクチャの構築と維持の方法を根本的に変える重要なアーキテクチャ要素です。

内部ロジックを理解せずにそのような LLM に依存すると、重大な信頼性リスクが生じます。一貫して機能するツールを構築するには、開発者は、モデルがどのように情報を処理し、結果を生成するかを制御する中心原則を理解する必要があります。モデルが情報を処理する方法とその内部設定が結果にどのように影響するかを制御することで、開発者は試行錯誤のアプローチから、AI ツールが複雑なデータを確実に処理するためのより正確なアプローチに移行できます。

LLM を学んで仕事を変える 4 つの方法

以下は、大規模な言語モデルを組み込んだドメインです。

基本的なガイドラインを超えています。 開発者は、アプリケーション プログラム インターフェイス (API) を使用して、LLM をデータベースやソフトウェア ツールに直接接続します。 API を使用すると、人工知能がコードの実行や内部リポジトリの検索などの作業を実行できるようになります。

「幻覚」の問題を修正します。 LLM には、正しいように見えても実際には間違っているか壊れている、生成された事実またはコードである幻覚が発生する危険があります。この問題を解決するために、検索拡張生成 (RAG) は、人工知能に企業のデータベースなどの信頼できるソースで情報を検索させるようにします。

情報セキュリティを最優先します。 AI を独自のコードで使用する場合、セキュリティが大きな懸念事項になります。エンジニアは、企業の機密データが安全なクラウド環境内に留まり、公開バージョンのトレーニングに使用されないように、モデルの「プライベート」インスタンスを設定する方法を学ぶ必要があります。

協力の未来。 LLM を使用すると、反復的なコーディング タスクを自動化し、数千ページに及ぶドキュメントを要約することで、エンジニアは高レベルの設計や重要な問題の解決により多くの時間を費やすことができます。

オンラインコースプログラムはテクノロジーの習得に役立ちます

人工知能を使用する人と、人工知能を使って構築する方法を理解している人との間のギャップは拡大しています。技術専門家が進歩できるよう、IEEE は 5 部構成のオンライン プログラム「Large Language Models Demystified」を提供しており、IEEE Learning Network を通じて利用できます。

IEEE Educational activity が IEEE Computer Society と協力して開発したこのプログラムは、テクノロジーの背後にある「どのように」と「なぜ」を理解したい人々を対象に設計されています。カリキュラムでは、単に基本的な指導を行うだけでなく、次のような生成 AI の背後にあるエンジニアリングについて深く掘り下げます。

• 進化、影響、実践的な演習: モデルの実際的な最適化を含む、統計的手法から最新のトランスフォーマーへの移行。
• 変圧器のアーキテクチャを理解する: セルフ アテンションとロケーション コーディングの数学的コア。NumPy と Python で実装されています。
• アーキテクチャの分析と実装: 実践的なモデル構築演習を備えた高度な LLM 設計。
• PyTorch を使用したトレーニングとモデリング: PyTorch のエンドツーエンド パイプライン。低次の連結やマッチングなどのパラメーター効率の高い手法を活用します。
• 最適化、調整、展開: パフォーマンス スケーリング、ヒューマン フィードバックからの強化学習 (RLHF)、グループ相対ポリシーの最適化、RAG、エージェント AI。

プログラムを完了すると、参加者は専門能力を証明するための専門能力開発クレジットと IEEE からのデジタル バッジを獲得します。

IEEE Learning Network コース プログラムに登録します。

LLM 研究に取り組むスタッフの準備に関心のある組織は、IEEE コンテンツの専門家と連絡をとり、コホート登録やカスタマイズされたトレーニング経路について話し合うことができます。