新しい Microsoft パートナーシップにより生成 AI 開発が加速

Jul 28, 2023

7 月 11 ～ 12 日にサンフランシスコで経営トップに会い、リーダーたちが成功に向けて AI 投資をどのように統合し、最適化しているかを聞きましょう。 もっと詳しく知る

今年の人工知能 (AI) における最もホットなトレンドの 1 つは、人気の生成 AI モデルの出現です。 DALL-E や Stable Diffusion などのテクノロジーにより、新興企業やユースケースの数が増えています。

生成 AI は、トランスフォーマー モデルの使用を含む、多くの基礎テクノロジーに基づいて構築されています。 生成 AI やその他のユースケースでトランスフォーマーを使用すると、システムがモデルの結果を予測して構築する推論側でリソースが大量に消費される可能性があります。

変圧器モデルの AI 推論を加速するためのテクノロジーを構築しているベンダーの 1 つとして、スタートアップの d-Matrix があります。同社は、AI アクセラレーター ハードウェア テクノロジーの構築を支援するために、4 月のシリーズ A ラウンドで 4,400 万ドルを調達しました。 同社はまだ一般には公開されていないデジタル インメモリ コンピューティング (DIMC) テクノロジを開発しましたが、すでに Microsoft の注目を集めています。

Microsoft と d-Matrix は本日、Microsoft Project Bonsai 強化学習が d-Matrix DIMC テクノロジでサポートされることを発表しました。両ベンダーは、これにより AI 推論が大幅に高速化されることを期待しています。

トランスフォーム 2023

7 月 11 ～ 12 日にサンフランシスコで開催されるイベントにご参加ください。そこでは、経営陣が AI 投資をどのように統合して最適化して成功に導き、よくある落とし穴を回避したかを共有します。

「Project Bonsai は、私たちのバージョンの深層強化学習を可能にするプラットフォームであり、私たちはそれを機械学習と呼んでいます」と Microsoft の主任応用 AI エンジニアである Kingsuk Maitra 氏は VentureBeat に語った。 「私たちは、d-Matrix の比類のないデジタル インメモリ コンピューティング テクノロジ向けにコンパイラをトレーニングしました。初期の結果は非常に心強いものです。」

Project Bonsai はここ数年間 Microsoft で開発されており、現在プレビューとして利用可能です。

Maitra 氏は、この取り組みの目標は、深層強化学習ネットワークに関連する複雑さを抽象化することであると述べました。 Project Bonsai の最初のターゲットは、チップの設計と製造を含む産業用制御です。 このテクノロジーの一部は、Microsoft Project Bonsai で開発された Inkling と呼ばれる高級言語を使用してモデルをトレーニングし、制御タスクを実行する深部強化エージェントをトレーニングする機能です。

深層強化学習にはラベル付きデータは必要ないとマイトラ氏は説明した。 むしろ、基本的に環境からのフィードバックによって学習し、シミュレーターでエミュレートできます。 トレーニング ループの最後には、Microsoft が「頭脳」と呼ぶ、トレーニングされた強化学習 (RL) エージェントが生成されます。 脳が展開されると、目の前のタスクを完了するために意味のある行動を起こすことができます。

「私たちはアクティブな現実のワークロードを実行し、それらの現実のワークロードと比較してコンパイラーをトレーニングしています。そのほとんどは、さまざまな Bonsai ブレインを備えたよく知られた大規模な言語モデルを使用しています」と Maitra 氏は述べています。

現在、d-Matrix には一般に公開されているチップはありませんが、コードネーム「Corsair」と呼ばれる最初のチップは 2023 年にデビューする予定です。

「私たちは変圧器用の高速コンピューティング プラットフォームを構築しており、特に生成 AI に重点を置いています」と d-Matrix の共同創設者兼 CTO である Sudeep Bhoja 氏は VentureBeat に語った。

Bhoja 氏は、d-Matrix が開発しているチップは非常にモジュール的な方法で構築でき、CPU と一緒にパッケージ化することも、クラウド上のサーバーに接続する PCI カードに統合することもできると説明しました。 d-Matrix テクノロジーは、高性能と低遅延を実現する DIMC テクノロジーにより、AI 推論の高速化を支援するように設計されています。

Microsoft の Project Bonsai により、d-Matrix は自社シリコン用の深層強化学習ツールを構築できるコンパイラを備えました。 d-Matrix の主要な最終目標は、生成 AI モデルの継続的な成長と展開のサポートを支援することです。

「私たちは（生成 AI モデルを）有効にしたいと考えています。これには多くの処理能力が必要で、レイテンシの制約があり、ユーザー対応であるためです」と Bhoja 氏は述べています。 「データセンターがより多くの電力を供給する必要がないように、非常にエネルギー効率の高い方法でそれを行うことができなければなりません…」

VentureBeat の使命は、技術的な意思決定者が変革をもたらすエンタープライズ テクノロジーと取引に関する知識を獲得するためのデジタル タウン スクエアとなる予定です。 ブリーフィングをご覧ください。