エンタープライズにおける VMware、Nvidia チーム

Jul 31, 2023

マリア・コロロフ

寄稿者、Network World |

現在、生成 AI を導入しようとしている企業は大きな問題を抱えています。 OpenAI のような商用プラットフォームを使用する場合は、データをクラウドに送信する必要がありますが、これはコンプライアンス要件に違反する可能性があり、費用もかかります。 Llama 2 のようなモデルをローカルにダウンロードして実行する場合、モデルを微調整する方法、ライブ データをフィードするためのベクトル データベースをセットアップする方法、運用する方法について多くのことを知っておく必要があります。

VMware と Nvidia との新しいパートナーシップは、企業がオンプレミス、コロケーション施設、またはプライベート クラウドで実行できる、完全に統合されたすぐに使用できる生成 AI プラットフォームを提供することで、これらの問題を解決することを目的としています。 このプラットフォームには、Llama 2 またはその他の大規模な言語モデルの選択、および最新の企業情報を LLM に供給するためのベクトル データベースが含まれます。

この製品である VMware Private AI Foundation with Nvidia は、Nvidia の生成 AI ソフトウェアとアクセラレーション コンピューティングを特徴とし、VMware Cloud Foundation 上に構築され、AI 向けに最適化されます。

このようなプラットフォームの必要性は劇的です。 Lucidworks が今月発表した世界的な生成 AI ベンチマーク調査によると、AI の意思決定プロセスに関与している経営幹部やマネージャーの 96% が生成 AI への投資を積極的に優先しており、企業の 93% が来年 AI への支出を増やす計画を立てています。

しかし、リスク管理は重大な懸念事項です。 最近の KPMG 調査では、CEO の 77% が、不確実かつ進化する規制状況が生成 AI への投資決定に大きな影響を与えていると述べています。 KPMGの報告によると、ここ数カ月で効果的なリスク管理の優先順位が全体的に高まっており、個人データの保護とプライバシーへの懸念が優先順位のトップで63％、次いでサイバーセキュリティが62％となっている。

大規模な言語モデルをオンプレミスまたは他の企業が管理する環境内で実行すると、これらの懸念の多くを大幅に軽減できます。

「モデルをローカルで実行するオプションがあれば、たとえ仮想パブリック クラウドでホストされていたとしても、パブリックにホストされたモデルの使用が禁止されていた企業に多くの扉が開かれる可能性があります」と、AI プラットフォーム、分析、および分析のチーフ アナリストである Bradley Shimmin 氏は述べています。調査会社オムディアのデータ管理。

これは、金融などの厳しく規制されているセクターや政府のユースケースにとって特に重要である、と彼は言います。 ローカル LLM は、データの常駐に関する問題にも対処できます。

「エアギャップシステムで完全に実行できる最先端のモデルを用意できることは、非常に魅力的です」と Shimmin 氏は言います。 「重要なのはモデルをデータに反映させることです。データグラビティが業界全体を推進しています。」

ローカルで実行されるモデルも無料でオープンソースであれば、企業は OpenAI API 呼び出しに料金を支払う必要がなくなり、かなりの費用を節約できることになります。 IBM Consulting の AI および分析のグローバル リーダー、Manish Goyal 氏は次のように述べています。

VMware の新しい製品は、その波に乗る立場にあります。

そして、今週開催される VMware Explore 2023 カンファレンスでは、Nvidia と VMware が、企業が自社のツールを使用して無料のオープンソース LLM をダウンロードし、カスタマイズし、本番グレードの生成 AI を VMware 環境に導入する方法をデモンストレーションします。

キャッチ？ VMware Private AI Foundation は来年初めまで利用可能になりません。

VMware の vSphere およびクラウド プラットフォーム製品管理担当バイスプレジデントである Paul Turner 氏は、「企業はデータをパブリック クラウド サービスに移行するのではなく、より多くの AI ワークロードを自社のデータに組み込むようになるだろうと考えています」と述べています。

企業はMetaのLlama 2のようなモデルを採用し、そのモデルをデータセンターのデータの隣に配置し、最適化および微調整して、新しいビジネス製品を作成できると同氏は言う。 「企業にとってビジネスの差別化要因を構築するのに役立ちます。」