Modular は AI モデルを最適化して作成するツールを構築するために 1 億ドルを確保

AI システムの開発と最適化のためのプラットフォームを作成するスタートアップ Modular は、GV (Google Ventures)、SV Angel、Greylock、Factory の参加を得て、General Catalyst が主導する資金調達ラウンドで 1 億ドルを調達しました。

Modularの調達総額は1億3,000万ドルとなり、その収益は製品拡張、ハードウェアサポート、Mojoプログラミング言語Mojoの拡張に充てられるとCEOのクリス・ラトナー氏は語った。

「当社は高度な専門知識を必要とする非常に技術的な分野で事業を行っているため、この資金をチームの成長支援に活用するつもりです」とラトナー氏はTechCrunchとの電子メールインタビューで語った。 「この資金は主に AI コンピューティングに費やされるのではなく、当社のコア製品の改善と、信じられないほどの顧客の需要を満たすための拡張に使われます。」

元Google社員であるラトナー氏は、2022年にテクノロジー大手のGoogle Brain研究部門でGoogleの元同僚であるティム・デイビス氏とパロアルトに拠点を置くModular社を共同設立した。 ラトナー氏とデイビス氏は、AI が過度に複雑で断片化した技術インフラストラクチャによって妨げられていると感じ、大規模な AI システムの構築と保守の複雑さを取り除くことに重点を置いて Modular を設立しました。

Modular は、コスト削減を実現しながら、CPU (そして今年後半からは GPU) での AI モデルの推論パフォーマンスの向上を図るエンジンを提供します。 既存のクラウド環境、Google の TensorFlow や Meta の PyTorch などの機械学習フレームワーク、さらには他の AI アクセラレータ エンジンと互換性がある Modular のエンジンは現在クローズド プレビュー段階にあり、開発者はトレーニング済みモデルをインポートし、ネイティブ フレームワークと比較して最大 7.5 倍高速に実行できます。請求。

Modular のもう 1 つの主力製品である Mojo は、Python の使いやすさと、キャッシュ、適応型コンパイル技術、メタプログラミングなどの機能を組み合わせることを目的としたプログラミング言語です。 現在、「何百人」の早期採用者向けにプレビュー版が提供されていますが、Modular は来月初めに Mojo を一般公開する予定です。

「当社の開発者プラットフォームにより、当社の顧客および世界中の開発者は AI テクノロジー スタックをデフラグできるようになり、より多くのイノベーションをより迅速に実稼働環境に押し込み、AI への投資からより多くの価値を実現できるようになります」と Lattner 氏は述べています。 「私たちは、AI ソフトウェアと AI ハードウェアが出会うところから始めて、AI スタックを悩ませている断片化の問題を解決することで、今日の AI 開発を遅らせている複雑さに取り組んでいます。」

それほど野心的ですか？ 多分。 しかし、従業員約 70 名の Modular が提案していることはどれも可能性の範囲外ではありません。

Intel の支援を受ける Deci は、トレーニングされた AI モデルをより効率的でパフォーマンスの高いものにする技術を提供する新興企業の 1 つです。 このカテゴリに属する​​もう 1 つのサービスは、さまざまなハードウェアのモデルを自動的に最適化、ベンチマーク、パッケージ化する OctoML です。

いずれにせよ、ラトナー氏の指摘によれば、AI の需要は持続可能性の限界に急速に近づいており、コンピューティング要件を削減するテクノロジーが非常に望まれています。 ウォール ストリート ジャーナルの最近の記事で指摘されているように、今日流行している生成 AI モデルは古い AI モデルよりも 10 ～ 100 倍大きく、パブリック クラウド インフラストラクチャの多くはこれらのシステムを実行するために構築されていません。このスケール。

すでに影響が出ています。 MicrosoftはAIの実行に必要なサーバーハードウェア不足に直面しており、サービス中断につながる可能性があると同社は決算報告で警告した。 一方、AI 推論ハードウェア (主に GPU) に対する需要は非常に高く、GPU プロバイダーである Nvidia の時価総額は 1 兆ドルに達しています。 しかし、Nvidia は自らの成功の犠牲者となっています。 同社の最高性能のAIチップは2024年まで売り切れると伝えられている。

S&P Globalの2023年の世論調査によると、これらの理由などにより、トップ企業のAI意思決定者の半数以上が、最新のAIツールの導入に障壁に直面していると報告している。

「今日の AI プログラムに必要な計算能力は膨大であり、現在のモデルでは持続不可能です」とラトナー氏は述べています。 「需要を満たすのに十分なコンピューティング能力がない状況がすでに発生しています。 コストは高騰しており、この種のソリューションを構築するためのリソースを持っているのは、大手で強力なテクノロジー企業だけです。 モジュラーはこの問題を解決し、あらゆる企業にとってはるかに手頃な価格で持続可能でアクセスしやすい方法で AI 製品とサービスを活用できるようになります。」