Meta発祥のFireworksは、オープンソースとクローズドソースのどちらが勝つのかを議論する。

動画制作者：シリコンバレーベクター
編集者：ペギー、BlockBeats

編集者注：オープンソースモデルがクローズドソースモデルの最先端に急速に近づき、推論価格が下がり続ける中、業界の議論は「最も強力なモデルを持っているのは誰か」から「より低いコストでモデルを本番環境に展開できるのは誰か」へと移行しつつあります。しかし、モデルの機能が収束し、トークン消費量の増加が共通認識となるにつれ、より根本的な疑問が浮上し始めます。企業が本当に支払う意思のあるものは、より安価なモデル呼び出しなのか、それとも特定のタスクを確実に完了できる専用のインテリジェンスなのか？

最近、「シリコンバレー座標」の司会者である曹慶雲氏が、Fireworks AIの共同創業者である陳宇飛氏と対談した。Fireworksは、モデルとエンタープライズアプリケーションの中間に位置し、主に顧客にオープンソースのモデル推論、パフォーマンス最適化、カスタマイズサービスを提供している。陳宇飛氏の見解は、オープンソースがクローズドソースに追いつけるかどうかという単純な議論ではなく、トークンはどこに行き着くのか、企業はなぜ料金を支払うのか、モデルが概念実証から本番環境に移行するために何がまだ不足しているのかといった、より現実的なワークロードに焦点を当てている。

この対話の中で、陳玉飛氏は「オープンソース対クローズドソース」という問題を、より根本的な構造的問題へと分解しました。トークンの増加は収益に結びつくのか？汎用的な機能は垂直的な蓄積に取って代わるのか？低価格モデルは企業の評価を通過できるのか？そして、推論プラットフォームはクラウドベンダーとアプリケーション企業の間でどのように価値を高めることができるのか？

まず、オープンソースモデルの利用規模と商業的価値は乖離しつつあります。かつては、機能の追いつきとコール価格がオープンソースの競争力を示す主な指標でしたが、現在ではFireworksプラットフォームが1日あたり約400～500ギガビットのトークンを処理しており、オープンソースモデルの実際の利用は急速に拡大しています。しかし、無料トラフィック、プロモーション補助金、モデル価格の差などにより、トークン統計は需要を過大評価する可能性があります。顧客は低コストモデルを多用する一方で、最も効果的なクローズドソースモデルに予算の大部分を割り当てる場合もあります。つまり、オープンソースの次の段階は、トラフィックの拡大だけではなく、高付加価値タスクにおいて最先端のモデルに匹敵、あるいは凌駕する能力を証明し、コスト面での優位性を顧客の支払意欲に結びつけることなのです。

第二に、汎用モデルと専門分野別モデルは、異なる方向へと進化し始めています。従来は、最先端モデルのアップグレードによって、それまでに最適化されたモデル群がすぐに陳腐化してしまうことがありました。しかし現在では、法律、医療、プログラミングといった専門分野別アプリケーションにおいて、より詳細な評価、データ、ワークフローが蓄積されつつあり、その最適化目標は最先端ラボのそれとは徐々に乖離しつつあります。汎用モデルは能力の上限を引き上げる必要があり、専門分野別モデルは限られたシナリオ内で安定した結果を出す必要があります。前者はより幅広い問題を解決できる一方、後者はユーザーが「正しさ」をどのように定義するかをより深く理解しています。つまり、専門分野別企業にとっての参入障壁は、カスタマイズされたモデルを持つことだけではなく、業界のニーズを評価システムに継続的に変換し、基本モデルの更新に合わせて繰り返し移行していく能力にあるのです。

第三に、企業におけるAI導入のボトルネックは、モデルの供給から評価能力へと移行しつつあります。従来、企業における概念実証は、試行経験や主観的な判断に頼ることが多かったのですが、AIがコールセンター、法律調査、医療支援といった生産プロセスに導入されるにつれ、「良さそう」というだけでは調達決定を支えるには不十分になってきました。企業は、モデルがどのタスクで有効か、どのような場合に失敗するのか、クローズドソースからオープンソースに切り替える際にコストと品質がどれだけ変化するのかを把握する必要があります。したがって、評価はもはや補助的なツールではなく、調達、トレーニング、そして本番環境への導入を結びつける基盤となっています。タスクを定義し、テスト環境を確立し、標準を継続的に更新できる者が、真にモデル選択をコントロールできるのです。

第四に、推論プラットフォームの価値は、「安価なコンピューティング能力の販売」から、モデル、ハードウェア、ワークフローの整理へと移行しつつあります。従来、推論最適化は主に単一トークンのコスト削減として理解されていましたが、現在では、キャッシング、タスク分割、モデルルーティング、コンテキスト管理によってタスク完了率を直接的に改善できます。異なるモデルはもはや同じポジションを争う必要はなく、それぞれ実行者とアドバイザーとして機能します。Fireworksのビジネスロジックはまさにこの通りです。資産集約型のハードウェアを自社で構築するのではなく、トレーニング、カスタマイズ、継続的な推論を通じて、顧客モデルの実際の使用に収益を結びつけています。しかし、この道における主な競合相手は、単一の新しいクラウド企業ではなく、コンピューティング能力、ソフトウェア、顧客アクセスポイントを同時に制御できる大規模なクラウドベンダーです。

第5に、オープンソースモデルの台頭は必ずしもインフラ需要を弱めるとは限らず、むしろモデル層のプレミアムを圧縮し、推論と計算能力への価値の押し上げにつながる可能性がある。テクノロジー大手による設備投資の継続的な増加は、短期的な収益を計算するだけでなく、AIサイクルに乗り遅れるという長期的なリスクを考慮するためでもある。しかし、外部資金に依存する新規クラウド企業にとっては、負債コスト、プロジェクトの遅延、回収期間がより直接的な制約となるだろう。モデルが安価になったからといって、AIシステムの構築と運用がそれに応じて軽くなるわけではない。

この議論を一つの結論にまとめるとすれば、オープンソースモデルに追いつくことはほんの始まりに過ぎず、AIの商用化の次の段階は、評価、カスタマイズ、推論効率、そして顧客のワークフローを中心に展開されるだろう、ということだ。

以下は原文です（読みやすさと理解しやすさを考慮して編集済み）。

要約

オープンソースモデルはクローズドソースモデルに急速に追いついているが、トークンの増加は収益の増加に直結するわけではなく、企業の予算は依然として最もパフォーマンスの高いモデルを優先している。

蒸留技術は、オープンソースモデルが短期的にその差を縮めるのに役立つに過ぎず、長期的な競争力は依然として、独立したトレーニング、評価データ、人材、そして計算能力に依存している。

・汎用モデルをアップグレードしても、必ずしも垂直統合型モデルが不要になるわけではない。法律や医療などの分野における障壁は、モデルの機能から評価、データ、ワークフローへと移行しつつある。

企業向けAIを概念実証（PoC）から実運用へと移行させる鍵は、モデルの選択肢を増やすことではなく、品質、コスト、および失敗の許容範囲を測定できる評価システムを確立することにある。

推論最適化は、単一トークンのコスト削減から、キャッシング、タスク分割、モデルルーティングへと拡大している。システム設計自体が、複数のモデルの組み合わせが単一の最先端モデルを凌駕することを可能にしている。

カスタマイズされたモデルは、多数の類似顧客を抱える垂直統合型SaaSプラットフォームにより適しています。なぜなら、単一企業は通常、十分なデータ分布と継続的な評価能力を備えていないからです。

Fireworksの競争優位性は、GPUを所有していることではなく、トレーニング、カスタマイズ、そして継続的な推論を連携させている点にある。しかし、真の長期的なライバルは、テクノロジースタック全体を網羅できるクラウド大手企業であることに変わりはない。

オープンソースモデルの普及は、必ずしもハードウェア需要の減少につながるとは限らない。むしろ、モデルレイヤーの価格プレミアムを縮小し、業界の価値をコンピューティング能力、推論インフラ、およびエンタープライズワークフローへと再分配する可能性が高い。

インタビューの要点

オープンソースは今後も追いついていくだろうが、蒸留は長期的な解決策ではない。

Fireworksチームのメンバーは、主にMetaのPyTorchエコシステム出身者で構成されている。オペレーティングシステム、データベース、その他のソフトウェア開発における過去の経験に基づき、チームは価値のあるソフトウェアにはいずれ競争力のあるオープンソースソリューションが登場すると長年信じてきた。より大きなモデルも同様の道を辿る可能性があるが、今回の追いつきは陳宇飛氏が当初予想していたよりも速いペースで進んでいる。

一方では、OpenAIやAnthropicといったクローズドソースモデル企業の年間経常収益は依然として急速に成長している。他方では、中国や米国のオープンソースモデルも急速に性能差を縮め、推論価格を大幅に引き下げている。オープンソースとクローズドソースは、一方が成長すれば他方が必然的に衰退するというゼロサムの関係ではない。

オープンソースモデルの出力をクローズドソースモデルに利用して一部のオープンソースモデルを精製することに関して、陳玉飛氏は、このアプローチは短期的にはモデルを高いレベルに引き上げるのに役立つかもしれないが、長期的に見て信頼できる道筋とはなり得ないと考えている。クローズドソースベンダーは、APIやセキュリティメカニズムを段階的に修正することで、推論プロセスや関連データが抽出される可能性を低減できる。

しかし、オープンソースモデルの進歩は、必ずしも蒸留技術に依存するわけではありません。評価システムが継続的に改善され、データコストが継続的に低下し、十分な人材、GPU、エンジニアリング能力があれば、オープンソースチームは独自に競争力のあるモデルを育成することができます。Metaのような企業は、その計算能力と人材の蓄積により、長期的に見てクローズドソースの最先端モデルとの大きな差を維持する理由はありません。

これは、クローズドソースモデルが市場シェアを失うことを意味するものではない。陳玉飛氏は両者をアップルとアンドロイドに例え、オープンエコシステムはより大規模な利用に対応できる一方、継続的に市場をリードするクローズドソース製品は、安定した経験、ブランド認知度、企業信頼を基盤として、価格感応度の低い高価値顧客を維持できると述べている。

企業の購買行動は保守的になりがちだ。「IBM製品を買ってクビになる人はいない」という格言は、こうした意思決定の心理を的確に表している。顧客が、最先端のクローズドソースモデルを購入するのが最も安全な選択肢だと信じ続ける限り、OpenAIやAnthropicのような企業は一定の優位性を維持できるだろう。短期的な技術的ギャップに比べれば、ユーザーの認識を変えたり、市場参入能力を高めたりすることは、より困難かもしれない。

陳玉飛氏は、クローズドソース型ビジネスモデルの企業の年間経常収益（ARR）は今後も成長を続けると予測しているが、この数字は必ずしも最終的な経済的利益を完全に反映しているとは限らない。例えば、収益の一部はクラウドベンダーと共有する必要があり、ARRの増加が必ずしも会計上の収益や利益の比例的な増加につながるわけではない。クローズドソース型ビジネスモデルの交渉力が低下したかどうかは、関連企業がより詳細な財務情報を開示した後でなければ判断できない。

長期的には、オープンソースはより大規模な利用を実現する可能性がある一方、クローズドソースはより高い利益を得るために需要をコントロールし続けるだろう。両者の商業的な境界を決定づけるのは、モデルの機能だけでなく、ブランド、販売チャネル、顧客の信頼、そして収益分配方法などである。

トークンはオープンソース化に向かっているが、収益は依然としてパフォーマンスに左右される。

陳玉飛氏によると、Fireworksプラットフォームは現在、1日あたり約40兆～50兆トークンを処理しているという。同氏が引用した公開情報に基づくと、この数字はGeminiとOpenAIが公表した企業向けAPIトラフィックを上回っている。

このプラットフォームの主な需要は、プログラミング、ヘルスケア、共同作業、そして詳細な研究分野から生じている。これらの分野の中で、当初はプログラミングとはみなされていなかったタスクが、「プログラミング問題」として再定義されるケースが増えている。

PowerPointやExcelなどのオフィスソフトウェアは典型的な例です。モデルがコードや構造化されたツールを通してこれらのソフトウェアプログラムを操作できる場合、既存のコード生成、ツール呼び出し、強化学習の手法をオフィス環境に適用できます。多くの業界特化型SaaS企業も、業界ツールをモデルが呼び出せる環境にカプセル化し、強化学習を用いてモデルに特定のワークフローを習得させています。

陳玉飛氏は、現在のニーズを大まかにプログラミングと詳細な調査の2種類に分類している。さまざまな業種向けアプリケーションでは、これら2つを組み合わせて、法律、医療、事務作業などのシナリオに特化したエージェントが形成されるだろう。

彼は、非技術系ユーザーを対象としたコラボレーション型オフィス製品に特に期待を寄せている。これまで業界のリソースのほとんどは、数学やプログラミングといった「STEM」分野のニーズに投資されてきたが、スライド作成、文書処理、動画制作など、幅広い知識労働者のニーズは今後さらに急速に拡大していくと予想される。

コンピュータ制御エージェントの開発は、当初の予想よりも遅れている。わずか1年ほど前までは、これらの製品は複雑なAPIを回避し、ユーザーが人間のようにコンピュータと直接対話できると考えられていた。しかし実際には、企業はコスト削減のために、より多くのワークフローをプレーンテキストに移行させている。テキストモデルは安価で、既存のプロセスに組み込みやすい。仮想マシンのコストが低下し、動作環境が改善されるにつれて、コンピュータ制御エージェントの普及はさらに進む可能性があるものの、具体的な最適化の方向性はまだ模索段階にある。

しかし、トークンの増加は必ずしも商業的価値を直接的に表すものではありません。パブリックモデルのルーティングランキングは、無料割り当てやプロモーション活動の影響を受けることが多く、同じ数のトークンでも価格は全く異なる場合があります。低価格モデルによって生成されるトラフィックと、高価な最先端モデルによって生成されるトラフィックは、収益の観点から見ると意味合いが異なります。

陳玉飛氏は、顧客の真の選択を示す指標としては、トークン数よりも収益の方が優れていると考えている。企業が価格に敏感でない場合、予算は依然として最もパフォーマンスの高いモデルに投入される。そのため、Fireworksが顧客のモデルカスタマイズを支援する際、その主な目標は通常、「優れたコスト効率」を実現することではなく、特定のタスクにおいて、既存のクローズドソースモデルと同等、あるいはそれ以上の性能を発揮することにある。

プログラミング市場においても、利用状況と収益の間に乖離が見られる。トークンの消費量は今後も増加していくと予想されるが、一般的に利用されているモデルの価格が下がり続ける場合、価格の低下は利用件数の増加を促すものの、必ずしも市場収益の拡大につながるとは限らない。電力へのアクセスが広く普及したからといって、すべての利益が発電会社に流れるわけではないのと同様に、AI利用の増加だけでは、業界の真の価値がどこにあるのかを直接的に示すことはできない。

近い将来、オープンソースモデルの利用は増加し続ける可能性があるが、それに伴い関連支出も拡大するかどうかは、企業がカスタマイズにリソースを投資する意思があるかどうかにかかっている。より多くの企業がカスタマイズ可能なオープンソースモデルを導入し、特定のタスクにおいてクローズドソースモデルに対抗できるようになれば、トラフィックと収益はさらにオープンソースへと移行するだろう。一方、カスタマイズコスト、失敗率、組織能力が依然として障壁となる場合、高付加価値のニーズの大部分はクローズドソースモデルが担うことになるだろう。

汎用モデルは能力の上限を引き上げる一方、垂直型モデルはタスクの制約を積み重ねる。

新たな最先端モデルが発表されるたびに、市場は新たな疑問を投げかける。企業がデータと資金を投じて微調整したモデルは、すぐにその価値を失ってしまうのだろうか？

陳玉飛氏は、2025年には多くのカスタマイズモデルが新世代の基本モデルに置き換えられたものの、2026年にはその状況は大幅に減少したと述べた。同氏の見解では、これは垂直統合型モデルの商業的価値が徐々に安定しつつあることを示す前向きな兆候である。

その理由は、汎用モデルと特定分野向けアプリケーションが、それぞれ異なる方向で最適化されているからである。最先端の研究機関は、モデルがより複雑な数学的、科学的、そして医薬品開発上の問題を解決できることを証明する必要がある一方、法律や医療などの分野の特定企業は、特定のユーザーニーズ、タスク完了率、引用の正確性、ワークフローの信頼性に焦点を当てている。

「特定の垂直市場向けに優れたエージェントを開発することと、リーマン予想を解決することは、全く異なる2つの課題である。」

法律AI企業であるハーベイを例にとってみましょう。同社の強みは、ベースモデルだけでなく、法律業務の細分化、評価システム、データ処理、製品開発プロセスにもあります。これは医療分野にも当てはまります。医師の業務方法、データソース、精度要件に基づいて、製品ごとに独自の基準を確立する必要があるのです。

これらの評価とデータは、新しいモデルがリリースされたからといって自動的に無効になるわけではありません。ベースモデルがアップグレードされた後、業界特化型企業は、業界全体を再理解する必要なく、既存のトレーニング環境を新しいモデルに移行できます。評価がより詳細になり、データクレンジングプロセスがより成熟するにつれて、業界特化型モデルは、特定のタスクを中心に継続的に蓄積される機能を形成していきます。

理論上、最先端のモデリング企業は、法務市場や医療市場への参入にリソースを集中させ、単一分野で既存製品を凌駕する成果を上げることができるはずだ。しかし、このアプローチは必ずしも企業の事業目標に合致するとは限らない。汎用モデリング企業は幅広い顧客層に対応する必要があり、単一の分野に多額の投資を行うだけでは、目標とする市場規模や企業価値を維持するには不十分かもしれない。

陳玉飛氏は、一般的なモデルを幅広い好みに対応する必要のあるチェーンレストランに例え、垂直統合型モデルは少数の料理に特化するレストランに例えた。後者はすべての問題を解決する必要はなく、対象となるタスクにおいて一般的なソリューションよりも著しく優れていれば、独立した有料空間を確立できる可能性がある。

この不均衡ながらも高度に専門化された能力こそ、彼が「ギザギザ知能」と呼ぶものだ。法律モデルはリーマン予想を解くことはできないかもしれないが、特定の種類の法律業務においては、より大規模で汎用的なモデルを凌駕する能力を発揮できる。企業クライアントにとって、モデルの幅広い能力よりも、業務を確実に遂行できる能力の方が重要な場合が多い。

カスタマイズモデルは、すべての企業に適しているわけではありません。陳玉飛氏は、最も適した顧客は、単一の病院、法律事務所、エンドユーザー企業ではなく、多数の類似機関にサービスを提供する垂直統合型SaaS企業だと考えています。

垂直統合型SaaSプラットフォームは、多数の顧客にリーチし、様々な組織の共通ニーズを理解し、より多くの状況に対応できる評価システムを構築できます。個々の企業は通常、十分なデータ分散と継続的な評価能力を備えていません。モデルを個別にトレーニングするのではなく、内部プロセスをスキル、ツール、またはエージェントとして統合し、外部の基本モデルを呼び出してタスクを完了させる方が効果的です。

カスタム強化学習プロジェクトでは、GPUが主なコスト要因となりますが、データとトレーニング環境も同様に重要です。チームは、報酬ハック（つまり、タスクを実際に完了せずに高得点を得るために評価の脆弱性を悪用すること）がないかを確認するとともに、トレーニングを拡張できる安定したトレーニング環境を確保する必要があります。

初期のトレーニング環境は、必ずしも数十万もの軌跡を網羅する必要はありません。陳玉飛氏は、強化学習を開始するには1000のトレーニング環境で十分であり、モデルはトレーニング中に繰り返し探索を行い、多数の軌跡を生成すると述べています。各トレーニングステップが1つの環境で128回実行されると仮定すると、1000の初期データポイントから約12万8000のトレーニング軌跡を生成できます。

カスタマイズされたモデルは、展開後も「再調整」が必要です。新しいオープンソースのベースモデルがリリースされると、プラットフォームは既存のトレーニングおよび評価システムを新しいモデルに移行できます。評価基準とタスク環境が固定されている限り、移行自体は必ずしも時間がかかるわけではありません。継続的な作業負荷が発生するのは、顧客が新しいシナリオ、ワークフロー、より難易度の高いタスクを追加する場合です。

したがって、垂直統合型企業のコア資産は、特定の世代のモデルの重みではなく、基本モデルの更新に伴って繰り返し移行できるデータ、評価、ワークフローである。

エンタープライズAIが概念実証（PoC）段階にとどまっているのは、モデルが不足しているからではなく、評価が不足しているからだ。

企業がオープンソースモデルとクローズドソースモデルのどちらを選択するかを決定する際、最も重要な考慮事項は性能や価格だけでなく、信頼性も含まれる。

企業向け契約は通常1～2年続くため、購入者はサービスプロバイダーとそのエコシステムが長期的なビジネスニーズに対応できるかどうかを評価する必要があります。オープンソースモデルはより安価で柔軟性が高いかもしれませんが、クローズドソースベンダーはブランドコミュニケーション、成功事例、市場での認知度において依然として優位性を持っています。

陳玉飛氏は、オープンソースモデルとそのサービスプロバイダーの最大の弱点は技術ではなく、市場参入能力にあると考えている。クローズドソースモデルの企業は、新機能のデモンストレーションや研究成果を通じてユーザーの認知度を継続的に高めることができる一方、オープンソースのエコシステムには統一されたマーケティングおよび顧客コミュニケーションシステムが欠けている。

導入方法も変化しています。当初、企業はオンプレミス環境への導入に重点を置いていましたが、現在ではますます多くのワークロードがクラウドに移行しています。サービスプロバイダーがセキュリティや仮想プライベートクラウドなどの分野で信頼を確立できる限り、マルチテナント型クラウドサービスは、企業にとって専用GPUよりも一般的にコスト効率に優れています。

単一の企業では、複数のGPUを高い稼働率で維持することは難しいかもしれないが、プラットフォームを利用すれば、様々な顧客のニーズを集約し、ハードウェアの利用効率を向上させることができる。推論コストが企業の運営費に占める割合が増加するにつれて、共有インフラストラクチャのコストメリットはより顕著になる。

企業が概念実証から実用化へと移行する際の最大の障害の一つは、厳密な評価の欠如である。コールセンターなどの重要な分野にすでにAIを導入している企業でさえ、繰り返し実行可能なテスト基準を確立するのではなく、試行錯誤によってモデルの有効性を判断しているケースが多い。

評価がなければ、企業はオープンソースモデルとクローズドソースモデルを確実に比較することができず、モデルの更新が本当にビジネスの改善につながるかどうかを判断することもできません。そのため、陳玉飛氏は、AI評価システムを設計できる人材は依然として不足していると考えています。信頼性の高い評価システムがあれば、企業はモデルの置き換えをスムーズに進めることができ、初期構築コストをはるかに上回る長期的なコスト削減につながるでしょう。

これは、従来のソフトウェア企業における単体テストと根本的に異なるものではありません。かつてSaaS企業はソフトウェア納品前に一連のテストを実行する必要がありましたが、現在では、垂直統合型AI企業は、エージェントが本番環境に投入される前に、対応する基準を満たしていることを確認するための一連の評価を確立する必要があります。業界の取り組みの焦点は、部分的に「テストの作成」から「評価の作成」へと移行しつつありますが、その核心は依然として、製品の品質を測定可能で累積的な組織能力へと転換することにあります。

サードパーティデータ企業の発展は、企業におけるAI導入状況を観察する指標としても役立つ。顧客が少数の最先端研究所に集中し続けている場合、一般企業が独自にAI機能を構築する余地はまだ限られていることを示している。一方、収益源が徐々に多様化している場合は、より多くの企業がデータを購入し、評価システムを構築し、独自のモデルを訓練し始めていることを意味する可能性がある。

企業が本当に必要としているのは、より多くのモデルではなく、何が正しく、何が間違っているかを定義し、購買決定を支援できる一連の基準である。

推論の最適化は、トークンコストの削減からシステムスケジューリングへと移行する。

Fireworksの主要事業は推論最適化です。陳宇飛氏は、この分野にはまだ大きな改善の余地があると考えています。なぜなら、モデルが最初にリリースされたときの性能は、長期的な最適化後の性能とは大きく異なることが多いからです。

このプラットフォームは、最適化サイクルを短縮し、新しいモデルがデプロイ時に可能な限り最適な状態になるようにすることを目指しています。モデルの実行時間自体に加え、キャッシング、スケジューリング、およびサポートインフラストラクチャも最終的なコストに影響を与えます。多くの最適化には、断片化されたエンジニアリング作業が大量に必要となるため、推論の最適化は労力を要する作業となります。

モデル開発者が提供するファーストパーティAPIと比較して、Fireworksは多数の基本モデルとカスタムモデルを同時に提供できるため、より多様なトラフィックパターンとワークロードを観測できます。モデルベンダーはまず、自社のモデルが幅広いユーザーに安定して提供されることを保証する必要がありますが、サードパーティプラットフォームは、特定のクライアントのリクエスト特性に合わせてより詳細な最適化を実行できます。

モデルルーティングは、コスト削減だけにとどまりません。FireworksとHarveyの共同実験では、システムは1つのモデルをタスク実行者、もう1つのモデルをアドバイザーとして使用し、長いコンテキストタスクを複数の短いサブタスクに分割しました。コンテキストが長くなるにつれて大規模モデルのパフォーマンスが低下する可能性があるため、適切な分業を行うことで、システム全体のパフォーマンスは、最も強力なモデルを単独で使用した場合よりも実際に向上する可能性があります。

陳玉飛氏は、このプロセスをCPUのパフォーマンス最適化に例えた。開発者はプロセッサの特性を理解し、そのプロセッサに適したワークロードにプログラムを分割する必要がある。同様に、AIシステムでは、ベースモデルはテキストプロセッサと見なすことができる。チームはまず、さまざまなモデルの能力の限界を理解し、次にタスクフレームワークを設計し、最後に適切なモデルを適切な位置に配置する必要がある。

ハードウェアの最適化は、GPU、HBM、CPU、ネットワークといった個々の指標だけを見て行うことはできません。モデルは通常、初期トレーニング時に既存ハードウェアの計算能力とメモリ容量の比率を考慮して設計されます。そのため、NVIDIA GPUから同等の性能を持つAMD GPUへのモデル移行は比較的容易ですが、異なるアーキテクチャを持つASICへの移行には相当な作業が必要となる場合があります。

新しいハードウェアの成功は、その仕様がNvidiaの製品と類似しているかどうかだけでなく、供給規模、ソフトウェアのエコシステム、そして開発者がその製品向けにモデルを最適化するよう促す経済的インセンティブの有無にも左右される。たとえハードウェア構成がNvidiaの製品と類似していても、開発者がその製品を利用することで十分な利益を得られなければ、エコシステムを構築することは困難だろう。

結局のところ、推論プラットフォームの最適化とは、モデルの実行速度だけではなく、モデル、タスク、ハードウェア間の適合性に関わるものなのです。

Fireworksはハードウェアを所有していませんが、トレーニングと推論を連携させます。

AIクラウドベンダーがソフトウェア層に進出する動きに対し、Fireworksは現時点で自社ハードウェアの開発やGPUへの大規模投資を計画していない。陳宇飛氏は、同社のビジネスモデルは「大家」に近いと説明している。インフラプロバイダーからコンピューティング能力を取得し、コンピューティングソフトウェア、推論サービス、モデルのカスタマイズに注力するというものだ。

Fireworksと一般的なAIクラウドプラットフォームとの違いは、プラットフォーム上のトラフィックの大部分が、変更されていない基本モデルではなく、カスタムモデルから発生している点にある。陳玉飛氏は、基本モデル推論における競争はますます激化し、顧客により良い結果をもたらすことができる独自のモデルから利益が得られる可能性が高くなると考えている。

Fireworksは、トレーニングと推論を単一のビジネスに統合しています。同社は顧客のモデルトレーニングを支援し、モデル稼働後も推論トラフィックの持続的な成長を目指しています。トレーニング料金やコンサルティング料金のみを請求するサービスプロバイダーと比較して、この収益構造はプラットフォームと顧客双方にとって長期的なメリットをより効果的に実現します。顧客がモデルを通じてより多くの価値を生み出すにつれて、Fireworksは継続的な推論からより多くの収益を得ることができるのです。

強化学習サービスプロバイダーの中には、トレーニングやコンサルティングのみを提供するところもあり、その収益はモデル導入後の有効性とは直接関係しない場合があります。Fireworksのビジネスロジックは、トレーニングを通じてモデルのパフォーマンスを向上させ、その後の推論トラフィックから利益を得るというものです。Fireworksは単発のトレーニングプロジェクトを販売するのではなく、顧客のモデルが継続的に利用されるようにする能力を提供しています。

サプライチェーン全体を網羅できる真の競合相手は、単一の新興クラウド企業ではなく、AWS、Microsoft Azure、Google Cloudといった大手クラウドサービスプロバイダーである。これらの企業は、コンピューティング能力と、強化学習サービス、推論プラットフォーム、開発ツールを構築する能力の両方を備えている。

Fireworksはクラウドプロバイダーと競合する一方で、それらのインフラストラクチャに依存し、連携も図っています。現在、同社はAzureと最も緊密なパートナーシップを築いており、顧客はAzureクレジットを使用してFireworksのサービスを購入できるようになっています。また、AWSやGoogle Cloudとも連携しています。

陳玉飛氏は、Fireworksの現在の推論最適化機能はクラウドベンダーの類似サービスよりも優れているものの、単一ポイントのパフォーマンスが最大の障壁ではないと考えている。より重要なのは、トレーニング、デプロイ、評価から推論まで、機械学習の運用サイクル全体を網羅し、開発者にシームレスな体験を提供している点だ。新興クラウド企業と比較すると、Fireworksはより長いサプライチェーンをカバーしており、クラウド大手と比較すると、専門性と実行速度における優位性を維持する必要がある。

たとえ将来的にAIがカーネル開発、推論、トレーニング後の最適化を自動化できたとしても、顧客ニーズの理解は完全に代替することが難しい作業であり続けるだろう。システムは複雑な数学的問題を解決できるかもしれないが、企業のプロセス、制約、評価基準を何もないところから理解することはできないかもしれない。Fireworksの長期的な価値は、最終的には顧客ニーズをモデル、評価、そして実用的な製品へと変換する能力にかかっている。

オープンソースの圧縮モデルの利点は、依然として計算能力が究極の制約要因であることに起因している。

今後1～2年間、Fireworksにとって最大の課題は依然としてコンピューティング能力の不足だろう。同社が適正価格で十分なコンピューティングリソースを確保できるかどうかが、収益成長を直接的に制限する要因となる。陳玉飛氏はFireworksの現状を「コンピューティング能力の制約を受けている」と総括し、市場全体としても少なくとも今後1年間はこの状態が続くと予測している。

これは、彼がテクノロジー大手のAIへの設備投資について抱く見解にも影響を与えた。市場は通常、GoogleやMetaのような企業が投資収益率に基づいて過剰投資をしているかどうかを判断するが、これらの企業にとって、別のリスクの方が大きいかもしれない。もしAIが最終的に非常に高い収益をもたらし、投資を削減したために今回の競争に敗れた場合、彼らは永久に競争の舞台から姿を消す可能性があるのだ。

したがって、短期的な過剰投資であっても、そのコストは財務諸表への負担と、今後数年間の減価償却費の負担にとどまる可能性があります。長期的なキャッシュフローと資金調達能力を備えた巨大テクノロジー企業にとって、これは通常、存続に関わるリスクではありませんが、重要な技術サイクルを逃すことは、存続に関わるリスクとなり得ます。

新規クラウド企業の場合は状況が異なります。プロジェクトの収益、資金調達コスト、回収期間をより厳密に計算する必要があります。陳玉飛氏は、関連企業の債券格付け、プロジェクト延長、借り換え能力に注目することを推奨しています。今後3～6ヶ月以内に、信用問題により借り入れを継続できなくなり、債務再編が必要になった場合、市場に引き継ぎを希望する資金があるかどうかが、AIインフラストラクチャの資金調達能力を示す重要な指標となるでしょう。

陳玉飛氏は、「オープンソースモデルがクローズドソースモデルに追いつけば、ハードウェア需要は減少する」という市場の見方に懐疑的だ。彼の見解では、オープンソースモデルの性能向上は、主にモデル層のプレミアム価格設定力を弱めることになる。AIへの総支出額が変わらない場合、価値は実際にはコンピューティング能力とインフラストラクチャを提供する企業へと移行する可能性がある。

しかし、AIへの設備投資が最終的に十分な収益をもたらすかどうかは依然として未解決の問題である。コンピューティング能力向上プロジェクトは投資回収に数年かかることが多く、1年後の需給動向を予測することは困難だ。現時点で比較的明確な兆候としては、Fireworks社とその多くの顧客が依然としてさらなるコンピューティング能力を求めていることが挙げられる。

オープンソースモデルとクローズドソースモデルの競争は、モデルのランキングだけで決まるものではありません。能力の差が縮まり続けるにつれ、業界における価値は、タスクを定義し、有効性を検証し、持続可能なコストでモデルを本番環境に展開できるかどうかに大きく左右されるようになるでしょう。