Fireworks, một dự án khởi nguồn từ Meta, bàn luận về mã nguồn mở so với mã nguồn đóng: ai sẽ thắng?

Người tạo video: Silicon Valley Vector
Biên tập bởi: Peggy, BlockBeats

Ghi chú của biên tập viên: Với các mô hình mã nguồn mở đang nhanh chóng tiếp cận trình độ tiên tiến của các mô hình mã nguồn đóng và giá thành suy luận tiếp tục giảm, các cuộc thảo luận trong ngành đang chuyển từ "ai có mô hình mạnh nhất" sang "ai có thể triển khai mô hình vào sản xuất với chi phí thấp hơn". Tuy nhiên, khi khả năng của các mô hình hội tụ và việc tiêu thụ token tăng lên trở thành sự đồng thuận, một câu hỏi cơ bản hơn bắt đầu xuất hiện: Các doanh nghiệp thực sự sẵn sàng trả tiền cho điều gì - các dự đoán mô hình rẻ hơn, hay trí tuệ chuyên dụng có khả năng hoàn thành các nhiệm vụ cụ thể một cách đáng tin cậy?

Mới đây, Cao Qingyun, người dẫn chương trình "Silicon Valley Coordinates", đã có cuộc trò chuyện với Chen Yufei, đồng sáng lập của Fireworks AI. Fireworks, hoạt động ở vị trí trung gian giữa mô hình và ứng dụng doanh nghiệp, chủ yếu cung cấp cho khách hàng các dịch vụ suy luận mô hình mã nguồn mở, tối ưu hóa hiệu suất và tùy chỉnh. Thay vì chỉ đơn thuần thảo luận về việc liệu mã nguồn mở có thể bắt kịp mã nguồn đóng hay không, những quan sát của Chen Yufei gần gũi hơn với các khối lượng công việc thực tế: token được sử dụng ở đâu, tại sao doanh nghiệp phải trả tiền, và điều gì vẫn còn thiếu để các mô hình có thể chuyển từ giai đoạn chứng minh khái niệm sang giai đoạn sản xuất?

Trong cuộc đối thoại này, Chen Yufei đã phân tích câu hỏi "mã nguồn mở so với mã nguồn đóng" thành một loạt các câu hỏi cấu trúc cơ bản hơn: Liệu sự tăng trưởng của token có thể chuyển đổi thành doanh thu? Liệu các khả năng tổng quát có thể thay thế sự tích lũy theo chiều dọc? Liệu các mô hình giá thấp có thể vượt qua được quá trình đánh giá của doanh nghiệp? Và làm thế nào các nền tảng suy luận có thể tạo ra giá trị giữa các nhà cung cấp dịch vụ đám mây và các công ty ứng dụng?

Thứ nhất, quy mô sử dụng và giá trị thương mại của các mô hình mã nguồn mở đang có sự khác biệt. Trước đây, khả năng bắt kịp và giá cước gọi là những chỉ số chính đánh giá tính cạnh tranh của mã nguồn mở; ngày nay, nền tảng Fireworks xử lý khoảng 400-500 gigabit token mỗi ngày, và việc sử dụng thực tế các mô hình mã nguồn mở đã mở rộng nhanh chóng. Tuy nhiên, lưu lượng truy cập miễn phí, trợ cấp khuyến mãi và sự khác biệt về giá giữa các mô hình có thể khiến số liệu thống kê về token đánh giá quá cao một số nhu cầu. Khách hàng có thể sử dụng rộng rãi các mô hình chi phí thấp nhưng vẫn phân bổ ngân sách cao nhất cho các mô hình mã nguồn đóng hiệu quả nhất. Điều này có nghĩa là giai đoạn tiếp theo của mã nguồn mở không chỉ đơn thuần là mở rộng lưu lượng truy cập, mà là chứng minh khả năng đạt được hoặc thậm chí vượt qua các mô hình tiên tiến nhất trong các tác vụ có giá trị cao và chuyển đổi lợi thế về chi phí thành sự sẵn lòng chi trả.

Thứ hai, các mô hình đa năng và mô hình chuyên ngành đang bắt đầu phát triển theo những hướng khác nhau. Trước đây, mỗi lần nâng cấp một mô hình tiên tiến có thể trực tiếp làm cho một loạt các mô hình đã được tinh chỉnh trở nên lỗi thời; hiện nay, các ứng dụng chuyên ngành như luật, chăm sóc sức khỏe và lập trình đang tích lũy nhiều đánh giá, dữ liệu và quy trình làm việc chi tiết hơn, và mục tiêu tối ưu hóa của chúng đang dần khác biệt so với các phòng thí nghiệm tiên tiến. Các mô hình đa năng cần nâng cao khả năng của mình, trong khi các mô hình chuyên ngành cần cung cấp kết quả ổn định trong các kịch bản hạn chế. Mô hình đa năng có thể giải quyết nhiều vấn đề hơn, trong khi mô hình chuyên ngành hiểu rõ hơn cách người dùng định nghĩa "tính chính xác". Điều này có nghĩa là rào cản gia nhập đối với các công ty chuyên ngành không chỉ là việc sở hữu một mô hình tùy chỉnh, mà còn là khả năng liên tục chuyển đổi nhu cầu của ngành thành các hệ thống đánh giá và liên tục di chuyển chúng khi mô hình cơ bản được cập nhật.

Thứ ba, nút thắt cổ chai trong việc triển khai AI doanh nghiệp đang chuyển từ nguồn cung cấp mô hình sang khả năng đánh giá. Trước đây, việc chứng minh tính khả thi của mô hình trong doanh nghiệp thường dựa vào kinh nghiệm thử nghiệm và đánh giá chủ quan; giờ đây, khi AI được đưa vào các quy trình sản xuất như trung tâm cuộc gọi, nghiên cứu pháp lý và hỗ trợ y tế, việc chỉ dựa vào "trông có vẻ tốt" không còn đủ để hỗ trợ các quyết định mua sắm. Doanh nghiệp cần biết mô hình hoạt động hiệu quả trong những nhiệm vụ nào, khi nào nó thất bại và chi phí cũng như chất lượng sẽ thay đổi như thế nào khi chuyển từ mã nguồn đóng sang mã nguồn mở. Do đó, đánh giá không còn là một công cụ phụ trợ, mà là cơ sở hạ tầng kết nối việc mua sắm, đào tạo và triển khai sản xuất. Bất cứ ai có thể xác định các nhiệm vụ, thiết lập các bản phân phối thử nghiệm và liên tục cập nhật các tiêu chuẩn đều thực sự kiểm soát việc lựa chọn mô hình.

Thứ tư, giá trị của các nền tảng suy luận đang chuyển từ "bán sức mạnh tính toán giá rẻ" sang việc tổ chức các mô hình, phần cứng và quy trình làm việc. Trước đây, tối ưu hóa suy luận chủ yếu được hiểu là giảm chi phí của một token duy nhất; giờ đây, bộ nhớ đệm, phân chia tác vụ, định tuyến mô hình và quản lý ngữ cảnh có thể trực tiếp thay đổi tỷ lệ hoàn thành tác vụ. Các mô hình khác nhau không còn cần phải cạnh tranh cho cùng một vị trí mà có thể hoạt động như người thực thi và cố vấn tương ứng. Do đó, logic kinh doanh của Fireworks vẫn đúng: thay vì xây dựng phần cứng nặng nề về tài sản của riêng mình, họ gắn doanh thu với việc sử dụng thực tế các mô hình của khách hàng thông qua đào tạo, tùy chỉnh và suy luận liên tục. Tuy nhiên, các đối thủ cạnh tranh chính trên con đường này không phải là các công ty điện toán đám mây mới đơn lẻ, mà là các nhà cung cấp điện toán đám mây lớn có thể đồng thời kiểm soát sức mạnh tính toán, phần mềm và điểm truy cập của khách hàng.

Thứ năm, sự trỗi dậy của các mô hình mã nguồn mở không nhất thiết làm suy yếu nhu cầu về cơ sở hạ tầng; ngược lại, nó có thể làm giảm phí bảo hiểm của lớp mô hình và đẩy giá trị hơn nữa về phía sức mạnh suy luận và tính toán. Việc các ông lớn công nghệ tiếp tục tăng chi tiêu vốn không chỉ là tính toán lợi nhuận ngắn hạn, mà còn là cân nhắc rủi ro dài hạn khi bỏ lỡ chu kỳ AI. Tuy nhiên, đối với các công ty điện toán đám mây mới dựa vào nguồn tài chính bên ngoài, chi phí nợ, sự chậm trễ dự án và thời gian hoàn vốn vẫn sẽ là những ràng buộc trực tiếp hơn. Việc các mô hình trở nên rẻ hơn không có nghĩa là việc xây dựng và vận hành các hệ thống AI sẽ trở nên nhẹ nhàng hơn tương ứng.

Nếu phải tóm tắt cuộc thảo luận này thành một nhận định duy nhất, thì đó là: việc bắt kịp các mô hình mã nguồn mở chỉ là bước khởi đầu; giai đoạn tiếp theo của việc thương mại hóa AI sẽ xoay quanh việc đánh giá, tùy chỉnh, hiệu quả suy luận và quy trình làm việc của khách hàng.

Sau đây là văn bản gốc (đã được chỉnh sửa để dễ đọc và dễ hiểu hơn):

Tóm lại

Các mô hình mã nguồn mở đang nhanh chóng bắt kịp các mô hình mã nguồn đóng, nhưng sự tăng trưởng về số lượng token không đồng nghĩa với sự tăng trưởng doanh thu, và ngân sách của các công ty vẫn ưu tiên các mô hình hoạt động hiệu quả nhất.

Quá trình chắt lọc chỉ có thể giúp các mô hình mã nguồn mở thu hẹp khoảng cách trong ngắn hạn; khả năng cạnh tranh lâu dài vẫn phụ thuộc vào việc đào tạo độc lập, dữ liệu đánh giá, nhân tài và sức mạnh tính toán.

• Việc nâng cấp các mô hình tổng quát không nhất thiết phải loại bỏ các mô hình chuyên ngành. Rào cản trong các lĩnh vực như luật pháp và chăm sóc sức khỏe đang chuyển từ khả năng của mô hình sang đánh giá, dữ liệu và quy trình làm việc.

Chìa khóa để đưa trí tuệ nhân tạo doanh nghiệp từ giai đoạn chứng minh khái niệm (PoC) sang sản xuất không nằm ở việc tăng số lượng lựa chọn mô hình, mà nằm ở việc thiết lập một hệ thống đánh giá có thể đo lường chất lượng, chi phí và giới hạn lỗi.

Việc tối ưu hóa suy luận đã mở rộng từ việc giảm chi phí của một token duy nhất đến việc lưu trữ dữ liệu tạm thời, phân chia tác vụ và định tuyến mô hình. Bản thân thiết kế hệ thống cho phép nhiều sự kết hợp mô hình vượt trội hơn so với một mô hình tiên tiến duy nhất.

Các mô hình tùy chỉnh phù hợp hơn với các nền tảng SaaS chuyên ngành phục vụ một lượng lớn khách hàng tương tự, vì các doanh nghiệp đơn lẻ thường thiếu khả năng phân phối dữ liệu đủ rộng và khả năng đánh giá liên tục.

Lợi thế cạnh tranh của Fireworks không nằm ở việc sở hữu GPU, mà ở khả năng kết nối quá trình huấn luyện, tùy chỉnh và suy luận liên tục. Tuy nhiên, đối thủ thực sự lâu dài của nó vẫn là những gã khổng lồ điện toán đám mây có thể bao quát toàn bộ hệ thống công nghệ.

Việc áp dụng rộng rãi các mô hình mã nguồn mở có thể không nhất thiết làm giảm nhu cầu phần cứng; nhiều khả năng nó sẽ làm giảm chi phí phụ trội của các lớp mô hình và phân bổ lại giá trị ngành cho sức mạnh tính toán, cơ sở hạ tầng suy luận và quy trình làm việc của doanh nghiệp.

Những điểm chính của cuộc phỏng vấn

Mã nguồn mở sẽ tiếp tục phát triển, nhưng phương pháp chưng cất không phải là giải pháp lâu dài.

Nhóm Fireworks chủ yếu đến từ hệ sinh thái PyTorch của Meta. Dựa trên kinh nghiệm trước đây trong việc phát triển hệ điều hành, cơ sở dữ liệu và các phần mềm khác, nhóm này từ lâu đã tin rằng phần mềm có giá trị cuối cùng sẽ có các giải pháp mã nguồn mở cạnh tranh. Mô hình lớn hơn có thể phát triển theo con đường tương tự, chỉ có điều vòng bắt kịp này đang diễn ra nhanh hơn so với dự đoán ban đầu của Chen Yufei.

Một mặt, doanh thu định kỳ hàng năm của các công ty mô hình mã nguồn đóng như OpenAI và Anthropic vẫn đang tăng trưởng nhanh chóng; mặt khác, các mô hình mã nguồn mở ở Trung Quốc và Mỹ cũng đang nhanh chóng thu hẹp khoảng cách về khả năng và đẩy giá thành suy luận xuống rất thấp. Mã nguồn mở và mã nguồn đóng không phải là mối quan hệ có tổng bằng không, nơi một bên phát triển và bên kia chắc chắn sẽ suy giảm.

Liên quan đến việc chắt lọc một số mô hình mã nguồn mở bằng cách sử dụng đầu ra của các mô hình mã nguồn đóng, Chen Yufei tin rằng mặc dù cách tiếp cận này có thể giúp các mô hình đạt được trình độ cao trong ngắn hạn, nhưng khó có thể là một con đường đáng tin cậy về lâu dài. Các nhà cung cấp mã nguồn đóng có thể dần dần vá các API và cơ chế bảo mật để giảm khả năng các quy trình suy luận và dữ liệu liên quan bị trích xuất.

Tuy nhiên, sự tiến bộ của các mô hình mã nguồn mở không hoàn toàn phụ thuộc vào việc chắt lọc. Chừng nào hệ thống đánh giá tiếp tục được cải thiện, chi phí dữ liệu tiếp tục giảm và có đủ nhân tài, GPU và năng lực kỹ thuật, các nhóm mã nguồn mở vẫn có thể tự đào tạo các mô hình cạnh tranh. Các công ty như Meta, với sức mạnh tính toán và nguồn nhân lực dồi dào, không có lý do gì để duy trì khoảng cách quá lớn với các mô hình tiên tiến mã nguồn đóng trong dài hạn.

Điều này không có nghĩa là các mô hình mã nguồn đóng sẽ mất thị phần. Chen Yufei so sánh hai mô hình này với Apple và Android: hệ sinh thái mở có thể đáp ứng quy mô sử dụng lớn hơn, trong khi các sản phẩm mã nguồn đóng liên tục dẫn đầu thị trường có thể giữ chân khách hàng giá trị cao với độ nhạy cảm về giá thấp hơn bằng cách dựa vào trải nghiệm ổn định, nhận diện thương hiệu và sự tin tưởng của doanh nghiệp.

Việc mua sắm của doanh nghiệp thường có xu hướng bảo thủ. Câu nói "Không ai bị sa thải vì mua IBM" mô tả rất chính xác tâm lý ra quyết định này. Chừng nào khách hàng còn tin rằng mua các mô hình mã nguồn đóng hàng đầu là lựa chọn an toàn nhất, thì các công ty như OpenAI và Anthropic có thể duy trì được lợi thế nhất định. So với những khoảng trống công nghệ ngắn hạn, việc thay đổi nhận thức của người dùng và khả năng thâm nhập thị trường có thể khó khăn hơn.

Chen Yufei dự đoán rằng doanh thu định kỳ hàng năm (ARR) của các công ty sử dụng mô hình mã nguồn đóng sẽ tiếp tục tăng trưởng, nhưng con số này có thể không phản ánh đầy đủ lợi ích kinh tế cuối cùng của họ. Ví dụ, một phần doanh thu có thể cần phải được chia sẻ với các nhà cung cấp dịch vụ đám mây, và sự tăng trưởng ARR không nhất thiết dẫn đến sự tăng trưởng tương ứng về doanh thu và lợi nhuận kế toán. Liệu sức mạnh thương lượng của các mô hình mã nguồn đóng có suy giảm hay không chỉ có thể được xác định sau khi các công ty liên quan công bố thông tin tài chính đầy đủ hơn.

Về lâu dài, phần mềm mã nguồn mở có thể đạt được quy mô sử dụng lớn hơn, trong khi phần mềm mã nguồn đóng sẽ tiếp tục kiểm soát nhu cầu để thu về lợi nhuận cao hơn. Điều quyết định ranh giới thương mại của hai loại hình này không chỉ là khả năng của mô hình, mà còn là thương hiệu, kênh phân phối, lòng tin của khách hàng và phương thức phân phối doanh thu.

Các token đang dần chuyển sang mã nguồn mở, nhưng doanh thu vẫn phụ thuộc vào hiệu suất.

Theo Chen Yufei, nền tảng Fireworks hiện đang xử lý khoảng 40 đến 50 nghìn tỷ token mỗi ngày. Dựa trên thông tin công khai mà ông trích dẫn, con số này vượt quá lưu lượng truy cập API doanh nghiệp được Gemini và OpenAI công bố.

Các yêu cầu chính của nền tảng này đến từ lập trình, chăm sóc sức khỏe, làm việc nhóm và nghiên cứu chuyên sâu. Trong số đó, ngày càng nhiều nhiệm vụ ban đầu không được coi là lập trình đang được định nghĩa lại là "bài toán lập trình".

Các phần mềm văn phòng như PowerPoint và Excel là những ví dụ điển hình. Khi một mô hình có thể vận hành các chương trình phần mềm này thông qua mã hoặc các công cụ có cấu trúc, các phương pháp tạo mã, gọi công cụ và học tăng cường hiện có có thể được chuyển giao sang các kịch bản văn phòng. Nhiều công ty SaaS chuyên ngành cũng đang đóng gói các công cụ trong ngành vào các môi trường mà các mô hình có thể gọi đến, và sau đó sử dụng học tăng cường để giúp các mô hình làm quen với các quy trình làm việc cụ thể.

Chen Yufei phân loại nhu cầu hiện tại thành hai loại chính: lập trình và nghiên cứu chuyên sâu. Các ứng dụng chuyên ngành khác nhau sẽ kết hợp hai loại này để tạo ra các tác nhân chuyên dụng cho các tình huống như luật pháp, chăm sóc sức khỏe và công việc văn phòng.

Ông đặc biệt lạc quan về các sản phẩm văn phòng cộng tác nhắm đến người dùng không chuyên về kỹ thuật. Trước đây, hầu hết các nguồn lực của ngành đều được đầu tư vào các nhu cầu "STEM" như toán học và lập trình, nhưng nhu cầu của nhiều người lao động tri thức khác nhau, chẳng hạn như tạo slide, xử lý tài liệu và tạo video, có khả năng sẽ tăng trưởng nhanh hơn nữa.

Việc phát triển các tác nhân vận hành bằng máy tính diễn ra chậm hơn so với dự kiến trước đây. Chỉ hơn một năm trước, người ta cho rằng các sản phẩm này sẽ bỏ qua các API phức tạp, cho phép người dùng tương tác trực tiếp với máy tính như con người. Tuy nhiên, trên thực tế, các công ty, trong nỗ lực giảm chi phí, đã chuyển nhiều quy trình làm việc sang văn bản thuần túy. Mô hình văn bản rẻ hơn và dễ dàng tích hợp vào các quy trình hiện có. Mặc dù các tác nhân vận hành bằng máy tính có thể sẽ ngày càng được ưa chuộng hơn khi chi phí máy ảo giảm và môi trường hoạt động được cải thiện, nhưng các hướng tối ưu hóa cụ thể vẫn đang được nghiên cứu.

Tuy nhiên, sự tăng trưởng của token không trực tiếp phản ánh giá trị thương mại. Xếp hạng định tuyến của các mô hình công khai thường bị ảnh hưởng bởi hạn mức miễn phí và các hoạt động khuyến mãi, và cùng một số lượng token có thể tương ứng với các mức giá hoàn toàn khác nhau. Lưu lượng truy cập được tạo ra bởi các mô hình giá thấp và lưu lượng truy cập được tạo ra bởi các mô hình tiên tiến đắt tiền có ý nghĩa khác nhau về mặt doanh thu.

Chen Yufei tin rằng doanh thu là một chỉ số tốt hơn để đánh giá sự lựa chọn thực sự của khách hàng so với số lượng token. Khi các doanh nghiệp không quá nhạy cảm về giá cả, ngân sách của họ vẫn sẽ đổ vào những mô hình hoạt động hiệu quả nhất. Do đó, khi Fireworks giúp khách hàng tùy chỉnh mô hình, mục tiêu chính của họ thường không phải là đạt được "hiệu quả chi phí tốt", mà là đáp ứng hoặc thậm chí vượt trội hơn các mô hình mã nguồn đóng hàng đầu trong các nhiệm vụ cụ thể.

Thị trường lập trình cũng cho thấy sự khác biệt giữa mức độ sử dụng và doanh thu. Lượng tiêu thụ token có khả năng tiếp tục tăng trưởng, nhưng nếu các mô hình được sử dụng phổ biến tiếp tục giảm giá, giá thấp hơn sẽ kích thích nhiều yêu cầu hơn, nhưng không nhất thiết làm tăng doanh thu thị trường tương ứng. Cũng giống như việc tiếp cận điện năng rộng rãi không có nghĩa là tất cả lợi nhuận đều thuộc về các công ty sản xuất điện, sự tăng trưởng trong việc sử dụng AI không thể trực tiếp trả lời giá trị cuối cùng của ngành nằm ở đâu.

Trong tương lai gần, việc sử dụng các mô hình mã nguồn mở có thể tiếp tục tăng, nhưng liệu chi tiêu liên quan có thể mở rộng song song hay không phụ thuộc vào việc các doanh nghiệp có sẵn sàng đầu tư nguồn lực vào việc tùy chỉnh hay không. Nếu ngày càng nhiều công ty có thể cho phép các mô hình mã nguồn mở được tùy chỉnh để cạnh tranh với các mô hình mã nguồn đóng trong các nhiệm vụ cụ thể, lưu lượng truy cập và doanh thu sẽ tiếp tục chuyển sang mã nguồn mở; nếu chi phí tùy chỉnh, tỷ lệ lỗi và khả năng tổ chức tiếp tục là những trở ngại, các mô hình mã nguồn đóng vẫn sẽ đảm nhận hầu hết các nhu cầu có giá trị cao.

Các mô hình đa năng nâng cao giới hạn trên của khả năng, trong khi các mô hình chuyên dụng tích lũy các rào cản nhiệm vụ.

Mỗi khi một mô hình tiên tiến mới được ra mắt, thị trường lại đặt ra một câu hỏi mới: Liệu mô hình mà các công ty đầu tư dữ liệu và tiền bạc để tinh chỉnh có nhanh chóng mất đi giá trị của nó hay không?

Chen Yufei cho biết, mặc dù nhiều mẫu xe tùy chỉnh đã được thay thế bằng các mẫu xe cơ bản thế hệ mới vào năm 2025, nhưng tình trạng này đã giảm đáng kể vào năm 2026. Theo ông, đây là một dấu hiệu tích cực cho thấy giá trị thương mại của các mẫu xe tích hợp đang dần ổn định.

Lý do là các mô hình đa năng và các ứng dụng chuyên ngành đang được tối ưu hóa theo những hướng khác nhau. Các phòng thí nghiệm tiên phong cần chứng minh rằng các mô hình có thể giải quyết được những vấn đề toán học, khoa học và phát triển thuốc khó khăn hơn; trong khi các công ty chuyên ngành trong các lĩnh vực như luật và chăm sóc sức khỏe tập trung vào nhu cầu cụ thể của người dùng, tỷ lệ hoàn thành nhiệm vụ, độ chính xác trích dẫn và độ tin cậy của quy trình làm việc.

"Việc phát triển một tác nhân tốt cho một thị trường chuyên biệt và việc giải quyết giả thuyết Riemann là hai nhiệm vụ hoàn toàn khác nhau."

Lấy Harvey, một công ty AI pháp lý, làm ví dụ. Lợi thế của họ không chỉ đến từ mô hình cơ bản mà họ sử dụng, mà còn từ việc phân chia các nhiệm vụ pháp lý, hệ thống đánh giá, xử lý dữ liệu và quy trình sản phẩm. Điều tương tự cũng áp dụng cho lĩnh vực y tế; các sản phẩm khác nhau cần thiết lập các tiêu chuẩn cụ thể dựa trên phương pháp làm việc của bác sĩ, nguồn dữ liệu và yêu cầu về độ chính xác.

Những đánh giá và dữ liệu này không tự động trở nên lỗi thời khi các mô hình mới được phát hành. Sau khi mô hình cơ bản được nâng cấp, các công ty trong ngành có thể chuyển đổi môi trường đào tạo hiện có của họ sang mô hình mới mà không cần phải hiểu lại toàn bộ ngành. Khi các đánh giá trở nên chi tiết hơn và quy trình làm sạch dữ liệu trở nên hoàn thiện hơn, các mô hình ngành sẽ hình thành một năng lực tích lũy liên tục xoay quanh các nhiệm vụ cụ thể.

Về lý thuyết, các công ty mô hình hóa tiên tiến có thể tập trung nguồn lực vào việc thâm nhập thị trường pháp lý hoặc y tế và vượt trội hơn các sản phẩm hiện có trong một lĩnh vực duy nhất. Tuy nhiên, cách tiếp cận này có thể không phù hợp với mục tiêu kinh doanh của họ. Các công ty mô hình hóa đa năng cần phục vụ một lượng khách hàng rộng lớn, và việc đầu tư mạnh vào một lĩnh vực duy nhất có thể không đủ để hỗ trợ quy mô thị trường và định giá mong muốn của họ.

Chen Yufei ví mô hình tổng quát như một chuỗi nhà hàng cần phục vụ nhiều khẩu vị khác nhau, trong khi mô hình chuyên biệt giống như một nhà hàng tập trung vào một vài món ăn. Mô hình thứ hai không cần phải giải quyết tất cả các vấn đề; chỉ cần nó vượt trội hơn đáng kể so với giải pháp tổng quát trong nhiệm vụ mục tiêu, nó có tiềm năng thiết lập một không gian trả phí độc lập.

Khả năng không cân bằng nhưng chuyên biệt cao này được ông gọi là "Trí tuệ không đồng đều" (Jagged Intelligence). Một mô hình pháp lý có thể không giải quyết được Giả thuyết Riemann, nhưng nó có thể vượt trội hơn các mô hình đa năng lớn hơn trong một số loại nhiệm vụ pháp lý nhất định. Đối với khách hàng doanh nghiệp, khả năng hoàn thành nhiệm vụ một cách đáng tin cậy thường quan trọng hơn khả năng rộng hơn của mô hình.

Các mô hình tùy chỉnh không phù hợp với tất cả các doanh nghiệp. Chen Yufei tin rằng khách hàng phù hợp nhất là các công ty SaaS chuyên ngành phục vụ một số lượng lớn các tổ chức tương tự, chứ không phải các bệnh viện, công ty luật hoặc các công ty người dùng cuối riêng lẻ.

Các nền tảng SaaS chuyên ngành có thể tiếp cận được số lượng lớn khách hàng, hiểu được nhu cầu chung của các tổ chức khác nhau và thiết lập các hệ thống đánh giá bao quát nhiều tình huống hơn. Các doanh nghiệp riêng lẻ thường thiếu khả năng phân phối dữ liệu đủ rộng và khả năng đánh giá liên tục. Thay vì tự đào tạo các mô hình, tốt hơn hết là nên củng cố các quy trình nội bộ thành các kỹ năng, công cụ hoặc tác nhân, sau đó sử dụng các mô hình cơ bản bên ngoài để hoàn thành nhiệm vụ.

Trong các dự án học tăng cường tùy chỉnh, GPU là yếu tố chi phí chính, nhưng dữ liệu và môi trường huấn luyện cũng quan trọng không kém. Các nhóm cần kiểm tra các thủ đoạn gian lận phần thưởng—tức là khai thác các lỗ hổng đánh giá để đạt điểm cao mà không thực sự hoàn thành nhiệm vụ—đồng thời đảm bảo một môi trường huấn luyện ổn định có thể mở rộng quy mô huấn luyện.

Môi trường huấn luyện ban đầu không nhất thiết phải đạt đến hàng trăm nghìn đường đi. Chen Yufei cho rằng một nghìn môi trường huấn luyện là đủ để bắt đầu học tăng cường, vì mô hình liên tục khám phá và tạo ra một lượng lớn quỹ đạo trong quá trình huấn luyện. Giả sử mỗi bước huấn luyện được thực hiện 128 lần trên một môi trường, một nghìn điểm dữ liệu ban đầu có thể tạo ra khoảng 128.000 quỹ đạo huấn luyện.

Các mô hình tùy chỉnh vẫn cần được "chỉnh sửa lại" sau khi triển khai. Khi một mô hình cơ bản mã nguồn mở mới được phát hành, nền tảng có thể chuyển đổi hệ thống đào tạo và đánh giá ban đầu sang mô hình mới. Miễn là các tiêu chí đánh giá và môi trường nhiệm vụ được cố định, bản thân quá trình chuyển đổi không nhất thiết tốn nhiều thời gian; điều thực sự tạo ra khối lượng công việc liên tục là khi khách hàng thêm các kịch bản, quy trình làm việc mới và các nhiệm vụ phức tạp hơn.

Do đó, tài sản cốt lõi của một công ty chuyên ngành không phải là trọng số của một thế hệ mô hình nhất định, mà là dữ liệu, đánh giá và quy trình làm việc có thể được di chuyển lặp đi lặp lại khi mô hình cơ bản được cập nhật.

Trí tuệ nhân tạo doanh nghiệp đang bị mắc kẹt ở giai đoạn chứng minh khái niệm (PoC) không phải vì thiếu mô hình, mà vì thiếu giai đoạn đánh giá.

Khi các công ty lựa chọn giữa mô hình mã nguồn mở và mã nguồn đóng, yếu tố quan trọng hàng đầu không chỉ là hiệu năng và giá cả, mà còn là sự tin tưởng.

Vì các hợp đồng doanh nghiệp thường kéo dài từ một đến hai năm, người mua cần đánh giá xem nhà cung cấp dịch vụ và hệ sinh thái của họ có thể hỗ trợ nhu cầu kinh doanh trong dài hạn hay không. Mô hình mã nguồn mở có thể rẻ hơn và linh hoạt hơn, nhưng các nhà cung cấp mã nguồn đóng vẫn có lợi thế về truyền thông thương hiệu, câu chuyện thành công và sự nhận diện trên thị trường.

Chen Yufei cho rằng điểm yếu lớn nhất của các mô hình mã nguồn mở và các nhà cung cấp dịch vụ của chúng không phải là công nghệ, mà là khả năng thâm nhập thị trường. Các công ty theo mô hình mã nguồn đóng có thể liên tục nâng cao nhận thức của người dùng thông qua việc trình diễn các tính năng mới và kết quả nghiên cứu, trong khi hệ sinh thái mã nguồn mở thiếu một hệ thống tiếp thị và giao tiếp khách hàng thống nhất.

Các phương pháp triển khai cũng đang thay đổi. Ban đầu, các doanh nghiệp tập trung nhiều hơn vào triển khai tại chỗ, nhưng hiện nay ngày càng nhiều khối lượng công việc đang chuyển sang điện toán đám mây. Miễn là các nhà cung cấp dịch vụ có thể thiết lập được lòng tin trong các lĩnh vực như bảo mật và đám mây riêng ảo, thì các dịch vụ đám mây đa người dùng thường tiết kiệm chi phí hơn so với GPU chuyên dụng cho doanh nghiệp.

Một doanh nghiệp đơn lẻ có thể không duy trì được tỷ lệ sử dụng cao cho một nhóm GPU, nhưng một nền tảng có thể tổng hợp nhu cầu của nhiều khách hàng khác nhau và cải thiện hiệu quả sử dụng phần cứng. Khi chi phí suy luận tăng lên so với tổng chi phí hoạt động của doanh nghiệp, lợi thế về chi phí của cơ sở hạ tầng dùng chung càng trở nên rõ rệt hơn.

Một trong những trở ngại lớn nhất đối với các công ty khi chuyển từ giai đoạn chứng minh tính khả thi sang sản xuất hàng loạt là thiếu sự đánh giá nghiêm ngặt. Ngay cả khi các công ty đã áp dụng AI vào các lĩnh vực quan trọng như trung tâm cuộc gọi, họ vẫn đánh giá hiệu quả của mô hình bằng phương pháp thử và sai thay vì thiết lập các tiêu chuẩn thử nghiệm có thể được thực hiện lặp đi lặp lại.

Nếu không có đánh giá, các công ty không thể so sánh một cách đáng tin cậy giữa các mô hình mã nguồn mở và mã nguồn đóng, cũng như không thể xác định liệu việc cập nhật mô hình có thực sự cải thiện hoạt động kinh doanh của họ hay không. Do đó, Chen Yufei tin rằng nhân tài có khả năng thiết kế hệ thống đánh giá AI vẫn còn khan hiếm. Một hệ thống đánh giá đáng tin cậy có thể giúp các công ty hoàn thành việc thay thế mô hình và tiết kiệm chi phí dài hạn vượt xa chi phí xây dựng ban đầu.

Về cơ bản, điều này không khác biệt so với kiểm thử đơn vị trong các công ty phần mềm truyền thống. Trước đây, các công ty SaaS cần chạy một loạt các bài kiểm thử trước khi bàn giao phần mềm; giờ đây, các công ty AI chuyên ngành cần thiết lập một bộ đánh giá để xác nhận rằng tác nhân đáp ứng các tiêu chuẩn tương ứng trước khi đưa vào sản xuất. Trọng tâm công việc trong ngành đang chuyển từ việc "viết các bài kiểm thử" sang "viết các bài đánh giá", nhưng cốt lõi vẫn là chuyển đổi chất lượng sản phẩm thành các năng lực tổ chức có thể đo lường và tích lũy được.

Sự phát triển của các công ty dữ liệu bên thứ ba cũng có thể được dùng làm chỉ báo để quan sát việc triển khai AI trong doanh nghiệp. Nếu khách hàng của họ tiếp tục tập trung ở một vài phòng thí nghiệm tiên tiến, điều đó cho thấy không gian để các doanh nghiệp thông thường xây dựng năng lực AI độc lập vẫn còn hạn chế; nếu nguồn doanh thu dần đa dạng hóa, điều đó có thể có nghĩa là nhiều doanh nghiệp đang bắt đầu mua dữ liệu, xây dựng hệ thống đánh giá và đào tạo mô hình riêng của họ.

Điều mà các doanh nghiệp thực sự thiếu không phải là nhiều mô hình hơn, mà là một bộ tiêu chuẩn có thể xác định điều gì là đúng, nhận diện điều gì là sai và hỗ trợ các quyết định mua hàng.

Tối ưu hóa suy luận chuyển từ việc giảm chi phí token sang lập lịch hệ thống.

Lĩnh vực kinh doanh cốt lõi chính của Fireworks là tối ưu hóa suy luận. Chen Yufei tin rằng vẫn còn nhiều dư địa để cải thiện trong lĩnh vực này, vì hiệu suất của một mô hình khi mới được phát hành thường khác biệt đáng kể so với hiệu suất sau khi được tối ưu hóa lâu dài.

Nền tảng này nhằm mục đích rút ngắn chu kỳ tối ưu hóa, đảm bảo các mô hình mới đạt được trạng thái tối ưu nhất có thể khi triển khai. Bên cạnh thời gian chạy của mô hình, việc lưu trữ bộ nhớ đệm, lập lịch và cơ sở hạ tầng hỗ trợ đều ảnh hưởng đến chi phí cuối cùng. Nhiều quá trình tối ưu hóa liên quan đến một lượng lớn công việc kỹ thuật rời rạc, khiến việc tối ưu hóa suy luận trở thành một nhiệm vụ tốn nhiều công sức.

So với các API do chính các nhà phát triển mô hình cung cấp, Fireworks hỗ trợ đồng thời một số lượng lớn các mô hình cơ bản và mô hình tùy chỉnh, cho phép quan sát được nhiều dạng lưu lượng truy cập và khối lượng công việc đa dạng hơn. Các nhà cung cấp mô hình trước tiên phải đảm bảo rằng mô hình của họ được phục vụ ổn định cho nhiều người dùng, trong khi các nền tảng của bên thứ ba có thể thực hiện các tối ưu hóa chi tiết hơn cho các đặc điểm yêu cầu cụ thể của từng khách hàng.

Việc định tuyến mô hình không chỉ đơn thuần là giảm chi phí. Trong một thử nghiệm chung giữa Fireworks và Harvey, hệ thống đã sử dụng một mô hình làm bộ thực thi tác vụ và một mô hình khác làm cố vấn, chia nhỏ các tác vụ ngữ cảnh dài thành nhiều tác vụ con ngắn hơn. Vì hiệu suất của mô hình lớn có thể giảm khi ngữ cảnh dài ra, nên với sự phân công lao động hợp lý, hiệu suất tổng thể của hệ thống thực tế có thể vượt trội hơn so với việc chỉ sử dụng mô hình mạnh nhất.

Chen Yufei ví quá trình này như việc tối ưu hóa hiệu năng CPU. Các nhà phát triển cần hiểu rõ đặc điểm của bộ xử lý, sau đó chia nhỏ chương trình thành các khối lượng công việc phù hợp với bộ xử lý đó. Tương tự, trong các hệ thống AI, mô hình cơ bản có thể được xem như một trình xử lý văn bản: nhóm cần phải hiểu rõ giới hạn khả năng của các mô hình khác nhau, sau đó thiết kế khung công việc, và cuối cùng đặt mô hình phù hợp vào vị trí thích hợp.

Việc tối ưu hóa phần cứng không thể chỉ dựa vào các chỉ số riêng lẻ như GPU, HBM, CPU và mạng. Các mô hình thường được thiết kế dựa trên tỷ lệ tính toán trên bộ nhớ của phần cứng hiện có trong quá trình huấn luyện ban đầu. Do đó, việc chuyển đổi một mô hình từ GPU NVIDIA sang GPU AMD có khả năng tương đương tương đối dễ dàng, trong khi việc chuyển đổi sang ASIC với kiến trúc khác có thể đòi hỏi nhiều công sức hơn.

Thành công của một sản phẩm phần cứng mới không chỉ phụ thuộc vào việc thông số kỹ thuật của nó có tương tự với Nvidia hay không, mà còn phụ thuộc vào quy mô cung ứng, hệ sinh thái phần mềm và liệu các động lực kinh tế có thể thúc đẩy các nhà phát triển tối ưu hóa mô hình của họ cho sản phẩm đó hay không. Ngay cả khi cấu hình phần cứng tương tự với Nvidia, việc xây dựng một hệ sinh thái sẽ khó khăn nếu các nhà phát triển không thu được lợi nhuận đủ lớn từ việc sử dụng nó.

Tóm lại, việc tối ưu hóa nền tảng suy luận không chỉ nằm ở tốc độ chạy của mô hình, mà còn ở sự phù hợp giữa mô hình, nhiệm vụ và phần cứng.

Fireworks không sở hữu phần cứng, nhưng nó đóng vai trò kết nối quá trình huấn luyện và suy luận.

Trước sự mở rộng của các nhà cung cấp dịch vụ điện toán đám mây AI sang lớp phần mềm, Fireworks hiện không có kế hoạch tự xây dựng phần cứng hoặc đầu tư mạnh vào GPU. Chen Yufei mô tả mô hình của công ty gần giống với mô hình "chủ nhà": mua sức mạnh tính toán từ các nhà cung cấp cơ sở hạ tầng và tập trung vào phần mềm điện toán, dịch vụ suy luận và tùy chỉnh mô hình.

Điểm khác biệt giữa Fireworks và các nền tảng điện toán đám mây AI thông thường nằm ở chỗ phần lớn lưu lượng truy cập trên nền tảng này không đến từ các mô hình cơ bản không được chỉnh sửa, mà từ các mô hình tùy chỉnh. Chen Yufei tin rằng cạnh tranh trong suy luận mô hình cơ bản sẽ ngày càng khốc liệt, và lợi nhuận có nhiều khả năng đến từ các mô hình độc quyền có thể mang lại kết quả tốt hơn cho khách hàng.

Fireworks tích hợp đào tạo và suy luận vào một mô hình kinh doanh duy nhất. Công ty giúp khách hàng đào tạo mô hình và hướng đến sự tăng trưởng bền vững về lưu lượng suy luận sau khi các mô hình được đưa vào hoạt động. So với các nhà cung cấp dịch vụ chỉ tính phí đào tạo hoặc tư vấn, cấu trúc doanh thu này giúp cân bằng lợi ích lâu dài cho nền tảng và khách hàng hiệu quả hơn: khi khách hàng tạo ra nhiều giá trị hơn thông qua các mô hình của họ, Fireworks có thể kiếm được nhiều doanh thu hơn từ việc suy luận liên tục.

Một số nhà cung cấp dịch vụ học tăng cường chỉ cung cấp đào tạo hoặc tư vấn, và doanh thu của họ có thể không liên quan trực tiếp đến hiệu quả của mô hình sau khi được triển khai. Logic kinh doanh của Fireworks là cải thiện hiệu suất của mô hình thông qua đào tạo và sau đó thu lợi từ lưu lượng suy luận tiếp theo. Họ không bán các dự án đào tạo một lần, mà bán khả năng giúp các mô hình của khách hàng tạo ra mức sử dụng liên tục.

Những đối thủ cạnh tranh thực sự có khả năng bao phủ toàn bộ chuỗi cung ứng không phải là các công ty điện toán đám mây mới đơn lẻ, mà là các nhà cung cấp dịch vụ điện toán đám mây lớn như AWS, Microsoft Azure và Google Cloud. Họ sở hữu cả sức mạnh tính toán và khả năng xây dựng các dịch vụ học tăng cường, nền tảng suy luận và công cụ phát triển.

Fireworks cạnh tranh với các nhà cung cấp dịch vụ đám mây đồng thời cũng dựa vào và hợp tác với cơ sở hạ tầng của họ. Hiện tại, công ty có mối quan hệ đối tác chặt chẽ nhất với Azure, cho phép khách hàng mua các dịch vụ của Fireworks bằng tín dụng Azure. Công ty cũng hợp tác với AWS và Google Cloud.

Chen Yufei tin rằng khả năng tối ưu hóa suy luận hiện tại của Fireworks vẫn vượt trội so với các dịch vụ tương tự từ các nhà cung cấp điện toán đám mây, nhưng hiệu năng đơn lẻ không phải là rào cản lớn nhất. Quan trọng hơn, nó hoàn thành toàn bộ chu trình vận hành học máy từ huấn luyện, triển khai, đánh giá đến suy luận, mang đến cho các nhà phát triển trải nghiệm liền mạch. So với các công ty điện toán đám mây mới, Fireworks bao phủ một chuỗi dài hơn; so với các ông lớn trong ngành điện toán đám mây, nó cần duy trì lợi thế về chuyên môn hóa và tốc độ thực thi.

Ngay cả khi AI có thể tự động hóa việc phát triển nhân hệ điều hành, suy luận và tối ưu hóa sau huấn luyện trong tương lai, việc hiểu nhu cầu của khách hàng có lẽ vẫn là một nhiệm vụ khó có thể thay thế hoàn toàn. Một hệ thống có thể giải quyết các vấn đề toán học phức tạp, nhưng nó có thể không hiểu được các quy trình, ràng buộc và tiêu chí đánh giá của một công ty từ con số không. Giá trị lâu dài của Fireworks cuối cùng phụ thuộc vào khả năng chuyển đổi nhu cầu của khách hàng thành các mô hình, đánh giá và sản phẩm khả thi.

Ưu điểm của các mô hình nén mã nguồn mở vẫn phụ thuộc vào sức mạnh tính toán như là yếu tố hạn chế cuối cùng.

Trong vòng một đến hai năm tới, thách thức lớn nhất của Fireworks vẫn sẽ là sức mạnh tính toán. Khả năng của công ty trong việc mua đủ tài nguyên tính toán với giá cả hợp lý sẽ trực tiếp hạn chế tăng trưởng doanh thu. Chen Yufei tóm tắt tình hình hiện tại của Fireworks là "bị hạn chế bởi sức mạnh tính toán" và dự đoán rằng toàn thị trường có khả năng sẽ duy trì trạng thái này ít nhất trong năm tới.

Điều này cũng ảnh hưởng đến quan điểm của ông về chi tiêu vốn cho AI của các ông lớn công nghệ. Thị trường thường đánh giá liệu các công ty như Google và Meta có đang đầu tư quá mức hay không dựa trên lợi nhuận đầu tư; nhưng đối với các công ty này, một rủi ro khác có thể lớn hơn: nếu AI cuối cùng mang lại lợi nhuận cực kỳ cao, và họ bỏ lỡ vòng cạnh tranh này vì đã giảm đầu tư, họ có thể vĩnh viễn mất đi vị thế của mình.

Do đó, ngay cả khi đầu tư quá mức trong ngắn hạn, chi phí có thể chỉ là áp lực lên báo cáo tài chính và nhu cầu bù đắp khấu hao trong vài năm tới. Đối với các ông lớn công nghệ có dòng tiền dài hạn và khả năng tài chính, điều này thường không phải là rủi ro sống còn; tuy nhiên, bỏ lỡ các chu kỳ công nghệ quan trọng thì có thể là vấn đề.

Tình hình lại khác đối với các công ty điện toán đám mây mới. Họ cần tính toán lợi nhuận dự án, chi phí tài chính và thời gian hoàn vốn một cách nghiêm ngặt hơn. Chen Yufei gợi ý nên chú ý đến xếp hạng tín dụng, khả năng gia hạn dự án và khả năng tái cấp vốn của các công ty liên quan. Nếu bất kỳ bên tham gia nào không thể tiếp tục vay vốn do vấn đề tín dụng và cần tái cấu trúc nợ trong vòng 3 đến 6 tháng tới, thì việc thị trường có còn đủ vốn để tiếp quản hay không sẽ là một chỉ báo quan trọng về khả năng tài chính của cơ sở hạ tầng AI.

Chen Yufei tỏ ra hoài nghi về luận điểm thị trường cho rằng "các mô hình mã nguồn mở bắt kịp các mô hình mã nguồn đóng sẽ làm giảm nhu cầu phần cứng". Theo ông, sự cải thiện về khả năng của các mô hình mã nguồn mở chủ yếu làm suy yếu sức mạnh định giá cao cấp của lớp mô hình. Nếu tổng chi tiêu cho AI không thay đổi, giá trị thực tế có thể chuyển sang các công ty cung cấp sức mạnh tính toán và cơ sở hạ tầng.

Tuy nhiên, liệu các khoản đầu tư vốn vào AI cuối cùng có mang lại lợi nhuận đủ lớn hay không vẫn là một câu hỏi bỏ ngỏ. Các dự án tăng cường sức mạnh tính toán thường mất vài năm để thu hồi vốn đầu tư, và động lực cung cầu trong một năm tới rất khó dự đoán. Một tín hiệu tương đối rõ ràng hiện nay là cả Fireworks và nhiều khách hàng của họ vẫn đang tìm kiếm thêm sức mạnh tính toán.

Cuộc cạnh tranh giữa các mô hình mã nguồn mở và mã nguồn đóng sẽ không chỉ được quyết định bởi thứ hạng của các mô hình. Khi khoảng cách về khả năng tiếp tục thu hẹp, giá trị của ngành sẽ phụ thuộc nhiều hơn vào việc ai có thể xác định nhiệm vụ, xác minh hiệu quả và triển khai các mô hình vào sản xuất với chi phí bền vững.