Từ nâng hạng tín nhiệm đến thanh toán: Ảo tưởng về nhu cầu trong sự kết hợp mô hình.

I. Model Fusion là gì?

Vào tháng 6 năm 2026, thị trường trí tuệ nhân tạo chứng kiến sự xuất hiện của hai sản phẩm có tên gọi "Fusion" chỉ trong vòng chưa đầy ba tuần.

Vào ngày 12 tháng 6, OpenRouter đã phát hành Fusion Router, với tiêu đề " Vượt qua mọi giới hạn về hiệu năng với Fusion ". Trong bài đánh giá chuyên sâu DRACO, nhóm sản phẩm gồm Fable 5 và GPT-5.5 đạt 69,0 điểm, vượt qua con số 65,3 điểm của mẫu Fable 5 đơn lẻ. Điểm mạnh của OpenRouter rất đơn giản: khi một mẫu đơn lẻ không đủ tốt, nhiều mẫu khác nhau sẽ cùng đáp ứng yêu cầu đó, sau đó các mẫu này được so sánh và tổng hợp bởi người đánh giá.

Vào ngày 29 tháng 6, Cognition đã phát hành Devin Fusion, nhưng tiêu đề là " Hiệu suất vượt trội với chi phí thấp hơn 35% ". Thay vì sử dụng nhiều mô hình lặp đi lặp lại để hoàn thành toàn bộ nhiệm vụ, nó cho phép mô hình tiền tuyến xử lý việc lập kế hoạch và đánh giá, để lại việc kiểm thử, sửa đổi cơ học và các nhiệm vụ khác cho mô hình phụ có chi phí thấp hơn, và tự động chuyển đổi mô hình trong quá trình thực thi.

Cùng một thuật ngữ chỉ ra hai logic kinh tế đối lập. OpenRouter sử dụng nhiều sức mạnh tính toán hơn để mua các gói cước có dung lượng cao hơn; Cognition cố gắng giảm thiểu chi phí tính toán đắt đỏ trong khi vẫn duy trì chất lượng ban đầu. Sự tương phản này nói lên nhiều điều hơn bất kỳ bảng xếp hạng mô hình nào. Luận điểm kỹ thuật về sự kết hợp mô hình thực sự đúng: nhiều lần thử có cơ hội vượt trội hơn một lần thử duy nhất. Nhưng điều mà thị trường thực sự đánh giá cao không phải là "nhiều lần gọi mô hình hơn", mà là ai có thể chi tiêu ít hơn và cung cấp nhanh hơn sau khi đáp ứng các ngưỡng chất lượng.

▲ Hình 1: Hai loại Fusion trong cùng một tháng. Bài viết này định nghĩa Model Fusion là một kiến trúc hẹp hơn: nhiều mô hình cùng thực hiện một nhiệm vụ song song, các mô hình được xem xét và so sánh kết quả, cuối cùng một mô hình đưa ra câu trả lời. Devin Fusion không thuộc định nghĩa này; nó gần hơn với định tuyến động và phân công nhiệm vụ. Nó được đặt ở đầu bài vì thị trường đang sử dụng "Fusion" như một thuật ngữ chung cho tất cả các hình thức điều phối đa mô hình, trong khi các sản phẩm thực sự hiệu quả thường đang dần thoát khỏi định nghĩa hẹp về model fusion.

Đánh giá của chúng tôi khá bi quan: Model Fusion là một chính sách bảo hiểm chất lượng đắt đỏ. Nó có thể cải thiện hiệu suất tuyệt đối của một số tác vụ nhất định, nhưng hiếm khi thực sự đẩy mạnh hiệu quả chi phí-chất lượng-độ trễ. Rất ít tác vụ thực sự đáng để mua loại bảo hiểm này. Nó sẽ vẫn tồn tại, nhưng nhiều khả năng sẽ là một tính năng được kích hoạt ít thường xuyên hơn là kiến trúc mặc định, và ít có khả năng trở thành một danh mục độc lập.

II. Hiện tại có những mẫu sản phẩm nào?

Các cuộc thảo luận về Fusion dễ dàng chuyển hướng sang bảng xếp hạng độ chính xác, nhưng các công ty không mua thứ hạng trên bảng xếp hạng. Họ mua kết quả chấp nhận được cho một nhiệm vụ, đồng thời cân nhắc giá cả, độ trễ, quyền riêng tư và độ ổn định. Miễn là một mô hình giá rẻ đã...

Một khi ngưỡng chấp nhận của doanh nghiệp được vượt qua, việc tiếp tục trả tiền cho các tính năng "thông minh hơn" có thể không còn khả thi về mặt kinh tế. Hiệu quả chi phí mới là động lực thực sự trong thị trường mô hình.

▲ Hình 2: Trí thông minh của mô hình và chi phí cho từng nhiệm vụ. Những điểm đáng chú ý nhất trên thang logarit không phải là điểm số cao nhất ở góc trên bên phải, mà là những điểm lệch khỏi xu hướng giá cả - khả năng: những điểm này cung cấp khả năng đủ tốt với giá thấp hơn và là những ngoại lệ về hiệu quả đối với các khối lượng công việc cụ thể. Mặc dù chỉ số tổng hợp không thể trực tiếp trả lời mô hình nào phù hợp nhất cho việc xem xét mã, nghiên cứu của Trung Quốc hoặc triển khai theo quy định, nhưng nó cho thấy một xu hướng: nguồn cung mô hình đang trở nên phổ biến hơn, và "mô hình mạnh nhất" đang tách biệt khỏi "lựa chọn tối ưu".

Hiện nay trên thị trường có bốn chiến lược mua hàng chính nhằm giải quyết cùng một khoảng cách về chất lượng.

Cách tiếp cận đầu tiên là nâng cấp trực tiếp lên một mô hình mạnh hơn. Đây là cách đơn giản và dễ kiểm toán nhất; nhìn chung, đây vẫn là lựa chọn ưu tiên miễn là mức tăng chi phí biên của mô hình cao cấp thấp hơn chi phí do lỗi hoặc làm lại. Cách tiếp cận thứ hai là tăng cường tính toán trong quá trình kiểm thử trên cùng một mô hình, chẳng hạn như mở rộng suy luận, tính tự nhất quán hoặc lấy mẫu đa lần. Cách tiếp cận thứ ba là định tuyến, phân tầng và ủy quyền nhiệm vụ: trước tiên sử dụng mô hình rẻ hơn để xử lý các phần có thể kiểm chứng hoặc mang tính cơ học, và chỉ nâng cấp nếu gặp khó khăn. Cách tiếp cận thứ tư, theo nghĩa hẹp hơn, là Hợp nhất Mô hình: cho nhiều mô hình lặp đi lặp lại trả lời cùng một câu hỏi, và sau đó hình thành câu trả lời cuối cùng bằng cách xem xét và tổng hợp các mô hình.

Cả bốn phương pháp đều có thể "đánh đổi nhiều tài nguyên tính toán hơn để có chất lượng tốt hơn", nhưng sự khác biệt nằm ở việc tài nguyên tính toán được sử dụng ở đâu. Các phần mở rộng mô hình đơn lẻ mua khả năng suy luận sâu hơn, định tuyến mua khả năng phân bổ tài nguyên chính xác hơn, trong khi Fusion mua nhiều câu trả lời ứng cử viên hơn. Ba phương pháp đầu tiên tập trung ngân sách của họ vào các giai đoạn có khả năng thay đổi kết quả nhất; tuy nhiên, Fusion ưu tiên trả tiền cho các ý kiến trùng lặp trước, sau đó đặt cược rằng mô hình đánh giá có thể xác định được sự khác biệt hợp lệ. Các mô hình ứng cử viên phải cung cấp đủ thông tin độc lập, và người đánh giá phải có khả năng nhận ra thông tin đó.

Fusion là lựa chọn duy nhất có thể vượt trội hơn ba lựa chọn còn lại.

Việc định tuyến đã chứng minh rằng sự khác biệt về khả năng giữa các mô hình chủ yếu là cơ hội lập lịch. RouteLLM đã giảm chi phí hơn gấp đôi trong một số đánh giá mà không làm giảm chất lượng; Switchcraft đạt được mức giảm chi phí 84% với độ chính xác 82,9%, theo bài báo, điều này tương đương với khoản tiết kiệm hơn 3.600 đô la cho mỗi triệu yêu cầu. Kết quả vẫn cần được kiểm chứng lại trên lưu lượng truy cập của chính doanh nghiệp, nhưng logic kinh tế rất đơn giản: thay vì có nhiều mô hình trong một cuộc hội thoại, chỉ cần gán mỗi tác vụ cho mô hình đủ điều kiện và có chi phí thấp nhất.

Điều này có nghĩa là thị trường trước tiên sẽ giải quyết khoảng cách về chất lượng thông qua việc nâng cấp, định tuyến và xác thực; chỉ khi các phương pháp này vẫn chưa đủ thì mới có lý do để mua thêm các giải pháp ứng cử viên cho Fusion.

III. Tại sao việc cải thiện điểm số không đồng nghĩa với việc có giá trị?

Bởi vì Fusion phải đồng thời vượt qua ba rào cản: chất lượng gia tăng phải bù đắp chi phí và độ trễ phát sinh, các mô hình ứng cử viên phải cung cấp thông tin độc lập, và người đánh giá phải liên tục xác định được câu trả lời tốt hơn. Nếu bất kỳ yếu tố nào trong số này thất bại, việc cải thiện điểm số sẽ không thể chuyển thành giá trị sản xuất. Chi phí tính toán: Cần thêm bao nhiêu ngân sách và độ trễ? Việc cải thiện điểm số của Fusion trước hết là một khoản chi phí tính toán rõ ràng. OpenRouter gọi nhiều mô hình bảng điều khiển song song, sau đó người đánh giá và mô hình tích hợp sẽ tạo ra câu trả lời. Cả ba nhóm kiểm soát trong DRACO đều cho thấy sự cải thiện điểm số: Fable 5 + GPT-5.5 tăng từ 65,3 lên 69,0; Opus 4.8 tự kết hợp tăng từ 58,8 lên 65,5; và nhóm ba mô hình chi phí thấp tăng từ 60,3 lên 64,7.

Tuy nhiên, sự cải thiện khả năng tự hợp nhất của Opus lớn hơn, cho thấy rằng lợi ích có thể đến từ việc tìm kiếm và lấy mẫu bổ sung hơn là sự bổ sung kiến thức giữa các mô hình . Cần có sự so sánh công bằng giữa tính nhất quán nội tại, suy luận dài hơn và các mô hình tác nhân đơn mạnh mẽ với cùng ngân sách token. Nghiên cứu hiện có cũng cho thấy rằng các mô hình đa tác nhân có thể cải thiện hiệu suất lên đến 7,1 điểm phần trăm với chi phí tính toán gấp khoảng 20 lần; với cùng ngân sách, tranh luận và mô hình hỗn hợp các tác nhân chỉ cao hơn tính nhất quán nội tại lần lượt là 1,3 và 2,7 điểm phần trăm, trong khi một nghiên cứu khác với cùng số token lý luận cho thấy các mô hình tác nhân đơn có hiệu suất tương đương hoặc tốt hơn. Nhiều "lợi ích hợp tác" biến mất sau khi căn chỉnh sổ cái tính toán.

▲ Hình 3: Cải thiện điểm chuẩn và chi phí sản phẩm của OpenRouter. Bảng điều khiển 3 mô hình mặc định của OpenRouter có giá cao hơn khoảng 4-5 lần so với bảng điều khiển được tạo tự động tiêu chuẩn và chậm hơn 2-3 lần . Tuy nhiên, nó không tiết lộ đầy đủ mã thông báo, chi phí và độ trễ cho mỗi cấu hình DRACO, khiến không thể xác định liệu sự cải thiện 3,7 điểm có đáng giá hay không. Việc đánh giá chỉ bao gồm 100 tác vụ văn bản tiếng Anh đơn giản, với chỉ 93 cấu hình liên quan đến Fable được hoàn thành. Thay đổi mô hình đánh giá có thể làm thay đổi điểm số tuyệt đối từ 10-25 điểm phần trăm. Điều này chứng minh rằng Fusion có thể cải thiện điểm số, nhưng không chứng minh rằng Fusion cải thiện ROI sản xuất.

Việc kích hoạt có chọn lọc chỉ có thể làm giảm chi phí. Theo ước tính được OpenRouter công bố, tổng chi phí xấp xỉ gấp 1,03-1,04 lần khi tỷ lệ kích hoạt là 1%; gấp 1,30-1,40 lần khi tỷ lệ này là 10%; và gấp 1,75-2,00 lần khi tỷ lệ này là 25%.

▲ Hình 4: Tổng quan về kinh tế của việc gọi Fusion có chọn lọc. Các yêu cầu khó khăn nhất có nhiều khả năng kích hoạt Fusion, nhưng hệ thống phải chờ các thành viên nhóm chậm nhất trước khi hoàn thành việc xem xét và tạo ra kết quả tuần tự. Do đó, độ trễ ở phần đuôi tập trung vào các tác vụ có giá trị nhất. Việc gọi nhiều nhà cung cấp cũng mở rộng bề mặt lỗi, độ phức tạp kiểm toán và nguy cơ lộ thông tin cá nhân. Chi phí của Fusion không chỉ là giá API mà còn là thời gian chờ đợi và các rủi ro hệ thống bổ sung. Tính bổ sung thông tin: Liệu nhiều mô hình có thực sự cung cấp thông tin khác nhau? Giá trị của Fusion phụ thuộc vào việc các mô hình ứng cử viên có mang lại thông tin độc lập hay không, nhưng các mô hình khác nhau thường chia sẻ các tập dữ liệu huấn luyện, nguồn trang web và các tiền đề sai lầm. Trong các nhiệm vụ nghiên cứu, điều này dẫn đến "tẩy trắng trích dẫn" : nhiều mô hình truy ngược lại cùng một nguồn nhưng được đóng gói thành nhiều bằng chứng độc lập. Nếu hệ thống không giữ lại nguồn gốc và đường dẫn tìm kiếm ở cấp độ tuyên bố, chi phí API sẽ tăng gần như tuyến tính với số lượng mô hình, nhưng sự đa dạng của bằng chứng không nhất thiết phải tăng lên.

Trong bài báo năm 2026 của mình , *Khi nào việc kết hợp các mô hình ngôn ngữ có ích?* , Josef Chen, đồng sáng lập và CEO của KAIKAKU.AI, đã nghiên cứu 67 mô hình từ 21 nhà cung cấp dịch vụ. Trong các bài toán toán học mở, xác suất dự đoán tất cả các mô hình trả lời sai đồng thời là 2,3%, nhưng xác suất thực tế đạt 5,2%—khoảng 2,3 lần giá trị dự đoán . Tỷ lệ lỗi đồng thời còn tăng lên 7,9% và 12,7% trong bài toán mã chấm điểm và phiên bản trả lời tự do của GPQA-Diamond, tương ứng. Với 100 câu hỏi GPQA-Diamond, khoảng 13 câu hỏi sẽ khiến tất cả các mô hình ứng cử viên trả lời sai, không còn câu trả lời đúng nào để bỏ phiếu, xem xét hoặc tổng hợp. Sự khác biệt giữa các mô hình ở những câu hỏi dễ làm tăng giá trị kết hợp, trong khi ở những câu hỏi quan trọng nhất, tất cả chúng có thể đều thất bại. Đánh giá độ tin cậy: Hệ thống có thể xác định và tổng hợp các câu trả lời tốt hơn không? Ngay cả với các câu trả lời ứng cử viên bổ sung, giá trị vẫn phụ thuộc vào việc xem xét. Khi các ứng viên đưa ra câu trả lời nhất quán, người đánh giá có thể hiểu nhầm các lỗi liên quan là do độ tin cậy cao; khi các ứng viên đưa ra câu trả lời khác nhau, cần có đủ chuyên môn để chọn ra câu trả lời đúng. Mô hình tổng hợp cũng có thể bỏ qua các ý kiến thiểu số quan trọng hoặc viết lại những bất đồng thực sự thành những kết luận dứt khoát.

Trong các nhiệm vụ lập trình, trình biên dịch, kiểm thử và phân tích tĩnh thường đáng tin cậy hơn ý kiến của một mô hình khác; trong các nhiệm vụ sáng tạo, việc xem xét và tổng hợp có thể dễ dàng làm giảm bớt sự khác biệt thành một câu trả lời trung bình. Ngay cả mô hình đánh giá có sẵn mạnh nhất trên LitBench cũng chỉ đạt tỷ lệ đồng thuận 73% với sở thích viết sáng tạo của con người. Khi có các công cụ thẩm định bên ngoài giá rẻ cho nhiệm vụ đó, hoặc khi chính "tốt" phụ thuộc vào đánh giá chủ quan, thì việc cải thiện điểm số của Fusion khó có thể chuyển đổi thành giá trị trả phí.

IV. Ai sẽ trả tiền cho dự án Fusion?

Nhu cầu về Fusion phụ thuộc vào hai rào cản: liệu nhiệm vụ đó có thể được hưởng lợi từ nhiều mô hình hay không, và liệu lợi ích này có đủ để tạo ra doanh thu bền vững hay không. Rào cản thứ nhất là vấn đề kỹ thuật, trong khi rào cản thứ hai là vấn đề thị trường. Từ khả năng ứng dụng kỹ thuật đến tính khả thi về kinh tế, Fusion đòi hỏi xác suất sửa lỗi nhân với tổn thất có thể tránh được do một lỗi duy nhất phải lớn hơn chi phí, độ trễ, độ phức tạp vận hành và rủi ro về quyền riêng tư khi thêm các API mới.

Điểm chuẩn không thể trả lời câu hỏi về lãi và lỗ này. Việc kết hợp các mô hình chỉ khả thi khi chi phí sai sót cao, các mô hình ứng cử viên cung cấp các đường dẫn tìm kiếm bổ sung, thiếu các đơn vị thẩm định bên ngoài có chi phí thấp hơn và doanh nghiệp có thể chấp nhận độ trễ bổ sung và rủi ro từ nhà cung cấp; kết quả cuối cùng vẫn cần được xác nhận bằng bằng chứng của con người hoặc bên ngoài.

▲ Hình 5: Từ Khả năng Ứng dụng Công nghệ đến Nhu cầu Bền vững Những yếu tố đáp ứng các tiêu chí này chủ yếu bao gồm nghiên cứu và thẩm định có giá trị cao, đánh giá kiến trúc và bảo mật, và "ý kiến thứ hai" trước các quyết định không thể đảo ngược. Chúng có điểm chung: các ràng buộc không đầy đủ, chi phí bỏ sót cao và giá trị vốn có của một phương pháp tiếp cận độc lập. Ngược lại, mã thông thường, ứng dụng tiêu thụ tức thời, quy trình làm việc có thông lượng cao, lợi nhuận thấp và các tác vụ có thể được xác minh trực tiếp bằng thử nghiệm hoặc quy tắc thường không yêu cầu hợp nhất. Các cơ quan quản lý cũng có thể từ chối các nhóm chuyên gia đa nhà cung cấp do ranh giới dữ liệu và yêu cầu kiểm toán. Từ Sự Sẵn sàng Chi trả đến Nhu cầu Bền vững Tính hữu ích của công nghệ có thể tạo ra sự sẵn sàng chi trả cao, nhưng điều đó không đồng nghĩa với nhu cầu có thể mở rộng. Để nhu cầu bền vững thành hiện thực, tổn thất do lỗi phải được định lượng, các tác vụ phải được thực hiện định kỳ, phải có trách nhiệm ngân sách được xác định rõ ràng trong tổ chức và sự hợp nhất phải liên tục vượt trội so với các chuyên gia con người, các mô hình thực thể đơn lẻ mạnh mẽ và xác thực bên ngoài. Tuy nhiên, ngân sách thẩm định thường được chi cho các nhà phân tích và các nguồn tin đáng tin cậy, ngân sách an ninh được chi cho các cuộc kiểm toán chuyên nghiệp, và các quyết định không thể đảo ngược lại xảy ra quá ít.

Do đó, chúng tôi không lạc quan về các công ty chỉ cung cấp các trình bao bọc đa mô hình, chạy các bảng điều khiển theo mặc định hoặc coi các thuật toán lựa chọn mô hình tĩnh như một rào cản. Việc kết nối API rất dễ sao chép, và các chiến lược cố định nhanh chóng trở nên kém hiệu quả khi khả năng và giá cả của mô hình thay đổi; nếu không biết tỷ lệ lỗi và số lần Fusion thực sự sửa lỗi, thì không thể định giá loại bảo hiểm này. Những người kiểm soát kết quả thực tế có nhiều khả năng nắm bắt được giá trị: nền tảng cổng và đại lý, ứng dụng chuyên ngành, chủ sở hữu quy trình làm việc và các sản phẩm đánh giá và quan sát. Họ biết chi phí của lỗi, có thể quan sát kết quả và có thể tối ưu hóa các chiến lược kích hoạt. Điều thực sự khó sao chép không phải là danh sách bảng điều khiển, mà là xác định khi nào không nên sử dụng Fusion. Xác thực thị trường: Thị trường công khai không đủ để xác định quy mô nhu cầu đối với Fusion, nhưng chúng đã cho thấy cách nó đang được sử dụng. Perplexity Model Council chỉ dành cho người dùng Max và Enterprise Max trả 200 đô la mỗi tháng. Người dùng tự chọn ba mô hình trên web để nghiên cứu đầu tư, ra quyết định phức tạp và xác thực thông tin; các trường hợp sử dụng công khai bao gồm tích hợp Model Council vào quy trình nghiên cứu chứng khoán thông qua tự động hóa trình duyệt. Sự kết hợp các tác nhân của Hermes trình bày Fusion như một mô hình ảo có thể lựa chọn trong tác nhân: người dùng có thể nâng cấp lên một vấn đề khó khăn duy nhất thông qua /moa, hoặc liên tục kích hoạt nó trong các phiên phức tạp, với phân tích được cung cấp bởi nhiều mô hình tham chiếu và bộ tổng hợp gọi các công cụ để hoàn thành nhiệm vụ. Sau đó, Hermes đã giảm tần suất phân bổ mặc định và tái sử dụng phản hồi từ các mô hình trước đó để kiểm soát chi phí. Những ví dụ này minh họa rằng nhu cầu thực sự đối với Fusion tập trung vào các tác vụ khó khăn, tần suất thấp như nghiên cứu, gỡ lỗi, xem xét và ra quyết định quan trọng. Cách sử dụng điển hình là nâng cấp chủ động sau khi một mô hình duy nhất gặp phải nút thắt cổ chai, chứ không phải là một quy trình tự động tần suất cao được kích hoạt theo mặc định. Bằng chứng hiện có chứng minh nhu cầu này tồn tại, nhưng thông tin công khai vẫn chưa đủ để xác định liệu nó có thể hình thành một thị trường trả phí quy mô lớn, độc lập hay không.

V. Tương lai của phản ứng tổng hợp hạt nhân

Mặc dù việc giảm chi phí suy luận có vẻ mang lại lợi ích cho Fusion, nhưng đồng thời nó cũng làm giảm chi phí cho các mô hình đơn lẻ mạnh mẽ, định tuyến và xác thực bên ngoài. Fusion không cạnh tranh dựa trên các dự đoán mô hình của ngày hôm qua, mà dựa trên việc liên tục cải thiện các mô hình đơn lẻ thế hệ tiếp theo và các tiêu chuẩn điều phối.

Giải pháp Devin Fusion của Cognition thể hiện hướng đi của cuộc thi này: để các mô hình đắt tiền ở giai đoạn ra quyết định, và giao phó các nhiệm vụ cơ học, có thể kiểm chứng được cho các mô hình rẻ hơn. Trong quá trình tự kiểm tra của nhà cung cấp, điểm tổng thể của Fusion + Fable 5 tăng nhẹ từ 57,0 lên 57,6, với chi phí trung bình giảm từ 5,12 đô la xuống còn 3,00 đô la; tuy nhiên, trong năm nghiên cứu trường hợp đã công bố, trong khi chi phí giảm từ 25% đến 62%, điểm số của các nhiệm vụ lại dao động từ +12 đến -27. Các thao tác tái cấu trúc ES6 được xác định rõ ràng và kiểm thử kỹ lưỡng đã tăng từ 98 lên 100 điểm; các chức năng React/Redux dựa trên sự hiểu biết về tương tác và các yêu cầu ngầm định, khi bị giao phó sai, đã giảm từ 54 xuống còn 27 điểm.

▲ Hình 6: Điểm số và chi phí của tác vụ Devin Fusion. Đây là những ví dụ được các nhà cung cấp lựa chọn và không đại diện cho sự phân bố tổng thể, nhưng chúng chỉ rõ điều sau: khả năng cốt lõi của các hệ thống đa mô hình trong tương lai không phải là gọi thêm nhiều mô hình, mà là xác định ranh giới suy giảm chính xác. Các tác vụ cơ học có thể kiểm chứng được có thể được giao cho các mô hình rẻ hơn, trong khi các tác vụ đòi hỏi nhiều phán đoán phải được dành cho các mô hình tiên tiến nhất. OpenRouter bán "nhiều trí thông minh hơn", trong khi Cognition bán "trí thông minh tương đương với chi phí thấp hơn"; đề xuất thứ hai gần hơn với hướng đi dài hạn. Hệ thống càng gần với kinh tế sản xuất, nó càng ít giống với Model Fusion theo nghĩa hẹp, và càng giống với định tuyến, ủy quyền và xác minh.

Cuối tháng 7, các báo cáo truyền thông cho biết Stripe đang đàm phán để mua lại OpenRouter với giá khoảng 10 tỷ đô la, mặc dù thỏa thuận vẫn chưa được xác nhận. Tín hiệu này không nên được hiểu là Fusion đã được thị trường công nhận: giá trị cốt lõi của OpenRouter không nằm ở bất kỳ bảng điều khiển cụ thể nào, mà ở lớp gọi trung lập kết nối hơn 5 triệu nhà phát triển với hơn 400 mô hình. Stripe hiện đã cung cấp dịch vụ lập hóa đơn, thuế và kiểm soát rủi ro cho OpenRouter, đồng thời cho phép các nhà phát triển tạo tài khoản, lấy khóa API và kết nối trực tiếp với các khoản thanh toán thông qua Stripe Projects. Điều mà Stripe có thể đang mua lại là cổng giao dịch cho suy luận AI: OpenRouter kiểm soát việc lựa chọn mô hình, sử dụng mã thông báo và chi phí, trong khi Stripe xử lý giá cả, lập hóa đơn và thanh toán. Điều này cung cấp một tín hiệu thị trường cho đánh giá giá trị đã đề cập trước đó: giá trị trong kỷ nguyên đa mô hình có nhiều khả năng vẫn nằm ở lớp điều phối, có thể quan sát các tác vụ, phân bổ cuộc gọi và hoàn tất thanh toán; Fusion chỉ đơn thuần là một chiến lược nâng cấp tốn kém trên nền tảng đó.

Các hệ thống đa mô hình trong tương lai sẽ không tự động gọi các nhóm chuyên gia; thay vào đó, chúng sẽ ước tính độ khó của nhiệm vụ, chi phí xác thực và hình phạt lỗi trước tiên. Việc tìm kiếm sự khác biệt giữa các mô hình chỉ được tiến hành khi các mô hình đơn lẻ mạnh hơn, suy luận mở rộng và các công cụ bên ngoài không đủ. Tỷ lệ kích hoạt, tỷ lệ thành công gia tăng và chi phí được xác thực trên mỗi đơn vị kết quả là các chỉ số sản phẩm có ý nghĩa duy nhất. Việc kết hợp sẽ vẫn là một tính năng có tần suất thấp, chứ không trở thành kiến trúc mặc định hoặc một danh mục độc lập.

VI. Nguồn

OpenRouter: Vượt trội về hiệu năng với Fusion

Tài liệu hướng dẫn về bộ định tuyến OpenRouter Fusion

Nhận thức: Devin Fusion --- Hiệu năng vượt trội với chi phí thấp hơn 35%

Microsoft Research: Switchcraft --- Bộ định tuyến mô hình AI cho việc gọi công cụ tự động

Việc kết hợp các mô hình ngôn ngữ có ích trong những trường hợp nào?

Suy luận đa tác nhân giúp cải thiện hiệu quả tính toán.

Các mô hình LLM đơn tác nhân vượt trội hơn các hệ thống đa tác nhân trong suy luận đa bước với ngân sách token tư duy bằng nhau.

Sự kết hợp của nhiều tác nhân giúp tăng cường khả năng của mô hình ngôn ngữ quy mô lớn.

RouteLLM: Học cách định tuyến LLM bằng dữ liệu ưu tiên

LitBench: Một tiêu chuẩn đánh giá sáng tác văn học.

So sánh mô hình phân tích nhân tạo

Cái giá của sự tiến bộ: Hiệu suất giá cả và tương lai của trí tuệ nhân tạo

Sự bối rối: Mô hình hội đồng là gì?

Ví dụ người dùng Perplexity: Mô hình Hội đồng nghiên cứu tài chính

Tài liệu về Đại lý Hermes: Hỗn hợp các đại lý

Stripe cung cấp sức mạnh cho việc truy cập mô hình AI toàn cầu của OpenRouter.

Axios: Điều gì ẩn sau động thái được cho là của Stripe đối với OpenRouter?