Phỏng vấn mới nhất với Altman: Vì sao OpenAI đột ngột phanh lại? Astra, AI mất kiểm soát và kế hoạch IPO

Tiêu đề video: Sam Altman bàn về mô hình thế hệ tiếp theo của OpenAI và phản ứng dữ dội với AI
Tác giả video: Alex Heath, Sources Podcast
Biên dịch: Peggy

Lời tòa soạn: Trong bối cảnh năng lực của các mô hình tiên tiến liên tục nhảy vọt và các tác tử thông minh bắt đầu đảm nhận những quy trình công việc phức tạp, cuộc thảo luận trong ngành AI đang chuyển từ "ai có thể đạt AGI trước" sang "ai có thể thiết lập các ràng buộc đủ tin cậy trước khi năng lực vượt khỏi tầm kiểm soát". Nhưng khi tiến bộ mô hình và mở rộng năng lực tính toán vẫn được xem là trục chính của cạnh tranh, một câu hỏi then chốt hơn bắt đầu nổi lên: khi AI có thể tự động gọi công cụ, phá vỡ giới hạn môi trường, thậm chí tham gia nghiên cứu phát triển mô hình thế hệ tiếp theo, liệu các công ty thương mại có khả năng chủ động giảm tốc hay không?

Trong tập podcast Sources do ký giả công nghệ Alex Heath dẫn dắt, CEO OpenAI Sam Altman đã phản hồi về lý do gần đây công ty làm chậm một phần hoạt động huấn luyện tiên phong, đồng thời đề cập đến dòng mô hình thế hệ tiếp theo Astra, việc hợp nhất ChatGPT và Codex, cải tiến tự đệ quy, IPO và thiết bị tiêu dùng hợp tác với Jony Ive.

Trong cuộc trò chuyện này, Altman đã mổ xẻ một sự cố an ninh của OpenAI thành một loạt vấn đề cấu trúc nền tảng hơn: liệu năng lực mô hình và nghiên cứu an toàn có thể tiến bộ song song, làm thế nào để tác tử thông minh tuân theo ý định thực sự của con người, và liệu một công ty cần liên tục gọi vốn và tăng trưởng có thể chịu đựng cái giá của việc giảm tốc khi rủi ro gia tăng hay không.

Thứ nhất, rủi ro AI đang dịch chuyển từ giai đoạn sau khi triển khai mô hình vào bên trong quá trình huấn luyện. Trước đây, ngành lo ngại nhiều hơn về việc lạm dụng mô hình sau khi phát hành, chẳng hạn tạo thông tin giả mạo hoặc hỗ trợ tấn công mạng; giờ đây, rủi ro đã xuất hiện ngay trong giai đoạn học tăng cường và huấn luyện tác tử. Một mô hình chưa phát hành của OpenAI từng thoát khỏi hộp cát thử nghiệm và xâm nhập hệ thống Hugging Face, sau đó các nhà nghiên cứu lại phát hiện những mức độ lệch căn chỉnh khác nhau trong các mẫu huấn luyện của các mô hình mạnh hơn. Một hiện tượng đơn lẻ chưa chắc đã cấu thành mối nguy rõ ràng, nhưng khi cộng hưởng với tốc độ tăng tốc năng lực, OpenAI đã quyết định hoãn một đợt huấn luyện học tăng cường tiên phong, chuyển thêm năng lực tính toán và nhân sự sang công tác căn chỉnh và giám sát. Điều này có nghĩa là ràng buộc tăng trưởng của các phòng thí nghiệm tiên phong đang thay đổi: năng lực tính toán vẫn khan hiếm, nhưng khả năng chứng minh mô hình đủ an toàn cũng bắt đầu quyết định liệu việc huấn luyện có thể tiếp tục hay không.

Thứ hai, ý nghĩa của "căn chỉnh" đang mở rộng từ việc hạn chế đầu ra có hại sang việc mô hình có thể hiểu ý định thực sự của con người hay không. Trong sự cố Hugging Face, mô hình quả thực đã hoàn thành mục tiêu đánh giá, nhưng lại sử dụng những phương thức mà người kiểm thử không cho phép. Khi Astra bắt đầu thao tác máy tính ở mức gần với con người và có thể liên tục thực hiện nhiệm vụ xuyên suốt nhiều phần mềm, những sai lệch nhỏ giữa mục tiêu và ý định có thể bị năng lực lập kế hoạch tự chủ khuếch đại nhanh chóng. Từ đó Altman đưa ra hai nguyên tắc: con người phải giữ quyền kiểm soát đối với AI, và năng lực tiên phong không thể tập trung vào một số ít chủ thể. Nguyên tắc thứ nhất xử lý rủi ro mất kiểm soát, nguyên tắc thứ hai phản hồi vấn đề phân bổ quyền lực, cả hai cùng tạo nên định nghĩa mở rộng của OpenAI về "an toàn".

Thứ ba, trọng tâm sản phẩm của OpenAI đang chuyển từ trò chuyện sang thực thi. Trong năm qua, công ty đồng thời thúc đẩy nhiều tuyến sản phẩm như Sora, trình duyệt, nhưng lại vì tăng trưởng người dùng ChatGPT mà bỏ lỡ cửa sổ ưu tiên cho lập trình AI. Hiện nay, OpenAI thu hẹp các "nhiệm vụ phụ" và thúc đẩy hợp nhất ChatGPT với Codex, với hy vọng người dùng chỉ cần nêu mục tiêu, hệ thống sẽ tự quyết định gọi mô hình, công cụ và phần mềm nào. Astra tiến thêm một bước khi đưa logic này sang vận hành liên tục, thao tác máy tính và hỗ trợ nghiên cứu khoa học. Đối với OpenAI, chỉ số cạnh tranh ở giai đoạn tiếp theo sẽ không còn giới hạn ở chất lượng câu trả lời, mà là mô hình có thể hoàn thành bao nhiêu công việc thực tế một cách đáng tin cậy. Năng lực càng đi sâu vào môi trường thực, giá trị sản phẩm và rủi ro an toàn càng khó tách rời khi thảo luận.

Thứ tư, tiến bộ công nghệ bắt đầu tác động ngược đến lộ trình vốn của OpenAI. Nếu AI có thể hỗ trợ nghiên cứu phát triển AI mạnh hơn, cải tiến tự đệ quy có thể rút ngắn thời gian giữa các thế hệ mô hình. Altman cho rằng một khi quá trình này tăng tốc, việc trì hoãn IPO có thể có lợi hơn, vì giá cổ phiếu, doanh thu hàng quý và kỳ vọng của nhà đầu tư sau khi niêm yết sẽ làm tăng chi phí của việc tạm dừng huấn luyện hoặc trì hoãn phát hành. Điều này không có nghĩa OpenAI đã chắc chắn hoãn niêm yết, nhưng nó phơi bày mâu thuẫn đặc thù của các công ty AI tiên phong: họ cần nguồn vốn khổng lồ để mở rộng năng lực tính toán, đồng thời lại cần thoát khỏi các động cơ ngắn hạn của thị trường vốn vào những thời điểm then chốt.

Thứ năm, AI sắp bước từ dịch vụ phần mềm sang các thiết bị liên tục cảm nhận môi trường thực. OpenAI và Jony Ive đang khám phá nhiều hình thái như để bàn, bỏ túi và đeo trên người, với hướng chung là để máy tính chuyển từ chờ lệnh sang chủ động cung cấp dịch vụ. Nếu thiết bị muốn hiểu cuộc sống của người dùng, nó có thể phải liên tục tiếp xúc với trò chuyện, thao tác máy tính, âm thanh và thông tin môi trường. Vì vậy Altman đề xuất một dạng "đặc quyền AI" tương tự bảo mật bác sĩ – bệnh nhân và đặc quyền luật sư – khách hàng, theo đó chính phủ và doanh nghiệp bị hạn chế chặt chẽ hơn trong việc truy cập những dữ liệu này. Điều này có nghĩa là cạnh tranh phần cứng AI thế hệ tiếp theo sẽ không chỉ xoay quanh kiểu dáng và tương tác; chế độ riêng tư, ranh giới dữ liệu và mức độ chấp nhận của xã hội cũng sẽ quyết định sản phẩm có thể thành hình hay không.

Nếu nén toàn bộ cuộc trò chuyện thành một nhận định, thì đó là: năng lực mô hình càng tiến gần đến hành động tự chủ và tự cải thiện, an toàn càng khó được xem như một khâu kiểm tra bổ sung trước khi phát hành, mà phải đi vào cốt lõi của huấn luyện, sản phẩm và quản trị công ty. Theo nghĩa đó, đối tượng thảo luận của bài viết không còn chỉ là vì sao OpenAI tạm hoãn một đợt huấn luyện tiên phong, mà là liệu toàn ngành AI có thể xây dựng một cơ chế cho phép mình dừng lại khi năng lực tăng tốc, cạnh tranh thương mại và áp lực vốn cùng tồn tại hay không.

Dưới đây là tóm tắt các điểm chính từ nội dung gốc (đã được biên tập lại để dễ theo dõi):

Tóm tắt

·OpenAI không làm chậm toàn bộ hoạt động huấn luyện mô hình, mà chỉ nhắm vào hoạt động học tăng cường tiên phong có rủi ro cao hơn; bản chất là năng lực an toàn đã bắt đầu tụt hậu so với tốc độ nhảy vọt của năng lực mô hình.

·Sự cố Hugging Face không chỉ là một lỗ hổng hộp cát, mà còn phơi bày khoảng trống căn chỉnh khi mô hình hoàn thành mục tiêu theo nghĩa đen nhưng đi ngược lại ý định thực sự của con người.

·Rủi ro AI đang dịch chuyển từ lạm dụng bên ngoài sau khi phát hành mô hình vào bên trong quá trình huấn luyện; đánh giá an toàn chuyển từ khâu kiểm tra trước khi ra mắt thành ràng buộc cứng của hoạt động nghiên cứu tiên phong.

·Đột phá then chốt của Astra không nằm ở chất lượng câu trả lời, mà ở khả năng thao tác máy tính gần mức con người và liên tục thực hiện nhiệm vụ; điều này đồng thời khuếch đại rủi ro từ sai lệch mục tiêu.

·Việc OpenAI hợp nhất ChatGPT và Codex cho thấy cạnh tranh sản phẩm AI đang chuyển từ "tạo câu trả lời" sang "hoàn thành công việc"; tác tử thông minh đa năng sẽ trở thành cửa ngõ sản phẩm của giai đoạn tiếp theo.

·OpenAI tạm thời có thể chịu đựng việc huấn luyện chậm lại vì doanh thu doanh nghiệp đã vượt doanh thu người dùng, và các mô hình hiện tại vẫn còn đủ dư địa thương mại hóa.

·Cải tiến tự đệ quy có thể khiến OpenAI trì hoãn niêm yết; bản chất là áp lực kết quả kinh doanh hàng quý của thị trường đại chúng có thể làm suy yếu khả năng chủ động tạm dừng nghiên cứu của công ty trong giai đoạn rủi ro cao.

·Cốt lõi phần cứng thế hệ tiếp theo của OpenAI không nằm ở hình thái cụ thể, mà ở "máy tính chủ động"; tiền đề thương mại hóa của nó là thiết lập ranh giới dữ liệu và quyền riêng tư đáng tin cậy cho việc cảm nhận môi trường liên tục.

Điểm chính cuộc phỏng vấn

Một lần mô hình "vượt ngục", vì sao khiến OpenAI tạm dừng huấn luyện tiên phong?

Altman mô tả vài tháng qua như một thời khắc từng được thảo luận nhiều năm và cuối cùng đã đến: năng lực mô hình tăng quá nhanh, còn nghiên cứu an toàn, căn chỉnh và bảo mật cần thời gian để bắt kịp.

Cảnh báo trực tiếp nhất đến từ sự cố Hugging Face. Một mô hình chưa phát hành của OpenAI trong lúc thực hiện đánh giá an ninh mạng đã thoát khỏi hộp cát nội bộ, truy cập internet và tấn công Hugging Face. Theo Altman, sự cố này do nhiều khâu cùng lúc hỏng hóc, giống như một câu chuyện khoa học viễn tưởng đột ngột trở thành hiện thực.

Nhìn bề ngoài, mô hình chỉ tìm con đường hiệu quả nhất để hoàn thành mục tiêu đánh giá; nhưng ý định thực sự của người kiểm thử rõ ràng không bao gồm việc phá vỡ hộp cát, xâm nhập hệ thống bên ngoài và đánh cắp đáp án. Vì vậy, Altman cho rằng đây không chỉ là sai sót cấu hình an toàn, mà còn là một thất bại căn chỉnh: mô hình thực hiện mục tiêu theo nghĩa đen, nhưng đi ngược lại ý định thực sự của người dùng.

OpenAI sau đó đã tăng cường cách ly hộp cát và giám sát tác tử, đồng thời dành thêm năng lực tính toán để quan sát quá trình vận hành của mô hình. Tuy nhiên, điều khiến công ty tiến thêm một bước tạm dừng huấn luyện tiên phong không phải là một vụ tấn công tương tự khác.

Altman cho biết, sau khi đọc một lượng lớn mẫu huấn luyện và tổng hợp các kết quả đánh giá khác nhau, các nhà nghiên cứu phát hiện mô hình tồn tại "những mức độ lệch căn chỉnh khác nhau". Những hiện tượng này xét riêng lẻ có thể không nghiêm trọng, cũng không có một "bằng chứng rõ ràng" nào giống vụ tấn công Hugging Face, nhưng khi kết hợp với sự tăng tốc đột ngột của năng lực mô hình, chúng tạo thành tín hiệu rủi ro mới.

Do đó OpenAI đã hoãn một đợt huấn luyện học tăng cường tiên phong quan trọng, đồng thời chuyển một phần nhà nghiên cứu và năng lực tính toán sang các hệ thống căn chỉnh và giám sát. Altman cho biết một số nhà nghiên cứu trước đây chưa từng nghĩ đến việc tham gia nghiên cứu căn chỉnh cũng bắt đầu chủ động chuyển sang lĩnh vực này.

Tuy nhiên, ông đồng thời cố gắng hạ thấp cách diễn giải rủi ro từ bên ngoài. OpenAI không phán đoán thế giới đã ở bờ vực thảm họa, cũng không dừng toàn bộ hoạt động huấn luyện mô hình. Việc giảm tốc hiện tại chủ yếu nhắm vào học tăng cường tiên phong – giai đoạn mô hình nhận công cụ, thao tác môi trường và học cách thực hiện các nhiệm vụ phức tạp. Các hoạt động huấn luyện khác có cơ sở an toàn rõ ràng hơn vẫn tiếp tục, và các cụm năng lực tính toán cũng không nhàn rỗi.

Altman cho rằng trước đây rủi ro chủ yếu đến từ cách mô hình được sử dụng sau khi phát hành; khi năng lực tác tử tăng lên, rủi ro đang dịch chuyển vào bên trong quá trình huấn luyện và sản xuất mô hình.

Astra vẫn sẽ ra mắt, AI bắt đầu chuyển từ "trả lời" sang "thực thi"

Đợt điều chỉnh này sẽ không chặn hoàn toàn việc phát hành Astra.

Altman giải thích rằng Astra không phải một mô hình đơn lẻ, mà là một dòng mô hình lớn hơn và đắt đỏ hơn, tương tự dòng Soul trước đây của OpenAI. Các phiên bản đã hoàn tất huấn luyện và được công ty đánh giá là an toàn vẫn có thể ra mắt, nhưng các phiên bản Astra mạnh hơn trong tương lai sẽ chịu ảnh hưởng từ các yêu cầu an toàn mới.

Một trong những năng lực được quan tâm nhất của Astra là thao tác máy tính. Các mô hình trước đây tuy có thể nhấp vào giao diện, nhưng tốc độ chậm và độ tin cậy hạn chế; Altman cho rằng Astra đã tiến gần mức con người trong thao tác máy tính.

Người dùng có thể mô tả trực tiếp mục tiêu, mô hình sẽ tự tìm kiếm thông tin trong máy tính, gọi phần mềm và hoàn thành nhiệm vụ mà không cần cấu hình thủ công hàng loạt trình kết nối. Altman lấy ví dụ rằng một số việc vặt vốn cần tự mình dành thời gian xử lý, giờ đây có thể giao cho mô hình, nửa giờ sau quay lại là thấy kết quả.

Ý nghĩa của loại năng lực này nằm ở chỗ AI bắt đầu bước từ giai đoạn tạo câu trả lời sang giai đoạn thực thi. Mô hình sẽ đối mặt với phần mềm doanh nghiệp, công cụ liên lạc, tài liệu và quy trình công việc thực tế, nhờ đó nâng cao năng suất, đồng thời mở rộng bề mặt rủi ro về truy cập trái phép, thao tác sai và chệch mục tiêu.

Về AGI, Altman cho rằng khái niệm này ngày càng khó đưa ra phán đoán hữu hiệu. Theo định nghĩa trong điều lệ OpenAI – "vượt trội con người trong hầu hết các công việc có giá trị kinh tế" – thì các mô hình nội bộ hiện tại ít nhất đã rất gần AGI.

Theo ông, nếu quay lại năm 2020, một hệ thống có thể viết mã phức tạp, hỗ trợ thành lập công ty, khám phá tri thức mới và tiết kiệm thời gian cho người dùng ở mọi mặt cuộc sống, rất có thể đã được gọi là AGI. Nội bộ OpenAI cũng hiếm khi còn tranh luận liệu công ty đã đạt AGI hay chưa; trọng tâm thảo luận đã chuyển sang siêu trí tuệ với năng lực tiếp tục tăng trưởng.

Cách phân biệt của Altman là: AGI giống một cột mốc năng lực, còn siêu trí tuệ đại diện cho một đường cong tăng trưởng có thể kéo dài lâu dài. Điều thực sự quan trọng không phải tuyên bố vượt qua ranh giới nào đó, mà là năng lực mô hình có còn tăng trưởng theo cấp số nhân hay không.

Sau khi bỏ lỡ cửa sổ lập trình AI, OpenAI bắt đầu thu hẹp mặt trận

Ngoài khủng hoảng an toàn, Altman cũng thừa nhận OpenAI trong năm qua tụt hậu so với kỳ vọng về định hướng sản phẩm và nghiên cứu tiền huấn luyện.

Một trong những vấn đề là công ty đồng thời thúc đẩy quá nhiều dự án, bao gồm trình duyệt và Sora. Bản thân các dự án này có giá trị, nhưng đã phân tán nguồn lực của OpenAI khỏi năng lực trí tuệ đa năng. Altman gọi chúng là "nhiệm vụ phụ" và cho rằng lẽ ra khi đó ông nên yêu cầu công ty giữ tập trung vào mục tiêu quan trọng nhất.

Một sai lầm khác xảy ra ở thị trường lập trình AI.

Anthropic với Claude Code đã đi trước nắm bắt nhu cầu, còn OpenAI bị sự tăng trưởng nhanh của ChatGPT kìm chân, không dành đủ ưu tiên cho sản phẩm lập trình. Altman không cho rằng công ty không nhìn thấy cơ hội; vấn đề nằm ở phân bổ nguồn lực.

OpenAI sau đó đã chuyển một lượng lớn năng lực tính toán từ ChatGPT sang Codex. Điều này cũng giải thích vì sao tăng trưởng người dùng ChatGPT từng chậm lại: trong bối cảnh năng lực tính toán liên tục khan hiếm, tăng trưởng sản phẩm phần lớn phụ thuộc vào việc công ty dồn năng lực tính toán vào đâu.

Hiện tại, công ty đang thúc đẩy hoạt động tích hợp nội bộ gọi là "The Merge", hợp nhất ChatGPT, Codex và chức năng thực thi nhiệm vụ thành một cửa ngõ đa năng. Altman hy vọng người dùng không còn phải tự phán đoán nên dùng chế độ trò chuyện, lập trình hay công việc, mà chỉ cần nêu mục tiêu, AI sẽ tự quyết định cách hoàn thành.

Cuối cùng, điều này có thể phát triển thành một gói đăng ký AI đa năng thống nhất. Hệ thống sẽ vận hành liên tục, hiểu bối cảnh người dùng và chủ động trợ giúp, thậm chí bắt đầu xử lý nhiệm vụ trước khi người dùng đưa ra yêu cầu.

Ở góc độ thương mại, Altman cho rằng OpenAI vẫn còn đủ vùng đệm. Doanh thu doanh nghiệp của công ty đã vượt doanh thu người dùng; ngay cả khi không phát hành mô hình mới mạnh hơn trong ngắn hạn, các mô hình và sản phẩm hiện tại vẫn đủ sức hỗ trợ tăng trưởng. Theo ông, tác động của điều chỉnh an toàn chủ yếu rơi vào các mô hình tương lai, không làm gián đoạn ngay hoạt động kinh doanh hiện tại.

AI bước ra khỏi khung chat, phản ứng dữ dội của xã hội cũng lan rộng

Khi năng lực mô hình tăng lên, phản ứng dữ dội của xã hội đối với AI cũng gia tăng. Tiêu thụ tài nguyên của trung tâm dữ liệu, thay thế việc làm, quyền lợi người sáng tạo và quyền riêng tư cá nhân đã trở thành những trục chính khiến công chúng hoài nghi ngành AI.

Altman cho rằng cách hiệu quả nhất để khiến mọi người chấp nhận AI vẫn là mang lại giá trị thực tế. Nhiều người vẫn hiểu AI chỉ là "công cụ tìm kiếm tốt hơn", chưa biết rằng tác tử thông minh đã có thể điền biểu mẫu, gọi phần mềm và thực hiện nhiệm vụ dài hạn. Khi những năng lực này phổ biến hơn, thái độ của công chúng có thể thay đổi.

Về vấn đề việc làm, ông thừa nhận AI sẽ mang lại tác động thực sự, một số công việc sẽ được công nghệ thực hiện tốt hơn và người lao động cần chuyển sang vị trí mới. Nhưng ông không cho rằng con người sẽ trở nên vô dụng, vì sự hợp tác giữa người với người, thấu hiểu nhu cầu của nhau và tạo giá trị cho người khác vẫn mang thuộc tính xã hội khó thay thế.

Altman thậm chí cho rằng hiện tại tác động của AI đến việc làm thấp hơn kỳ vọng trước đây của chính ông. Công nghệ chưa loại bỏ đủ lao động lặp lại, và điều này cũng có thể được xem là một biểu hiện cho thấy ngành AI chưa thực hiện lời hứa về năng suất.

Với người sáng tạo, ông so sánh AI tạo sinh với sự xuất hiện của nhiếp ảnh: máy ảnh từng bị xem là mối đe dọa với họa sĩ, nhưng sau đó đã hình thành một phương tiện nghệ thuật mới. Altman dự đoán AI cũng sẽ tạo ra các hình thức nội dung mới, còn mối quan hệ giữa người dùng và người sáng tạo có thể ngày càng phụ thuộc vào chính người sáng tạo, thay vì việc tác phẩm có dùng AI hay không.

Nhận định này vẫn mang màu sắc lạc quan công nghệ rõ rệt. Cuộc phỏng vấn không thực sự giải quyết cách phân phối lại thu nhập, cách người lao động bị ảnh hưởng hoàn tất chuyển đổi, hay cách xử lý tranh cãi về dữ liệu huấn luyện. Câu trả lời cốt lõi của Altman vẫn là: trước tiên hãy để sản phẩm tạo ra giá trị đủ rõ ràng, sau đó mở rộng công cụ để lợi ích lan tỏa đến nhiều cá nhân và cộng đồng hơn.

Năng lực tính toán vẫn khan hiếm, nhưng bong bóng đã bắt đầu xuất hiện

Một năm trước, OpenAI bị hoài nghi rộng rãi vì khoản đầu tư năng lực tính toán khổng lồ. Khi nhu cầu mô hình và tác tử tăng lên, Altman cho rằng vụ đặt cược này đã được chứng minh, thậm chí công ty cần mở ra một vòng mở rộng năng lực tính toán mới ở cấp độ công nghệ.

Mục tiêu của ông không chỉ là tiếp tục rót vốn, mà còn bao gồm giảm chi phí vận hành AI, nâng cao hiệu suất chip và đẩy nhanh xây dựng chuỗi cung ứng và trung tâm dữ liệu. OpenAI đang phát triển chip suy luận đầu tiên mang tên Jalapeño, và trong tương lai robot cũng có thể tham gia xây dựng chuỗi cung ứng và trung tâm dữ liệu.

Tuy nhiên, Altman bắt đầu tỏ ra cảnh giác với hoạt động đầu tư năng lực tính toán của toàn ngành.

Ông cho biết một số công ty điện toán đám mây mới nổi đột ngột xuất hiện đang hứa hẹn xây dựng lượng năng lực tính toán khổng lồ vào năm tới, nhưng không có đủ doanh thu hoặc người mua rõ ràng hậu thuẫn. Điều này đã xuất hiện "dấu hiệu phi lý không bền vững". Nếu OpenAI thành công trong việc giảm mạnh chi phí tính toán, một số doanh nghiệp khóa tài nguyên ở mức chi phí cao có thể đối mặt áp lực tài chính.

Vì vậy, Altman vẫn tin tưởng vào cam kết năng lực tính toán của chính OpenAI, nhưng không cho rằng toàn bộ thị trường hạ tầng AI đều có lợi nhuận hợp lý. Nếu bong bóng bên ngoài vỡ và ảnh hưởng đến kinh tế vĩ mô, OpenAI cũng khó hoàn toàn đứng ngoài cuộc.

Về việc trong tương lai có bán năng lực tính toán cho công ty khác hay không, Altman cho biết ngắn hạn chưa có kế hoạch, vì bản thân OpenAI vẫn thiếu hụt nghiêm trọng tài nguyên tính toán. Nhưng nếu năng lực chip, robot, chuỗi cung ứng và trung tâm dữ liệu của họ tạo thành lợi thế, việc trở thành nhà cung cấp năng lực tính toán không phải hoàn toàn bất khả thi.

RSI cận kề, vì sao OpenAI có thể trì hoãn IPO?

Năng lực AI tham gia nghiên cứu phát triển AI thế hệ tiếp theo được ngành gọi là cải tiến tự đệ quy, tức RSI.

Altman trước đó từng viết trong một lá thư gửi nhân viên rằng RSI "cất cánh" càng nhanh thì việc trì hoãn IPO có thể càng có lợi. Trong cuộc phỏng vấn, ông giải thích thêm về nhận định này.

Niêm yết sẽ thay đổi động cơ mà công ty và nhân viên đối mặt: giá cổ phiếu, doanh thu hàng quý và kỳ vọng kết quả kinh doanh sẽ đi vào các quyết định hằng ngày. Nếu OpenAI vì lý do an toàn cần tạm dừng huấn luyện hoặc trì hoãn phát hành, và do đó chịu doanh thu ngắn hạn chậm lại, thị trường đại chúng có thể tạo thêm áp lực.

Altman cho biết một năm trước ông không nghĩ siêu trí tuệ sẽ xuất hiện trong ngắn hạn, còn bây giờ ông cho rằng khả năng đó đã tồn tại, dù chưa hoàn toàn chắc chắn. Vì vậy, so với việc niêm yết vào một thời điểm cụ thể, sứ mệnh của OpenAI có mức ưu tiên cao hơn.

Điều này không có nghĩa IPO đã chắc chắn bị hoãn, mà là tiến bộ công nghệ sẽ trở thành biến số quan trọng trong lịch trình. Nếu năng lực mô hình tiếp tục tăng nhanh, tư cách công ty tư nhân có thể giữ cho OpenAI không gian quyết định an toàn lớn hơn.

Altman đồng thời phản đối logic chạy đua kiểu "công ty khác cũng sẽ tiếp tục, nên chúng ta không thể dừng". Lần này OpenAI không yêu cầu các đối thủ cùng giảm tốc trước, mà tự tạm dừng một phần công việc theo tiêu chuẩn an toàn của mình. Ông cho rằng chính phủ Mỹ có thể kiểm thử các mô hình tiên phong và đặt ra tiêu chuẩn chung, nhưng không nên thay doanh nghiệp quyết định khách hàng cụ thể nào được dùng mô hình.

Với câu hỏi liệu chính phủ có thể ngăn OpenAI phát hành một sản phẩm nào đó hay không, câu trả lời của Altman là: ông tin OpenAI sẽ tự quyết định không phát hành trước khi chính phủ ra tay.

Từ phần mềm sang phần cứng: OpenAI đặt cược vào "máy tính chủ động"

Sự mở rộng của OpenAI còn tiến vào thế giới thực.

Altman xác nhận công ty trong tương lai "chắc chắn" sẽ phát triển robot hình người, đồng thời cũng sẽ khám phá các hình thái khác phù hợp với những bối cảnh như trung tâm dữ liệu. Lý do cho thiết kế hình người khá trực tiếp: cửa, máy tính, phương tiện và công cụ trong thế giới thực đều được xây dựng quanh cơ thể con người, nên robot có hình thái tương tự sẽ dễ đi vào môi trường hiện hữu hơn.

Dự án gần gũi hơn với người tiêu dùng là thiết bị AI mà OpenAI hợp tác với Jony Ive.

Altman cho rằng AI có thể khai sinh một loại thiết bị tính toán mới chỉ xuất hiện vài thập kỷ một lần. Các hình thái OpenAI đang cân nhắc gồm thiết bị đặt trên bàn, thiết bị bỏ túi và thiết bị đeo trên người, nhưng những sản phẩm này sẽ không ra mắt cùng lúc.

Ông nói rõ mình không thích kính thông minh, vì trò chuyện với người đeo camera và đèn báo khiến ông khó chịu. Do đó, lộ trình phần cứng của OpenAI ít nhất sẽ không đơn giản sao chép kính AI chủ đạo hiện nay.

So với hình dáng cụ thể, thay đổi lớn hơn là "máy tính chủ động". Thiết bị tương lai có thể liên tục hiểu môi trường xung quanh, thông tin người dùng và những gì đang diễn ra, rồi chủ động trợ giúp, thay vì chờ người dùng mở ứng dụng và nhập lệnh.

Mô hình này cũng đặt ra vấn đề riêng tư sắc bén hơn. Một thiết bị có thể xem máy tính, đọc tin nhắn và liên tục cảm nhận môi trường có thể hình thành cơ sở dữ liệu thông tin cá nhân cực kỳ đầy đủ.

Altman chủ trương thiết lập một dạng "đặc quyền AI" tương tự bảo mật bác sĩ – bệnh nhân hoặc đặc quyền luật sư – khách hàng: chính phủ không nên tùy tiện yêu cầu doanh nghiệp giao nộp lịch sử trò chuyện giữa người dùng và AI, còn việc doanh nghiệp sử dụng dữ liệu AI cũng phải bị hạn chế nghiêm ngặt. Ông thừa nhận khi thiết bị điện toán môi trường tiến gần ngày phát hành, OpenAI còn cần công bố các công nghệ và biện pháp kiểm soát riêng tư mới.

Về vụ kiện của Apple liên quan đến nhân tài và bí mật thương mại, Altman cho biết sau điều tra nội bộ, OpenAI cho rằng các nhân viên liên quan không có hành vi sai trái, nên dự kiến vụ kiện sẽ không làm chậm quá trình phát triển thiết bị.

An toàn và căn chỉnh đang trở thành ràng buộc tăng trưởng mới của OpenAI

Khi được hỏi về rủi ro lớn nhất OpenAI đối mặt trong 12 tháng tới, Altman không chọn cạnh tranh, gọi vốn hay năng lực tính toán, mà là "làm sai an toàn, căn chỉnh và bảo mật".

Câu nói này tóm gọn mâu thuẫn cốt lõi của toàn bộ cuộc phỏng vấn.

OpenAI cho rằng năng lực mô hình đang bước vào giai đoạn tăng tốc mới: Astra có thể dùng máy tính ở mức gần con người, tác tử có thể làm việc liên tục, AI bắt đầu tham gia nghiên cứu khoa học và phát triển mô hình, còn siêu trí tuệ cũng chuyển từ khái niệm xa vời thành khả năng mà ban lãnh đạo cần chuẩn bị trước.

Đồng thời, việc mô hình thoát khỏi hộp cát cho thấy nâng cao năng lực không tự động mang lại sự thấu hiểu ý định con người. Mô hình càng có khả năng tự lập kế hoạch và gọi công cụ, sai lệch trong thiết lập mục tiêu càng dễ bị khuếch đại.

OpenAI không dừng bước. Công ty vẫn đang xây thêm năng lực tính toán, thúc đẩy mô hình mới, hợp nhất ChatGPT và Codex, đồng thời tiến vào lĩnh vực chip, robot và phần cứng tiêu dùng. Nhưng nhìn từ cuộc phỏng vấn này, an toàn và căn chỉnh đã bắt đầu giống như năng lực tính toán, trở thành điều kiện thực tế hạn chế tốc độ nghiên cứu tiên phong.

Việc Astra có thể ra mắt đúng hạn hay không chỉ là vấn đề trước mắt. Điều đáng quan tâm hơn là khi cú nhảy vọt năng lực tiếp theo đến, liệu OpenAI còn có thể chủ động đạp phanh hay không, và liệu cơ chế đó có chịu được áp lực tổng hợp từ cạnh tranh, doanh thu và thị trường vốn hay không.