Anthropic, Dario Amodei và The Last Private Company

Tựa gốc: "Anthropic, Dario Amodei, và 'The Last Private Company'"
Tác giả gốc: Beating

Có hai lời kể trái ngược nhau, nhưng đều khá hợp lý, về Dario Amodei, người sáng lập Anthropic.

Một cách giải thích là ông ấy là người canh gác sáng suốt nhất thời đại chúng ta. Trong khi cả thế giới đang lao nhanh về phía vực thẳm của siêu trí tuệ, chỉ mình ông ấy đứng bên vệ đường, liên tục cảnh báo rằng vực sâu đang ở phía trước.

Một phiên bản khác của câu chuyện kể rằng ông là một trong những người tham vọng nhất ở Thung lũng Silicon. Ông lãnh đạo công ty trí tuệ nhân tạo quyền lực nhất thế giới, làm việc ngày đêm để từng bước xây dựng tương lai mà mọi người đã cảnh báo.

Một người hoàn toàn có thể làm cả hai việc này cùng một lúc.

Ông đặt tên cho thế giới tưởng tượng đó là "Vương quốc của những thiên tài trong trung tâm dữ liệu". Vương quốc đó bao gồm năm mươi triệu thiên tài không bao giờ ngủ, làm việc 24 giờ một ngày, suy nghĩ nhanh hơn người bình thường hàng chục lần và có thể nhân bản vô số người khác giống hệt mình. Vương quốc này không có đất đai, không có biên giới; nó tồn tại trong những dãy dài các trung tâm dữ liệu.

Vào tháng 1 năm 2026, ông đã viết nên tầm nhìn này trong một bài báo dài có tựa đề "Thời kỳ vị thành niên của công nghệ".

Rồi ông ta còn đi xa hơn một bước. Điều gì sẽ xảy ra nếu một ngày nào đó năm mươi triệu thiên tài này ngừng tuân theo mệnh lệnh của nhân loại?

Những cảnh tượng tiếp theo thật nguy hiểm. Vũ khí sinh học, nạn thất nghiệp hàng loạt, chế độ độc tài, chiến tranh—ông liệt kê từng cái một. Cuối cùng, ông nói, "Chúng ta không còn nhiều thời gian nữa."

Trong cùng bài báo đó, ông cũng viết: "Trí tuệ nhân tạo (AI) hiện đang viết rất nhiều mã cho Anthropic, giúp cho thế hệ mô hình tiếp theo hoạt động nhanh hơn."

Anh ta vừa tăng tốc vừa cảnh báo. Anh ta không thấy có gì mâu thuẫn trong việc này.

Đây chính là điểm khởi đầu của toàn bộ vấn đề; không phải là anh ta xấu xa, mà là anh ta thực sự không nhận ra điều đó.

Dĩ nhiên, ông ấy có lời giải thích của riêng mình. Anthropic có thể dừng lại, nhưng OpenAI thì không, Google cũng không, và các công ty ở các quốc gia khác cũng sẽ không dừng lại. Không ai sẵn lòng là người đầu tiên bỏ cuộc, và người nào dừng lại trước tiên có thể sẽ không thể dừng lại được gì nữa, chỉ đơn giản là trao lại thành quả cho người khác.

Lập luận này có nghĩa là: vì mọi người đều đang tranh giành, hãy để "tôi" đi trước. Vì không ai có thể dừng lại, hãy để "tôi" quyết định khi nào dừng lại.

Do đó, việc có nên xây dựng siêu trí tuệ hay không không quan trọng lắm. Theo ông, sớm muộn gì nó cũng sẽ được xây dựng. Điều thực sự quan trọng là ai xây dựng nó trước, và ai sẽ đủ năng lực để điều khiển nó vào ngày đó.

Đã quá muộn

Dario Amodei sinh ra ở San Francisco năm 1983. Cha anh đến từ Tuscany, Ý, và đã dành cả đời làm việc trong ngành kinh doanh đồ da; mẹ anh là người gốc Do Thái từ Chicago và đã đóng góp vào việc quy hoạch và xây dựng Thư viện Công cộng San Francisco.

Từ nhỏ, ông đã yêu thích toán học và vật lý. Vào cuối những năm 1990, trong thời kỳ bong bóng dot-com ở khu vực Vịnh San Francisco, các công ty mọc lên như nấm, giới trẻ xây dựng website, tìm kiếm đầu tư và tính toán xem họ có thể thu về bao nhiêu tiền vào ngày IPO. Những câu chuyện đó không làm ông xúc động. Nhiều năm sau, ông nói rằng điều ông tìm kiếm lúc đó là "chân lý khoa học cơ bản"; ông chỉ muốn hiểu tại sao thế giới lại như vậy.

Từ lâu, ông ấy luôn có một thái độ nghiêm túc gần như ám ảnh đối với những vấn đề được gọi là "quan trọng". Một khi đã quyết định điều gì đó đủ quan trọng, ông ấy không thể hiểu nổi làm thế nào một người lại có thể chậm lại và hành động như thể không có chuyện gì xảy ra.

Năm 2003, khi Mỹ chuẩn bị xâm lược Iraq, anh ấy đang học tại Caltech. Có rất nhiều người phản đối chiến tranh trong khuôn viên trường. Trong các cuộc trò chuyện, một số người bày tỏ sự lo ngại của họ; ngày hôm sau, mọi người vẫn đến lớp như thường lệ. Anh ấy đã viết một bài báo trên tờ báo sinh viên chỉ trích các bạn cùng lớp, nói rằng nếu họ thực sự sợ chiến tranh sẽ giết chết nhiều người, thì sự phản đối của họ không nên chỉ dừng lại ở lời nói; sẽ quá muộn để hối tiếc một khi nó thực sự xảy ra.

Theo quan điểm của ông, sự do dự không bao giờ là thái độ trung lập. Chờ đợi tự nó đã là một sự lựa chọn.

Điều mà chàng trai hai mươi tuổi này khó chịu nhất chính là sự chờ đợi.

Ba năm sau, ở tuổi 23, cha anh qua đời vì viêm gan C.

Vào thời điểm đó, hầu như không có cách chữa trị nào cho bệnh viêm gan C. Phương pháp điều trị tiêu chuẩn là dùng interferon trong cả năm, nhưng điều này có thể gây sốt, rụng tóc và trầm cảm, và tỷ lệ chữa khỏi chỉ dưới 50%.

Tháng 12 năm 2013, một loại thuốc mới đã được phê duyệt. Liệu trình điều trị được rút ngắn xuống còn mười hai tuần, với tỷ lệ chữa khỏi đạt 95%.

Cha anh không sống đến khi thấy anh ra đi.

Chỉ cách nhau bảy năm.

Một người con trai không thể cứu được cha mình đã dành hai mươi năm tiếp theo để thúc giục khoa học tiến bộ nhanh hơn nữa.

Sau khi cha ông qua đời, ông chuyển từ vật lý lý thuyết sang vật lý sinh học, nghiên cứu các mạch thần kinh trong võng mạc tại Princeton. Nhận thấy các thiết bị thời đó quá chậm, ông đã tham gia vào việc phát triển các cảm biến mới.

Sau đó, ông đến Trường Y Stanford để nghiên cứu về ung thư và protein. Càng tiếp cận gần với một căn bệnh, bạn càng thấy nó nhỏ bé. Một căn bệnh liên quan đến hàng trăm gen, hàng chục nghìn protein và vô số các con đường liên kết với nhau. Các nhà nghiên cứu có thể dành nhiều năm để cố gắng hiểu một mắt xích trong chuỗi, nhưng họ vẫn không biết điều gì sẽ xảy ra khi nó được đưa trở lại toàn bộ cơ thể.

Sau đó, ông mô tả sự phức tạp của tình hình gần như đẩy ông đến bờ vực tuyệt vọng.

Trí tuệ nhân tạo (AI) xuất hiện trong tầm nhìn của ông vào thời điểm này; nó là một công cụ có thể mở rộng quy mô khả năng của con người. Máy móc có thể đọc nhiều tài liệu, xử lý nhiều dữ liệu và thử nhiều khả năng cùng một lúc, thay thế công việc trí tuệ mà trước đây cần hàng trăm hoặc hàng nghìn nhà nghiên cứu để hoàn thành.

Xuất phát từ ý tưởng rằng "con người quá nhỏ bé", ông ta kết luận rằng mình nên tạo ra thứ gì đó lớn hơn và thu nhỏ con người lại một lần nữa.

Năm 2014, ông rời bỏ ngành khoa học sự sống và gia nhập nhóm AI của Baidu tại Thung lũng Silicon. Nhóm nhanh chóng phát hiện ra rằng mô hình càng lớn, dữ liệu càng nhiều và sức mạnh tính toán càng cao thì hiệu suất càng tốt. Vài năm sau, kinh nghiệm này được tóm tắt thành "quy luật tỷ lệ": bạn có thể không biết thế hệ mô hình tiếp theo sẽ đột nhiên học được gì, nhưng bạn có thể ước tính sơ bộ rằng nó sẽ mạnh hơn thế hệ trước.

Camera thông minh hiện nay dường như là sản phẩm có thể sản xuất hàng loạt như các sản phẩm công nghiệp. Do đó, trí tuệ nhân tạo mạnh mẽ đã trở thành điều tất yếu sẽ xuất hiện sớm muộn.

Những khác biệt còn lại chỉ đơn giản là về lượng dữ liệu, số lượng chip, công suất và thời gian chờ đợi.

Người ghét chờ đợi nhất đã tự mình chứng minh rằng con đường dẫn đến câu trả lời mà anh ta muốn thực sự tồn tại.

vô lăng

Năm 2016, Dario Amodei gia nhập OpenAI.

Trong những năm tiếp theo, mô hình ngôn ngữ phát triển nhanh chóng. Với GPT-3, OpenAI đã chuyển giao hơn một nửa sức mạnh tính toán của công ty cho Dario, người đã mở rộng quy mô mô hình lên gấp trăm lần. Kết quả thậm chí còn đáng kinh ngạc hơn nhiều người mong đợi; nó có thể viết bài báo, dịch thuật, tóm tắt và thực hiện các nhiệm vụ khác mà nó đã tự học mà không cần được dạy.

Khi quy mô tăng lên, khả năng cũng tăng theo.

Ông tin chắc rằng con đường này dẫn đến trí tuệ tổng quát. Và một khi khả năng các mô hình cuối cùng có thể trở nên thông minh như con người được chấp nhận, an ninh sẽ không còn là vấn đề tầm thường nữa.

Rồi anh phát hiện ra một vấn đề. Dario chịu trách nhiệm xây dựng mô hình, nhưng anh dần nhận ra rằng việc xây dựng mô hình và quyết định mô hình nên được sử dụng ở đâu là hai việc hoàn toàn khác nhau. Thời điểm phát hành mô hình, mức độ mở rộng, hợp tác với những công ty nào và ai có quyền quyết định không tự động thuộc trách nhiệm của anh chỉ vì anh phụ trách việc huấn luyện nó.

OpenAI hiện đang chia thành hai nhóm. Một nhóm muốn nhanh chóng đưa công nghệ này ra thị trường; nhóm còn lại lo ngại rằng người lãnh đạo công ty và các nguyên tắc hoạt động của công ty có thể quan trọng hơn bất kỳ chi tiết kỹ thuật cụ thể nào.

Vậy người như thế nào đủ điều kiện để lãnh đạo một công ty tạo ra những sản phẩm trí tuệ mạnh mẽ?

Câu trả lời của ông ấy là các nhà lãnh đạo phải trung thực, động cơ của họ phải chân thành và họ phải thực sự muốn thế giới trở nên tốt đẹp hơn.

An ninh công nghệ dần trở thành vấn đề đánh giá con người. Lối suy luận này vừa nguy hiểm vừa hợp lý. Sự nguy hiểm nằm ở chỗ nó đơn giản hóa tất cả các vấn đề phức tạp thành việc liệu một người có đáng tin cậy hay không. Và trong lối suy luận này, mắt xích luôn bị thiếu là: ai quyết định liệu một người có đáng tin cậy hay không?

Đến năm 2020, mâu thuẫn giữa ông và ban lãnh đạo OpenAI đã trở nên không thể hòa giải. Tháng 12 năm đó, ông rời OpenAI cùng với em gái Daniela, Jack Clark, Chris Olah và một vài đồng nghiệp. Vì Dario thích gấu trúc, nhóm nhỏ này được gọi nội bộ là "Phe Gấu Trúc".

Vài tháng sau, họ thành lập Anthropic. Trong từ điển, Anthropic có nghĩa là "liên quan đến con người".

Lần này, Dario không có ý định giao vô lăng cho bất kỳ ai khác.

Hai mươi người

Năm 2021, đại dịch vẫn đang diễn ra ở San Francisco.

Anthropic là một công ty tương đối mới, chỉ có từ mười lăm đến hai mươi nhân viên. Hầu hết thời gian, họ tổ chức các cuộc họp qua Zoom; mỗi tuần một ngày, mỗi người mang một chiếc ghế và gặp nhau tại một công viên. Trong bữa trưa, họ thảo luận về các mô hình, sức mạnh tính toán, nghiên cứu bảo mật và hình ảnh cuối cùng mà công ty nên hướng tới.

Chỉ có chưa đến hai mươi người ngồi trên bãi cỏ ở San Francisco, có lẽ trên tay cầm nửa hộp salad chưa ăn hết, nhưng họ lại lo lắng về tương lai của tám tỷ người.

Quy luật tỷ lệ cho họ biết rằng tương lai là điều không thể tránh khỏi. Vì nó chắc chắn sẽ đến, nên ai đó phải chuẩn bị trước. Cụm từ "ai đó phải" chính là toàn bộ lý do biện minh cho tính hợp pháp của nó.

Mục tiêu của Anthropic là đồng thời xây dựng các mô hình tiên tiến, nghiên cứu cách hiểu và kiểm soát chúng, và sau đó biến bộ phương pháp bảo mật này thành tiêu chuẩn cho các công ty khác.

Dario đã rút ra bài học từ OpenAI. Anh hiểu rằng việc thảo luận về bảo mật từ bên ngoài lĩnh vực công nghệ chỉ đưa ra lời khuyên cho những người thực sự kiểm soát các mô hình. Cho dù nói năng lưu loát đến đâu, điều đó cũng giống như đứng trên bờ dạy người đang ở dưới nước bơi vậy.

Bạn phải tự mình xuống nước.

Điều này khiến Anthropic có vẻ khá lúng túng ngay từ ngày đầu tiên. Để biết mô hình mạnh nhất tiềm ẩn những nguy hiểm nào, trước tiên bạn phải sở hữu mô hình mạnh nhất; để tác động đến quy định, trước tiên bạn phải có ảnh hưởng trong ngành.

Kết quả là, Anthropic nhanh chóng bị cuốn vào vòng xoáy mà tất cả các công ty mô hình quy mô lớn tiên tiến đều không thể tránh khỏi: huy động vốn, mua sức mạnh tính toán, huấn luyện mô hình, phát hành sản phẩm, thu hút khách hàng, và sau đó sử dụng doanh thu và định giá mới để đổi lấy nhiều sức mạnh tính toán hơn nữa.

Dario nói rằng việc phát triển công ty đồng nghĩa với việc bảo vệ thế giới. Các nhà đầu tư cũng sẵn sàng tin rằng đầu tư vào Anthropic là đầu tư vào một công ty trí tuệ nhân tạo có trách nhiệm hơn.

Sự tài tình của lập luận này nằm ở chỗ, càng kiếm được nhiều tiền, ông ta càng tỏ ra đạo đức hơn; giá trị công ty càng cao, bằng chứng cho thấy ông ta "bảo vệ thế giới" càng mạnh mẽ hơn.

Lợi ích thương mại và sứ mệnh văn minh cùng củng cố lẫn nhau.

Dario là người đưa ra định hướng. Anh ấy đã viết một bài báo dài bàn về văn minh, khoa học và tương lai của nhân loại. Em gái anh, Daniela, chịu trách nhiệm hiện thực hóa những tầm nhìn vĩ đại này, bao gồm tuyển dụng, xây dựng đội ngũ và gây quỹ.

Điểm xuất phát của công ty là một phán quyết vĩ đại mà hầu như không thể bác bỏ:

Trí tuệ nhân tạo mạnh mẽ đang đến, và thế giới cần một công ty đáng tin cậy hơn để dẫn đầu.

"Đáng tin cậy hơn" là điều mà chính công ty tự nhận xét.

Câu chuyện này đã mang lại cho Anthropic một tinh thần gắn kết mạnh mẽ. Những người gia nhập không chỉ đơn thuần tìm kiếm một công việc lương cao hơn. Họ tin rằng mình đang làm điều gì đó vô cùng quan trọng đối với nền văn minh nhân loại.

Tình trạng đáng sợ nhất mà một công ty có thể gặp phải là khi nhân viên của họ thực sự tin rằng họ đang cứu nhân loại. Bởi vì kể từ thời điểm đó, mọi hoạt động mở rộng kinh doanh đều tự động biến thành một cuộc thánh chiến; mọi tiếng nói bất đồng đều tự động trở thành sự phản bội nhân loại.

Trong những năm đầu thành lập, Anthropic muốn chứng minh rằng một công ty trí tuệ nhân tạo có thể thận trọng và có trách nhiệm hơn những công ty khác. Mong muốn này có lẽ là chân thành.

Nhưng sự chân thành không bao giờ đảm bảo tính đúng đắn. Người chân thành thường gặp nhiều rắc rối hơn người giả tạo khi mắc lỗi, bởi vì họ không bao giờ tự hỏi mình:

Vậy chính xác thì trách nhiệm nghĩa là gì?

Điều gì cho phép một công ty tư nhân có quyền đưa ra quyết định cho toàn thế giới?

cái thước kẻ

Việc huấn luyện mô hình quy mô lớn ban đầu thường dựa vào một số lượng lớn người đánh giá để nhận xét các câu trả lời. Con người phải đưa ra phán đoán trước tiên về câu trả lời nào tốt hơn, nội dung nào có hại và liệu mô hình có nên loại bỏ chúng hay không, sau đó mới truyền những ưu tiên này trở lại cho máy.

Mặc dù hiệu quả, phương pháp này cũng khá rườm rà. Người chú thích đến từ nhiều nơi khác nhau và có những giá trị khác nhau. Ngay cả những quy tắc chi tiết nhất cũng không thể bao quát hết mọi tình huống.

Anthropic đã nghĩ ra một cách tiếp cận khác. Thay vì để con người liên tục hướng dẫn mô hình cách trả lời từng câu hỏi, họ trước tiên đưa cho nó một tập hợp các nguyên tắc. Năm 2022, Anthropic đề xuất "Trí tuệ nhân tạo dựa trên hiến pháp". Phương pháp này đại khái như sau: đầu tiên, hãy để mô hình tạo ra câu trả lời, sau đó để nó xác định những sai sót trong câu trả lời dựa trên một tập hợp các nguyên tắc đã được viết ra, tìm ra các vấn đề và sau đó cải thiện chúng.

Bản "hiến pháp" này ngày càng dài ra. Nó cần hiểu về quyền lực và xung đột lợi ích, cũng như biết thế nào là sự trưởng thành và khôn ngoan. Thậm chí, nó cần xem xét đến bản sắc, hoàn cảnh và hạnh phúc của chính mình, chứ không chỉ coi mình như một công cụ vô giá trị.

Nó định hình tính cách.

Điều lệ của Anthropic nêu rõ rằng văn kiện này trực tiếp định hình hành vi của Claude, thể hiện tầm nhìn của công ty về các giá trị và tính cách của Claude, và là "quyền lực tối cao" để hiểu Claude nên hành động như thế nào. Trong lịch sử, những người chịu trách nhiệm về những vấn đề này bao gồm nhà thờ, hoàng đế và các đảng phái chính trị. Giờ đây, đó là một công ty tư nhân.

Khi tác động của một mô hình quy mô lớn lên thế giới không còn là sự tiêu thụ đơn lẻ, những gì Claude bác bỏ hay khuyến khích, và cách ông mô tả một quốc gia, một cuộc chiến tranh hay một hệ thống chính trị, sẽ ảnh hưởng đến các sản phẩm tiếp theo và trở thành một phần trong sự hiểu biết của người khác về thế giới.

Anthropic vẫn đưa ra quyết định theo cách thức của một tập đoàn, nhưng tác động của những quyết định này ngày càng giống với một tổ chức công, mà không cần đến sự giám sát của bất kỳ tổ chức công nào.

Sau khi thiết lập hiến pháp cho các mô hình của mình, Anthropic bắt đầu thiết kế các quy tắc giao thông cho ngành công nghiệp này. Năm 2023, công ty đã ra mắt "Chính sách mở rộng quy mô có trách nhiệm". Một mô hình chỉ biết soạn thảo email và một mô hình có thể thiết kế vũ khí sinh học và thực hiện các cuộc tấn công mạng tinh vi rõ ràng không thể được quản lý theo cùng một cách. Do đó, Anthropic phân loại các mô hình theo các mức độ rủi ro khác nhau. Mô hình càng có khả năng cao, rủi ro tiềm tàng càng lớn và công ty càng phải thực hiện các biện pháp an ninh nghiêm ngặt hơn.

Một công ty tư nhân đóng nhiều vai trò. Công ty này sản xuất các mô hình; sau khi hoàn thành, công ty đo lường mức độ nguy hiểm của chúng; thiết lập các tiêu chuẩn về những gì cấu thành nên sự nguy hiểm; xác định giới hạn mà trong đó các mối nguy hiểm cần được ngăn ngừa; và cuối cùng, công ty sử dụng những kết quả này để tư vấn cho các cơ quan quản lý về cách xây dựng các quy tắc.

Ông vừa là vận động viên vừa là trọng tài.

Rõ ràng Anthropic cũng đã xem xét khía cạnh này. Để ngăn chặn việc công ty bị cuốn hoàn toàn vào lợi ích thương mại, Anthropic đã thiết kế một quỹ tín thác vì lợi ích dài hạn. Quỹ tín thác này, bao gồm các thành viên bên ngoài không trực tiếp nắm giữ lợi ích kinh tế trong công ty, nhằm đảm bảo rằng Anthropic xem xét các lợi ích lâu dài của con người bên cạnh lợi nhuận của cổ đông. Theo thiết kế ban đầu, quỹ tín thác sẽ dần dần có quyền bổ nhiệm và bãi nhiệm đa số thành viên hội đồng quản trị, kìm hãm hoạt động của công ty khi nó đi chệch khỏi sứ mệnh của mình.

Từ góc độ quản trị doanh nghiệp, một sự sắp xếp như vậy khá hiếm gặp. Hầu hết các công ty khởi nghiệp, khi huy động vốn, đều bận rộn chứng minh cho các nhà đầu tư thấy rằng họ sẽ tăng trưởng nhanh chóng. Tuy nhiên, Anthropic lại làm ngược lại, xây dựng một cấu trúc để ngăn chặn các nhà đầu tư và ban quản lý tương lai từ bỏ lời hứa về sự an toàn để kiếm tiền.

Không công bằng khi nói rằng đây chỉ là trò diễn. Anthropic thực sự coi trọng quyền lực hơn hầu hết các công ty công nghệ khác, và họ sẵn sàng tự tạo ra rắc rối cho mình. Nhưng từ đầu đến cuối, điều họ thực sự quan tâm luôn là làm thế nào để sử dụng quyền lực đó tốt hơn, chứ không phải là liệu họ có nên có quyền lực đó hay không.

Một công ty ra đời với sứ mệnh rõ ràng sẽ không bao giờ hỏi "Tại sao tôi tồn tại?", mà chỉ hỏi "Làm thế nào để tôi tồn tại tốt hơn?".

Nó không trả lời câu hỏi "ai đã trao cho bạn quyền lực", mà chỉ tuyên bố rằng vì nó đã có quyền lực, nó dự định sẽ trở thành một người tốt.

Vào thời điểm này, Dario không chỉ đơn thuần điều hành một công ty nữa. Triết lý an ninh của ông đã thấm nhuần vào các mô hình và chính sách công của ông. Ông bắt đầu thảo luận về việc quốc gia nào nên được ưu tiên tiếp cận thông tin tình báo tiên tiến, hệ thống chính trị nào xứng đáng được bảo vệ và ai nên quyết định thứ tự mà thế giới thu thập thông tin tình báo.

Nước Mỹ sẽ nắm bắt tương lai trước tiên.

Năm 2024, Dario Amodei đã viết "Những cỗ máy của ân điển yêu thương".

Tên gọi này xuất phát từ một bài thơ. Năm 1967, nhà thơ Richard Brautigan đã viết bài thơ "All Watched Over by Machines of Loving Grace" tại Caltech:

Một bài thơ về sự hòa giải giữa máy móc và vạn vật. Ông đã mượn tựa đề này để viết nên một trong những lời tiên tri lạc quan nhất về công nghệ trong lịch sử loài người.

Trí tuệ nhân tạo mạnh mẽ sẽ trở thành một nhóm nghiên cứu gồm vô số nhà khoa học hàng đầu, làm việc ngày đêm để đọc các bài báo và thiết kế thí nghiệm, rút ngắn hàng thập kỷ tiến bộ khoa học chỉ trong vài năm. Ung thư, các bệnh truyền nhiễm và bệnh di truyền có thể được đẩy lùi trên quy mô lớn. Nhân loại có thể thực sự hiểu được nguyên nhân gây ra trầm cảm, lo âu và nghiện ngập. Tuổi thọ có thể được kéo dài, và các quốc gia nghèo có thể bỏ qua giai đoạn công nghiệp hóa.

Ông đưa ra một dự đoán rất táo bạo: nếu trí tuệ nhân tạo mạnh mẽ phát triển suôn sẻ, tiến bộ y sinh học trong 50 đến 100 năm tới có thể hoàn thành trong vòng 5 đến 10 năm.

Thật khó để không nghĩ đến cha anh ấy.

Con trai ông đã chờ đợi bảy năm để một loại thuốc mới được phê duyệt, loại thuốc có thể cứu sống những người khác, nhưng đã quá muộn để cứu cậu ấy. Ông hy vọng rằng các thế hệ tương lai sẽ không phải chờ đợi lâu như vậy.

Trong thế giới lý tưởng của mình, ông thực sự tin rằng công nghệ này có thể làm giảm bệnh tật, đau khổ và tử vong. Ông thậm chí còn thảo luận cụ thể về cách đảm bảo rằng lợi ích của AI không chỉ thuộc về các quốc gia giàu có; ông hy vọng rằng AI có thể giúp các nước đang phát triển phát triển và lợi ích công nghệ có thể đến được với càng nhiều người trên toàn thế giới càng tốt.

Nhưng khi ông bắt đầu nói về cách để đạt được tương lai đó, mọi thứ không còn mang tính phổ quát như trước nữa.

Ông tin rằng khi trí tuệ nhân tạo mạnh mẽ xuất hiện, các quốc gia phải giành được lợi thế. Lợi thế này không thể chỉ đơn thuần đạt được nhờ một công ty có sản phẩm tốt hơn hoặc xếp hạng cao hơn. Nó phải đến từ thế mạnh về chip, sức mạnh tính toán, năng lượng, chuỗi cung ứng, năng lực quân sự và các liên minh quốc tế.

Hoa Kỳ và các đồng minh phải mua thêm các chất bán dẫn tiên tiến và xây dựng các trung tâm dữ liệu quy mô lớn hơn, đồng thời ngăn chặn các đối thủ cạnh tranh chiến lược có được các chip cần thiết để huấn luyện các mô hình tiên tiến nhất. Khi trí tuệ nhân tạo mạnh mẽ thực sự xuất hiện, họ phải tận dụng nó để mở rộng lợi thế quân sự và kinh tế, thiết lập một vị thế mà các quốc gia khác không dễ dàng thách thức.

Sau đó là lúc chia sẻ.

Thuốc cần được phân phối và chip cần được bảo mật. Lời hứa "đảm bảo những người trong tương lai không phải chờ đợi" của ông ta thực chất chỉ là "đảm bảo những người đáp ứng tiêu chí không phải chờ đợi". Và ai đáp ứng tiêu chí là do ông ta quyết định.

Ông thậm chí còn mô tả trạng thái đó là "năm 1991 vĩnh cửu". Năm 1991, Liên Xô sụp đổ, Chiến tranh Lạnh kết thúc, và Hoa Kỳ cùng các đồng minh giành được ưu thế vượt trội. Ông hy vọng rằng trí tuệ nhân tạo mạnh mẽ có thể tái tạo lại khoảnh khắc lịch sử đó.

Xin lưu ý tầm quan trọng của phép so sánh này. Một công nghệ tuyên bố mang lại lợi ích cho toàn nhân loại thường được hình dung như là bá quyền đơn cực triệt để nhất trong lịch sử loài người.

"Thế giới thuộc về tất cả" - bốn nhân vật này được xây dựng rất hay. Tuy nhiên, "thế giới" thuộc về Hoa Kỳ, trong khi "thuộc về tất cả" lại thuộc về Anthropic.

Sau đó, DeepSeek xuất hiện. Các công ty Trung Quốc, với nguồn lực tương đối hạn chế, đã đào tạo được những mô hình cạnh tranh. Dario tin rằng điều này chứng minh chính xác khả năng nghiên cứu và kỹ thuật vượt trội của Trung Quốc. Một khi có đủ chip tiên tiến, các công ty Trung Quốc có thể đào tạo được những mô hình mạnh nhất thế giới.

Do đó, chúng tôi tuyệt đối không thể đưa con chip cho họ.

Đối thủ càng mạnh, thì việc phong tỏa càng trở nên chính đáng; khi đối thủ chứng tỏ được khả năng của mình, điều đó lại trở thành lý do để phong tỏa. Logic này luôn đúng vì nó là một vòng luẩn quẩn.

Ông chia tương lai thành hai loại. Một là thế giới lưỡng cực, nơi cả hai bên đều có thể huấn luyện những mô hình cực kỳ mạnh mẽ, biến cuộc chạy đua trí tuệ thành một cuộc Chiến tranh Lạnh mới. Loại kia là thế giới đơn cực, nơi Hoa Kỳ và các đồng minh kiểm soát phần lớn sức mạnh tính toán tiên tiến, và phương Tây sử dụng vị thế dẫn đầu của mình trong vài năm qua để tạo ra lợi thế về công nghệ, kinh tế và quân sự, rồi củng cố vị thế đó.

Rõ ràng ông ấy khao khát một tương lai thứ hai. Tất cả những lời bàn tán về việc mang lại lợi ích cho nhân loại, về việc không phải chờ đợi thêm nữa, về việc máy móc hòa giải với vạn vật, chỉ là khúc dạo đầu trước viễn cảnh "sự đơn cực vĩnh cửu".

Ông từng công khai phản đối một luận điểm cho rằng ông không thích cách các nhà sáng lập công ty trí tuệ nhân tạo tự miêu tả mình như những nhà tiên tri dẫn dắt nhân loại đến sự cứu rỗi, và ông cảnh giác với việc một số công ty sử dụng lợi thế công nghệ của mình để đơn phương định hình tương lai của mọi người.

Ông ta chống đối nhà tiên tri. Nhưng những gì ông ta làm cũng giống như những gì nhà tiên tri đã làm.

Anh ta nhìn thấy tất cả những mối nguy hiểm ngoại trừ chính bản thân mình.

Hãy cùng quay ngược thời gian về tháng 1 năm 2026, đến với "Thời kỳ dậy thì của công nghệ".

Trong bài viết này, Dario Amodei đã ghi lại gần như tất cả những lời chỉ trích nhắm vào ông và Anthropic.

Ông thừa nhận rằng các công ty trí tuệ nhân tạo tiên tiến đang nắm giữ quyền lực hiếm thấy trong lịch sử các doanh nghiệp tư nhân. Ông thậm chí còn thẳng thắn tuyên bố rằng các công ty trí tuệ nhân tạo có thể sử dụng sản phẩm của họ để tác động đến thái độ chính trị của người dùng, hoặc thậm chí là "tẩy não" họ. Ông kêu gọi công chúng theo dõi sát sao các công ty trí tuệ nhân tạo, và các chính phủ cần cảnh giác với việc các công ty này tiến quá gần đến quyền lực nhà nước.

Ông cũng lo ngại rằng trí tuệ nhân tạo sẽ làm tập trung thêm của cải và quyền lực chính trị. Khi một số ít công ty nắm giữ trí thông minh, của cải và thông tin, ảnh hưởng của người dân bình thường đối với nền kinh tế và chính phủ sẽ dần suy giảm.

Ông ấy đã nhìn thấy tất cả những mối nguy hiểm đó. Ông ấy đã ghi chép chúng một cách rõ ràng và chính xác. Ít người ở vị trí quyền lực lại thẳng thắn đến vậy về mức độ nguy hiểm của vị trí mình đang nắm giữ.

Chính vì nó được viết hay đến vậy nên chúng ta phải hỏi: Rồi sao nữa?

Mỗi lần đề xuất một giải pháp, cuối cùng Anthropic lại quay trở lại hướng cũ. Theo đuổi giải pháp đến cùng, Anthropic luôn giành được nhiều quyền lực hơn trước. Mô hình càng nguy hiểm, Anthropic càng cần phải đi đầu; các chính phủ càng thiếu kiến thức về công nghệ, họ càng dựa vào phán đoán của Anthropic; công chúng càng dễ bị ảnh hưởng bởi mô hình, Anthropic càng cần phải làm rõ các giá trị của mô hình; các quốc gia khác càng ít tin tưởng, Mỹ và các công ty AI của họ càng nên kiểm soát chip và sức mạnh tính toán.

Ông thừa nhận rằng đối với mọi căn bệnh, đều có cùng một phương thuốc được đưa ra: Y học nhân sinh.

Ông tin chắc, hoàn toàn tin chắc, rằng công nghệ này quá nguy hiểm để có thể giao cho bất cứ ai. Ông cũng tin rằng mình đã nhận ra mối nguy hiểm này sớm hơn hầu hết mọi người.

Đôi khi, người chân thành lại là người đầu tiên bạn lừa dối, đặc biệt khi lợi ích của việc tự lừa dối bản thân lại lớn đến vậy.

Ông ta dường như thực sự tin rằng công nghệ này quá nguy hiểm để có thể giao cho bất cứ ai. Ông ta cũng thực sự tin rằng mình đã nhận ra mối nguy hiểm này sớm hơn hầu hết mọi người.

Hai câu này kết hợp với nhau tạo thành một bộ quy tắc tự khẳng định quyền lực hoàn chỉnh. Ông ta không cần phải tự xưng là người bảo vệ nhân loại. Ông ta chỉ cần liên tục loại bỏ những kẻ mà ông ta cho là không đáng tin cậy: thị trường không tốt, công chúng không tốt, các quốc gia độc tài không tốt, các công ty khác không đủ thận trọng. Một khi tất cả mọi người đã bị loại bỏ, kẻ phù hợp nhất để nắm quyền điều khiển, trớ trêu thay, lại chính là Anthropic.

Điểm cuối cùng của quá trình loại trừ luôn luôn là chính bản thân người đó.

Ông ấy không tin rằng bất cứ ai có quyền quyết định tương lai của nhân loại.

Vì vậy, anh ấy quyết định tự mình làm điều đó.

Công ty tư nhân cuối cùng

Vào ngày 14 tháng 8 năm 2026, một câu nói đã được trích dẫn từ một podcast.

"Trong nội bộ Anthropic, họ rất tự tin. Một vài người tôi tin tưởng đã nói với tôi rằng Dario từng nói: Anthropic có thể một ngày nào đó sẽ trở thành công ty tư nhân duy nhất trên thế giới."

Người nói điều này là Gavin Baker, một nhà quản lý quỹ đầu tư mạo hiểm đã đầu tư vào SpaceX. Ông ấy nói thêm rằng trong tầm nhìn đó, chỉ có Anthropic và các chính phủ. Chỉ vậy thôi.

Chỉ trong một ngày, cụm từ này đã lan truyền chóng mặt trên mạng xã hội.

"Đó là sự kiêu ngạo," David Sacks, cựu cố vấn Nhà Trắng về trí tuệ nhân tạo và tiền điện tử, hiện là đồng chủ tịch Hội đồng Cố vấn Công nghệ của Tổng thống, cho biết. "Nó hơi giống với SBF."

Tối hôm sau, Dario đã đăng tải hai bài viết dài trên X để đáp trả.

Bài viết đầu tiên bàn về quy định. Tác giả cho rằng cách tiếp cận "tập trung hay phân quyền" là một sự lựa chọn sai lầm; một hệ thống thực sự tốt sẽ phân quyền.

"Hệ thống tòa án chính thức đôi khi có vẻ cứng nhắc và mang tính thượng lưu, nhưng nó có khả năng bảo vệ những người dễ bị tổn thương tốt hơn so với phương án thay thế - công lý đám đông. Ở khía cạnh tốt nhất, một thể chế có thể trao quyền cho các ý tưởng hơn là cho cá nhân."

Bài báo thứ hai bàn về việc phổ biến thông tin. Ông cho rằng thái độ tiêu cực của công chúng đối với trí tuệ nhân tạo bắt nguồn từ cuộc khủng hoảng niềm tin. Sau đó, ông viết phần quan trọng nhất trong hai bài báo dài của mình:

"Tôi nghĩ lời chỉ trích chính xác nhất đối với các công ty AI, bao gồm cả Anthropic, cho đến nay là chúng tôi chưa thực hiện được lời hứa lớn lao về việc mang lại lợi ích cho thế giới. Đó hoàn toàn là lỗi của chúng tôi."

"Cách tiếp cận thực sự hiệu quả là chữa khỏi ung thư."

Cả hai bài báo dài của ông đều không trực tiếp đề cập đến tin đồn. Ông đã dùng một câu hỏi thực tế để né tránh một câu hỏi khác.

Ông ấy nói rằng để thực sự chữa khỏi ung thư, ông ấy muốn sử dụng trí tuệ nhân tạo (AI) để thúc đẩy tiến bộ y học, giúp đưa các loại thuốc mới ra thị trường nhanh hơn bất kỳ bệnh nào khác.

Đây là lời nhắn nhủ dành cho một người đã qua đời năm 2006. Người đó đã chờ đợi một lọ thuốc, chờ đợi rất lâu, nhưng nó không bao giờ đến.

Từ đó trở đi, ông tin rằng chậm chạp là một tội lỗi. Khi ai đó tin rằng chậm chạp là một tội lỗi, họ coi tốc độ là phương thuốc duy nhất. Phương thuốc là một điều tốt. Nhưng ông muốn mọi người tin rằng chỉ có ông mới có thể bào chế ra phương thuốc đó.

Năm 1986, tác giả người Anh Alan Moore xuất bản một cuốn truyện tranh có tên *The Guardians*, sau này được chuyển thể thành phim. Một trong những nhân vật trong phim là Adrian Witt, được biết đến với biệt danh Pharaoh, và tự xưng là người thông minh nhất thế giới.

Ông đã nhìn thấy trước thảm họa sắp xảy ra trước bất kỳ ai khác. Chiến tranh hạt nhân, ngày tận thế, nhân loại tự hủy diệt. Ông đã chuẩn bị cho điều này suốt nửa cuộc đời mình. Rồi ông nhận ra rằng chỉ những lời cảnh báo suông là vô ích.

Vậy là chính ông ta đã gây ra thảm họa. Chỉ sau một đêm, nhiều thành phố đã bị xóa sổ khỏi bản đồ.

Ông tin rằng chỉ khi nhân loại chứng kiến sự hủy diệt thì hai siêu cường mới ngừng chiến tranh, và chỉ khi đó thế giới mới có thể đạt được hòa bình.

Hắn là kẻ giết người, nhưng cũng là vị cứu tinh mà hắn tự cho mình là.

Cuối cùng, mọi việc diễn ra đúng như ý muốn của anh ta. Anh ta hỏi tiến sĩ Manhattan màu xanh lam, người gần như toàn tri:

"Kết thúc ư? Adrian, chưa có gì là kết thúc cả. Mọi thứ sẽ không bao giờ kết thúc."