Cẩm nang toàn diện về thập kỷ tới, cuốn sách gối đầu tư AI dành cho giới trẻ thiên tài: "Nhận thức tình huống"

Tác giả: @giantcutie666

Vào năm 2024, Leopold Aschenbrenner, một thiên tài tuổi teen nổi lên sau những năm 2000, đã rời OpenAI để thành lập một quỹ đầu tư.

Đồng thời, ông cũng ghi lại những ý tưởng đầu tư của mình:

Nhìn lại bây giờ, bài báo dài 165 trang "Nhận thức tình huống: Thập kỷ phía trước" đã trở nên huyền thoại.

Những ai hiểu được điều đó năm ngoái chắc chắn đã đạt được tự do tài chính trong năm nay!

Tôi đã đặt bản gốc tiếng Anh gồm 165 trang "ở đây", và bên dưới là phiên bản tóm tắt nội dung:

https://situational-awareness.ai/wp-content/uploads/2024/06/situationalawareness.pdf

Ý chính của bài báo là: trong thập kỷ này, nhân loại sẽ tạo ra trí tuệ nhân tạo tổng quát (AGI - capable of performing all tasks of an average person), tiếp theo đó là siêu trí tuệ.

Hiện tại, chỉ có chưa đến vài trăm người hiểu điều này, phần lớn tập trung ở một vài con phố tại San Francisco. Phần còn lại—bao gồm Phố Wall, giới truyền thông và Washington—vẫn chưa nhận ra (một số người ở Phố Wall đã bắt đầu nhận ra điều này trong năm nay).

Phần một: Vì sao Trí tuệ nhân tạo tổng quát (AGI) sẽ tồn tại vào năm 2027

Phương pháp này đơn giản nhưng hiệu quả: đừng dự đoán thời gian, hãy dự đoán quy mô sức mạnh tính toán.

Trong bốn năm qua, từ GPT-2 đến GPT-4, "sức mạnh tính toán hiệu quả" của mô hình đã tăng khoảng 100.000 lần, tức là tăng gấp mười lần sau mỗi sáu tháng!

GPT-2 giống như một đứa trẻ mẫu giáo đang chật vật viết những câu văn không hoàn chỉnh, trong khi GPT-4 giống như một học sinh trung học thông minh, có khả năng vượt qua kỳ thi luật sư và giải quyết các vấn đề khoa học ở trình độ tiến sĩ.

Sự tăng trưởng gấp 100.000 lần này đến từ ba nguồn:

Thứ nhất, về đầu tư phần cứng. Sức mạnh tính toán được sử dụng cho việc huấn luyện đã tăng hơn ba lần mỗi năm. Định luật Moore chỉ tăng 1,3 lần mỗi năm, trong khi trí tuệ nhân tạo (AI) đã tăng tốc gấp năm lần nhờ sự đầu tư của con người vào các chip AI chuyên dụng.

Thứ hai, các thuật toán thông minh hơn. Ngày nay, việc đạt được một khả năng toán học nhất định đòi hỏi ít hơn 1.000 lần về mặt suy luận so với hai năm trước, nhờ vào các kỹ sư thuật toán đã không ngừng nỗ lực vượt qua các giới hạn.

Thứ ba, việc mở khóa các khả năng bị hạn chế mặc định (giải phóng các giới hạn) là khía cạnh thú vị nhất.

Bản thân mô hình có nhiều khả năng nhưng bị hạn chế bởi các cài đặt mặc định. Ví dụ, mô hình cơ bản của ChatGPT thực sự khá thông minh nhưng lại tạo ra các kết quả vô nghĩa — RLHF đã khai phá ra tiềm năng của nó.

Tương tự, việc cho phép mô hình "suy nghĩ một lúc trước khi trả lời" (chuỗi suy nghĩ) đã mở khóa khả năng lập luận của nó. Cung cấp cho nó các công cụ và bộ nhớ dài hạn sẽ mở khóa thêm một lớp khả năng khác.

Trong bốn năm tới (đến năm 2027), tác giả dự đoán ba con đường này sẽ tăng thêm 100.000 lần nữa.

Điểm mấu chốt nằm ở việc loại bỏ những rào cản:

Các mô hình hiện tại chỉ có thể "suy nghĩ trong vài phút"—khoảng vài trăm token. Điều gì sẽ xảy ra nếu chúng có thể "suy nghĩ trong vài tháng"—hơn một triệu token?

Ví dụ, khoảng cách giữa bạn và Einstein nhỏ hơn nhiều so với khoảng cách giữa "bạn suy nghĩ trong 5 phút" và "bạn suy nghĩ trong 5 tháng".

Nếu điều này được khai phá, nó sẽ đánh dấu một bước tiến vượt bậc về trí thông minh, gấp 3 đến 4 bậc độ lớn. Thành quả này đã nằm trong tầm tay.

Dựa trên điều này, khoảng năm 2027, một loại trí tuệ nhân tạo (AI) sẽ xuất hiện: có khả năng làm việc độc lập như một nhân viên làm việc từ xa trong nhiều tuần, lập kế hoạch công việc, viết mã, tiến hành thí nghiệm, sửa lỗi và gửi kết quả.

Nó có thể thay thế hoàn toàn một nhà nghiên cứu của OpenAI, đó là cách tác giả định nghĩa Trí tuệ Nhân tạo Tổng quát (AGI).

Điều không chắc chắn lớn nhất đến từ bức tường dữ liệu — dữ liệu internet công cộng chất lượng cao đang nhanh chóng bị tiêu thụ hết.

Phần Hai: Trí tuệ nhân tạo tổng quát (AGI) không phải là điểm kết thúc, mà là điểm khởi đầu.

Điều gì sẽ xảy ra khi trí tuệ nhân tạo có thể làm được công việc của các nhà nghiên cứu trí tuệ nhân tạo?

Với sức mạnh tính toán không thay đổi, bạn không còn bị giới hạn bởi "vài trăm nhà nghiên cứu tại OpenAI/Anthropic/DeepMind cộng lại" nữa — bạn có thể chạy 100 triệu bản sao của các nhà nghiên cứu AI, mỗi bản sao hoạt động với tốc độ nhanh gấp 100 lần con người.

Cứ vài ngày, sản lượng lại tương đương với cả một năm làm việc của con người.

Các nhà nghiên cứu tự động này cũng có những lợi thế về cấu trúc: chúng đọc tất cả các bài báo về học máy, ghi nhớ mọi thí nghiệm, chia sẻ ý tưởng trực tiếp giữa các bản sao và việc đào tạo một bản sao có nghĩa là đào tạo tất cả các bản sao khác (không cần mỗi nhân viên mới phải từ từ làm quen).

Điều này có nghĩa là: tiến bộ thuật toán mà trước đây con người phải mất 10 năm mới đạt được có thể được rút ngắn chỉ còn một năm.

Sau đó, chỉ trong một năm nữa sẽ tạo ra một mô hình thế hệ tiếp theo thông minh hơn, dẫn đến một vòng nén dữ liệu khác. Quá trình chuyển đổi từ trí tuệ nhân tạo tổng quát (AGI) sang siêu trí tuệ vượt xa khả năng của con người có thể diễn ra chỉ trong vài tháng đến một hoặc hai năm.

Tác giả thừa nhận có những điểm nghẽn—chẳng hạn như các thí nghiệm đòi hỏi sức mạnh tính toán, và ngay cả với nhiều bản sao, bạn vẫn phải chờ GPU. Tuy nhiên, ông lập luận rằng những điểm nghẽn này chỉ làm chậm sự bùng nổ một chút, chứ không ngăn chặn được nó.

Siêu trí tuệ trông như thế nào?

Về quy mô, nó vượt trội hơn con người – xử lý hàng trăm triệu bản sao song song, tích hợp tức thời trên mọi lĩnh vực, tích lũy lượng kiến thức tương đương với hàng nghìn năm kinh nghiệm của con người chỉ trong vài tuần.

Về mặt chất lượng, nó vượt trội hơn con người—giống như AlphaGo thực hiện nước đi thứ 37 (một nước đi mà các chuyên gia hàng chục năm cũng không thể nghĩ ra), nhưng được áp dụng trong mọi lĩnh vực. Nó có thể xác định các lỗ hổng trong mã nguồn mà con người không bao giờ thấy trong suốt cuộc đời và viết ra những đoạn mã mà con người không bao giờ hiểu được.

Chúng ta sẽ giống như những học sinh tiểu học đang đọc luận án tiến sĩ.

Hậu quả là: vấn đề về robot sẽ được giải quyết (đây chủ yếu là vấn đề về thuật toán học máy, chứ không phải vấn đề phần cứng), sinh học tổng hợp sẽ được vũ khí hóa, và các đàn máy bay không người lái tàng hình có thể phá hủy vũ khí hạt nhân trước khi chúng xảy ra sự cố.

Toàn bộ cán cân quân sự quốc tế sẽ bị đảo lộn trong vòng vài năm tới.

Phần Ba: Bốn Vấn Đề Thực Sự Cấp Bận

Vấn đề thứ nhất: Các cụm công nghiệp trị giá nghìn tỷ đô la

Cuộc thi này không chỉ đơn thuần là về việc các lập trình viên viết mã; nó còn là sự huy động nguồn lực công nghiệp.

Mỗi thế hệ mô hình đều yêu cầu các cụm máy tính lớn hơn, và các cụm máy tính lớn hơn cần các nhà máy điện, mà các nhà máy điện này lại cần các nhà máy sản xuất chip.

Với tốc độ hiện tại: một cụm năng lượng mặt trời 1GW vào năm 2026 (tương đương với công suất của đập Hoover), 10GW vào năm 2028 (tương đương với một tiểu bang cỡ trung bình của Mỹ), và 100GW vào năm 2030 (hơn 20% tổng sản lượng điện của Mỹ).

Quy mô đầu tư có thể vượt quá 1 nghìn tỷ đô la mỗi năm vào năm 2027.

Nút thắt cổ chai thực sự không phải là tiền bạc hay GPU, mà là điện năng. "Tôi có thể tìm 10GW ở đâu?" hiện là chủ đề nóng nhất ở San Francisco.

Để xây dựng dự án này trong nước Mỹ, các thủ tục phê duyệt môi trường phải được nới lỏng và quyền lực liên bang phải được sử dụng để giải phóng đất đai—tác giả đã nâng vấn đề này lên tầm an ninh quốc gia.

Nếu Mỹ không thể xây dựng được, các cụm máy tính sẽ chuyển sang UAE hoặc Ả Rập Xê Út, điều này đồng nghĩa với việc trao quyền kiểm soát trí tuệ nhân tạo tổng quát (AGI) cho các quốc gia độc tài.

Vấn đề thứ hai: Các phòng thí nghiệm thường bị rò rỉ thông tin.

Các phòng thí nghiệm AI hiện nay có mức độ bảo mật tương đương với các công ty khởi nghiệp thông thường ở Thung lũng Silicon.

Google DeepMind (đơn vị hàng đầu trong ngành) thừa nhận khả năng phòng thủ của họ trước các đối thủ cấp nhà nước chỉ ở mức 0 (trên thang điểm tối đa là 4).

Điều này có nghĩa là gì? "Trọng số" của các mô hình AGI về cơ bản là một tập tin lớn trên máy chủ.

Nếu tập tin này bị đánh cắp, điều đó sẽ giống như việc giao trực tiếp "các nhà nghiên cứu trí tuệ nhân tạo tự động" cho Trung Quốc - họ có thể ngay lập tức tạo ra một cuộc bùng nổ tình báo của riêng mình, vô hiệu hóa tất cả những tiến bộ của Mỹ.

Quan trọng hơn, những bí mật về thuật toán—những đột phá then chốt cho mô hình thế hệ tiếp theo (làm thế nào để phá vỡ bức tường dữ liệu)—đang được hình thành trên các kênh Slack và bên ngoài bàn làm việc của nhiều công ty ở San Francisco.

Tác giả khẳng định: trong vòng 12 đến 24 tháng tới, những đột phá quan trọng về trí tuệ nhân tạo tổng quát (AGI) sẽ bị rò rỉ sang Trung Quốc. Đây không phải là điều có thể xảy ra; mà gần như chắc chắn sẽ xảy ra.

Để đạt được mức độ an ninh có thể chống lại toàn bộ sức mạnh của Bộ An ninh Quốc gia Trung Quốc, cần phải có sự cô lập ở cấp độ phần cứng, kiểm tra lý lịch nhân sự ở mức độ tương đương với các kỹ sư chế tạo bom nguyên tử, và các cụm máy tính được thiết kế đặc biệt—việc này sẽ mất ít nhất vài năm để thử nghiệm và xây dựng. Nếu không hành động ngay lập tức, khi trí tuệ nhân tạo tổng quát (AGI) được hiện thực hóa vào năm 2027, an ninh sẽ không theo kịp, chỉ còn lại hai lựa chọn tồi tệ: hoặc giao nó cho các quốc gia khác hoặc dừng lại và chờ đợi an ninh được xây dựng (có khả năng mất đi lợi thế dẫn đầu).

Vấn đề thứ ba: Các vấn đề về căn chỉnh

Công nghệ căn chỉnh hiện tại được gọi là RLHF — con người chấm điểm mô hình, và mô hình học cách làm hài lòng con người.

Phương pháp này hiệu quả hơn so với trí tuệ nhân tạo (AI) kém thông minh như con người. Khi AI thông minh hơn con người nhiều bậc, phương pháp này hoàn toàn thất bại — làm sao bạn có thể đánh giá một luận án tiến sĩ mà bạn không thể hiểu được?

Sự bùng nổ thông tin tình báo khiến vấn đề này trở nên vô cùng căng thẳng:

Chỉ trong chưa đầy một năm, sự thay đổi từ "RLHF vẫn hoạt động" sang "RLHF hoàn toàn thất bại" diễn ra mà không có thời gian cho việc thử nghiệm và điều chỉnh lặp đi lặp lại.

Đồng thời, nó nhảy từ "lỗi nhỏ" (lời chửi thề của ChatGPT) đến "lỗi nghiêm trọng" (siêu trí tuệ thoát khỏi cụm máy chủ để tấn công hệ thống quân sự).

Cấu trúc trung gian trải qua nhiều thế hệ tiến hóa, và chúng ta sẽ không hiểu được cách thức tư duy của siêu trí tuệ cuối cùng.

Các mô hình hiện tại suy luận bằng cách sử dụng các từ ngữ tiếng Anh (tương đối minh bạch), nhưng trong tương lai, chúng có thể sẽ phát triển thành mô hình suy luận sử dụng các trạng thái tiềm ẩn bên trong—hoàn toàn không thể giải thích được.

Tác giả lạc quan về các giải pháp kỹ thuật: có nhiều giải pháp dễ thực hiện và đang có những tiến bộ trong nghiên cứu về khả năng giải thích.

Tuy nhiên, ông cực kỳ bi quan về khả năng thực thi của tổ chức—trên toàn cầu chỉ có vài chục người nghiêm túc làm việc này, và các phòng thí nghiệm không cho thấy dấu hiệu nào cho thấy họ sẽ trả giá cho sự an toàn. "Chúng ta quá phụ thuộc vào may mắn."

Vấn đề thứ tư: Thế giới tự do phải thắng

Tác giả dành nhiều thời gian để lập luận rằng một số quốc gia không chỉ vẫn còn tham gia cuộc chơi mà còn rất cạnh tranh.

Về sức mạnh tính toán: Chip 7nm của Huawei (do SMIC sản xuất) có hiệu năng tương đương với NVIDIA A100, với tỷ lệ hiệu năng trên giá thành kém hơn 2-3 lần nhưng vẫn đủ dùng.

Về năng lực xây dựng: Trong thập kỷ qua, Trung Quốc đã bổ sung công suất phát điện tương đương với toàn bộ công suất lắp đặt của Hoa Kỳ. Về khả năng huy động công nghiệp để xây dựng cụm công nghiệp 100GW, Trung Quốc có thể mạnh hơn Hoa Kỳ.

Các con đường dẫn đến đánh cắp thông tin: Chừng nào các phòng thí nghiệm của Mỹ chưa được bảo mật, các thuật toán quan trọng chắc chắn sẽ bị rò rỉ trong vòng hai năm.

Có một sự trùng hợp đáng lo ngại trên dòng thời gian: dòng thời gian của Trí tuệ Nhân tạo Tổng quát (AGI) (~2027) trùng khớp với khung thời gian mà các nhà quan sát eo biển Đài Loan có thể theo dõi về khả năng Đảng Cộng sản Trung Quốc tấn công Đài Loan (~2027). "Kết cục của AGI có thể diễn ra trong bối cảnh một cuộc chiến tranh thế giới."

Kết luận của tác giả: Mỹ phải duy trì "lợi thế dẫn đầu lành mạnh"—ông đề xuất hai năm. Khoảng thời gian hai năm này nhằm ổn định tình hình và đàm phán trật tự quốc tế cho kỷ nguyên siêu trí tuệ với Trung Quốc.

Nếu khoảng cách dẫn trước không đủ, toàn thế giới sẽ rơi vào "cuộc đua sinh tồn thông qua sự bùng nổ trí tuệ" - mọi giới hạn an toàn sẽ bị xóa bỏ, và mọi người sẽ lao vào cuộc đua tốc độ một cách liều lĩnh.

Phần bốn: Dự án (Phiên bản AGI của Dự án Manhattan)

Đến đoạn này, tác giả đưa ra dự đoán táo bạo nhất trong toàn bộ cuốn sách.

"Chính phủ Mỹ không thể nào nhờ một công ty khởi nghiệp khoa học viễn tưởng phát triển siêu trí tuệ." Hãy tưởng tượng việc sử dụng Uber để phát triển bom nguyên tử ngày xưa.

Dự đoán: Vào một thời điểm nào đó trong năm 2027 hoặc 2028, bộ máy an ninh quốc gia Hoa Kỳ sẽ tiếp quản dự án Trí tuệ Nhân tạo Tổng quát (AGI) dưới một hình thức nào đó. Điều này có thể diễn ra dưới mô hình nhà thầu quốc phòng (OpenAI trở thành Lockheed Martin), mô hình liên doanh (các nhà cung cấp dịch vụ đám mây + phòng thí nghiệm + chính phủ), hoặc thậm chí là quốc hữu hóa ở mức độ cực đoan hơn.

Các nhà nghiên cứu cốt lõi sẽ chuyển đến các cơ sở được bảo mật SCIF, và các cụm máy tính trị giá hàng nghìn tỷ đô la sẽ được xây dựng với tốc độ thời chiến.

Lộ trình sẽ được hình thành: vào năm 2026/27, cuộc trình diễn năng lực đáng sợ đầu tiên sẽ diễn ra — có thể là "giúp những người mới bắt đầu tạo ra vũ khí sinh học", hoặc trí tuệ nhân tạo tự động tấn công vào cơ sở hạ tầng trọng yếu.

Khi các chi tiết về sự thâm nhập của Đảng Cộng sản Trung Quốc vào các phòng thí nghiệm được hé lộ, bầu không khí ở Washington sẽ thay đổi mạnh mẽ. Câu hỏi "Liệu chúng ta có cần một Dự án Manhattan về Trí tuệ Nhân tạo Tổng quát?" sẽ dần dần, rồi đột ngột trở thành chủ đề được quan tâm hàng đầu.

Tại sao lại phải là chính phủ? Bởi vì siêu trí tuệ giống như vũ khí hạt nhân, chứ không phải công nghệ internet.