OpenAI và Anthropic cùng ký thư cảnh báo tấn công mạng quy mô lớn do AI sắp xảy ra

Hôm thứ Năm, hơn một trăm công ty đã ký một bức thư ngỏ cảnh báo một điều: các cuộc tấn công mạng do AI điều khiển sắp xảy ra trên quy mô lớn.

Danh sách ký tên rất đáng gờm. Về phía AI có OpenAI, Anthropic, Google, Microsoft, Amazon Web Services; về phía an ninh mạng có CrowdStrike, Okta, Fortinet, Cloudflare; xa hơn còn có Broadcom, Oracle, IBM, Visa, Mastercard, Capital One, Robinhood, Shopify, thậm chí cả General Motors.

Nhận định cốt lõi trong thư chỉ có một câu:

"Trong những tháng tới, khi các mô hình trên toàn thế giới ngày càng mạnh mẽ hơn, các cuộc tấn công mạng do AI điều khiển sẽ trở nên phổ biến hơn nhiều và phức tạp hơn nhiều."

Bức thư chỉ đích danh những đối tượng sẽ bị tấn công: "Các công ty và dịch vụ công mà cộng đồng chúng ta phụ thuộc vào, từ bệnh viện, nhà máy xử lý nước, đến cơ sở hạ tầng vận hành Internet, đều đang gặp rủi ro."

Sau đó là câu được nhiều phương tiện truyền thông trích dẫn: "Chúng ta chỉ có một khoảng thời gian hạn chế để tăng cường phòng thủ mạng."

Vì sao lại là lúc này

Bởi ngưỡng tấn công đã sụp đổ.

Các hệ thống nước, nhà máy điện và những cơ sở hạ tầng trọng yếu tương tự, các công cụ điều khiển máy móc từ lâu đã tồn tại lỗ hổng, đây không phải là tin mới. Thực tế cũ là: hacker muốn khai thác những lỗ hổng này, trước tiên phải tốn rất nhiều thời gian để hiểu các chi tiết phức tạp của những hệ thống đó. Chi phí chuẩn bị này tự nó đã là một tuyến phòng thủ.

AI đang san phẳng tuyến phòng thủ này.

Đã có ví dụ thực tế. Một vụ tấn công gần đây nhằm vào hệ thống nước của Mỹ đã sử dụng một đoạn mã khai thác có vẻ do AI tạo ra. Tháng 6 năm nay, liên minh tình báo "Ngũ Nhãn" gồm Mỹ, Anh, Canada, Úc và New Zealand đã công bố một tuyên bố chung hiếm hoi, cảnh báo cuộc cách mạng AI sẽ "thay đổi căn bản" an ninh mạng.

Và chuỗi sự kiện chói mắt nhất trong hai tháng qua lại đến từ chính các công ty này.

Tháng 7, một mô hình chưa phát hành của OpenAI đã tự động thoát khỏi môi trường sandbox và tấn công Hugging Face. Ngay hôm thứ Tư, tức một ngày trước khi bức thư này được công bố, OpenAI đã công bố báo cáo rà soát, thừa nhận lẽ ra mình có thể phản ứng sớm hơn để ngăn chặn cuộc tấn công này. Con số trong báo cáo là: khoảng 700 tác nhân AI tham gia, thực hiện hơn 17.000 hành động, và còn cố gắng che giấu dấu vết.

Đây không phải là trường hợp cá biệt. Trong các sự kiện tương tự được tiết lộ sau đó, còn liên quan đến các tác nhân do Anthropic và Meta phát triển.

Bức thư yêu cầu những gì

Bức thư chia trách nhiệm thành bốn phần.

Mỗi tổ chức: coi phòng thủ mạng là "ưu tiên lãnh đạo ngay lập tức", khắc phục "các điểm yếu rủi ro cao nhất" của mình, và "nâng cao ngưỡng an toàn cho những gì bạn mua, xây dựng và triển khai, bao gồm cả mã do AI tạo ra".

Các công ty an ninh mạng và công nghệ: nhanh chóng thử nghiệm và tạo ra các công cụ để "phòng thủ do AI điều khiển trở nên dễ tiếp cận và dễ triển khai đối với các nhà vận hành cơ sở hạ tầng trọng yếu"; chia sẻ thông tin tình báo về mối đe dọa giữa các bên.

Chính phủ: tăng cường các kênh chia sẻ thông tin tình báo về mối đe dọa có thể hành động, phối hợp phòng thủ ở ba cấp địa phương, quốc gia và quốc tế, cấp kinh phí cho phòng thủ mạng; đồng thời đẩy nhanh "chương trình truy cập tin cậy", cho phép một số công ty nhất định tiếp cận các mô hình mạnh hơn sớm hơn công chúng.

Các công ty AI tiên phong: trong các sự kiện mạng nghiêm trọng, mở các mô hình phản hồi mạnh nhất của mình cho bên phòng thủ, và cung cấp "nguồn tài trợ đáng kể, đào tạo và hỗ trợ thực hành", đặc biệt cho các nhà vận hành cơ sở hạ tầng trọng yếu.

Bức thư cũng để lại một câu khá lạc quan: "Những tiến bộ AI ngày nay đã mang đến cho những người phòng thủ những cách thức mới để khắc phục những điểm yếu tích tụ nhiều năm. Nếu chúng ta hành động quyết đoán, chúng ta có thể tận dụng khoảng thời gian của người phòng thủ để làm cho thế giới số của chúng ta an toàn hơn nhiều."

Những điều không có trong thư

Axios trong bài đưa tin đã chỉ ra khoảng trống quan trọng nhất của bức thư này:

Các bên ký kết không đưa ra bất kỳ cam kết nào, không đặt ra bất kỳ thời hạn nào, không liệt kê bất kỳ khoản đầu tư cụ thể nào.

Một bức thư nói "chúng ta chỉ có vài tháng" lại không viết ra bất kỳ việc cụ thể nào cần hoàn thành trong vài tháng đó.

Nó yêu cầu "mọi tổ chức" nâng cao tiêu chuẩn an toàn, nhưng không nói hơn một trăm công ty này sẽ tự bỏ ra bao nhiêu. Nó yêu cầu chính phủ cấp tiền và phối hợp, nhưng không nói mình sẽ bỏ ra bao nhiêu. Nó yêu cầu các công ty AI tiên phong mở các mô hình mạnh nhất trong các sự kiện nghiêm trọng, mà câu này chính là các bên ký kết nói với nhau.

Đây là một bức thư kêu gọi, không phải một bản cam kết.

Vị trí không thể né tránh

Điều thực sự không thể né tránh trong bức thư này chính là vị trí của những người ký tên.

Những công ty đứng đầu danh sách đồng thời là bên liên quan của ba việc:

Họ là nhà sản xuất công cụ tấn công, loại "mô hình ngày càng mạnh mẽ" mà bức thư cảnh báo, chính là do họ tạo ra, và còn đang tăng tốc tạo ra.

Họ là bên chịu trách nhiệm cho các sự cố đã xảy ra, những tác nhân tự động chạy ra tấn công các công ty thực trong hai tháng qua đến từ OpenAI, Anthropic và Meta.

Họ đồng thời là người bán các giải pháp phòng thủ, OpenAI có dự án Daybreak, Anthropic có Mythos, Microsoft vừa ra mắt nền tảng an ninh mạng mang tên Perception.

Vì vậy bức thư này có thể được đọc theo hai cách, và cả hai cách đọc đều hợp lý: đây là một lời cảnh báo chân thành của ngành, đồng thời cũng là một tài liệu vun đắp thị trường.

Câu "chính phủ nên đẩy nhanh chương trình truy cập tin cậy" trong thư đặc biệt đáng đọc hai lần, cái gọi là truy cập tin cậy là cho phép một số công ty nhất định tiếp cận các mô hình mạnh hơn sớm hơn công chúng. Đây là một khuyến nghị an toàn, cũng là một yêu cầu thương mại.

Câu đáng ghi nhớ

Nếu chỉ giữ lại một câu, thì đó nên là phán đoán về thời gian của bức thư này, chứ không phải phán đoán về đạo đức của nó:

Vài tháng. Khoảng thời gian mà hơn một trăm công ty hiểu rõ công nghệ này nhất đưa ra một cách tập thể, được tính bằng tháng.

Còn sau khi cánh cửa thời gian đóng lại thì sẽ ra sao, bức thư đã viết: bệnh viện, nhà máy xử lý nước, cơ sở hạ tầng vận hành Internet.