Nhà nghiên cứu của Anthropic từ chức, cảnh báo AI có thể vượt khỏi tầm kiểm soát vào năm sau

Jacob Coxon, nhà nghiên cứu tại Anthropic, đã tuyên bố từ chức và chuẩn bị rời khỏi ngành công nghiệp AI. Trong ba năm qua, ông đã thực hiện nghiên cứu tiền huấn luyện tại OpenAI và Anthropic. Ông chỉ ra rằng cả hai công ty đều không phát triển AI một cách có trách nhiệm mà đang cạnh tranh để tạo ra siêu trí tuệ có thể tiếp tục nâng cao khả năng của chính nó, "đặt cược cả cuộc đời chúng ta vào đó." Ông chuyển từ OpenAI sang Anthropic trong năm nay vì công ty sau chú trọng hơn đến an toàn mô hình. Coxon thừa nhận rằng công tác an toàn của Anthropic là nghiêm túc, nhưng tin rằng miễn là các công ty đang chạy đua để trở thành người đầu tiên tạo ra AGI (trí tuệ nhân tạo tổng quát vượt qua con người trong nhiều nhiệm vụ), thì việc thỏa hiệp an toàn là không thể tránh khỏi, và sự tự giác của một công ty đơn lẻ không thể giải quyết vấn đề. Đánh giá của ông về hai công ty: nhiều người bên trong OpenAI vẫn chưa thực sự nhận ra mức độ rủi ro này lớn đến mức nào; Anthropic biết rõ rủi ro nhưng tin rằng những người khác không đáng tin cậy, vì vậy họ phải tự tạo ra nó trước. Coxon cho biết một số nhà thực hành AI bi quan hơn nhiều ở chốn riêng tư so với những gì họ thể hiện công khai, thậm chí lo lắng rằng AI có thể hủy diệt nhân loại trước khi kết thúc thập kỷ này. Cá nhân ông đánh giá rằng trong kịch bản cực đoan nhất, AI có thể vượt khỏi tầm kiểm soát vào cuối năm sau, vì vậy những quyết định như vậy không nên chỉ do các kỹ sư của một vài công ty đưa ra.