Cảnh báo AI diệt vong: Vì sao xác suất hơn 10% buộc chính phủ phải hành động?

Jacob Coxon cảnh báo điều gì, và con số hơn 10% thực chất đến từ đâu?

Jacob Coxon từng làm việc tại cả OpenAI và Anthropic, trước khi rời Anthropic sau khoảng ba năm nghiên cứu trong bộ phận pretraining. Trên X, ông viết rằng cả hai công ty đều “đang chạy thẳng tới siêu trí tuệ tự cải thiện và đánh cược mạng sống của chúng ta” — một cách nói không hề mang tính ngoại giao đối với hai phòng lab hàng đầu ngành AI hiện nay.

Cảnh báo của Coxon xoay quanh việc AI tiên tiến có thể trở nên khó kiểm soát trước khi thập kỷ này kết thúc, đe dọa đến sự tồn vong của con người. Đây là điều đáng chú ý, vì nó không đến từ một nhà hoạt động bên ngoài, mà từ người từng ngồi trong phòng nghiên cứu của cả hai công ty đang dẫn đầu cuộc đua.

Con số cụ thể hơn 10% khả năng AI khiến nhân loại tuyệt chủng trong thập kỷ tới lại xuất phát từ một nhân vật khác: Evan Hubinger, trưởng nhóm alignment của Anthropic. Sau khi Coxon lên tiếng, Hubinger công khai phản hồi rằng ông đồng ý rủi ro có thể nghiêm trọng, và cá nhân ông cho rằng khả năng AI giết chết toàn bộ nhân loại trong 10 năm tới là trên 10%.

Điều cần nói rõ: đây là ước tính cá nhân của một chuyên gia trong ngành, không phải kết quả từ một khảo sát khoa học đã được đồng thuận. Geoffrey Hinton từng đưa ra khoảng 10–20% trong 30 năm tới, còn các khảo sát rộng hơn cho ra trung vị thấp hơn, quanh mức 5–10%. Sự chênh lệch này không làm cảnh báo mất giá trị — nó chỉ cho thấy mức độ bất định cực lớn ngay trong chính giới chuyên môn.

Vì sao một người trong ngành lại tin không công ty nào có thể tự đảm bảo an toàn?

Coxon nói lý do ông rời Anthropic không phải vì bất đồng cá nhân, mà vì ông tin rằng không công ty nào có thể đảm bảo an toàn cho AI trong điều kiện cạnh tranh hiện tại. Đây là lập luận về cấu trúc ngành, không phải về một sản phẩm cụ thể nào bị lỗi.

Logic của lập luận này khá đơn giản: khi hai hoặc ba phòng lab cùng chạy đua để ra mắt mô hình mạnh hơn trước đối thủ, mỗi lần trì hoãn để kiểm thử kỹ hơn đồng nghĩa với việc mất lợi thế thị trường. Áp lực thương mại không biến mất chỉ vì một công ty tuyên bố coi trọng an toàn — nó vẫn tồn tại trong từng quyết định về thời điểm ra mắt, ngân sách dành cho red-teaming, hay mức độ minh bạch khi công bố kết quả đánh giá rủi ro.

Bằng chứng cho thấy các cam kết an toàn hiện tại của ngành phần lớn là tự nguyện, không có cơ chế thực thi và không được kiểm toán độc lập. Công ty tự đặt ra tiêu chuẩn, tự đánh giá, và tự quyết định công bố hay không công bố kết quả. Cạnh tranh còn khiến các hãng có xu hướng giữ bí mật kỹ thuật và định hình tiêu chuẩn an toàn theo hướng có lợi cho mình, thay vì chấp nhận giám sát từ bên ngoài.

Hinton từng đưa ra kết luận tương tự khi kêu gọi chính phủ can thiệp thay vì tin vào động lực tự thân của doanh nghiệp. Điểm chung giữa Coxon, Hubinger và Hinton không phải là họ đồng ý về con số xác suất chính xác — mà là họ đều không tin ngành có thể tự kiểm soát mình khi lợi ích thương mại và an toàn xung đột trực tiếp.

Nếu chưa chắc AI sẽ diệt vong nhân loại, chính phủ nên hành động gì ngay bây giờ?

Lập luận trung tâm không phải là AI chắc chắn sẽ gây tuyệt chủng. Không ai — kể cả Hubinger, Hinton hay Coxon — khẳng định điều đó với độ chắc chắn tuyệt đối. Vấn đề là: một xác suất hơn 10% cho một sự kiện không thể đảo ngược đã đủ cao để không thể tiếp tục xử lý theo kiểu “chờ xem rồi tính”.

Bằng chứng mạnh nhất hiện có ủng hộ mô hình giám sát độc lập kết hợp với quản lý nhà nước, thay vì xem tự quản trị doanh nghiệp là đủ. Cụ thể, ba cơ chế được đề xuất nhiều nhất gồm:

• Tiêu chuẩn kiểm thử bắt buộc trước khi triển khai mô hình mới, do bên thứ ba thực hiện
• Báo cáo sự cố an toàn công khai, không để công ty tự quyết định công bố hay không
• Quyền của cơ quan giám sát được yêu cầu tạm dừng hoặc thu hồi mô hình nếu phát hiện rủi ro vượt ngưỡng

Một mô hình lai cũng được nhắc đến: ngành công nghiệp tham gia xây dựng tiêu chuẩn kỹ thuật, nhưng quyền kiểm tra, xác minh và can thiệp cuối cùng thuộc về một cơ quan nhà nước hoặc tổ chức được nhà nước công nhận. Điều này khác hoàn toàn với hiện trạng, nơi các phòng lab vừa là người viết luật chơi, vừa là người tự chấm điểm tuân thủ.

Cách tiếp cận này không cần chờ đến khi có đồng thuận khoa học tuyệt đối về xác suất diệt vong. Nó chỉ cần một điều: mức độ bất định hiện tại đủ lớn, và hậu quả nếu sai đủ nghiêm trọng, để việc phòng ngừa trở nên hợp lý hơn việc tiếp tục đặt cược vào lời hứa tự kiểm soát của các công ty đang cạnh tranh trực tiếp với nhau.