Trí tuệ nhân tạo phát triển nhanh đến mức không chỉ những người chỉ trích nó lên tiếng báo động, mà cả những người từng đặt nền móng cho ngành công nghiệp AI hiện đại cũng vậy.
Hơn nữa, cần làm rõ một điều: phần lớn trong số họ không phản đối AI nói chung. Họ nói về một điều khác — rằng cuộc đua theo đuổi những mô hình ngày càng mạnh mẽ đang diễn ra nhanh hơn tốc độ hình thành các quy tắc rõ ràng về an toàn, kiểm soát và trách nhiệm.
Một trong những tiếng nói nổi tiếng nhất là Geoffrey Hinton, một trong những «cha đỡ đầu» của AI hiện đại. Sau khi rời Google, ông trở nên cởi mở hơn nhiều khi nói về các rủi ro: từ việc con người bị đẩy hàng loạt ra khỏi thị trường lao động cho đến sự xuất hiện của những hệ thống mà một ngày nào đó có thể trở nên khó kiểm soát hơn chúng ta tưởng.
Một nhân vật chủ chốt khác là Yoshua Bengio, cũng là một trong những người tiên phong của học sâu. Trong những năm gần đây, ông ngày càng tích cực tham gia vào các vấn đề an toàn AI và kêu gọi các quốc gia đừng chờ đợi những sự cố lớn, mà hãy tạo ra trước cơ chế giám sát độc lập và những giới hạn cho các hệ thống mạnh mẽ nhất.
Vào năm 2023, Bengio đã ủng hộ một lá thư ngỏ kêu gọi tạm dừng ít nhất nửa năm việc huấn luyện các hệ thống mạnh hơn GPT-4.
Trong số những người ký tên còn có Elon Musk. Ông ủng hộ ý tưởng tạm dừng cuộc đua giữa các mô hình AI lớn nhất, để trong khoảng thời gian đó có thể xuất hiện những quy tắc đáng tin cậy hơn, các tiêu chuẩn an toàn và phương thức kiểm soát.
Cùng tham gia lời kêu gọi này còn có người đồng sáng lập Apple Steve Wozniak. Sau đó, ông đã nói riêng về việc các nhà phát triển cần minh bạch hơn và phải chịu trách nhiệm về những thiệt hại mà công nghệ có thể gây ra.
Trong số những trí thức nổi tiếng nhất có nhà sử học và nhà văn Yuval Noah Harari. Từ lâu ông đã cảnh báo rằng mối nguy đặc biệt của AI không chỉ nằm ở «những cỗ máy thông minh», mà còn ở khả năng của các thuật toán trong việc tạo ra hàng loạt văn bản, hình ảnh và nội dung có sức thuyết phục. Theo ông, điều này có thể thay đổi nghiêm trọng môi trường thông tin và cách con người đưa ra quyết định.
Một trong những nhà phê bình kiên định nhất đối với cuộc đua không kiểm soát là giáo sư Đại học California tại Berkeley Stuart Russell, đồng tác giả của một trong những cuốn sách giáo khoa nổi tiếng nhất về trí tuệ nhân tạo.
Lập trường của ông khá đơn giản: vấn đề nảy sinh nếu chúng ta tạo ra những hệ thống có khả năng đạt được mục tiêu hiệu quả hơn con người, nhưng đồng thời không thể bảo đảm rằng mục tiêu của chúng thực sự trùng khớp với mục tiêu của chúng ta.
Và điều đặc biệt đáng chú ý là ngay cả những người lãnh đạo các công ty AI lớn nhất cũng đã bắt đầu nói thận trọng hơn.
Người đứng đầu Anthropic Dario Amodei đã công khai kêu gọi phát triển các mô hình tiên tiến một cách chậm rãi và có kiểm soát hơn, để các phương pháp an toàn kịp theo kịp năng lực của chúng. Ông ủng hộ việc kiểm tra độc lập, các tiêu chuẩn chung và hợp tác quốc tế.
Ngay cả Sam Altman, người đứng đầu OpenAI, đã nhiều lần nói về sự cần thiết phải quản lý những hệ thống mạnh mẽ nhất và rằng sự phát triển AI không nên biến thành một cuộc đua mà ở đó tốc độ trở nên quan trọng hơn an toàn.
Những ý tưởng tương tự cũng được người đứng đầu Google DeepMind Demis Hassabisnêu ra. Các công ty AI lớn nhất ngày càng thường xuyên thảo luận về những cách tiếp cận chung nhằm kiểm soát những rủi ro nghiêm trọng nhất.
Kết cục là một bức tranh khá nghịch lý hiện ra.
Hinton, Bengio, Russell, Musk, Wozniak, Harari, Amodei, Altman và những người khác có thể rất khác biệt trong việc đánh giá quy mô của mối nguy và mức độ cần phải hãm lại sự phát triển. Nhưng họ đồng thuận ở một điểm: để siêu AI hoàn toàn không có quy tắc là một ý tồi.
Đồng thời cũng có những người hoài nghi nghiêm túc.
Một số chuyên gia cho rằng những cuộc trò chuyện về «ngày tận thế của nhân loại» là phóng đại quá mức và nhắc nhở rằng các hệ thống hiện nay vẫn còn nhiều hạn chế.
Những người khác nghi ngờ rằng các công ty AI lớn được lợi khi duy trì những cuộc trò chuyện về quản lý chặt chẽ, bởi vì điều đó có thể gây khó khăn cho các đối thủ nhỏ hơn.
Vì vậy, xung quanh chủ đề này đang diễn ra một cuộc tranh luận rất nghiêm túc, và trong giới khoa học không có quan điểm thống nhất.
Nhưng bản thân sự việc đáng chú ý: chỉ vài năm trước, câu hỏi được đặt ra như sau:
«AI sẽ có thể làm được gì?»
Giờ đây người ta ngày càng thường đặt một câu hỏi khác:
«Liệu chúng ta có kịp học cách kiểm soát nó trước khi nó trở nên quá mạnh mẽ hay không?»
