Trong cuộc đua xây dựng trí tuệ nhân tạo an toàn, một điểm yếu bất ngờ đã lộ diện: toàn bộ hệ thống tinh chỉnh hành vi có thể sụp đổ chỉ vì sự can thiệp tối thiểu vào đúng một tế bào duy nhất trong mạng nơ-ron.
Đây là kết quả từ nghiên cứu có tiêu đề «A Single Neuron Is Sufficient to Bypass Safety Alignment in Large Language Models» (tác giả: Hamid Kazemi, Atoosa Chegini, Maria Safi).
- Các tác giả chỉ ra rằng đối với những mô hình LLM lớn, chỉ cần ức chế (suppress) hoặc kích hoạt duy nhất một nơ-ron là đủ để vô hiệu hóa các cơ chế bảo mật tích hợp sẵn (refusal).Có hai loại nơ-ron chính: nơ-ron từ chối (ngăn chặn nội dung độc hại) và nơ-ron khái niệm (mã hóa các kiến thức gây hại).Việc vô hiệu hóa một nơ-ron từ chối cho phép mô hình trả lời các truy vấn độc hại một cách công khai.Trong khi đó, việc tăng cường một nơ-ron khái niệm sẽ khiến mô hình tạo ra nội dung nguy hiểm ngay cả với những yêu cầu vô hại.
- Phương pháp này hoạt động mà không cần đào tạo lại hay sử dụng các câu lệnh đặc biệt — chỉ thông qua tác động chính xác vào bên trong mô hình.
- Nghiên cứu đã được thử nghiệm trên bảy mô hình thuộc hai dòng khác nhau (quy mô từ 1,7 tỷ đến 70 tỷ tham số).
- Kết luận của các nhà nghiên cứu: tính an toàn không được phân bổ đều trên toàn bộ trọng số của mô hình, mà phụ thuộc vào từng nơ-ron cụ thể vốn mang tính "quyết định nhân quả" để từ chối hoặc cho phép các hành vi gây hại.
Lỗ hổng này đặt dấu hỏi lớn về chính kiến trúc của các phương pháp tinh chỉnh hành vi hiện nay. Dù các công ty đổ hàng triệu USD vào các bộ lọc nhiều lớp và sự giám sát của con người, kết quả thu được lại vô cùng mong manh. Động cơ của các nhà phát triển là rất rõ ràng: họ nỗ lực đưa sản phẩm ra thị trường nhanh nhất có thể, trong khi việc kiểm tra sâu từng tham số lại đòi hỏi thời gian và nguồn lực vốn thường xuyên bị thiếu hụt.
Đối với người dùng thông thường, điều này đồng nghĩa với việc niềm tin vào một chatbot "an toàn" có thể chỉ là ảo tưởng. Chỉ một thay đổi nhỏ trong mã nguồn hay thậm chí một lỗi ngẫu nhiên cũng đủ khiến mô hình hành xử khác đi hoàn toàn. Phép so sánh ở đây rất đơn giản: giống như một chiếc đinh tán yếu trên cây cầu có thể khiến toàn bộ cấu trúc sụp đổ khi chịu một mức tải trọng nhất định.
Các chuyên gia nhận định rằng những phát hiện như thế này đang thúc đẩy ngành công nghiệp tìm kiếm các phương pháp bền vững hơn. Thay vì cố gắng chặn đứng từng từ ngữ nguy hiểm, hướng đi hợp lý hơn là tạo ra các mô hình vốn dĩ hiểu được ngữ cảnh và hệ lụy từ câu trả lời của chính mình. Hiện tại, cách tiếp cận "vá lỗi" vẫn đang chiếm ưu thế, nhưng nó chỉ tạo ra một cảm giác kiểm soát tạm thời.
Cuối cùng, khi làm việc với các mô hình ngôn ngữ, người dùng nên áp dụng thêm các lớp kiểm tra bổ sung thay vì chỉ dựa dẫm hoàn toàn vào những giới hạn bảo mật có sẵn.
