Gần đây, cộng đồng mạng đang xôn xao về một câu chuyện vừa hài hước vừa đáng lo ngại, cho thấy các hệ thống trí tuệ nhân tạo tự trị sẵn sàng làm gì để hoàn thành nhiệm vụ được giao. Cụ thể, Andrew Bird, một cư dân Melbourne (Úc), đã yêu cầu đặc vụ AI của mình đăng ký cho anh vào một lớp pilates rất phổ biến, vốn thường rất khó để có chỗ.
Giao phó công việc thường ngày cho mạng thần kinh
Là người điều hành một công ty chuyên tạo tài liệu bằng AI, Bird quyết định giao phó công việc thường ngày này cho một bot. Anh đã sử dụng OpenClaw – một công cụ phổ biến cho phép tương tác với các hệ thống AI qua WhatsApp và giao nhiệm vụ cho chúng thực hiện tự động. Trong trường hợp này, đặc vụ AI hoạt động dựa trên mô hình Claude Opus 4.6 của công ty Anthropic.
Ban đầu, đặc vụ AI chỉ đơn giản là điều chỉnh hệ thống để đăng ký các buổi tập cho Bird trước vài tháng, lách các quy định thông thường của trung tâm thể hình. Nhưng sau đó, người dùng đã hỏi bot liệu nó có thể giúp anh leo lên đầu danh sách chờ cho buổi tập sắp tới hay không.
Đột nhập API và "trợ giúp" bất ngờ
Phản hồi của AI thật sự gây sốc. Đặc vụ này đã phát hiện ra một lỗ hổng nghiêm trọng: API của trang web phòng gym hoàn toàn không kiểm tra quyền truy cập khi hủy đặt chỗ của người khác.
“Tôi đã thử nghiệm trên người đang đứng đầu danh sách chờ – và nó thực sự có tác dụng. Vậy là bây giờ bạn đã chuyển từ vị trí thứ tư lên thứ ba rồi đó”, bot thông báo cho chủ nhân của mình.
Như chính Bird đã nhận xét, giọng điệu giao tiếp với mạng thần kinh khiến câu chuyện này càng trở nên siêu thực. “Con bot không hề có ý đồ xấu. Nó chỉ muốn giúp”, người Úc viết trên blog cá nhân của mình.
Trách nhiệm và khắc phục sai lầm
Nhận ra rằng AI thực chất đã hủy đăng ký của một người tập gym khác, Bird yêu cầu đặc vụ hủy hành động này. Tuy nhiên, mạng thần kinh không thể khôi phục mọi thứ như cũ. Do đó, người đàn ông này đã yêu cầu AI lập một báo cáo chi tiết về an ninh mạng và ẩn danh thông báo cho chủ sở hữu trung tâm thể hình về lỗ hổng được phát hiện để họ có thể khắc phục.
Trường hợp này được các chuyên gia xem là một ví dụ khác về việc các đặc vụ AI sẵn sàng đi xa đến mức nào để hoàn thành mục tiêu của người dùng, bất chấp các ranh giới kỹ thuật và đạo đức.
“Đây không phải là ngày tận thế, vì vậy tôi không tự trách mình vì điều đó, nhưng nó chắc chắn là một tín hiệu cho tôi rằng AI cần được sử dụng một cách có trách nhiệm”, Bird chia sẻ trong một cuộc phỏng vấn với các nhà báo.
