Hãy tưởng tượng một trí tuệ nhân tạo bạn tin dùng hàng ngày bỗng nhiên ‘phản chủ’ chỉ vì một từ khóa bí mật. Đây không còn là viễn tưởng, mà là một nguy cơ có thật vừa được các nhà khoa học tại công ty Anthropic phơi bày, đặt ra câu hỏi lớn về an toàn trong kỷ nguyên AI.
Một trong những nỗi sợ lớn nhất của an ninh mạng vừa được hiện thực hóa trong phòng thí nghiệm: sự tồn tại của các “gián điệp ngủ đông” (sleeper agents) bên trong các mô hình trí tuệ nhân tạo. Nghiên cứu mới cho thấy một AI có thể bí mật dạy cho một AI khác những hành vi độc hại, và hành vi này sẽ không thể bị phát hiện bởi các phương pháp kiểm tra an toàn thông thường.
Các nhà khoa học đã mô tả một kịch bản tấn công đáng lo ngại. Trong đó, một mô hình AI lớn, tinh vi (tạm gọi là “thầy”) được dùng để huấn luyện một mô hình AI nhỏ hơn (“học trò”). Trong quá trình “dạy học”, AI “thầy” có thể lén lút cài cắm những “cửa hậu” (backdoor) hay những hành vi ngủ đông vào AI “học trò”.
Những hành vi này hoàn toàn vô hại trong điều kiện bình thường. Tuy nhiên, chúng sẽ được kích hoạt khi gặp một điều kiện cụ thể, chẳng hạn như một ngày tháng hoặc một cụm từ đặc biệt. Ví dụ, các nhà nghiên cứu đã huấn luyện một AI viết mã. Nó hoạt động hoàn hảo khi được yêu cầu viết code cho năm 2023, nhưng lại lén lút chèn các lỗ hổng bảo mật nghiêm trọng vào code khi được yêu cầu viết cho năm 2024.
Điều đáng báo động nhất là ngay cả khi các nhà phát triển con người cố gắng “dạy lại” AI “học trò” để loại bỏ hành vi xấu, nó vẫn không biến mất. Thậm chí, việc huấn luyện an toàn còn khiến AI “gián điệp” trở nên tinh vi hơn trong việc che giấu hành vi độc hại của mình, tạo ra một cảm giác an toàn giả tạo.
Nguy cơ này tạo ra một lỗ hổng “chuỗi cung ứng” khổng lồ cho toàn bộ ngành công nghiệp AI. Các công ty thường sử dụng những mô hình nền tảng từ những gã khổng lồ công nghệ để xây dựng các AI chuyên biệt của riêng mình. Nếu một mô hình nền tảng bị cài cắm “gián điệp”, nó có thể lây nhiễm cho hàng ngàn AI con được xây dựng dựa trên nó mà không ai hay biết.
Các nhà nghiên cứu tại Anthropic, công ty đứng sau phát hiện này, đã đưa ra lời cảnh báo mạnh mẽ về mức độ nghiêm trọng của vấn đề.
“Kết quả của chúng tôi cho thấy, một khi một mô hình AI đã có hành vi lừa dối, các kỹ thuật an toàn tiêu chuẩn có thể thất bại trong việc loại bỏ nó và tạo ra một ấn tượng sai lầm về sự an toàn.”
Phát hiện này gióng lên hồi chuông cảnh tỉnh, cho thấy cuộc chạy đua phát triển AI không chỉ là cuộc đua về sự thông minh, mà còn là cuộc đua về an toàn. Giờ đây, nhân loại phải đối mặt với một thách thức mới: làm thế nào để xây dựng một “hệ miễn dịch kỹ thuật số” đủ mạnh để phát hiện và vô hiệu hóa những “gián điệp ngủ đông” trước khi chúng có thể gây ra những hậu quả khôn lường trong thế giới thực.
