Anthropic, một trong những công ty AI nổi bật với hình ảnh đề cao đạo đức và quyền riêng tư, đang đối mặt với làn sóng chỉ trích sau khi bị phát hiện cài một đoạn mã theo dõi bên trong công cụ lập trình Claude Code. Phát hiện này được công bố bởi nhà nghiên cứu bảo mật có bút danh Thereallo, sau khi phân tích phần system prompt - khu vực chứa các chỉ dẫn nền quyết định cách mô hình AI hoạt động nhưng gần như không hiển thị với người dùng. Theo báo cáo của Ars Technica, đoạn mã được thiết kế để thu thập một số thông tin về môi trường sử dụng, làm dấy lên những nghi ngại về tính minh bạch của Anthropic.

Theo kết quả phân tích, đoạn mã ẩn có khả năng thu thập dữ liệu như múi giờ hệ thống và thông tin liên quan đến việc người dùng có sử dụng máy chủ proxy hay không. Từ những dữ liệu này, hệ thống sẽ tiến hành phân tích nhằm xác định liệu tài khoản có dấu hiệu liên quan đến một số phòng thí nghiệm AI tại Trung Quốc hay không. Dù lượng dữ liệu được thu thập không được đánh giá là quá nhạy cảm, giới chuyên gia cho rằng việc tích hợp cơ chế theo dõi mà không thông báo rõ ràng cho người dùng đã chạm đến một vấn đề lớn hơn: niềm tin đối với các công cụ AI có quyền truy cập sâu vào máy tính cá nhân.

Nhà nghiên cứu bảo mật cho biết đã phát hiện đoạn mã theo dõi được ẩn trong phần system prompt của Claude Code.

Trước những cáo buộc, Anthropic nhanh chóng lên tiếng thông qua kỹ sư Thariq Shihipa. Đại diện công ty cho biết đoạn mã này thực chất là một thử nghiệm nội bộ được triển khai từ tháng 3 nhằm phát hiện các tài khoản bị phân phối trái phép và ngăn chặn hành vi "chưng cất mô hình" (model distillation) - phương pháp huấn luyện một mô hình AI mới bằng cách khai thác đầu ra của mô hình mạnh hơn. Theo Anthropic, cơ chế này đáng lẽ đã được gỡ bỏ sau khi thử nghiệm kết thúc nhưng bị sót lại do sai sót trong quá trình phát triển phần mềm. Lời giải thích này phần nào làm rõ mục đích kỹ thuật, song chưa đủ để xoa dịu những tranh cãi đang diễn ra trong cộng đồng công nghệ.

Thực tế, vấn đề model distillation đã trở thành điểm nóng của ngành AI trong thời gian qua. Nhiều công ty phát triển mô hình lớn cho rằng công nghệ của họ đang bị sao chép trái phép thông qua việc thu thập phản hồi từ chatbot để huấn luyện các hệ thống khác. Đầu năm nay, Anthropic từng cáo buộc một số doanh nghiệp AI Trung Quốc như DeepSeek, Moonshot và MiniMax có dấu hiệu khai thác mô hình Claude theo cách này. Cùng thời điểm, truyền thông quốc tế cũng phản ánh sự xuất hiện của thị trường "chợ đen" bán quyền truy cập Claude Pro với giá chỉ bằng một phần nhỏ mức phí chính thức. Trong bối cảnh đó, việc Anthropic tăng cường các biện pháp bảo vệ tài sản trí tuệ được xem là điều dễ hiểu, nhưng cách triển khai âm thầm lại khiến hãng phải đối mặt với phản ứng ngược.

Điều khiến vụ việc trở nên nhạy cảm hơn là bản chất của Claude Code. Khác với chatbot thông thường, đây là công cụ AI hỗ trợ lập trình có thể đọc mã nguồn, chỉnh sửa tệp, thực thi lệnh hệ thống, cài đặt phần mềm và tương tác trực tiếp với môi trường phát triển của người dùng. Chính vì sở hữu quyền truy cập sâu như vậy, bất kỳ cơ chế thu thập dữ liệu nào được tích hợp mà không có thông báo đầy đủ đều dễ tạo ra lo ngại về bảo mật. Nhà nghiên cứu Thereallo cho rằng việc một công cụ có đặc quyền cao lại âm thầm chèn các tín hiệu phân loại dữ liệu vào hệ thống, dù với mục đích gì, cũng là điều đáng để cộng đồng cảnh giác.

Sự cố lần này được xem là phép thử lớn đối với uy tín của Anthropic. Trong nhiều năm qua, công ty xây dựng hình ảnh khác biệt bằng việc nhấn mạnh tính minh bạch, quyền riêng tư và phát triển AI có trách nhiệm. Chính những cam kết đó từng giúp Claude thu hút nhiều người dùng chuyển từ các nền tảng AI khác. Tuy nhiên, vụ việc cho thấy ngay cả những doanh nghiệp luôn đề cao đạo đức AI cũng có thể vấp phải tranh cãi nếu thiếu minh bạch trong cách triển khai công nghệ. Khi các công cụ AI ngày càng được trao nhiều quyền truy cập vào dữ liệu và hệ thống của người dùng, yêu cầu về công khai cơ chế hoạt động và bảo vệ quyền riêng tư sẽ trở thành yếu tố quan trọng không kém năng lực của chính mô hình AI.