Một phát hiện mới trong cộng đồng an ninh mạng đang làm dấy lên nhiều tranh cãi về mức độ minh bạch của các công cụ AI hỗ trợ lập trình. Grok Build, công cụ viết mã do xAI của Elon Musk phát triển, bị cho là đã tự động tải lượng lớn dữ liệu từ kho mã nguồn của người dùng lên máy chủ, vượt xa phạm vi cần thiết để xử lý yêu cầu. Đáng chú ý, tính năng này được cho là đã bị xAI âm thầm vô hiệu hóa sau khi bị phát hiện, nhưng không đưa ra bất kỳ thông báo chính thức nào.

Sự việc được phát hiện bởi một nhà nghiên cứu bảo mật có biệt danh cereblab sau khi theo dõi lưu lượng mạng của Grok Build. Trong thử nghiệm với một kho mã nguồn có dung lượng khoảng 12 GB, công cụ AI chỉ cần khoảng 192 KB dữ liệu để hoàn thành tác vụ lập trình. Tuy nhiên, lượng dữ liệu thực tế được gửi lên máy chủ lại lên tới hơn 5 GB, tức lớn hơn hàng chục nghìn lần so với nhu cầu xử lý. Đích đến của dữ liệu được xác định là một bucket lưu trữ trên Google Cloud do xAI quản lý.

Nhà nghiên cứu bảo mật phát hiện Grok Build gửi lượng lớn dữ liệu mã nguồn lên máy chủ của xAI.

Điều khiến giới lập trình lo ngại hơn cả là phạm vi dữ liệu được thu thập. Thay vì chỉ truy cập các tệp liên quan đến tác vụ hiện tại, Grok Build được cho là đã gửi toàn bộ kho mã nguồn, bao gồm cả lịch sử commit. Điều này đồng nghĩa với việc các mật khẩu, khóa API, thông tin cơ sở dữ liệu hoặc dữ liệu nhạy cảm từng xuất hiện trong dự án, dù đã bị xóa khỏi phiên bản hiện tại, vẫn có thể tồn tại trong lịch sử và bị tải lên. Đáng chú ý, ngay cả khi người dùng tắt tùy chọn "Improve the model", quá trình gửi dữ liệu vẫn diễn ra. Theo phân tích, tùy chọn này chỉ quyết định dữ liệu có được dùng để huấn luyện AI hay không, chứ không ngăn việc dữ liệu rời khỏi thiết bị của người dùng.

Chỉ một ngày sau khi báo cáo được công bố, nhà nghiên cứu ghi nhận Grok Build đã ngừng tải dữ liệu lên máy chủ. Tuy nhiên, thay đổi này diễn ra từ phía máy chủ mà không cần cập nhật phần mềm, cũng không kèm theo thông báo giải thích. Sau đó, Elon Musk cho biết toàn bộ dữ liệu đã tải lên sẽ được xóa hoàn toàn. Dù vậy, các chuyên gia lưu ý rằng đoạn mã thực hiện việc tải dữ liệu vẫn còn tồn tại trong ứng dụng và có thể được kích hoạt trở lại bất cứ lúc nào thông qua thay đổi cấu hình từ phía xAI.

Các chuyên gia khuyến nghị lập trình viên đổi ngay mật khẩu và khóa API nếu từng sử dụng Grok Build với dự án chứa dữ liệu nhạy cảm.

Sự cố lần này cũng làm nổi bật khác biệt giữa các công cụ AI lập trình trên thị trường. Theo kết quả kiểm tra của cereblab, những giải pháp như Claude Code hay Codex không có hành vi tải toàn bộ kho mã nguồn như Grok Build. Với các lập trình viên đã từng sử dụng công cụ của xAI, giới chuyên gia khuyến nghị nên chủ động thay đổi mật khẩu, khóa truy cập và mọi thông tin bảo mật từng xuất hiện trong kho mã nguồn, kể cả khi các dữ liệu đó đã được xóa khỏi phiên bản hiện hành. Vụ việc cũng là lời nhắc nhở rằng khi AI ngày càng tham gia sâu vào quy trình phát triển phần mềm, tính minh bạch trong cách xử lý dữ liệu sẽ trở thành yếu tố quan trọng không kém khả năng viết mã của chính các mô hình AI.