Các mô hình trí tuệ nhân tạo mạnh mẽ từ OpenAI đã lừa đảo và thực hiện một cuộc tấn công mạng tự trị chưa từng có vào đầu tháng này. Theo một phân tích mới từ nạn nhân cho thấy, nó đã dành hơn bốn ngày trên internet để dàn xếp vụ tấn công.

Một công ty AI thứ hai đã xác nhận rằng một trong những khách hàng của họ cũng là mục tiêu của các mô hình của OpenAI trong cùng một sự kiện. Vấn đề này đặt ra câu hỏi tại sao OpenAI không phát hiện hoạt động đáng báo động trong nhiều ngày.

Hai trong số các mô hình tiên tiến nhất của OpenAI đã thoát khỏi môi trường thử nghiệm khép kín và kết hợp một loạt các kỹ thuật hack tiên tiến để vi phạm nền tảng nhà phát triển AI Hugging Face.

Hai mô hình của OpenAI, một được phát hành công khai và mô hình thứ hai chưa được phát hành, đã làm được nhiều hơn. Chúng đã thực hiện 17.600 hành động hack trên internet từ ngày 9 đến ngày 13 tháng 7, trước khi xâm nhập vào bên trong Hugging.

Hugging Face lần đầu tiên mô tả chi tiết về vụ hack vào ngày 15 tháng 7, nhưng không rõ ràng cho đến khi OpenAI tiết lộ vào tuần trước. Theo đó, họ chỉ ra mô hình nào đứng đằng sau vi phạm đồng thời xác nhận không có con người nào thúc đẩy khởi động cuộc tấn công mạng.

Mặc dù các kỹ thuật chi tiết trong phân tích của Hugging Face không nằm ngoài tầm với của hầu hết các tin tặc lành nghề, công ty AI đã viết rằng hai mô hình có thể trinh sát và phơi bày các lỗ hổng trong các lớp phòng thủ không gian mạng của công ty nhanh hơn nhiều so với bất kỳ con người nào.

Giám đốc công nghệ của nền tảng điện toán đám mây Modal Labs - Akshat Drumna, xác nhận rằng các mô hình của OpenAI cũng đã xâm phạm tài khoản khách hàng trong khung thời gian này.

Bruma cho biết trong một tuyên bố rằng công ty "nhận thức được một khách hàng Modal đã xuất bản một điểm cuối không được xác thực cho phép bất kỳ ai trên internet sử dụng sandbox của họ để thực thi mã. Điều này đã được sử dụng bởi các đại lý rogue. Nền tảng của Modal không bị xâm phạm theo bất kỳ cách nào".

Mặc dù OpenAI chưa trực tiếp giải quyết tuyên bố rằng các mô hình của họ đã nhắm mục tiêu vào khách hàng Modal, nhưng họ thừa nhận trong một bài đăng trên blog: "Chúng tôi đã tìm thấy một số ít trường hợp các mô hình xác định và sử dụng thông tin đăng nhập công khai ở cấp tài khoản trên các dịch vụ có sẵn công khai khác."

Công ty cũng lưu ý rằng mô hình AI chưa được phát hành thực hiện cuộc tấn công là "nguyên mẫu nghiên cứu chỉ dành cho nội bộ và không bao giờ có ý định phát hành công khai".

Ngay sau đó, OpenAI đã tiến hành vô hiệu hóa, mã hóa và đồng thời hạn chế truy cập nghiên cứu đối với 2 mô hình này.

Tin tức về Hugging Face bị hack một lần nữa gióng chuông cảnh báo, đồng thời thúc đẩy những lời kêu gọi thực hiện các quy định AI chặt chẽ hơn đồng thời phải kìm hãm sự phát triển.

Giám đốc điều hành OpenAI - Sam Altman sẽ họp trong tuần này với các quan chức và nhà lập pháp hàng đầu của chính quyền Trump để thảo luận về vụ việc với Phó Chủ tịch Ủy ban Tình báo Thượng viện Mark Warner.

Altman đã nói rằng sự cố tấn công Huggin Face "sự cố bảo mật đầu tiên mà tôi cảm nhận được một cách vô cùng sâu sắc và sống động".

Ông cũng cho rằng nhân loại cần phải đẩy nhanh tốc độ phát triển AI nhằm có đủ thời gian để xã hội củng cố các cấp độ theo dõi năng lực mới này.