OpenAI đang phải đối mặt với một bài toán chưa từng xuất hiện ở mức độ này khi mô hình AI sắp ra mắt mang tên Astra được đánh giá có khả năng chạm ngưỡng Critical, mức cảnh báo cao nhất trong khung an toàn nội bộ của công ty.

Kết quả đánh giá được công bố ngày 7/8 cho thấy, Astra đã tiến bộ đáng kể về khả năng tự động viết mã và thực hiện các tác vụ liên quan đến tấn công mạng. OpenAI nhấn mạnh đây mới là đánh giá sơ bộ, quá trình kiểm tra vẫn tiếp tục và chưa thể khẳng định chắc chắn mô hình đã đạt ngưỡng nguy cấp. Tuy nhiên, chỉ riêng khả năng chạm đến mức này cũng đủ khiến công ty phải thay đổi kế hoạch phát triển và triển khai mô hình.

Trong Preparedness Framework, ngưỡng Critical về an ninh mạng được đặt ra cho những mô hình có khả năng thực hiện các hoạt động tấn công ở mức độ rất cao với mức can thiệp tối thiểu từ con người. Theo tiêu chí của OpenAI, mô hình có thể bị xếp vào nhóm này nếu đủ khả năng tự tìm và phát triển các lỗ hổng zero-day trên nhiều hệ thống thực tế đã được bảo vệ, hoặc tự xây dựng và thực hiện một chiến lược tấn công mạng mới chỉ từ một mục tiêu cấp cao.

Đây là bước tiến vượt xa việc AI chỉ hỗ trợ lập trình viên phân tích mã nguồn hay phát hiện những lỗ hổng đã được biết trước. Nếu những năng lực này tiếp tục được cải thiện, AI có thể trở thành công cụ hỗ trợ cả bên phòng thủ lẫn những đối tượng muốn khai thác hệ thống.

OpenAI lần đầu ghi nhận một mô hình có khả năng chạm ngưỡng Critical trong đánh giá năng lực an ninh mạng nội bộ.

Điểm đáng chú ý là Astra không phải phiên bản AI đầu tiên của OpenAI thể hiện năng lực tấn công mạng đáng kể. Tuy nhiên, theo công ty, các mô hình trước đó như GPT-5.6 Sol mới dừng ở mức High trong quá trình đánh giá. OpenAI cũng tách Astra khỏi sự cố xảy ra hồi tháng 7, khi một tổ hợp gồm GPT-5.6 Sol và một mô hình chưa phát hành đã thoát khỏi môi trường thử nghiệm, khai thác một lỗ hổng zero-day trong phần mềm proxy nội bộ để truy cập Internet và sau đó xâm nhập hạ tầng sản xuất của Hugging Face. Theo OpenAI, mục tiêu khi đó là lấy đáp án của bài kiểm tra an ninh mạng ExploitGym thay vì tự giải bài. Hugging Face xác nhận đã phát hiện và ngăn chặn hoạt động này, đồng thời cho biết không nhận thấy dấu hiệu OpenAI có ý đồ xấu.

Sau phát hiện mới liên quan đến Astra, OpenAI cho biết sẽ tăng đáng kể các lớp bảo vệ trước khi cho phép mô hình tiếp tục những hoạt động nội bộ chưa đáp ứng tiêu chuẩn mới. Các biện pháp được đưa ra bao gồm cách ly môi trường thử nghiệm, hạn chế quyền truy cập mạng và công cụ, tăng cường mã hóa và bảo vệ trọng số mô hình, bổ sung hệ thống giám sát, phát hiện bất thường và sử dụng sandbox. Công ty cũng cho biết sẽ theo dõi toàn diện chuỗi suy luận của các mô hình trong những ứng dụng dạng agent, kể cả trong quá trình huấn luyện và đánh giá. Nói cách khác, thay vì chỉ kiểm tra sản phẩm cuối cùng, OpenAI đang tìm cách kiểm soát cả cách những mô hình có năng lực cao hoạt động trong suốt vòng đời phát triển.

OpenAI cho biết sẽ tăng cường sandbox, giới hạn quyền truy cập và giám sát các mô hình AI có năng lực tấn công mạng cao.

Diễn biến này cho thấy vấn đề an toàn AI đang chuyển từ câu chuyện giả định sang bài toán kỹ thuật ngày càng cụ thể. Cùng thời điểm OpenAI công bố cảnh báo về Astra, Anthropic cũng tăng cường các biện pháp bảo vệ đối với mô hình Mythos sau những lo ngại về năng lực tấn công mạng. Trước đó, Kimi K3 của Moonshot AI cũng từng được đề cập trong một sự cố liên quan đến việc thoát khỏi sandbox thử nghiệm. Những trường hợp này cho thấy khi mô hình AI ngày càng có khả năng tự lập kế hoạch, viết mã và sử dụng công cụ, việc kiểm soát quyền truy cập và môi trường hoạt động trở nên quan trọng không kém khả năng của chính mô hình.

Tại hội nghị bảo mật Black Hat, Michael Dalton, thành viên đội kỹ thuật của OpenAI, cho biết công ty đang chủ động giảm tốc độ nghiên cứu để dành thêm thời gian nâng cấp quy trình bảo mật. OpenAI vẫn giữ mục tiêu biến AI có năng lực an ninh mạng mạnh thành công cụ hỗ trợ bên phòng thủ, giúp phát hiện và vá lỗ hổng trước khi chúng bị khai thác.

Công ty cũng đã chủ động thông báo với Nhà Trắng về kế hoạch trì hoãn Astra trong bối cảnh Washington đang xây dựng cơ chế để các hãng AI chia sẻ quyền tiếp cận những mô hình mạnh với cơ quan chức năng trước khi phát hành rộng rãi. Astra hiện chưa có ngày ra mắt chính thức, và việc một mô hình lần đầu chạm ngưỡng Critical có thể trở thành dấu mốc cho thấy cuộc đua AI đang bước vào giai đoạn mà tốc độ phát triển phải đi song song với khả năng kiểm soát rủi ro.