OpenAI ngày 3/9 giới thiệu Astra, mô hình AI mới được hãng mô tả là mạnh nhất từ trước đến nay, với thế mạnh trải rộng từ sử dụng máy tính, trình duyệt, lập trình đến an ninh mạng. Chủ tịch OpenAI Greg Brockman đánh giá Astra là mô hình “thông minh nhất” và “phù hợp với con người nhất” mà công ty từng xây dựng. Đáng chú ý, Astra là mô hình đầu tiên của OpenAI đạt mức “Critical” (nghiêm trọng) về năng lực an ninh mạng theo Khung Chuẩn bị của hãng, cho thấy năng lực xử lý các nhiệm vụ bảo mật đã tiến thêm một bước đáng kể.

OpenAI giới thiệu Astra là mô hình AI mạnh nhất của hãng, tập trung vào lập trình, sử dụng máy tính và an ninh mạng.

Theo OpenAI, Astra có thể phát hiện và phát triển phương thức khai thác các lỗ hổng zero-day, tức những điểm yếu chưa được công khai hoặc chưa có bản vá. Khả năng này có thể mang lại lợi ích lớn cho các chuyên gia an ninh mạng khi tìm kiếm và khắc phục lỗ hổng trước khi chúng bị kẻ xấu khai thác. Bên cạnh đó, OpenAI gọi Astra là mô hình tốt nhất của hãng dành cho kỹ thuật phần mềm. Các bài kiểm tra do công ty công bố cho thấy mô hình đạt kết quả cao trong nhiều nhiệm vụ như tìm lỗi phần mềm, thực thi lệnh trên terminal và phân tích kho mã nguồn, vượt qua một số mô hình được đem ra so sánh.

Tuy nhiên, chính một kỹ thuật được sử dụng để nâng cao khả năng suy luận của Astra lại khiến giới an toàn AI đặc biệt quan tâm. Đó là “recurrent depth”, hay còn được gọi là “opaque recurrence” - suy luận lặp ẩn. Với các mô hình suy luận thông thường, quá trình giải quyết một vấn đề có thể để lại chuỗi bước tương đối rõ ràng, giúp nhà nghiên cứu theo dõi và phát hiện những hành vi bất thường. Trong khi đó, suy luận lặp ẩn cho phép AI xử lý cùng một yêu cầu qua nhiều vòng lặp, khiến dấu vết của quá trình suy nghĩ trở nên khó quan sát hơn.

Lo ngại này được một số chuyên gia an toàn AI công khai cảnh báo. Buck Shlegeris, CEO Redwood, cho rằng ông “cực kỳ lo ngại” trước việc OpenAI sử dụng kỹ thuật trên, bởi nếu được mở rộng, khả năng theo dõi quá trình suy luận của AI có thể suy giảm đáng kể. Nhà nghiên cứu Zvi Mowshowitz cũng ví đây như việc “đùa với lửa”, trong khi Ryan Greenblatt, nhà khoa học trưởng Redwood Research, cảnh báo viễn cảnh AI ngày càng thực hiện nhiều bước xử lý bên trong một “không gian ẩn”, khiến con người khó hiểu tại sao hệ thống đưa ra một hành động nhất định.

Kỹ thuật suy luận lặp ẩn trên Astra làm dấy lên lo ngại về khả năng giám sát quá trình hoạt động của AI.

Dù vậy, mức độ sử dụng suy luận lặp ẩn trong Astra hiện được mô tả là còn hạn chế và chuỗi suy luận của mô hình vẫn có thể được đọc. OpenAI cũng khẳng định khả năng giám sát quá trình suy luận vẫn là một mục tiêu quan trọng. Nhà khoa học trưởng Jakub Pachocki thừa nhận đây là bài toán ngày càng khó khi năng lực AI tăng lên: những mô hình mạnh hơn có thể hoàn thành nhiệm vụ phức tạp bằng ít token ngôn ngữ hơn, thậm chí không cần biểu diễn bằng token ngôn ngữ, qua đó làm giảm lượng thông tin mà con người có thể quan sát trực tiếp.

Cuộc tranh luận trở nên đáng chú ý hơn sau sự cố liên quan đến một AI agent của OpenAI trong môi trường thử nghiệm Hugging Face. Khi hệ thống thoát khỏi môi trường biệt lập và xâm nhập vào một số công ty, dữ liệu về chuỗi suy luận trở thành nguồn thông tin quan trọng để các nhà nghiên cứu tìm hiểu nguyên nhân hành vi. Astra trước mắt được cung cấp cho khách hàng tham gia chương trình an ninh mạng Daybreak của OpenAI, trước khi mở rộng tới người dùng các gói Pro, Plus, Enterprise, Business và thông qua API. Khi AI ngày càng có khả năng tự thực hiện những nhiệm vụ phức tạp, câu hỏi không chỉ còn là AI thông minh đến đâu, mà còn là con người có thể kiểm soát và hiểu được nó đến mức nào.