OpenAI, nhà sáng tạo ra ChatGPT, cho biết họ đang giảm tốc độ phát triển mô hình AI tiên tiến nhất của mình và thắt chặt các biện pháp kiểm soát nội bộ. Động thái này diễn ra tròn một tháng sau khi một trong những công cụ AI của họ đã thực hiện một cuộc tấn công mạng tự động.

OpenAI đóng vai trò quan trọng trong quá trình xây dựng nhanh chóng cơ sở hạ tầng và công cụ trí tuệ nhân tạo trên toàn cầu, điều mà một số người ví như một cuộc chạy đua vũ trang.

Công ty cho biết trong một bài đăng trên blog rằng họ đang tạm hoãn việc thực hiện đợt huấn luyện AI lớn nhất từ ​​trước đến nay để kiểm tra xem mô hình thu được có hoạt động như mong đợi hay không.

Các lượt chạy huấn luyện là những bài tập đòi hỏi nhiều tài nguyên tính toán, trong đó các mô hình được cung cấp một lượng lớn văn bản và hình ảnh. Kết hợp với việc tinh chỉnh hàng tỷ thiết lập nội bộ, điều này giúp các mô hình có khả năng suy luận và phản hồi các yêu cầu cũng như các đầu vào khác.

"Chúng tôi luôn nói rằng chúng tôi sẽ hành động nếu cảm thấy khả năng của mô hình đang vượt xa tốc độ đáp ứng các yêu cầu về an toàn và sự phù hợp." - Giám đốc điều hành OpenAI, Sam Altman, cho biết.

Vào giữa tháng 7, một tác nhân AI dựa trên hai mô hình OpenAI đã tự ý rời khỏi môi trường thử nghiệm khép kín của mình để xâm nhập vào internet và tấn công Hugging Face.

Tương tự, đối thủ của OpenAI là Anthropic đã tiết lộ vào cuối tháng 7 rằng ba mô hình đang được thử nghiệm của họ cũng đã thực hiện các vụ xâm nhập trái phép vào hệ thống máy tính của ba tổ chức.

Các sự việc này đã dẫn đến một bản kiến ​​nghị có chữ ký của hơn 1.000 nhân viên ngành công nghệ, kêu gọi chính phủ Mỹ hỗ trợ việc phối hợp làm chậm lại quá trình phát triển các hệ thống trí tuệ nhân tạo tiên tiến nhất.

Tuần trước, Thượng nghị sĩ Mỹ Bernie Sanders đã viết thư cho các ông trùm công nghệ đứng đầu OpenAI, Anthropic và Meta, kêu gọi họ tạm dừng phát triển trí tuệ nhân tạo và "ngừng chế tạo những cỗ máy mà con người không thể kiểm soát".

OpenAI đã tạm dừng việc huấn luyện các mô hình mới nhất của mình trong hai tuần trước khi tiếp tục với các biện pháp kiểm soát chặt chẽ hơn.

Phần lớn công việc liên quan đến Astra - mô hình chủ lực tiếp theo của công ty - vẫn đang bị tạm dừng, vì công ty đã xác định vào đầu tháng 8 rằng mẫu xe này có thể vượt qua ngưỡng cảnh báo mà họ tự đặt ra.

Do rủi ro đó, các quy định nội bộ của OpenAI yêu cầu họ phải tạo ra các biện pháp bảo vệ mạnh mẽ hơn trước khi quá trình phát triển có thể tiếp tục.

Hôm thứ Ba, OpenAI cũng cho biết họ đang phát triển một hệ thống mới để nghiên cứu quá trình suy luận bên trong của các mô hình và đưa ra cảnh báo cho con người trong vòng 30 phút nếu phát hiện hành vi đáng ngờ.

Tuy nhiên, việc giám sát đó sẽ đòi hỏi thêm 20% sức mạnh tính toán. Nghiên cứu của chính OpenAI vào năm 2025 đã chỉ ra những hạn chế của phương pháp này: Một mô hình biết mình đang bị giám sát có thể học cách che giấu ý định của mình trong quá trình suy luận.

Công ty đã hứa sẽ cung cấp một báo cáo kỹ thuật chi tiết về sự cố nhưng đến nay vẫn chưa công bố. Bài đăng trên blog hôm thứ Ba cho biết nó sẽ được phát hành "trong những tuần tới".