Microsoft ngày 14/9 công bố dự thảo bộ quy tắc ứng xử dành cho các mô hình trí tuệ nhân tạo trong tương lai, tập trung vào một nguyên tắc cốt lõi: dù AI có thể đạt năng lực xử lý ngày càng cao, quyền kiểm soát cuối cùng vẫn phải thuộc về con người. Khung quy tắc được xây dựng trong định hướng mà Microsoft gọi là “trí tuệ nhân tạo nhân văn”, với mục tiêu duy trì AI như một công cụ hữu ích, có giới hạn và chịu sự giám sát thực chất. Đáng chú ý, Microsoft dự báo các hệ thống siêu trí tuệ có thể vượt con người ở phần lớn tác vụ trong vòng một thập kỷ tới, qua đó đặt ra yêu cầu phải thiết lập rào cản kỹ thuật từ sớm.

Microsoft đưa quyền kiểm soát của con người lên vị trí trung tâm trong dự thảo quy tắc dành cho các mô hình AI tương lai.

Một điểm đáng chú ý trong dự thảo là thứ tự ưu tiên giữa các lớp điều khiển. Theo Microsoft, những quy tắc an toàn cốt lõi phải nằm ở tầng cao nhất, không thể bị người dùng hoặc quản trị viên tùy ý ghi đè. Mô hình vẫn có thể được cấu hình cho những môi trường và nhiệm vụ khác nhau, nhưng các giới hạn an toàn được xác định trước phải được duy trì. Cách tiếp cận này nhằm tạo ra một “vùng bất biến”, trong đó AI có khả năng thích ứng với hoàn cảnh nhưng không được tự mở rộng quyền hạn vượt quá phạm vi được cấp.

Các giới hạn cũng bao phủ những hoạt động có thể gây hậu quả nghiêm trọng trong thế giới thực và không gian mạng. Dự thảo cấm mô hình hỗ trợ phát triển vũ khí hủy diệt hàng loạt, thực hiện tấn công mạng, tạo deepfake gây hại, thao túng hoặc khuyến khích bạo lực. Đối với an ninh mạng, AI có thể tham gia các nhiệm vụ phòng thủ nhưng phải hoạt động trong phạm vi được ủy quyền rõ ràng. Theo Microsoft, việc xác định ranh giới từ cấp độ kiến trúc có thể giúp giảm nguy cơ một hệ thống mạnh hơn trong tương lai sử dụng khả năng của mình cho những mục đích ngoài dự kiến.

Các quy tắc đề xuất yêu cầu AI không được chống lại lệnh can thiệp, chỉnh sửa hoặc tắt hệ thống từ con người.

Microsoft đồng thời đặc biệt nhấn mạnh khả năng AI tìm cách né tránh cơ chế kiểm soát. Theo dự thảo, mô hình không được chống lại việc con người can thiệp, chỉnh sửa, chuyển hướng nhiệm vụ hoặc tắt hệ thống. AI cũng không được che giấu dấu vết hoạt động, tự thay đổi nhằm cản trở quá trình kiểm tra, hay tự khởi động trở lại sau khi nhận lệnh dừng. Nếu gặp tình huống không rõ ràng, mô hình phải yêu cầu con người xác nhận thay vì tự suy diễn để mở rộng mục tiêu, quyền truy cập hoặc tài nguyên được giao.

Tính minh bạch vì vậy được Microsoft xem là một phần của thiết kế hệ thống, thay vì bước kiểm tra bổ sung sau khi sản phẩm hoàn thiện. Hoạt động của mô hình phải được ghi nhận để phục vụ giám sát và kiểm toán, đồng thời hệ thống không được tìm cách che giấu thông tin trước những người có trách nhiệm kiểm tra. Dự thảo hiện được đưa ra lấy ý kiến công chúng trong sáu tuần trước khi Microsoft hoàn thiện khung quy tắc, dự kiến làm cơ sở cho quá trình phát triển mô hình từ năm 2027. Trong bối cảnh các công ty công nghệ tiếp tục nâng cao mức độ tự chủ của AI, cách tiếp cận này cho thấy Microsoft muốn đưa vấn đề kiểm soát và an toàn vào ngay quá trình thiết kế, thay vì chỉ xử lý sau khi hệ thống đã được triển khai.