Trung Quốc vừa tạo ra một cột mốc mới trong cuộc đua quản lý trí tuệ nhân tạo khi chính thức áp dụng bộ quy định đầu tiên trên thế giới dành riêng cho AI nhân cách hóa. Thay vì chỉ kiểm soát nội dung do AI tạo ra hay dữ liệu huấn luyện, Bắc Kinh lần này tập trung vào một lĩnh vực hoàn toàn mới: mối quan hệ cảm xúc giữa con người và chatbot. Động thái được đánh giá là phản ứng trước tốc độ phát triển quá nhanh của các AI đồng hành, vốn ngày càng có khả năng trò chuyện, ghi nhớ thói quen và tạo cảm giác như một người bạn hoặc người yêu thực sự. Điểm đáng chú ý nhất trong quy định mới là trẻ vị thành niên sẽ không được phép sử dụng các chatbot được thiết kế như bạn trai, bạn gái hoặc những nhân vật có khả năng hình thành sự gắn bó tình cảm với người dùng. Đây được xem là bước tiếp theo trong chiến lược bảo vệ thanh thiếu niên trên môi trường số, sau hàng loạt biện pháp từng được áp dụng đối với game trực tuyến, livestream và mạng xã hội.

Trung Quốc lần đầu áp dụng quy định riêng đối với AI nhân cách hóa nhằm hạn chế chatbot tạo quan hệ tình cảm với người dùng trẻ tuổi.

Không chỉ cấm AI đồng hành dành cho trẻ em, bộ quy định còn yêu cầu các doanh nghiệp phát triển AI phải thay đổi cách thiết kế sản phẩm. Những chatbot có tính cách riêng hoặc đóng vai nhân vật buộc phải thông báo rõ ràng rằng người dùng đang tương tác với trí tuệ nhân tạo chứ không phải con người thật. Đồng thời, các nền tảng phải xây dựng cơ chế nhận diện người dùng có dấu hiệu phụ thuộc quá mức vào AI, hạn chế tạo ra các kịch bản khiến chatbot trở thành sự thay thế cho các mối quan hệ ngoài đời và có biện pháp can thiệp nếu phát hiện nội dung liên quan đến khủng hoảng tâm lý hoặc hành vi tự gây hại. Điều này cho thấy trọng tâm quản lý AI tại Trung Quốc đang dịch chuyển từ công nghệ sang những tác động về tâm lý và hành vi xã hội mà AI có thể tạo ra.

Quy định mới cũng lập tức tạo ra tác động rõ rệt đối với ngành công nghiệp AI Trung Quốc. Ngay trong ngày văn bản có hiệu lực, hai nền tảng AI lớn là Doubao của ByteDance và Qianwen (Qwen) của Alibaba đã nhanh chóng gỡ bỏ hoặc vô hiệu hóa các tính năng AI đồng hành và AI nhập vai để đáp ứng yêu cầu pháp lý. Các công cụ phục vụ học tập, làm việc và tìm kiếm thông tin vẫn hoạt động bình thường, nhưng những tính năng cho phép xây dựng mối quan hệ tình cảm hoặc nhập vai với chatbot đã bị hạn chế đáng kể. Việc các doanh nghiệp phản ứng gần như ngay lập tức cho thấy họ không muốn đối mặt với rủi ro pháp lý trong bối cảnh chính quyền ngày càng siết chặt hoạt động của các nền tảng AI.

ByteDance và Alibaba nhanh chóng điều chỉnh các tính năng AI đồng hành sau khi quy định mới chính thức có hiệu lực.

Sự xuất hiện của bộ quy định này phản ánh tốc độ bùng nổ của AI đồng hành trong hai năm trở lại đây. Hàng loạt chatbot không chỉ trả lời câu hỏi mà còn có thể ghi nhớ thông tin cá nhân, duy trì cá tính ổn định qua nhiều cuộc hội thoại và mang đến cảm giác về một mối quan hệ lâu dài với người dùng. Một số nền tảng thậm chí cho phép tự thiết kế bạn trai hoặc bạn gái AI với ngoại hình, giọng nói và tính cách theo sở thích. Xu hướng này không chỉ diễn ra tại Trung Quốc mà còn lan rộng trên toàn cầu với sự phát triển của nhiều ứng dụng AI hướng đến nhu cầu kết nối cảm xúc. Tuy nhiên, đi cùng sức hút là những lo ngại về nguy cơ phụ thuộc tâm lý, cô lập xã hội và ảnh hưởng đến sự phát triển của trẻ em khi dành quá nhiều thời gian cho các mối quan hệ kỹ thuật số.

Trong bối cảnh nhiều quốc gia vẫn đang tập trung xây dựng khung pháp lý tổng thể cho trí tuệ nhân tạo, Trung Quốc đã lựa chọn cách tiếp cận cụ thể hơn bằng việc quản lý trực tiếp AI có cảm xúc. Đây có thể trở thành tiền lệ quan trọng cho các nhà quản lý trên thế giới khi chatbot ngày càng giống con người và đóng vai trò lớn hơn trong đời sống hằng ngày. Cuộc tranh luận về AI vì thế cũng đang bước sang một giai đoạn mới, không chỉ xoay quanh độ chính xác của câu trả lời hay năng lực xử lý công việc, mà còn là giới hạn của những mối quan hệ giữa con người với các "người bạn" kỹ thuật số. Khi AI ngày càng biết lắng nghe, an ủi và tạo sự gắn bó, câu hỏi lớn đặt ra không còn là công nghệ có thể làm được gì, mà là nên được phép đi xa đến đâu trong đời sống tình cảm của con người.