Reddit để AI tham gia sâu hơn vào kiểm duyệt nội dung

Reddit vừa công bố Rules Hub, hệ thống kiểm duyệt mới ứng dụng mô hình ngôn ngữ lớn (LLM), đánh dấu bước tiến mới trong việc sử dụng trí tuệ nhân tạo để quản lý nội dung trên nền tảng. Khác với các công cụ trước đây chỉ hỗ trợ phát hiện vi phạm, Rules Hub có thể được cấp quyền tự động xóa bài viết hoặc bình luận nếu quản trị viên (moderator) cho phép. Động thái này cho thấy Reddit đang đẩy mạnh ứng dụng AI nhằm giảm tải khối lượng công việc cho hàng nghìn moderator, đồng thời nâng cao hiệu quả kiểm duyệt trong bối cảnh lượng nội dung do người dùng tạo ra ngày càng lớn.

Trước khi Rules Hub xuất hiện, Reddit chủ yếu dựa vào đội ngũ moderator tình nguyện cùng công cụ Automoderator (Automod). Hệ thống này hoạt động theo các quy tắc cố định do quản trị viên thiết lập, chẳng hạn phát hiện từ khóa hoặc mẫu nội dung cụ thể để gắn cờ và xử lý. Tuy nhiên, cách tiếp cận này vẫn tồn tại nhiều hạn chế khi người dùng có thể thay đổi cách diễn đạt để "qua mặt" bộ lọc. Reddit từng thử nghiệm AI với tính năng Post Check, cho phép cảnh báo người dùng nếu bài đăng có nguy cơ vi phạm quy định của cộng đồng, nhưng quyền quyết định đăng tải vẫn thuộc về người dùng.

AI hiểu ngữ cảnh thay vì chỉ dò từ khóa

Điểm khác biệt lớn nhất của Rules Hub nằm ở khả năng phân tích ngôn ngữ tự nhiên. Thay vì chỉ kiểm tra sự xuất hiện của các từ khóa đã được lập trình sẵn, AI có thể đánh giá liệu một bài viết hoặc bình luận có phù hợp với tinh thần của nội quy hay không. Điều này giúp hệ thống xử lý tốt hơn những trường hợp nội dung vi phạm nhưng được diễn đạt theo nhiều cách khác nhau hoặc không chứa từ khóa cụ thể.

Dù được trao thêm quyền, AI vẫn không hoạt động hoàn toàn độc lập. Reddit cho biết moderator sẽ quyết định AI được phép thực thi những quy định nào và lựa chọn hình thức xử lý phù hợp. Khi phát hiện dấu hiệu vi phạm, hệ thống có thể chỉ gắn cờ để con người xem xét, tự động xóa nội dung hoặc không thực hiện bất kỳ hành động nào. Theo Reddit, AI đóng vai trò hỗ trợ, còn quyền kiểm soát cuối cùng vẫn thuộc về quản trị viên của từng cộng đồng.

Reddit triển khai rộng nhưng moderator vẫn thận trọng

Rules Hub đã được thử nghiệm trong nhiều tháng trên hơn 700 cộng đồng với sự tham gia của cả các moderator mới lẫn những quản trị viên giàu kinh nghiệm. Sau giai đoạn thử nghiệm, Reddit bắt đầu kích hoạt mặc định công cụ này cho tất cả các subreddit mới và dự kiến mở rộng ra toàn bộ nền tảng trong năm 2026.

Tuy nhiên, phản hồi từ cộng đồng moderator vẫn khá trái chiều. Một số người đánh giá hệ thống hoạt động hiệu quả trong nhiều tình huống nhưng chưa đủ ổn định để giao toàn quyền xử lý nội dung. Không ít nhóm quản trị hiện chỉ sử dụng AI như một công cụ gắn cờ, sau đó vẫn tiến hành kiểm tra thủ công trước khi đưa ra quyết định cuối cùng. Điều này phản ánh tâm lý thận trọng khi AI ngày càng được trao nhiều quyền hơn trong việc quản lý các cộng đồng trực tuyến.

Reddit khẳng định AI chỉ hỗ trợ kiểm duyệt, còn moderator vẫn giữ quyền quyết định cuối cùng.

AI sẽ thay đổi cách Reddit kiểm duyệt nội dung

Về lâu dài, Reddit kỳ vọng Rules Hub sẽ dần thay thế nhiều tác vụ mà Automoderator đang đảm nhiệm, đồng thời kết hợp với các công cụ như Post and Comment Guidance hay Safety Filters để xây dựng quy trình kiểm duyệt thông minh hơn. Dù vậy, công ty nhấn mạnh AI không phải là sự thay thế cho moderator mà chỉ là trợ lý giúp giảm khối lượng công việc và nâng cao hiệu quả xử lý.

Việc Reddit mở rộng quyền hạn cho AI diễn ra không lâu sau khi nền tảng này vấp phải nhiều tranh cãi liên quan đến các thay đổi trong chính sách quản lý cộng đồng. Bởi vậy, cách Rules Hub được triển khai trong thời gian tới sẽ là phép thử quan trọng, không chỉ đối với công nghệ AI mà còn với niềm tin của các moderator - lực lượng giữ vai trò cốt lõi trong việc duy trì chất lượng nội dung trên Reddit.