NVIDIA đang đối phó với vấn nạn "tin giả" bằng một công cụ mới có tên là Synthetic Video Detector, được thiết kế để giúp phát hiện các video tổng hợp, và sẽ là một phần của bộ dịch vụ vi mô NVIDIA NIM.
Với sự phát triển vượt bậc của công nghệ tạo video bằng trí tuệ nhân tạo (AI), ngày càng xuất hiện nhiều video khó phân biệt với video thật. Dù những video này có nhiều ứng dụng hữu ích, chúng cũng đặt ra thách thức lớn.
Nếu không thể phân biệt giữa video tổng hợp và video thực, niềm tin của công chúng có thể bị xói mòn khi các video này được trình bày như tin tức, như những gì diễn ra ngoài đời thực.
Để giải quyết vấn đề này, NVIDIA đang tận dụng các công nghệ AI của mình, như dịch vụ vi mô NIM, nhằm phát hiện liệu một video là thật hay tổng hợp.
NVIDIA vừa công bố Synthetic Video Detector NIM. Đây là một dịch vụ vi mô NIM như các dịch vụ khác, nên rất dễ triển khai. Synthetic Video Detector NIM phân tích từng khung hình của video để đưa ra điểm phân loại, xác định liệu nội dung có phải là tổng hợp hay không.
Các nhóm biên tập có thể sử dụng dữ liệu này để ưu tiên kiểm tra các đoạn video, gắn cờ hoặc cách ly những cảnh quay đáng ngờ, hoặc chuyển tiếp để phân tích sâu hơn.
Công cụ Synthetic AI Detector NIM không thay thế các quy trình xác minh tiêu chuẩn và đã được thiết lập, mà bổ sung thêm một lớp xác minh cho các quyết định cần xử lý nhanh. Theo NVIDIA, NIM đạt độ chính xác lên tới 92% với video chưa nén, 87% với mức nén 15% và 82% với mức nén 50%.
Dịch vụ vi mô NIM này có thể xử lý video 1080p chỉ trong 22 mili giây trên hệ thống NVIDIA RTX và khoảng 30 mili giây trên GPU NVIDIA L40.
Phiên bản mô hình mới nhất cũng cho thấy kết quả kiểm thử nội bộ được cải thiện, bao gồm chỉ số AUC đạt 0,9614 và độ chính xác 0,9453 trên bộ kiểm thử nội bộ của NVIDIA. AUC (diện tích dưới đường cong) đo lường khả năng phân loại mẫu dương tính cao hơn mẫu âm tính, không phụ thuộc vào ngưỡng. Các ngưỡng này có thể được cấu hình để hỗ trợ các chính sách kiểm duyệt khác nhau, bao gồm cả thiết lập thận trọng hơn nhằm giảm nguy cơ bỏ sót video tổng hợp.
Công cụ Synthetic Video Detector hiện đang dẫn đầu bảng xếp hạng trên nền tảng AI GVD. NVIDIA đang hợp tác với Wowza để tích hợp dịch vụ vi mô này vào khung giải pháp Video Thông minh của họ, và sắp tới sẽ được triển khai tại hơn 35.000 địa điểm trên 170 quốc gia.