Bác sĩ nhi Free Hess, một người mẹ ở Florida (Mỹ) cho biết, đã ít nhất hai lần trong vòng nửa năm qua, cô nhìn thấy một video hướng dẫn trẻ em tự tử sao cho hiệu quả.
Theo CBS, lần đầu tiên cô nhìn thấy những hướng dẫn rợn người ấy là khi đang cùng con trai xem video về tựa game Splatoon nổi tiếng của Nintendo. Được ghép ở giữa một trong những đoạn video, hình ảnh một người đàn ông đeo kính râm xuất hiện, cầm trong tay là một con dao tưởng tượng.
“Nhớ nhé mấy nhóc, cắt ngang để có được sự chú ý, cắt dọc nếu muốn ‘đạt kết quả’”, gã vừa nói, vừa mô phỏng hành động dùng dao rạch cổ tay. “Hãy kết liễu cuộc đời mình đi”.
Cô Hess đã ngay lập tức báo cáo video, nhưng YouTube Kids mất đến một tuần để xóa nó đi.
 |
| YouTube Kids vẫn để lọt những video độc hại, mặc dù được quảng cáo là nền tảng an toàn cho trẻ nhỏ. |
Trong tháng này, cô lại thấy video đó xuất hiện trên YouTube Kids. Sau khi bị cô và những người khác gắn cờ, cũng phải mất vài ngày, YouTube mới xóa nó đi.
Quyết định truy cập YouTube Kids và tự mình khám phá nền tảng này, Hess đã sốc khi những gì cô nhìn thấy không chỉ là các video tôn vinh tự tử mà còn cả khai thác và lạm dụng tình dục, buôn người, bạo lực súng đạn và bạo lực gia đình.
“Tôi thực sự cảm thấy rất tồi tệ”, cô nói. Mặc dù thông cảm với Google (chủ sở hữu YouTube) vì quản lý những video trên nền tảng là rất khó, nhưng cô muốn hãng phải phản ứng nhanh hơn khi người dùng báo cáo video vi phạm. “Chỉ gỡ những video đó thôi là chưa đủ. Tôi muốn nội dung độc hại phải bị xóa ngay lập tức khi bị báo cáo”.
Về phía YouTube, đại diện của công ty cho biết: “Chúng tôi dựa vào cả người dùng và công nghệ nhận diện thông minh để thông báo video vi phạm cho kiểm duyệt viên. Mỗi quý, chúng tôi xóa bỏ hàng triệu video và kênh vi phạm chính sách của nền tảng, và đa số chúng bị xóa trước khi kịp có bất kỳ lượt xem nào. Chúng tôi luôn nỗ lực để cải thiện hệ thống của mình, xóa bỏ những nội dung độc hại càng sớm càng tốt”.
 |
| Đây không phải là lần đầu tiên và chắc chắn không phải lần cuối cùng Youtube Kids để lọt những video phản cảm. |
Đây không phải là lần đầu tiên YouTube Kids để những video phản cảm lọt qua hệ thống thuật toán và kiểm duyệt viên của mình. Trong khoảng cuối năm 2017, người dùng có thể dễ dàng tìm kiếm những video như cách chế tạo súng chỉ với từ khóa “gun”, hay các nhân vật hoạt hình nổi tiếng của Disney thực hiện những trò nhảm nhí, thô tục, không phù hợp cho bất kỳ ai.