Sự phổ biến của camera giám sát tích hợp trí tuệ nhân tạo đang giúp việc nhận diện khuôn mặt, phương tiện và biển số trở nên nhanh chóng hơn bao giờ hết. Tuy nhiên, công nghệ này cũng đặt ra câu hỏi lớn về quyền riêng tư, đặc biệt khi con người ngày càng khó biết mình đang bị hệ thống tự động theo dõi ở đâu và vào thời điểm nào.

Một dự án mang tên noRecognition đang tìm cách giải quyết vấn đề theo hướng khá khác biệt: thay vì phá hỏng camera hoặc làm biến dạng hình ảnh, chuyên gia an ninh mạng Bill Swearingen sử dụng AI để tạo ra những họa tiết đối kháng có khả năng đánh lừa thuật toán nhận diện. Các hoa văn này có thể được in trên quần áo, vật dụng hoặc phương tiện, khiến hệ thống máy tính gặp khó khăn khi xác định chính xác đối tượng xuất hiện trong khung hình.

Những họa tiết đối kháng được thiết kế bằng thuật toán có hình dạng và màu sắc khác nhau nhằm đánh lừa hệ thống nhận diện hình ảnh. (Ảnh: Bill Swearingen)

Điểm đáng chú ý nằm ở cách công nghệ này hoạt động. Camera vẫn ghi hình bình thường, nhưng lớp họa tiết được thiết kế để tạo ra những tín hiệu khiến mô hình AI phân loại hình ảnh sai. Nói cách khác, mục tiêu không phải khiến con người biến mất khỏi video mà là làm cho hệ thống tự động không còn chắc chắn đối tượng trước mặt là người, khuôn mặt hay phương tiện. Nếu thuật toán không xác định được đối tượng phù hợp, các chức năng cảnh báo và theo dõi tự động có thể không được kích hoạt.

Để tìm ra những mẫu hoa văn hiệu quả, Swearingen đã sử dụng phương pháp học tăng cường, cho hệ thống máy tính liên tục thử nghiệm và đánh giá hàng triệu biến thể. Trong khoảng một năm, dự án thực hiện hơn 31 triệu lượt thử nghiệm trên 11 thuật toán nhận diện mã nguồn mở. Mỗi khi một mẫu thiết kế bị hệ thống nhận diện phát hiện, thuật toán tiếp tục điều chỉnh hình dạng, màu sắc và cấu trúc để tìm phương án khó bị nhận diện hơn.

Cách tiếp cận này cho thấy một cuộc chạy đua mới đang hình thành giữa AI nhận diện và AI chống nhận diện. Khi các hệ thống giám sát ngày càng thông minh, những kỹ thuật đánh lừa chúng cũng không còn dựa vào việc che kín khuôn mặt hoặc tránh camera. Thay vào đó, dữ liệu hình ảnh được “đầu độc” ngay từ đầu vào để khiến mô hình AI đưa ra kết luận sai.

Dự án noRecognition được cho là đã thử nghiệm khả năng đánh lừa nhiều hệ thống giám sát khác nhau, trong đó có công nghệ nhận diện khuôn mặt, camera hành trình và hệ thống đọc biển số. Một trong những màn trình diễn đáng chú ý diễn ra tại hội nghị an ninh mạng Def Con ở Las Vegas. Tại đây, Swearingen cùng cộng sự phủ họa tiết đặc biệt lên một chiếc Toyota Yaris đời 2009 rồi đưa phương tiện vào khu vực có camera giám sát. Theo nhóm nghiên cứu, hệ thống thử nghiệm không phát hiện được chiếc xe như thông thường.

Chiếc Toyota Yaris được phủ họa tiết đối kháng trong thử nghiệm tại Def Con nhằm kiểm tra khả năng né hệ thống camera giám sát. (Ảnh: Bill Swearingen)

Theo Swearingen, mục tiêu của dự án không đơn thuần là tạo ra một sản phẩm “tàng hình” trước camera, mà hướng đến việc trao cho người dùng thêm quyền kiểm soát đối với dữ liệu hình ảnh của chính mình. Trong bối cảnh camera AI xuất hiện ngày càng nhiều tại đường phố, cửa hàng, bãi đỗ xe và các khu vực công cộng, người dân có thể bị đưa vào hệ thống phân tích dữ liệu mà không chủ động cung cấp thông tin.

Tuy nhiên, công nghệ này cũng tạo ra một cuộc tranh luận không dễ giải quyết. Nếu họa tiết đối kháng có thể giúp người bình thường hạn chế bị theo dõi, nó đồng thời có khả năng bị lợi dụng để né tránh các hệ thống an ninh hoặc cản trở hoạt động điều tra. Điều đó khiến bài toán cân bằng giữa quyền riêng tư và an ninh công cộng trở nên phức tạp hơn khi AI ngày càng được triển khai rộng rãi.

Swearingen hiện tiếp tục phát triển dự án theo hướng thương mại hóa, trong đó có quần áo, áo hoodie và các sản phẩm sử dụng họa tiết đối kháng. Nhóm nghiên cứu cũng tìm cách tăng độ phân giải của các mẫu in để chúng vừa có khả năng đánh lừa thuật toán vừa không quá khác biệt so với thiết kế thời trang thông thường.

Đáng chú ý, đây có thể chỉ là giai đoạn đầu của cuộc đối đầu giữa AI nhận diện và AI chống nhận diện. Khi các hãng camera liên tục cập nhật thuật toán để phát hiện những mẫu tấn công mới, các hệ thống tạo họa tiết cũng có thể tiếp tục sử dụng AI để tìm ra phương án mới. Cuộc cạnh tranh này cho thấy một thực tế đáng chú ý: AI không chỉ đang được dùng để nhìn và nhận diện con người, mà còn có thể được dùng để khiến máy móc không thể nhìn thấy con người theo cách chúng mong muốn.