Một người dùng đã sử dụng Google Earth để tạo ra những hình ảnh kinh hoàng: các tòa nhà văn phòng bốc cháy, sự tàn phá hàng loạt ở San Francisco, một hố sâu nghi ngút khói thay thế cho Tháp Eiffel v.v..

Bạn cũng có thể làm được điều này vì Google vừa quyết định tích hợp công cụ tạo ảnh bằng AI, Nano Banana, vào dịch vụ vốn trước đây chủ yếu phục vụ người dùng tìm kiếm hình ảnh vệ tinh hoặc ảnh chụp từ trên cao của các địa điểm thực tế.

“Chỉ cần mở trang web, chọn một vị trí trên bản đồ và bắt đầu biến ý tưởng của bạn thành hiện thực,” Google viết trong một công bố bản cập nhật này cách đây khoảng chưa dày 48 tiếng.

Bạn dễ dàng tạo ra những bức ảnh kinh hoàng đó chỉ bằng cách tìm kiếm một địa điểm trên Google Earth, nhấp vào biểu tượng “Tạo ảnh” và nhập vài từ khóa.

Tính năng này cũng dễ dàng chỉnh sửa các hình ảnh tĩnh về những sự kiện ít kịch tính hơn, và có lẽ cũng khó bị phát hiện là giả hơn: một trại vô gia cư trên bãi cỏ Nhà Trắng, người biểu tình bên ngoài khu nghỉ dưỡng Mar-a-Lago, người nhập cư tràn qua biên giới Mỹ-Mexico.

Ban đầu, Google phản hồi bằng cách hướng dẫn người dùng tự kiểm tra bất kỳ hình ảnh đáng ngờ nào. Khi các hình ảnh giả được tạo ra từ tính năng mới này của Google Earth bắt đầu lan truyền trên mạng, Alphabet lên tiếng rằng họ “nghiêm túc với vấn đề thông tin sai lệch” và “mọi hình ảnh được tạo bằng Nano Banana trên Google Earth đều có water mark kỹ thuật số SynthID, vì vậy nếu ai đó nghi ngờ về một hình ảnh, họ có thể hỏi ứng dụng Gemini hoặc sử dụng Lens trong Search để kiểm tra xem hình ảnh đó có phải do AI tạo ra hay không.”

Ban đầu, Google không gỡ bỏ hoặc hạn chế quyền truy cập vào công cụ này. Tuy nhiên, hôm nay, ngay sau khi có nhiều cây bút công nghệ liên hệ để xin ý kiến, Google đã thay đổi quyết định và thông báo rằng họ “đang tạm dừng tính năng này trên Google Earth trong khi tiến hành triển khai các biện pháp bảo vệ mạnh mẽ hơn.”

Trước khi cho phép người dùng tạo ra các hình ảnh giả, Google Earth là nguồn tài nguyên độc đáo cho các nhà nghiên cứu, nhà báo và giới chức tình báo, đặc biệt là những người nghiên cứu về xung đột vũ trang và thiên tai.

Hình ảnh vệ tinh và ảnh chụp từ trên cao có thể được sử dụng để giám sát tình trạng mất mùa hoặc nạn phá rừng, phát hiện các hố chôn tập thể và đánh giá hậu quả của các chiến dịch ném bom.

Đặc biệt ở các vùng chiến sự và những nơi khó tiếp cận, hình ảnh vệ tinh là phương pháp chủ chốt để xác thực thực tế tại hiện trường. Tuy nhiên, sau khi Google Earth triển khai tính năng AI, một phóng viên điều tra đã chỉ ra trên LinkedIn rằng công cụ này có thể dễ dàng và nhanh chóng tạo ra các hình ảnh về các cuộc tấn công bằng máy bay không người lái trông “rất giống với những gì chúng ta từng thấy ở Ukraine, Nga, Trung Đông và các vùng xung đột khác.”

Thay vì để các đối tượng xấu phải tìm ảnh chụp màn hình rồi vượt qua các rào cản của mô hình AI, Google đã tích hợp mọi thứ cần thiết cho một “nông trại thông tin sai lệch” vào một giao diện người dùng mượt mà.

Thậm chí, người này chỉ mất bốn giây để tạo ra hình ảnh một khách sạn Trump trên Dải Gaza.

Vấn đề này lẽ ra phải quá rõ ràng với Google, khi các sản phẩm khác của họ đã cấm những chỉnh sửa như vậy. Đây không phải lần đầu tiên Google ra mắt một tính năng AI, đặc biệt là tính năng chỉnh sửa hình ảnh bằng AI, mà không có các biện pháp bảo vệ nghiêm ngặt.

Năm ngoái, công ty đã phát hành một công cụ mua sắm AI cho phép người dùng hình dung quần áo sẽ trông như thế nào trên cơ thể mình bằng cách tải lên ảnh cá nhân. Ác mộng đến rất nhanh sau đó, bất kỳ ai cũng có thể sử dụng tính năng này để tạo ra những hình ảnh khiêu dâm của người nổi tiếng hoặc người lạ. Đáng báo động hơn, công cụ này có thể làm điều đó với cả trẻ vị thành niên.

Năm 2024, Google Gemini bị chế giễu vì tạo ra hình ảnh một nhóm phát xít Đức đa sắc tộc nhưng lại không tạo ra hình ảnh nào về binh sĩ Wehrmacht da trắng.

Và tính năng AI nổi bật nhất của Google, phần trả lời do chatbot cung cấp trong công cụ tìm kiếm chủ lực, đã trở thành thảm họa khi ra mắt, nó khuyên người ta ăn ...đá hay những lời khuyên sức khoẻ oái ăm.

Chỉ sau áp lực lớn từ dư luận, công ty mới thực hiện thay đổi đáng kể, và hai năm sau, các phản hồi AI trong Google Search vẫn tiếp tục thiếu nhất quán và không đáng tin cậy.