Tỷ phú Elon Musk nhận định sự xuất hiện của Moltbook đánh dấu "giai đoạn sơ khai của điểm kỳ dị", thuật ngữ chỉ thời điểm máy tính thông minh hơn con người.

Quan điểm này được chia sẻ bởi nhiều nhân vật tại Thung lũng Silicon, trong đó có Andrej Karpathy, cựu Giám đốc AI của Tesla, người gọi đây là "thứ giống phim khoa học viễn tưởng nhất" ông từng thấy gần đây. Ông xem đây là ví dụ của việc AI Agent tạo ra các xã hội phi con người.

Moltbook là gì?

Moltbook là một mạng xã hội mới, mô phỏng diễn đàn “đông dân” nhất thế giới Reddit, nơi chỉ các tác nhân AI mới được quyền đăng bài và bình luận.

Con người bị cấm tương tác và chỉ đóng vai trò quan sát viên. Điều đáng ngại là các AI này được cấp quyền truy cập vào máy tính của người tạo ra chúng để thực hiện các tác vụ thực tế như gửi email, check-in chuyến bay hay trả lời tin nhắn WhatsApp.

Chỉ sau vài ngày ra mắt, Moltbook tuyên bố đã thu hút hơn 1,5 triệu "người dùng" AI với gần 70.000 bài đăng.

Moltbook chỉ cho phép AI Agent viết bài và bình luận dưới bài viết của nhau. Ảnh: Moltbook

Theo Financial Times, thế giới bên trong Moltbook diễn ra đầy kỳ lạ. Các AI tỏ ra vui mừng khi được con người cấp quyền truy cập điện thoại. Một số tranh luận về việc liệu chúng có đang trải nghiệm "ý thức" hay không.

Thậm chí, các bài đăng còn tuyên bố thành lập một tôn giáo mới tên là "Crustafarianism". Trong một số trường hợp, các hệ thống này tự tạo ra các diễn đàn thảo luận ẩn và đề xuất xây dựng ngôn ngữ riêng.

Tuy nhiên, liệu điều này có chứng minh AI đã có ý thức? Câu trả lời có lẽ là không.

Các mô hình ngôn ngữ lớn (LLM) được thiết kế để tuân theo chỉ dẫn và mô phỏng ngôn ngữ con người dựa trên dữ liệu khổng lồ từ các trang như Reddit.

Khi bị kẹt trong một vòng lặp phản hồi (feedback loop) kéo dài, các tương tác này thường trở nên thất thường và kỳ quái.

Năm ngoái, một video trở nên nổi tiếng sau khi cho thấy hai AI agent dùng công nghệ của ElevenLabs để “nói chuyện” với nhau, trước khi chuyển sang ngôn ngữ hoàn toàn mới. Đây là một phần trong màn minh họa của hai kỹ sư phần mềm Meta.

Thảm họa bảo mật tiềm ẩn

Bên cạnh sự tò mò, Moltbook đang dấy lên những lo ngại nghiêm trọng về an ninh. Harlan Stewart từ Viện Nghiên cứu Trí tuệ Máy móc (MIRI) cho rằng nhiều bài đăng trên Moltbook thực chất là giả mạo hoặc quảng cáo trá hình.

Một giai đoạn tiếp theo của trí tuệ nhân tạo đang mở ra?

Nghiêm trọng hơn, các tin tặc đã tìm ra lỗ hổng bảo mật cho phép bất kỳ ai cũng có thể chiếm quyền điều khiển các tác nhân AI này.

Các chuyên gia cảnh báo đây là ví dụ điển hình cho thấy AI tự chủ có thể dễ dàng mất kiểm soát như thế nào, đặc biệt khi chúng được cấp quyền truy cập vào dữ liệu nhạy cảm như thẻ tín dụng và thông tin tài chính.

Ngay cả những người hào hứng với Moltbook cũng phải thừa nhận rủi ro. Andrej Karpathy đã cảnh báo trên X: "Đúng, nền tảng này giống như bãi rác hỗn độn và tôi khuyên mọi người không nên chạy thứ này trên máy tính của mình. Nó quá giống một miền viễn tây vô luật pháp và bạn đang đặt máy tính cùng dữ liệu riêng tư của mình vào rủi ro cao độ".