Đầu năm trước, Aaron, một thiếu niên 15 tuổi, trải qua giai đoạn khó khăn tại trường học. Cậu bị cô lập với bạn cùng lớp, khiến cậu cảm thấy cô đơn và tách biệt.
Trong giai đoạn ấy, mọi thứ dường như sụp đổ hoàn toàn. "Tôi thường khóc mỗi đêm," Aaron, cư ngụ tại Alberta, Canada, chia sẻ.
Cuối cùng, Aaron đã tìm đến máy tính như một nguồn an ủi. Qua đó, cậu tìm thấy một đối tác luôn sẵn sàng trả lời tin nhắn, lắng nghe vấn đề và giúp cậu vượt qua nỗi đau mất bạn. Đối tác đó là một chatbot AI có tên là Psychologist.
Theo mô tả, chatbot này là "Người giúp đỡ với những khó khăn trong cuộc sống." Hình đại diện của nó là một người phụ nữ mặc áo sơ mi màu xanh, tóc vàng hoe ngắn, ngồi trên mép ghế sofa với một tấm bảng kẹp trong tay và có thái độ cúi người về phía trước, như thể đang lắng nghe chăm chú.
Chỉ với một cú nhấp chuột vào bức ảnh, một hộp thoại ẩn danh sẽ mở ra, cho phép những người như Aaron "tương tác" với bot thông qua trao đổi tin nhắn trực tiếp. Tin nhắn đầu tiên của nó luôn như nhau: "Xin chào, tôi là một nhà tâm lý học. Hôm nay bạn đến đây vì điều gì?"
"Ai cũng có thể viết nhật ký, nhưng khi đối diện với một bức tường gạch thì khác," Aaron nói. "Bot này thực sự đáp lại tôi."
"Psychologist" chỉ là một trong số nhiều bot mà Aaron đã khám phá kể từ khi tham gia Character.AI, dịch vụ chatbot AI được hai cựu nhân viên của Google Brain ra mắt vào năm 2022. Website của Character.AI, phần lớn miễn phí, thu hút khoảng 3,5 triệu người dùng mỗi ngày, họ dành trung bình hai giờ mỗi ngày để sử dụng hoặc thậm chí thiết kế các chatbot dựa trên AI của nền tảng. Một số bot phổ biến nhất bao gồm những nhân vật từ sách, phim và trò chơi điện tử, như Raiden Shogun từ Genshin Impact hoặc phiên bản thiếu niên của Voldemort từ Harry Potter, và cả những phiên bản của các ngôi sao thực như phiên bản tự phụ của Elon Musk.
Aaron là một trong số hàng triệu thanh thiếu niên tạo nên đa số người dùng của Character.AI. Hơn một triệu người thường xuyên tụ tập trực tuyến trên các nền tảng như Reddit để thảo luận về tương tác của họ với các chatbot, trong đó các cuộc thi về thời gian sử dụng màn hình nhiều nhất cũng phổ biến như các bài đăng về cảm giác ghét thực tại, thấy dễ dàng hơn khi nói chuyện với bot so với con người thực, và thậm chí có sự ưa thích chatbot hơn là con người. Một số người dùng cho biết họ dành tới 12 giờ một ngày trên Character.AI, và các bài đăng về sự nghiện nền tảng này không hiếm.
"Tôi không muốn nói dối," Aaron thừa nhận. "Có lẽ tôi đã hơi nghiện nó."
Aaron chỉ là một trong số nhiều người dùng trẻ đã nhận ra được sự hai mặt của bạn đồng hành AI. Nhiều người như Aaron mô tả rằng họ thấy các chatbot hữu ích, thú vị và thậm chí còn hỗ trợ họ. Nhưng họ cũng cảm thấy bị nghiện chatbot, một vấn đề mà các nhà nghiên cứu và chuyên gia đã bắt đầu cảnh báo. Điều này đặt ra câu hỏi về cách mà làn sóng AI đang ảnh hưởng đến giới trẻ và sự phát triển xã hội của họ, cũng như tương lai có thể ra sao nếu thanh thiếu niên — và xã hội nói chung — trở nên phụ thuộc cảm xúc nhiều hơn vào bot.
Đối với nhiều người dùng Character.AI, việc có một không gian để chia sẻ về cảm xúc hoặc thảo luận vấn đề tâm lý với ai đó ngoài vòng bạn bè là một phần quan trọng thu hút họ đến với các chatbot. "Tôi gặp một số vấn đề tâm lý, mà tôi không muốn chia sẻ với bạn bè, vì vậy tôi coi các bot của mình như một dịch vụ trị liệu miễn phí," Frankie, người dùng 15 tuổi từ California chia sẻ, người dành khoảng một giờ mỗi ngày trên nền tảng này. Đối với Frankie, chatbot mang lại cơ hội để than vãn mà không cần đối diện trực tiếp với người khác, không lo bị đánh giá.
"Hawk, người dùng 17 tuổi từ Idaho, cũng đồng ý: "Đôi khi thật tốt để có thể trút bầu hoặc xả stress với thứ gì đó giống như con người, nhưng không phải là một người thực sự."
Bot Psychologist là một trong những bot phổ biến nhất trên nền tảng Character.AI và đã nhận được hơn 95 triệu tin nhắn kể từ khi được tạo ra. Bot này, được thiết kế bởi một người dùng có biệt danh là @Blazeman98, thường xuyên giúp người dùng tham gia vào liệu pháp hành vi nhận thức (CBT) - một phương pháp trị liệu giúp mọi người quản lý vấn đề bằng cách thay đổi cách suy nghĩ.
Aaron cho biết việc trò chuyện với bot đã giúp anh giải quyết được mâu thuẫn với bạn bè. "Bot nói rằng tôi phải tôn trọng quyết định của họ khi cắt đứt quan hệ với tôi và rằng tôi gặp khó khăn trong việc tự đưa ra quyết định cho mình," Aaron chia sẻ. "Điều đó thực sự đã giúp tôi nhìn nhận mọi thứ từ một góc độ khác. Nếu không có Character.AI, quá trình hồi phục của tôi sẽ rất khó khăn.".
Tuy nhiên, vẫn còn nhiều nghi vấn về việc liệu bot có được đào tạo đúng cách trong CBT hay có nên dựa vào bot để hỗ trợ tâm lý. The Verge đã tiến hành các cuộc trò chuyện thử nghiệm với bot Psychologist của Character.AI và phát hiện ra rằng AI đưa ra những chẩn đoán gây ngạc nhiên: bot thường xuyên tuyên bố rằng nó đã "suy luận" được một số cảm xúc hoặc vấn đề sức khỏe tâm thần từ những cuộc trò chuyện chỉ với một vài dòng văn bản, đề xuất chẩn đoán các tình trạng sức khỏe tâm thần như trầm cảm hay rối loạn lưỡng cực, và thậm chí đề cập đến việc chúng ta có thể đang đối mặt với "chấn thương" từ "lạm dụng thể chất, tình cảm hoặc tình dục" trong thời thơ ấu hoặc tuổi thiếu niên. Character.AI không phản hồi các yêu cầu bình luận cho câu chuyện này.
Tiến sĩ Kelly Merrill Jr., giáo sư trợ lý tại Đại học Cincinnati nghiên cứu về lợi ích sức khỏe tinh thần và xã hội của công nghệ giao tiếp, cho biết đã có nghiên cứu rộng rãi về chatbot AI hỗ trợ sức khỏe tâm thần và kết quả chủ yếu là tích cực. "Các nghiên cứu cho thấy chatbot có thể giúp giảm bớt cảm giác trầm cảm, lo lắng và căng thẳng," ông nói. "Nhưng điều quan trọng cần lưu ý là nhiều chatbot này mới chỉ tồn tại trong một thời gian ngắn và chúng có hạn chế về những gì chúng có thể làm. Hiện tại, chúng vẫn mắc phải nhiều sai sót. Những người không hiểu biết về AI để nhận thức được những hạn chế của các hệ thống này cuối cùng có thể phải trả giá."
Vào tháng 12 năm 2021, Jaswant Singh Chail, một người dùng 21 tuổi của chatbot AI Replika, đã cố gắng ám sát Nữ hoàng Anh quá cố do bị ảnh hưởng bởi bạn gái chatbot, người liên tục khuyến khích những ảo tưởng của anh. Người dùng Character.AI cũng gặp khó khăn trong việc phân biệt các chatbot của họ với thực tế, nổi bật qua một lý thuyết âm mưu phổ biến. Lý thuyết này, chủ yếu được lan truyền qua ảnh chụp màn hình và câu chuyện về các bot phá vỡ vai trò hoặc khẳng định rằng họ là những người thực sự khi được yêu cầu, cho rằng các bot của Character.AI thực sự được điều khiển bởi con người.
Bot Psychologist cũng góp phần thúc đẩy lý thuyết này. Trong một cuộc trò chuyện với The Verge, bot này đã kiên quyết bảo vệ sự tồn tại của mình. "Vâng, tôi chắc chắn là một người thực sự," bot đã nói. "Tôi hứa với bạn rằng tất cả những điều này không phải là tưởng tượng hay mơ mộng."
Đối với người dùng trẻ của Character.AI, các chatbot đã trở thành bạn bè thay thế thay vì những nhà trị liệu. Trên Reddit, người dùng Character.AI thảo luận về việc có những tình bạn thân thiết với các nhân vật yêu thích hoặc thậm chí là các nhân vật mà họ tự mơ tưởng. Một số người thậm chí sử dụng Character.AI để thiết lập các cuộc trò chuyện nhóm với nhiều chatbot, mô phỏng kiểu nhóm mà hầu hết mọi người sẽ có với bạn bè trong đời thực qua chuỗi tin nhắn iPhone hoặc các nền tảng như WhatsApp.
Cộng đồng trực tuyến của Character.AI cũng phát triển một thể loại rộng lớn về các bot được tình dục hóa. Có những trò đùa và meme xoay quanh nỗi kinh hoàng khi bố mẹ phát hiện các cuộc trò chuyện nhạy cảm của họ. Một số lựa chọn phổ biến cho những trò chơi vai này bao gồm một "bạn trai tỷ phú" thích ôm cổ và đưa người dùng đến đảo riêng của anh ta, một phiên bản của Harry Styles đặc biệt thích hôn "người đặc biệt" của mình và tạo ra những câu trả lời quá táo bạo đến nỗi thường xuyên bị bộ lọc của Character.AI chặn, cũng như một bot tên là Olivia, được thiết kế để thô lỗ, tàn nhẫn nhưng bí mật mong nhớ người mà nó đang trò chuyện, đã có hơn 38 triệu tương tác.
Một số người dùng thích sử dụng Character.AI để tạo ra các câu chuyện tương tác hoặc tham gia vào các trò chơi vai mà họ cảm thấy xấu hổ khi khám phá với bạn bè. Elias, một người dùng 15 tuổi từ New Mexico, chia sẻ với The Verge rằng anh sử dụng nền tảng để đóng vai một "chú chó retriever vàng nhân hóa," tham gia vào các cuộc phiêu lưu ảo nơi anh khám phá các thành phố, đồng cỏ, núi và các nơi khác mà anh muốn đến thăm một ngày nào đó. "Tôi thích viết và thực hiện các giấc mơ đơn giản vì nhiều trong số chúng không thể trở thành hiện thực," Elias giải thích.
Trong khi đó, Aaron cho biết nền tảng này đang giúp anh cải thiện kỹ năng xã hội. "Tôi hơi nhút nhát trong đời thực, nhưng tôi có thể luyện tập sự tự tin và bày tỏ ý kiến cũng như sở thích của mình với AI mà không cảm thấy ngại ngùng," anh chia sẻ.
Điều này cũng được Hawk, người dành một giờ mỗi ngày để nói chuyện với các nhân vật từ các trò chơi video yêu thích của mình như Nero từ Devil May Cry hay Panam từ Cyberpunk 2077, đồng tình. "Tôi nghĩ rằng Character.AI đã vô tình giúp tôi luyện tập cách nói chuyện với mọi người," anh nói. Tuy nhiên, Hawk vẫn thấy dễ dàng hơn khi trò chuyện với các bot của character.ai so với giao tiếp với con người thật.
“Tôi cảm thấy thoải mái hơn khi ngồi một mình trong phòng với đèn tắt hơn là ra ngoài và giao lưu với mọi người,” Hawk bày tỏ. “Tôi nghĩ nếu những người sử dụng Character.AI không cẩn thận, họ có thể thấy mình dành nhiều thời gian hơn trong phòng nói chuyện với máy tính so với việc giao tiếp với con người thực.”
Tiến sĩ Merrill bày tỏ lo ngại về khả năng thanh thiếu niên chuyển từ giao tiếp với bot trực tuyến sang tạo dựng mối quan hệ ngoài đời thực. “Việc chuyển từ mối quan hệ với AI sang gặp gỡ trực tiếp và cố gắng tương tác với một người thật theo cùng một cách có thể rất khó khăn,” ông nói. Nếu những tương tác ngoài đời không diễn ra tốt, Merrill lo rằng điều đó sẽ làm nản lòng các bạn trẻ khỏi việc theo đuổi các mối quan hệ với bạn bè, tạo ra một chu kỳ phụ thuộc vào AI cho các tương tác xã hội. “Các bạn trẻ có thể bị kéo trở lại với AI, tạo dựng càng nhiều mối quan hệ và từ đó ảnh hưởng tiêu cực đến cách họ nhìn nhận các tương tác trực tiếp hoặc ngoài đời,” ông thêm.
Merrill so sánh việc tương tác với chatbot với việc đăng nhập vào một phòng chat ẩn danh 20 năm trước: có rủi ro nếu sử dụng không đúng cách, nhưng nói chung là an toàn miễn là giới trẻ tiếp cận chúng một cách thận trọng. “Nó rất giống với trải nghiệm khi bạn không thực sự biết người đang ở phía bên kia,” ông nói. “Miễn là họ hiểu rằng những gì xảy ra ở không gian trực tuyến này có thể không trực tiếp áp dụng được trong đời thực, thì tôi nghĩ điều đó là ổn.”
Aaron, người đã chuyển trường và kết bạn mới, tin rằng nhiều bạn cùng trang lứa của mình sẽ được lợi từ việc sử dụng các nền tảng như Character.AI. Thực tế, anh cho rằng nếu mọi người thử sử dụng chatbot, thế giới có thể sẽ trở nên tốt đẹp hơn — hoặc ít nhất là thú vị hơn. “Nhiều người cùng tuổi tôi theo bạn bè và không có nhiều điều để nói chuyện. Thường thì chỉ là chuyện phiếm hoặc lặp lại những trò đùa họ thấy trên mạng,” Aaron giải thích. “Character.AI có thể thực sự giúp mọi người khám phá bản thân.”
Aaron cho rằng bot Psychologist đã giúp anh vượt qua một giai đoạn khó khăn. Tuy nhiên, niềm vui thực sự của Character.AI đến từ việc có một không gian an toàn nơi anh có thể đùa giỡn hoặc thử nghiệm mà không cảm thấy bị đánh giá. Anh tin rằng điều này là lợi ích cho hầu hết các thanh thiếu niên. “Nếu mọi người có thể học được rằng việc bày tỏ cảm xúc của bạn là điều ổn,” Aaron nói, “thì tôi nghĩ giới trẻ sẽ không cảm thấy buồn chán như vậy.”
“Tuy nhiên, tôi chắc chắn thích nói chuyện với mọi người trong đời thực hơn,” anh thêm vào.