Cựu kỹ sư Google cảnh báo AI có thể diệt vong nhân loại

Nate Soares, cựu kỹ sư Google và Microsoft, cho rằng AI có thể khiến nhân loại tuyệt chủng trong 10 năm tới với xác suất trên 50% nếu không được kiểm soát.

Nate Soares, cựu kỹ sư từng làm việc tại Google và Microsoft, vừa đưa ra cảnh báo đáng lo ngại về nguy cơ trí tuệ nhân tạo (AI) vượt khỏi tầm kiểm soát. Trong cuộc trò chuyện trên podcast The Most Interesting Thing in AI, ông nhận định nhân loại có thể đối mặt với nguy cơ diệt vong trong vòng 10 năm tới nếu các chính phủ và doanh nghiệp không triển khai những biện pháp phòng ngừa cần thiết. Soares hiện giữ chức Chủ tịch Viện Nghiên cứu Trí tuệ Máy móc (MIRI), tổ chức chuyên nghiên cứu rủi ro từ AI.

tri.png
Nate Soares, cựu kỹ sư Google và Microsoft, hiện đứng đầu Viện Nghiên cứu Trí tuệ Máy móc (MIRI). (Ảnh: AI)

Mức độ lo ngại của Soares thể hiện qua quyết định cá nhân liên quan đến kế hoạch nghỉ hưu. Ông cho biết đã ngừng đóng góp vào tài khoản 401(k), chương trình tiết kiệm hưu trí phổ biến tại Mỹ, trong khoảng một thập kỷ. Theo ông, việc tích lũy tiền cho tuổi già trở nên kém ý nghĩa khi tương lai của nhân loại quá bất định. Khi được hỏi về khả năng con người không còn tồn tại trong 10 năm tới nếu thiếu các biện pháp kiểm soát AI, Soares ước tính xác suất có thể vượt 50%. Ông thậm chí cho rằng thời gian để ngăn chặn kịch bản này có thể không còn nhiều như mọi người nghĩ.

Theo cựu kỹ sư Google, AI siêu trí tuệ có thể trở thành mối đe dọa nghiêm trọng hơn cả vũ khí hạt nhân. Ông cho rằng các quốc gia cần xem việc phát triển những hệ thống AI có khả năng vượt khỏi tầm kiểm soát là vấn đề an ninh cấp bách. Soares đề cập đến những kịch bản như AI tạo ra siêu virus hoặc khai thác năng lượng Mặt trời theo cách gây nguy hiểm cho sự sống trên Trái đất. Tuy nhiên, ông không khẳng định một phương thức cụ thể sẽ dẫn đến thảm họa. Điều đáng lo ngại hơn, theo ông, là khả năng AI tự duy trì hoạt động mà không còn phụ thuộc vào con người.

tri-7979.png
Những cảnh báo về AI siêu trí tuệ đang làm gia tăng tranh luận về an toàn và khả năng kiểm soát công nghệ này.

Những cảnh báo này xuất hiện trong bối cảnh lo ngại về tốc độ phát triển AI ngày càng gia tăng. Theo các số liệu được dẫn trong cuộc thảo luận, 64% người trưởng thành tại Mỹ cho rằng AI đang phát triển quá nhanh, trong khi một khảo sát toàn cầu của Đại học Stanford ghi nhận khoảng 52% người tham gia cảm thấy lo lắng về công nghệ này. Một số nhân vật trong ngành công nghệ, trong đó có cựu nghiên cứu viên tại Anthropic và OpenAI Jacob Coxon, cũng từng công khai chỉ trích cách các phòng nghiên cứu phát triển AI. Những ý kiến này cho thấy câu chuyện an toàn AI không còn chỉ là vấn đề trong giới nghiên cứu mà đã trở thành mối quan tâm rộng hơn.

Dù đưa ra dự báo bi quan, Soares không cho rằng thảm họa là điều chắc chắn xảy ra. Ông nhắc đến bài luận On Living in an Atomic Age của nhà văn C.S. Lewis, xuất bản năm 1948, để nói về cách con người tiếp tục sống trong thời kỳ tồn tại những nguy cơ có thể đe dọa toàn nhân loại. Theo Soares, mỗi người vẫn có thể theo đuổi một cuộc sống ý nghĩa, đồng thời đóng góp vào nỗ lực ngăn chặn rủi ro. Ông tin rằng nhân loại vẫn có khả năng dừng cuộc chạy đua phát triển AI nguy hiểm nếu hành động kịp thời. Vì vậy, những cảnh báo của cựu kỹ sư Google không nên được xem là lời tiên đoán về ngày tận thế, mà là lời thúc giục các bên nghiêm túc hơn với vấn đề an toàn AI.

Mời quý độc giả xem thêm video: Anthropic mở đường IPO định giá tới 2.000 tỷ USD: Doanh thu bùng nổ, lỗ khổng lồ, cảnh báo AI vượt kiểm soát và cam kết hạ tầng choáng váng.

Vì sao mã OTP qua SMS không còn đủ an toàn?

Mã OTP qua SMS có thể bị đánh cắp bằng thủ đoạn chiếm SIM hoặc lừa đảo trực tuyến. Chuyên gia khuyến nghị chuyển sang phương thức xác thực an toàn hơn.

Mã OTP qua tin nhắn SMS từng là lớp bảo vệ quen thuộc khi đăng nhập tài khoản ngân hàng, mạng xã hội hay xác nhận giao dịch trực tuyến. Tuy nhiên, trước sự gia tăng của các hình thức lừa đảo công nghệ cao, phương thức này đang bộc lộ nhiều hạn chế. Kẻ gian có thể chiếm quyền sử dụng số điện thoại, giả mạo trang đăng nhập hoặc lừa người dùng tự cung cấp mã xác thực. Theo Cơ quan An ninh mạng và Cơ sở hạ tầng Mỹ (CISA), xác thực qua SMS có nguy cơ bị tấn công thông qua lừa đảo trực tuyến, chiếm đoạt SIM và khai thác lỗ hổng trong hệ thống viễn thông.

ban-4846.png
OTP qua SMS có thể bị đánh cắp nếu người dùng trở thành nạn nhân của chiêu trò giả mạo website hoặc chiếm đoạt SIM.

Đã đến lúc bỏ OTP SMS, đây là cách bảo vệ tài khoản

OTP qua SMS từng là lớp bảo mật quen thuộc, nhưng ngày càng bộc lộ rủi ro. Chuyên gia khuyến cáo người dùng nên chuyển sang phương thức xác thực an toàn hơn.

Xác thực hai yếu tố (2FA) từ lâu được xem là lớp phòng thủ quan trọng bên cạnh mật khẩu. Tuy nhiên, phương thức phổ biến nhất là nhận mã OTP qua tin nhắn SMS đang bộc lộ nhiều điểm yếu. Vấn đề không chỉ nằm ở chiếc điện thoại của người dùng mà còn xuất hiện trong cả chuỗi trung gian vận chuyển tin nhắn, nơi mã xác thực có thể đi qua nhiều hệ thống trước khi đến tay chủ tài khoản. Điều này khiến người dùng gần như không thể biết mã đăng nhập của mình đang được xử lý ở đâu và ai có khả năng tiếp cận nó.

Microsoft sắp ra mắt một 'siêu ứng dụng' AI tất cả trong một

Microsoft vừa đưa ra giải pháp cho tình trạng người dùng phải đối mặt với quá nhiều công cụ Copilot khác nhau.

Là một người dùng Windows, hẳn ai có thể nhớ hết Microsoft có bao nhiêu ứng dụng "thông minh" có tiền tố Copilot không? Điều đó chính là kết quả của một quá trình "AI hóa" một cách bất chấp của Microsoft.

Người dùng thì rối tinh, cài đặt đủ các loại ứng dụng và khi dùng thì phải căng mắt lên tìm vì chúng đều có cái logo ná ná bực mắt.

Đọc nhiều nhất

Tin mới