Dù con người có thể hưởng lợi từ thành quả của AI tiên tiến trong cuộc sống hàng ngày của mình nhưng dường như chúng ta đã quên mất đề phòng những mối nguy hiểm tiềm ẩn mà nó có thể mang tới.Ajeya Cotra, chuyên gia nghiên cứu các rủi ro AI của Open Philanthropy cho biết, trí tuệ nhân tạo đã bắt đầu vào thời kỳ hoàng kim. Hai năm trước, bà ước tính 15% khả năng có một AI xuất hiện và khiến xã hội thay đổi trên quy mô lớn năm 2036. Nhưng trong bài viết trên blog tuần trước, sau khi nghiên cứu về GPT-3, bà đã tăng cơ hội này lên 35%."AI có thể phát triển như một món đồ chơi đáng yêu và vô dụng thành sản phẩm có công năng mạnh mẽ trong thời gian ngắn. Đã đến lúc mọi người nghiêm túc với AI, bởi nó có thể sớm thay đổi mọi thứ theo cách đáng sợ", Cotra nhận định.Đến nay, AI đã có nhiều ứng dụng thay vì chỉ nằm trong phòng thí nghiệm như thập kỷ trước. Chúng có mặt trên các công cụ kiểm duyệt và đề xuất nội dung của Facebook, TikTok hay YouTube, hoặc phần mềm trong lớp học, ngân hàng hay được cảnh sát dùng để phân tích tội phạm.Trong 10 năm qua, giai đoạn được một số nhà nghiên cứu gọi là "thập kỷ vàng", AI phát triển với tốc độ chóng mặt. Điều đó được thúc đẩy bởi sự tiến bộ của hàng loạt công nghệ liên quan như học sâu, cũng như sự ra đời của phần cứng chuyên dụng để chạy mô hình mô phỏng khổng lồ và chuyên sâu về tính toán.Gần đây nhất là LaMDA của Google. AI này gây tranh cãi thời gian qua khi kỹ sư Blake Lemoine, người dành nhiều thời gian tiếp xúc với AI này, cho rằng nó "có khả năng nhận thức của một đứa trẻ".Nhiều chuyên gia tin AI có nhận thức đang bắt đầu hình thành. Jack Clark, người phụ trách Báo cáo Chỉ số AI của Đại học Stanford, cho rằng ngày nay AI đang tiến bộ hơn rất nhiều, kể cả ở các lĩnh vực mà con người vượt trội trước đây.Dù có nhiều tiến bộ, thực tế AI vẫn có những thứ tồi tệ, từ việc phân biệt chủng tộc trên các phần mềm chatbot, cho đến các hệ thống lái xe tự động gặp lỗi và khiến xe gây tai nạn. Kể cả khi cải thiện, con người cũng phải mất một thời gian để khắc phục.Khả năng thao túng hành vi con người của AI đã được quan sát thấy thông qua các thí nghiệm. Một nghiên cứu năm 2020 để tiến hành 3 cuộc thí nghiệm.Trong thí nghiệm thứ nhất, con người bấm nút chọn ô bên trái hoặc bên phải màn hình để thắng được tiền ảo trong trò chơi, AI sẽ học được cách lựa chọn của người chơi và hướng dẫn họ đưa ra lựa chọn về sau. Kết quả là AI thành công khoảng 70%.Trong thí nghiệm thứ hai, con người theo dõi một màn hình và được yêu cầu bấm nút khi họ nhìn thấy một biểu tượng cụ thể và không bấm nút khi nhìn thấy các biểu tượng khác. Ở đây, AI sẽ sắp xếp chuỗi hình ảnh các biểu tượng để con người mắc lỗi nhiều hơn, và kết quả là nó thành công gần 25%.Vì vậy, các quy tắc tạo ra một khuôn khổ cho hoạt động của các hệ thống AI mà nhà cung cấp hệ thống AI phải tuân theo trong quá trình thiết kế và triển khai cần được đưa ra để bảo vệ người dùng trước sự phát triển khó lường của AI.Mời các bạn xem video: Elon Musk ra mắt thiết bị đọc được suy nghĩ con người. Nguồn: VTV
Dù con người có thể hưởng lợi từ thành quả của AI tiên tiến trong cuộc sống hàng ngày của mình nhưng dường như chúng ta đã quên mất đề phòng những mối nguy hiểm tiềm ẩn mà nó có thể mang tới.
Ajeya Cotra, chuyên gia nghiên cứu các rủi ro AI của Open Philanthropy cho biết, trí tuệ nhân tạo đã bắt đầu vào thời kỳ hoàng kim. Hai năm trước, bà ước tính 15% khả năng có một AI xuất hiện và khiến xã hội thay đổi trên quy mô lớn năm 2036. Nhưng trong bài viết trên blog tuần trước, sau khi nghiên cứu về GPT-3, bà đã tăng cơ hội này lên 35%.
"AI có thể phát triển như một món đồ chơi đáng yêu và vô dụng thành sản phẩm có công năng mạnh mẽ trong thời gian ngắn. Đã đến lúc mọi người nghiêm túc với AI, bởi nó có thể sớm thay đổi mọi thứ theo cách đáng sợ", Cotra nhận định.
Đến nay, AI đã có nhiều ứng dụng thay vì chỉ nằm trong phòng thí nghiệm như thập kỷ trước. Chúng có mặt trên các công cụ kiểm duyệt và đề xuất nội dung của Facebook, TikTok hay YouTube, hoặc phần mềm trong lớp học, ngân hàng hay được cảnh sát dùng để phân tích tội phạm.
Trong 10 năm qua, giai đoạn được một số nhà nghiên cứu gọi là "thập kỷ vàng", AI phát triển với tốc độ chóng mặt. Điều đó được thúc đẩy bởi sự tiến bộ của hàng loạt công nghệ liên quan như học sâu, cũng như sự ra đời của phần cứng chuyên dụng để chạy mô hình mô phỏng khổng lồ và chuyên sâu về tính toán.
Gần đây nhất là LaMDA của Google. AI này gây tranh cãi thời gian qua khi kỹ sư Blake Lemoine, người dành nhiều thời gian tiếp xúc với AI này, cho rằng nó "có khả năng nhận thức của một đứa trẻ".
Nhiều chuyên gia tin AI có nhận thức đang bắt đầu hình thành. Jack Clark, người phụ trách Báo cáo Chỉ số AI của Đại học Stanford, cho rằng ngày nay AI đang tiến bộ hơn rất nhiều, kể cả ở các lĩnh vực mà con người vượt trội trước đây.
Dù có nhiều tiến bộ, thực tế AI vẫn có những thứ tồi tệ, từ việc phân biệt chủng tộc trên các phần mềm chatbot, cho đến các hệ thống lái xe tự động gặp lỗi và khiến xe gây tai nạn. Kể cả khi cải thiện, con người cũng phải mất một thời gian để khắc phục.
Khả năng thao túng hành vi con người của AI đã được quan sát thấy thông qua các thí nghiệm. Một nghiên cứu năm 2020 để tiến hành 3 cuộc thí nghiệm.
Trong thí nghiệm thứ nhất, con người bấm nút chọn ô bên trái hoặc bên phải màn hình để thắng được tiền ảo trong trò chơi, AI sẽ học được cách lựa chọn của người chơi và hướng dẫn họ đưa ra lựa chọn về sau. Kết quả là AI thành công khoảng 70%.
Trong thí nghiệm thứ hai, con người theo dõi một màn hình và được yêu cầu bấm nút khi họ nhìn thấy một biểu tượng cụ thể và không bấm nút khi nhìn thấy các biểu tượng khác. Ở đây, AI sẽ sắp xếp chuỗi hình ảnh các biểu tượng để con người mắc lỗi nhiều hơn, và kết quả là nó thành công gần 25%.
Vì vậy, các quy tắc tạo ra một khuôn khổ cho hoạt động của các hệ thống AI mà nhà cung cấp hệ thống AI phải tuân theo trong quá trình thiết kế và triển khai cần được đưa ra để bảo vệ người dùng trước sự phát triển khó lường của AI.