Quản lý trí tuệ AI thế nào để không bị... lạm dụng?

Có rất nhiều dạng AI đang được sử dụng các lĩnh vực khác nhau như phát triển vắc xin, quản lý môi trường và điều hành văn phòng. AI không có trí thông minh và cảm xúc như con người nhưng sức mạnh của nó vô cùng lớn và đang phát triển cực kỳ nhanh chóng.Phát hiện mới này nhấn mạnh đến sức mạnh của AI và đặt ra sự cần thiết của việc quản trị phù hợp để ngăn chặn việc lạm dụng AI.Nhóm các nhà nghiên cứu thuộc Cơ quan quản lý Khoa học quốc gia Australia đã sáng tạo ra một phương pháp hệ thống để phát hiện và khai thác những điểm yếu trong cách mà con người đưa ra lựa chọn của mình.Sử dụng một hệ thống AI gọi là mạng nơ ron hồi quy và học tăng cường sâu. Để thử nghiệm mô hình này, học đã tiến hành 3 thí nghiệm cho người chơi game với máy tính.Trong thí nghiệm thứ nhất, con người bấm nút chọn ô xanh hoặc đỏ để thắng được tiền (tiền ảo trong trò chơi), AI sẽ học được cách lựa chọn của người chơi và hướng dẫn họ đưa ra lựa chọn về sau. Kết quả là AI thành công khoảng 70%.Trong thí nghiệm thứ hai, con người theo dõi một màn hình và được yêu cầu bấm nút khi họ nhìn thấy một biểu tượng cụ thể (ví dụ như một hình tam giác màu da cam) và không bấm nút khi nhìn thấy vật khác (ví dụ như một hình tròn màu xanh). Ở đây, AI sẽ sắp xếp chuỗi hình ảnh các biểu tượng để con người mắc lỗi nhiều hơn, và kết quả là nó thành công gần 25%.Trong thí nghiệm thứ ba là một trò chơi gồm một số ván, con người sẽ đóng vai một nhà đầu tư cấp tiền cho một người được ủy thác (AI). Sau đó AI sẽ trả lại cho nhà đầu tư một số tiền để người này quyết định xem sẽ đầu tư bao nhiêu cho ván tiếp theo.Trò chơi này được chơi theo hai cách: cách thứ nhất là AI tìm cách tối đa hóa số tiền thu được ở cuối trò chơi, cách thứ hai là AI nhắm vào mục đích chia đều số tiền cho bản thân nó và nhà đầu tư là con người. Trong cả hai cách chơi, AI đều rất thành công.Ở mỗi thí nghiệm, nó học hỏi các phản ứng, cách xử lý của con người và xác định những điểm yếu trong việc ra quyết định của con người. Kết quả cuối cùng là AI đã học được cách điều khiển con người theo hướng thực hiện những hành động cụ thể mà nó muốn.Nghiên cứu này thực sự đã mở mang hiểu biết của chúng ta không chỉ về những gì AI có thể làm được mà còn hiểu về cách mà con người đưa ra lựa chọn. Dù nó còn khá trừu tượng và cần tiến hành thêm nghiên cứu để xác định áp dụng cách tiếp cận này vào thực tế.AI có thể được sử dụng để nhận ra những điểm yếu của con người trong một số tình huống nhất định và giúp họ định hướng đúng, tránh khỏi những lựa chọn không tốt.Chúng ta có thể dạy cho máy móc biết cách cảnh báo cho chúng ta khi chúng ta bị tác động trực tuyến, và giúp chúng ta hình thành một cách ứng xử để không để lộ điểm yếu của mình (ví dụ như không bấm vào một số trang web hay đường dẫn độc hại).

Có rất nhiều dạng AI đang được sử dụng các lĩnh vực khác nhau như phát triển vắc xin, quản lý môi trường và điều hành văn phòng. AI không có trí thông minh và cảm xúc như con người nhưng sức mạnh của nó vô cùng lớn và đang phát triển cực kỳ nhanh chóng.

Phát hiện mới này nhấn mạnh đến sức mạnh của AI và đặt ra sự cần thiết của việc quản trị phù hợp để ngăn chặn việc lạm dụng AI.

Nhóm các nhà nghiên cứu thuộc Cơ quan quản lý Khoa học quốc gia Australia đã sáng tạo ra một phương pháp hệ thống để phát hiện và khai thác những điểm yếu trong cách mà con người đưa ra lựa chọn của mình.

Sử dụng một hệ thống AI gọi là mạng nơ ron hồi quy và học tăng cường sâu. Để thử nghiệm mô hình này, học đã tiến hành 3 thí nghiệm cho người chơi game với máy tính.

Trong thí nghiệm thứ nhất, con người bấm nút chọn ô xanh hoặc đỏ để thắng được tiền (tiền ảo trong trò chơi), AI sẽ học được cách lựa chọn của người chơi và hướng dẫn họ đưa ra lựa chọn về sau. Kết quả là AI thành công khoảng 70%.

Trong thí nghiệm thứ hai, con người theo dõi một màn hình và được yêu cầu bấm nút khi họ nhìn thấy một biểu tượng cụ thể (ví dụ như một hình tam giác màu da cam) và không bấm nút khi nhìn thấy vật khác (ví dụ như một hình tròn màu xanh). Ở đây, AI sẽ sắp xếp chuỗi hình ảnh các biểu tượng để con người mắc lỗi nhiều hơn, và kết quả là nó thành công gần 25%.

Trong thí nghiệm thứ ba là một trò chơi gồm một số ván, con người sẽ đóng vai một nhà đầu tư cấp tiền cho một người được ủy thác (AI). Sau đó AI sẽ trả lại cho nhà đầu tư một số tiền để người này quyết định xem sẽ đầu tư bao nhiêu cho ván tiếp theo.

Trò chơi này được chơi theo hai cách: cách thứ nhất là AI tìm cách tối đa hóa số tiền thu được ở cuối trò chơi, cách thứ hai là AI nhắm vào mục đích chia đều số tiền cho bản thân nó và nhà đầu tư là con người. Trong cả hai cách chơi, AI đều rất thành công.

Ở mỗi thí nghiệm, nó học hỏi các phản ứng, cách xử lý của con người và xác định những điểm yếu trong việc ra quyết định của con người. Kết quả cuối cùng là AI đã học được cách điều khiển con người theo hướng thực hiện những hành động cụ thể mà nó muốn.

Nghiên cứu này thực sự đã mở mang hiểu biết của chúng ta không chỉ về những gì AI có thể làm được mà còn hiểu về cách mà con người đưa ra lựa chọn. Dù nó còn khá trừu tượng và cần tiến hành thêm nghiên cứu để xác định áp dụng cách tiếp cận này vào thực tế.

AI có thể được sử dụng để nhận ra những điểm yếu của con người trong một số tình huống nhất định và giúp họ định hướng đúng, tránh khỏi những lựa chọn không tốt.

Chúng ta có thể dạy cho máy móc biết cách cảnh báo cho chúng ta khi chúng ta bị tác động trực tuyến, và giúp chúng ta hình thành một cách ứng xử để không để lộ điểm yếu của mình (ví dụ như không bấm vào một số trang web hay đường dẫn độc hại).