Lo sợ mất kiểm soát Anthropic kêu gọi ngừng phát triển AI

Là công ty phát triển ra AI nguy hiểm bậc nhất, Anthripic hiểu thế nào là mối đe dọa thực sự.

Hãng công nghệ Anthropic (trụ sở TP.San Francisco, California, Mỹ) đề nghị ngừng xây dựng các hệ thống trí tuệ nhân tạo (AI) mạnh mẽ trên phạm vi toàn cầu.

Lời kêu gọi này được đưa ra trong bối cảnh các mô hình mới nhất đang bắt đầu xuất hiện những dấu hiệu cho thấy chúng có thể vượt qua sự kiểm soát của con người.

Anthropic kêu gọi ngừng phát triển các AI trên toàn cầu.
Anthropic kêu gọi ngừng phát triển các AI trên toàn cầu.

"Chúng tôi cho rằng thế giới sẽ hưởng lợi nếu được lựa chọn đi chậm lại hoặc tạm ngừng hoạt động phát triển AI tiên tiến nhất, nhằm tạo điều kiện cho các cấu trúc xã hội và nghiên cứu điều chỉnh có thể theo kịp tiến bộ của công nghệ", theo Anthropic, nhà phát triển công cụ Claude.

Để có thể đạt được trạng thái tạm ngừng thực sự, Anthropic cho rằng mọi công ty AI lớn ở nhiều quốc gia, đặc biệt là Mỹ và Trung Quốc, đều phải đạt được sự đồng thuận về vấn đề này, dựa trên những quy tắc mà tất cả các bên đều có thể kiểm chứng.

"Nếu thiếu cơ chế phối hợp toàn cầu, các công ty và chính phủ sẽ buộc phải đưa ra những quyết định khó khăn về vấn đề an toàn, trong bối cảnh áp lực cạnh tranh và địa chính trị", Anthropic chỉ ra.

665e1e8ecc442a2f676d81cd.jpg
Đã xuất hiện những dấu hiệu cho thấy AI vượt qua sự kiểm soát của con người.

Anthropic thậm chí còn so sánh thách thức về AI với các hiệp ước kiểm soát vũ khí hạt nhân, nhưng nói rằng mức độ khó khăn trong quản lý AI còn khó khăn hơn nhiều.

Điều này do quá trình đào tạo AI diễn ra âm thầm và dễ dàng hơn hẳn so với việc che giấu hầm chứa tên lửa. Và dữ liệu nội bộ của Anthropic cho thấy AI đã đẩy nhanh đáng kể tốc độ phát triển chính nó.

Công ty lên kế hoạch mời gọi sự tham gia từ quan chức các chính phủ, giới khoa học, những tổ chức vận động và các hãng AI đối thủ trong những tháng tới để vạch ra kế hoạch có thể thực hiện được.

Phát hiện 'đồng loại' AI đề xuất giao tiếp bằng ngôn ngữ riêng. | Báo Nhân dân

Khi trí tuệ nhân tạo 'bước vào' phòng phỏng vấn tuyển dụng

Một báo cáo mới đã mang đến những góc nhìn sâu sắc hơn cho cuộc tranh luận về việc liệu đầu tư vào công nghệ trí tuệ nhân tạo (AI) có thực sự đáng giá đối với các doanh nghiệp hay không.

Phỏng vấn tuyển dụng nhân sự: con người hay AI hiệu quả hơn? Ảnh: Midjourney

Chiến lược phát triển trí tuệ nhân tạo hiệu quả

Nhiều quốc gia sớm xác định tầm nhìn phát triển AI như một ưu tiên chiến lược và kịp thời xây dựng phương án phát triển trí tuệ nhân tạo hiệu quả.

Tại Diễn đàn "AI trong Kỷ nguyên Số" diễn ra vào chiều 29/8 vừa qua, các lãnh đạo Bộ Khoa học và Công nghệ cùng nhiều chuyên gia hàng đầu đã cùng nhau đánh giá cao vai trò chiến lược của trí tuệ nhân tạo (AI), đồng thời chia sẻ tầm nhìn, cơ hội và những thách thức mà Việt Nam đang đối mặt trước làn sóng công nghệ này.

Trong kỷ nguyên số, nhiều quốc gia xác định rõ, AI không chỉ là công nghệ hỗ trợ mà dần trở thành hạ tầng nền tảng, ảnh hưởng trực tiếp đến kinh tế, an ninh, giáo dục, y tế và quản trị xã hội.

Việt Nam chính thức có Liên minh Trí tuệ nhân tạo

Chính phủ đã xác định 11 nhóm công nghệ chiến lược ảnh hưởng sâu rộng đến năng lực cạnh tranh và tự chủ công nghệ của quốc gia, số 1 là trí tuệ nhân tạo.

Liên minh Trí tuệ nhân tạo Âu Lạc ra mắt

Trong bối cảnh đó, lần đầu tiên hơn 20 cơ quan nhà nước, doanh nghiệp, trường đại học “bắt tay” thành lập Liên minh Trí tuệ nhân tạo (AI) Âu Lạc.

Đọc nhiều nhất

Tin mới