Apple muốn thu nhỏ mô hình AI để chạy độc lập trên iPhone

Apple đang đàm phán ban đầu với PrismML, một công ty khởi nghiệp ở Thung lũng Silicon để nén các mô hình AI mạnh mẽ để chúng có thể chạy trực tiếp trên iPhone.

Apple đang trong giai đoạn đàm phán ban đầu với PrismML, một công ty khởi nghiệp ở Thung lũng Silicon được tách ra từ Viện Công nghệ California và được Khosla Ventures hậu thuẫn, về công nghệ có thể giảm đáng kể kích thước của các mô hình AI mạnh mẽ để chúng có thể chạy trực tiếp trên iPhone.

PrismML mới đây đã thông báo rằng họ đã nén mô hình Qwen mã nguồn mở gồm 27 tỷ tham số của Alibaba từ khoảng 54 GB xuống còn dưới 4 GB, cho phép tất cả 27 tỷ tham số chạy trên iPhone 15 trở lên.

klweucyl.jpg
Apple kỳ vọng PrismML sẽ nén các mô hình AI mạnh mẽ để có thể chạy cục bộ trên iPhone.

Theo công ty, phương pháp nén của họ giúp giảm mức sử dụng bộ nhớ từ 10 đến 15 lần, tăng tốc độ xử lý từ 6 đến 8 lần và giảm mức tiêu thụ năng lượng từ 3 đến 6 lần, trong khi chỉ làm giảm một vài phần trăm hiệu năng tổng thể, với khả năng ghi nhớ thực tế giảm nhiều hơn so với khả năng suy luận, toán học và lập trình.

Theo các nguồn tin, Apple đang đánh giá tốc độ, hiệu quả năng lượng và hiệu năng trên thiết bị của công nghệ này như một phần trong nỗ lực rộng lớn hơn nhằm cải thiện Siri và mở rộng khả năng trí tuệ nhân tạo (AI) trên thiết bị.

Việc chạy nhiều AI cục bộ hơn có thể mang lại phản hồi nhanh hơn, tăng cường quyền riêng tư của người dùng bằng cách giữ nhiều dữ liệu nhạy cảm hơn trên thiết bị, giảm sự phụ thuộc vào điện toán đám mây và cho phép một số tính năng AI hoạt động mà không cần kết nối internet.

apple-wwdc24-apple-intelligence-hero-240610bigjpglarge-1770907349547-17709073506461824300906.jpg
Mô hình AI hơn 27 tỷ tham số có dung lượng 54 GB được nén xuống còn dưới 4 GB.

Các nhà phân tích cho rằng phương pháp này có thể hỗ trợ các ứng dụng tiên tiến hơn, bao gồm nhiếp ảnh điện toán, tạo video và các công cụ sức khỏe và thể dục xử lý thông tin cá nhân.

Tuy nhiên, họ cảnh báo rằng những tuyên bố của PrismML vẫn cần được kiểm chứng thông qua thử nghiệm thực tế quy mô lớn, đặc biệt là về thời lượng pin, độ tin cậy và hiệu suất trên hàng triệu thiết bị.

Nếu công nghệ này hoạt động như tuyên bố, nó có thể giúp Apple thúc đẩy chiến lược trí tuệ nhân tạo (AI) của mình đồng thời củng cố sự chú trọng vào quyền riêng tư và sự tích hợp phần cứng-phần mềm.

Bước đột phá này có thể chuyển phần lớn quá trình xử lý AI từ các trung tâm dữ liệu sang các thiết bị cá nhân, mặc dù các chuyên gia lưu ý rằng điều này khó có thể làm giảm nhu cầu tổng thể đối với bộ xử lý và chip nhớ.

Siri mới trên Apple iPhone thông minh hơn với sự hỗ trợ của Gemini.

Bác sĩ tâm lý lo mất bệnh nhân vì ChatGPT

Ngày càng nhiều người tìm đến ChatGPT và các AI trò chuyện để tư vấn tâm lý, thậm chí dùng AI "kiểm chứng" lời bác sĩ. 

Sau hơn hai thập kỷ làm việc trong lĩnh vực trị liệu tâm lý, bác sĩ Chen Kehan tại Bắc Kinh nhận thấy một thay đổi chưa từng có trong cách bệnh nhân tiếp cận việc chăm sóc sức khỏe tinh thần. Thay vì chỉ trao đổi trực tiếp với chuyên gia, nhiều người giờ đây mang toàn bộ nội dung buổi trị liệu lên các nền tảng AI như ChatGPT hay DeepSeek để nhờ phân tích, đánh giá và thậm chí "phán quyết" xem lời khuyên của bác sĩ có chính xác hay không. Theo bà, AI đang trở thành một "người thứ ba" vô hình xuất hiện trong hầu hết các buổi tư vấn, làm thay đổi đáng kể mối quan hệ giữa chuyên gia và bệnh nhân.

Không ít trường hợp, kết quả phân tích từ AI lại khiến người bệnh nghi ngờ chuyên gia điều trị của mình. Bác sĩ Chen kể về một nữ bệnh nhân quyết định dừng quá trình trị liệu sau khi AI cho rằng bác sĩ không thực sự thiện cảm với cô. Nhiều khách hàng khác cũng bắt đầu sử dụng hàng loạt thuật ngữ tâm lý học được học từ AI để mô tả cảm xúc và hành vi của bản thân. Theo nữ chuyên gia, điều này giúp người bệnh diễn đạt lưu loát hơn, nhưng đôi khi lại khiến những chia sẻ trở nên "công thức", thiếu đi cảm xúc chân thật vốn là yếu tố cốt lõi trong trị liệu tâm lý. Bà cho rằng AI có xu hướng đưa ra những phản hồi mà người dùng muốn nghe, thay vì những điều họ thực sự cần đối mặt để cải thiện sức khỏe tinh thần.

'Phông chữ ma' con người có thể đọc được nhưng AI thì không

Ghost Font ẩn chữ cái trong những chấm di chuyển mà con người có thể đọc gần như ngay lập tức nhưng lại là một "điểm mù" của trí tuệ nhân tạo.

Trí tuệ nhân tạo (AI) ngày càng trở nên xuất sắc trong việc đọc tài liệu, nhận diện chữ viết tay nguệch ngoạc và thậm chí hiểu được cả những ảnh chụp màn hình mờ nhòe.

Tuy nhiên, một dự án mang tên Ghost Font (Phông chữ Ma) đang phơi bày một điểm yếu mà hầu hết chúng ta trước đây chưa từng nhận ra.

Chỉ cần áp sát, AI có thể biết bạn đang dùng app gì

Các nhà khoa học phát triển kỹ thuật pháp y số mới có thể xác định ứng dụng và thao tác trên điện thoại chỉ bằng tín hiệu điện từ, không cần mở khóa thiết bị.

Điện thoại thông minh có thể đang để lộ nhiều thông tin hơn người dùng tưởng. Một nhóm nghiên cứu thuộc Đại học Công an Nhân dân Trung Quốc vừa công bố kỹ thuật pháp y số không tiếp xúc, cho phép xác định ứng dụng đang chạy và một số thao tác của người dùng chỉ bằng cách phân tích tín hiệu điện từ phát ra từ phần cứng thiết bị. Đáng chú ý, phương pháp này không yêu cầu mở khóa điện thoại, truy cập hệ điều hành hay giải mã dữ liệu, mở ra một hướng tiếp cận hoàn toàn mới trong lĩnh vực điều tra số và an ninh mạng.

Đọc nhiều nhất

Tin mới