Tóm tắt nhanh
- iPhone 18 Pro chạy mô hình Bonsai 27B tại chỗ nhanh hơn khoảng hai lần so với iPhone 17 Pro trong bài test được Wccftech dẫn lại.
- A20 Pro, Neural Engine 16 lõi, RAM LPDDR5X 12 GB và băng thông bộ nhớ khoảng 115,2 GB/giây là nền tảng cho kết quả này.
- Mô hình trong bài test dùng lượng tử hóa 1-bit; không phải mọi mô hình 27B đều có thể chạy thoải mái trên iPhone.
- Apple Intelligence vẫn kết hợp xử lý trên thiết bị với Private Cloud Compute, nên bài test chưa chứng minh Siri AI hoạt động hoàn toàn offline.
Bài test cho thấy iPhone 18 Pro đã tiến gần hơn tới local AI
Apple nói iPhone 18 Pro Max có chip A20 Pro và Apple Intelligence, trong đó một phần tác vụ được xử lý ngay trên máy. Nhưng thông số chỉ thực sự đáng chú ý khi đặt cạnh một thử nghiệm cụ thể: chiếc điện thoại có thể chạy mô hình ngôn ngữ cỡ nào nếu không gửi toàn bộ quá trình sinh câu trả lời lên máy chủ?
Video thử nghiệm có tiêu đề “Test iPhone 18 Pro Max chạy local AI coi Apple có nói xạo không” tập trung vào câu hỏi đó. Theo kết quả được Wccftech dẫn lại từ Adrien Grondin, iPhone 18 Pro chạy mô hình Bonsai 27B nhanh hơn khoảng hai lần so với iPhone 17 Pro dùng A19 Pro. Đây là dấu hiệu cho thấy phần cứng mới có cải thiện thực tế, thay vì chỉ tăng điểm trong thông số kỹ thuật.
A20 Pro cải thiện tốc độ, nhưng bộ nhớ vẫn quyết định giới hạn
Apple cho biết iPhone 18 Pro và iPhone 18 Pro Max dùng A20 Pro cùng buồng hơi thế hệ mới để duy trì hiệu năng lâu hơn. Wccftech cho biết nền tảng này còn có Neural Engine kép 16 lõi, bộ nhớ LPDDR5X 12 GB và băng thông khoảng 115,2 GB/giây.
Những yếu tố đó quan trọng với local AI vì mô hình phải nằm trong bộ nhớ, đồng thời liên tục chuyển dữ liệu giữa bộ nhớ hợp nhất và các khối xử lý. Tuy nhiên, tốc độ chạy Bonsai 27B không có nghĩa mọi mô hình 27B đều hoạt động tương tự. Bài test dùng phiên bản lượng tử hóa 1-bit. Wccftech lưu ý Bonsai 2 ở mức 2-bit đã quá lớn để vừa vặn trên iPhone 18 Pro và khiến hiệu năng giảm.
Vì vậy, A20 Pro mở rộng khả năng chạy mô hình lớn trên điện thoại, nhưng không xóa được giới hạn RAM. Kích thước mô hình và mức lượng tử hóa vẫn quyết định trải nghiệm thực tế.
Apple Intelligence vẫn cần phân biệt với LLM chạy hoàn toàn offline
Trong thông cáo về iPhone 18 Pro, Apple mô tả Apple Intelligence là hệ thống kết hợp xử lý trên thiết bị với Private Cloud Compute. Một số tác vụ nhạy cảm có thể xử lý ngay trên iPhone, còn yêu cầu nặng hơn sẽ cần hạ tầng đám mây riêng của Apple.
Do đó, kết quả của bài test chỉ chứng minh phần cứng mới đủ sức chạy một mô hình mở được tối ưu đúng cách. Nó chưa chứng minh mọi tính năng Siri AI đều hoạt động hoàn toàn khi iPhone mất mạng. Đây là khác biệt quan trọng giữa “chạy được local LLM” và “toàn bộ trợ lý AI hoạt động offline”.
iPhone 18 Pro có bước tiến thật, nhưng quảng cáo cần đọc đủ câu
Bài test cho thấy iPhone 18 Pro có tiến bộ đáng kể về khả năng chạy AI tại chỗ. A20 Pro, Neural Engine mới và bộ nhớ nhanh giúp mô hình Bonsai 27B đạt tốc độ cao hơn thế hệ trước trong điều kiện thử nghiệm cụ thể.
Nhưng nếu kỳ vọng là hỏi Siri mọi thứ mà không bao giờ cần kết nối mạng, dữ liệu hiện có chưa đủ để kết luận như vậy. Cách đọc hợp lý hơn là iPhone 18 Pro đã trở thành một thiết bị chạy local AI nghiêm túc hơn, miễn mô hình được tối ưu phù hợp với dung lượng bộ nhớ và giới hạn nhiệt của điện thoại.
Nguồn: Apple Newsroom, Wccftech và video thử nghiệm của Adrien Grondin.
THEO DÕI CÁC KÊNH CỦA TEKCAFE
- Website: TekCafe.vn
- Fanpage Facebook: facebook.com/tekcafeteam
- YouTube: youtube.com/c/TekCafeTeam
BÀI VIẾT MỚI NHẤT
- New Jersey phạt trung tâm dữ liệu AI liên quan Microsoft 1,07 triệu USD
- Bitdefender ra mắt VPN miễn phí cho AI Agent: Bảo vệ quyền riêng tư theo từng câu lệnh
- ASUS XG Core: dock eGPU nhỏ gọn dùng Radeon RX 9060 XT LP
- 3 tính năng trong PowerToys giúp quản lý cửa sổ và làm việc đa nhiệm mượt mà trên Windows
- ARMSX3 1.0 giúp game PS3 chạy tốt hơn trên Android, có tựa đạt 60fps
