AI

Amazon nâng cam kết lên tối đa 3 triệu GPU NVIDIA cho AWS

Jensen Huang của NVIDIA trong ảnh minh hoạ bài viết về AWS mở rộng hợp tác với NVIDIA.
Ảnh: Wccftech.

Tóm tắt nhanh

  • Amazon và NVIDIA mở rộng hợp tác để đưa tối đa 3 triệu GPU AI của NVIDIA vào hạ tầng AWS toàn cầu.
  • Quy mô mới gấp ba thỏa thuận ban đầu ở mức 1 triệu GPU, theo Wccftech.
  • Số GPU này hướng tới các khối lượng công việc AI tác tử, tự động hóa, AI vật lý và những ứng dụng khác.

Quy mô hợp tác mới

Amazon và NVIDIA đã mở rộng thỏa thuận về việc sử dụng chip AI của NVIDIA trên nền tảng điện toán đám mây AWS. Theo Wccftech, Amazon sẽ triển khai tối đa 3 triệu GPU AI NVIDIA trong hạ tầng toàn cầu của AWS để phục vụ nhiều loại khối lượng công việc AI. Con số này đáng chú ý vì lớn gấp ba lần quy mô 1 triệu GPU của thỏa thuận ban đầu.

Ảnh minh hoạ Vera Rubin của NVIDIA trong bài nguồn.
Ảnh: Wccftech.

Đây không phải thông tin về một mẫu card đồ họa riêng lẻ dành cho người dùng cá nhân. Con số 3 triệu GPU phản ánh quy mô năng lực tính toán mà Amazon muốn xây dựng cho các dịch vụ AWS. Với các doanh nghiệp phát triển sản phẩm AI, điều quan trọng nằm ở khả năng tiếp cận nguồn lực tính toán phù hợp khi dự án mở rộng, thay vì chỉ nhìn vào tên GPU hoặc quy mô danh nghĩa của thỏa thuận.

Những workload được nhắm tới

Nguồn tin cho biết hạ tầng này sẽ hỗ trợ AI tác tử, tự động hóa, AI vật lý và những ứng dụng khác. Các nhóm workload này có nhu cầu tính toán khác nhau, vì vậy việc mở rộng hạ tầng không đồng nghĩa mọi dự án đều cần cùng một cách phân bổ tài nguyên.

AI tác tử và tự động hóa có thể cần nền tảng đủ linh hoạt để xử lý nhiều tác vụ trong quá trình vận hành. Trong khi đó, AI vật lý là một hướng ứng dụng khác được Amazon và NVIDIA nhắc tới trong phạm vi hợp tác. Với người đang đánh giá AWS, cách tiếp cận hợp lý là xác định loại workload trước, sau đó mới xem năng lực GPU và các lựa chọn compute nào phù hợp.

Không chỉ có GPU

Wccftech cũng cho biết Amazon đưa CPU Vera của NVIDIA vào nỗ lực cung cấp “bộ tùy chọn tính toán rộng nhất có thể” trên AWS. Chi tiết này cho thấy hướng mở rộng của Amazon không chỉ tập trung vào việc tăng số lượng GPU. Nền tảng đám mây còn muốn có nhiều thành phần tính toán hơn để phục vụ các nhu cầu khác nhau.

Đối với doanh nghiệp, sự đa dạng này có thể là điểm cần theo dõi khi thiết kế hệ thống AI. Không phải mọi tác vụ đều nên được quy về một loại phần cứng hoặc một cấu hình duy nhất. Việc AWS bổ sung CPU Vera vào bức tranh hợp tác cho thấy lựa chọn compute cần được cân nhắc theo workload, mức độ mở rộng và cách ứng dụng vận hành.

Điều cần lưu ý khi đánh giá AWS

Lỗi dễ gặp là xem con số 3 triệu GPU như bằng chứng đủ để đánh giá mọi nhu cầu AI. Đây là tín hiệu về định hướng đầu tư hạ tầng của Amazon và NVIDIA ở quy mô toàn cầu, không phải cam kết rằng mọi khách hàng sẽ lập tức có cùng mức tài nguyên hoặc hiệu năng. Khả năng sử dụng thực tế vẫn phụ thuộc vào loại dịch vụ và workload mà dự án lựa chọn.

Một lỗi khác là bỏ qua các lựa chọn compute ngoài GPU. AI tác tử, tự động hóa và AI vật lý có thể đặt ra những yêu cầu khác nhau; vì vậy, việc AWS mở rộng cả GPU NVIDIA lẫn CPU Vera đáng được xem như một phần của bức tranh lớn hơn. Người dùng nên bắt đầu từ nhu cầu kỹ thuật cụ thể, rồi mới đối chiếu với tài nguyên mà AWS cung cấp.

Tổng kết

Việc Amazon nâng cam kết lên tối đa 3 triệu GPU AI NVIDIA là dấu hiệu rõ ràng về kế hoạch mở rộng năng lực AI trên AWS. Theo thông tin từ Wccftech, thỏa thuận mới tăng gấp ba quy mô ban đầu và hướng tới các workload như AI tác tử, tự động hóa và AI vật lý. Song song với GPU, Amazon cũng đưa CPU Vera vào nỗ lực mở rộng lựa chọn compute. Vì thế, khi đánh giá AWS cho một dự án AI, doanh nghiệp nên nhìn vào mức độ phù hợp với workload thực tế thay vì chỉ dựa trên con số GPU lớn.

THEO DÕI CÁC KÊNH CỦA TEKCAFE

BÀI VIẾT MỚI NHẤT

Bài viết liên quan