USFP của NVIDIA và Cisco muốn tăng gấp bốn mật độ băng thông cho mạng AI

USFP nhắm vào giới hạn băng thông ở mặt trước switch

Cụm máy chủ AI thường cần trao đổi dữ liệu liên tục giữa accelerator, bộ nhớ và hệ thống lưu trữ. Khi một tầng switch không còn đủ năng lực, cách mở rộng thông thường là thêm tầng mạng cùng các liên kết quang. Mỗi tầng bổ sung làm tăng số thiết bị, cổng và đường truyền phải cấp điện, làm mát và vận hành; độ trễ cũng có thể tăng theo đường đi của dữ liệu.

USFP nhắm vào phần kết nối ở mặt trước thiết bị mạng: đưa thêm năng lực vào mô-đun có kích thước tương đương OSFP thay vì buộc nhà vận hành nới rộng footprint. NVIDIA cho biết thiết kế đầu tiên dự kiến dùng 16 làn full-duplex ở 400 Gb/s mỗi làn, tương đương 6,4 Tb/s tổng dung lượng. Cấu trúc có thể mở rộng lên 32 làn để đạt 12,8 Tb/s.

Cách nhân dung lượng này cần đọc đúng theo từng thế hệ: 12,8 Tb/s là mức kiến trúc mở rộng được công bố, không phải dung lượng của mô-đun đầu tiên đã sẵn sàng bán. Cisco mô tả bước đầu là 6,4 Tb/s và xem 32 làn như lộ trình. Khoảng cách giữa thiết kế đầu tiên và mức tối đa rất quan trọng với đơn vị lập kế hoạch đầu tư; con số cao nhất chưa nói lên cấu hình mà họ có thể triển khai ngay.

Mật độ cao hơn có thể giảm nhu cầu thêm tầng mạng, nhưng chưa bảo đảm điều đó

Giá trị lớn nhất của USFP không nằm ở một con số tốc độ riêng lẻ, mà ở khả năng tăng băng thông mỗi cổng trong không gian vật lý quen thuộc. Nếu năng lực mỗi switch tăng đủ để kết nối thêm endpoint mà không thêm tầng, nhà vận hành có thể tránh một phần thiết bị trung gian và các liên kết tương ứng. NVIDIA cho biết USFP hướng tới kết nối nhiều endpoint 1,6 Tb/s hơn mà không bổ sung tầng mạng.

Đây là mục tiêu kiến trúc, không phải cam kết rằng mọi cụm AI sẽ bỏ được một tầng switch. Kết quả phụ thuộc vào cấu hình toàn mạng, số cổng, khoảng cách quang, topology và cách phân bổ lưu lượng. Một cổng nhanh hơn cũng không giải quyết tự động các điểm nghẽn ở thiết bị đầu cuối, phần mềm mạng hay nguồn điện của cụm.

Hai hãng nêu mật độ băng thông gấp 4 lần và hiệu quả năng lượng khoảng 1,3 lần so với mô-đun quang 200 Gb/s mỗi làn. Con số hiệu quả là tuyên bố thiết kế của nhà sản xuất; chưa có phép đo độc lập, công suất theo từng cấu hình hay kết quả vận hành thực tế trong gói công bố. Vì vậy, chưa thể suy ra tổng điện năng của một rack sẽ giảm tương ứng: phần tiết kiệm trên mỗi bit có thể bị bù bởi số lượng cổng hoặc lưu lượng tăng.

Giữ mô-đun thay nóng là lựa chọn vận hành có chủ đích

USFP tiếp tục theo hướng quang cắm rút thay vì chuyển toàn bộ kết nối quang vào chung một gói với chip switch. Lợi ích dễ thấy với đội vận hành là từng mô-đun vẫn có thể được thay riêng, giữ mô hình bảo trì đã quen thuộc với trung tâm dữ liệu và nhiều nhà cung cấp.

Đổi lại, dạng cắm rút phải đưa tín hiệu tốc độ rất cao qua một giao diện vật lý nhỏ, đồng thời xử lý nhiệt và độ tin cậy của tiếp điểm. NVIDIA mô tả đầu nối mảng hai chiều với cơ chế cắm hai bước: tiếp điểm tốc độ cao chỉ ăn khớp sau khi mô-đun đã vào vị trí, nhằm giảm mài mòn và giúp tín hiệu ổn định hơn. Hãng cũng cho biết mô-đun hỗ trợ tản nhiệt tới 100 W mà không cần mạch làm mát chuyên dụng tích hợp riêng trong bộ thu phát.

Thông số 100 W không đồng nghĩa mọi hệ thống có thể lắp dày mô-đun ở mức đó mà không cần thiết kế nhiệt cẩn thận. Luồng khí ở mặt trước switch, khoảng cách giữa các cổng và nhiệt từ các linh kiện lân cận vẫn quyết định khả năng duy trì tải. Cơ chế đầu nối cũng cần được kiểm chứng qua chu kỳ tháo lắp, độ bền và khả năng sản xuất hàng loạt trước khi các lợi ích về bảo trì trở thành thực tế.

Chuẩn mở chỉ có giá trị khi nhiều nhà cung cấp cùng triển khai

NVIDIA và Cisco cho biết họ đang phối hợp với TE Connectivity và Amphenol để phát triển lồng cắm, đầu nối và mô-đun; hai hãng dự định đưa đặc tả USFP vào một dự án đa nguồn do cộng đồng dẫn dắt. Sự tham gia của nhà cung cấp linh kiện từ sớm có thể giúp thiết kế cơ khí và điện tiến triển song song, nhưng chưa đủ để chứng minh có thể mua thiết bị tương thích từ nhiều hãng.

Với nhà khai thác, điểm cần theo dõi là mức độ tương thích giữa mô-đun, switch và SuperNIC của các nhà cung cấp khác nhau, cùng cách kiểm thử và chứng nhận sẽ được quy định ra sao. Một MSA có thể giảm nguy cơ phụ thuộc vào một nguồn cung duy nhất nếu nhiều bên thật sự sản xuất và sản phẩm qua được kiểm thử liên vận hành. Trước khi có đặc tả hoàn chỉnh và danh sách thiết bị tương thích, “chuẩn mở” vẫn là hướng phát triển chứ chưa phải bảo đảm về khả năng thay thế linh kiện.

Ở Việt Nam, USFP hiện là câu chuyện hạ tầng doanh nghiệp

USFP không phải thiết bị mạng tiêu dùng để người dùng cá nhân mua lẻ. Đây là định dạng mô-đun dành cho switch và SuperNIC trong hạ tầng AI, còn thông báo hiện tại mới nêu kế hoạch thiết kế và chuẩn hóa. Chưa có giá bán, cấu hình thương mại hay thời điểm triển khai được công bố; vì vậy, doanh nghiệp tại Việt Nam chưa có cơ sở để lập ngân sách mua USFP cụ thể.

Điều đáng quan tâm trước mắt là hướng tăng năng lực kết nối mà vẫn giữ khả năng bảo trì của mô-đun rời. Nếu USFP đạt được độ tương thích đa nguồn và hiệu quả nhiệt như thiết kế kỳ vọng, nó có thể giúp các trung tâm dữ liệu tăng mật độ mạng mà không phải đổi ngay toàn bộ mô hình vận hành. Nhưng các quyết định đầu tư chỉ nên dựa trên sản phẩm hoàn chỉnh, thông số công suất đo được và danh sách switch/SuperNIC tương thích, không phải mức 12,8 Tb/s tối đa trong thông cáo.

Nguồn tham khảo: NVIDIA Newsroom; Cisco Blogs; Wccftech.