Hiệu suất năng lượng đóng vai trò then chốt trong việc nâng cao hiệu năng của bộ xử lý AI và HPC. Đây cũng là lĩnh vực mà AMD và các công ty công nghệ khác không ngừng cạnh tranh trong từng thế hệ sản phẩm mới. Năm 2021, AMD đã đặt mục tiêu tăng hiệu suất năng lượng cho bộ vi xử lý EPYC và bộ tăng tốc Instinct lên gấp 30 lần so với năm 2020 vào năm 2025. Tuy nhiên, công ty đã gần như đạt được mục tiêu này sớm hơn một năm, nhờ các sản phẩm EPYC 9005-series “Turin” và Instinct MI300X.
Thành tựu vượt kỳ vọng
AMD đã sử dụng một hệ thống bao gồm hai CPU EPYC 9575F với 64 nhân mỗi CPU, tám bộ tăng tốc Instinct MI300X và 2.304 GB RAM DDR5 để thử nghiệm khả năng xử lý trong mô hình Llama3.1-70B (vLLM 0.6.1.post2, TP8 Parallel, FP8, continuous batching). Kết quả, hệ thống mới này có hiệu suất năng lượng cao gấp 28,3 lần so với một hệ thống không được tiết lộ từ năm 2020.
Mặc dù AMD không công bố chi tiết cấu hình của hệ thống cũ, nhưng có thể suy đoán rằng nó dựa trên các CPU EPYC 7002-series với kiến trúc Zen 2 và các bộ tăng tốc Instinct MI100 dựa trên kiến trúc CDNA 1.
Sự khác biệt về hiệu năng giữa hai thế hệ sản phẩm rất rõ rệt. Chẳng hạn, MI300X hỗ trợ FP8 ở cùng mức với INT8, trong khi MI100 không hỗ trợ định dạng này. MI300X đạt hiệu năng INT8 từ 2.615 TOPS (5.230 TOPS với sparsity), vượt xa MI100 (184,6 TOPS). Bộ nhớ HBM3 192 GB tốc độ 5,30 GB/s của MI300X cũng vượt trội hơn hẳn so với HBM2 32 GB tốc độ 1,20 GB/s của MI100.
AMD cho biết, bên cạnh các nâng cấp mạnh mẽ về phần cứng, những tiến bộ về kiến trúc và tối ưu hóa phần mềm đã góp phần quan trọng vào việc tăng hiệu suất năng lượng. Công ty vừa giới thiệu bộ tăng tốc Instinct MI325X với kiến trúc CDNA 3 và bộ nhớ HBM3E 288 GB. Trong năm 2025, AMD dự kiến ra mắt MI355X với kiến trúc CDNA 4, tăng hiệu suất FP8 và FP16 lên khoảng 80% so với MI325X. MI355X cũng sẽ hỗ trợ định dạng FP4 và FP6, đạt hiệu năng lên tới 9,2 PetaFLOPS (FP4) – một tính năng đặc biệt hữu ích cho các mô hình ngôn ngữ lớn.
Sam Naffziger, Phó Chủ tịch cấp cao và Kiến trúc sư Công nghệ Sản phẩm tại AMD, chia sẻ:
“Với cách tiếp cận phối hợp giữa phần cứng và phần mềm, chúng tôi tự tin vào lộ trình vượt mục tiêu 30×25 và háo hức trước những cơ hội phía trước. Chúng tôi nhìn thấy tiềm năng tăng hiệu suất năng lượng một cách vượt bậc trong vài năm tới.”
Nguồn tin: https://genk.vn/chi-can-4-nam-chip-ai-moi-cua-amd-hieu-qua-hon-toi-283-lan-so-voi-the-he-cu-bi-quyet-nam-o-dau-20241213091225294.chn
