Trang bị 100.000 GPU NVIDIA, tiêu thụ hơn 3 triệu lít nước mỗi ngày, 150 MW điện mỗi giờ

Tỷ phú Elon Musk vừa khai trương trung tâm siêu máy tính mới của mình tại Memphis, Tennessee, Mỹ – nơi được ông mệnh danh là siêu máy tính huấn luyện AI mạnh nhất thế giới. Trung tâm siêu máy tính này cũng sẽ là nơi huấn luyện mô hình AI tiếp theo của startup xAI do ông đồng sáng lập nên.

“Công việc tuyệt vời của đội ngũ xAI, đội ngũ X, Nvidia và các công ty hỗ trợ đã giúp khởi động việc huấn luyện tại Memphis Supercluster vào khoảng 4:20 sáng giờ địa phương,” Musk viết trên X, mạng xã hội mà ông cũng sở hữu. “Với 100.000 GPU H100 được làm mát bằng chất lỏng trên một mạng RDMA đơn, đây là cụm máy tính huấn luyện AI mạnh nhất thế giới!”

Các GPU H100 của Nvidia được thiết kế để huấn luyện các mô hình AI, yêu cầu rất nhiều năng lượng và sức mạnh tính toán để vận hành. Hiện tại, Musk sở hữu một cụm máy tính khổng lồ với hơn 100.000 GPU để huấn luyện phiên bản tiếp theo của chatbot độc đáo của xAI, Grok.

Theo NVIDIA, các GPU Hopper H100 80GB này có giá từ 30.000 USD cho đến 40.000 USD mỗi sản phẩm, do vậy riêng khoản đầu tư cho phần cứng AI của startup này đã lên tới mức 4 tỷ USD. Con số này cũng phù hợp với việc họ huy động được 6 tỷ USD vào tháng 5 vừa qua với mức định giá lên tới 24 tỷ USD.

Tháng trước, nhóm phát triển kinh tế Greater Memphis Chamber xác nhận rằng cơ sở máy tính của xAI, được mệnh danh là “Gigafactory of Compute,” đang trong quá trình triển khai. Tổ chức này giải thích rằng cơ sở này sẽ thay thế một nhà máy sản xuất cũ. Vào tháng 5, xAI cho biết đã huy động được 6 tỷ USD để theo đuổi phát triển AI. Công ty hiện có sáu vị trí tuyển dụng cho cơ sở siêu máy tính ở Memphis, bao gồm các vị trí như quản đốc cáp quang, kỹ sư mạng và quản lý dự án.

Trong khi nhóm Greater Memphis Chamber ca ngợi quyết định mở cơ sở của xAI trong khu vực, một số người dân địa phương lại bày tỏ lo ngại về việc tiêu thụ năng lượng và nước của cơ sở này. Nhóm Memphis Community Against Pollution, cùng với hai nhóm môi trường khác, cảnh báo rằng cơ sở máy tính này tạo ra “gánh nặng năng lượng” đáng kể.

“xAI cũng được dự đoán cần ít nhất một triệu gallon (hơn 3,7 triệu lít) nước mỗi ngày cho các tháp làm mát của mình,” các nhóm này cho biết trong một bức thư ngỏ vào tháng trước. “Chúng tôi khuyến khích xAI đầu tư vào hệ thống tái sử dụng nước thải của thành phố Memphis để giảm bớt áp lực lên nguồn cung cấp nước của chúng tôi.”

CEO của công ty Memphis Light, Gas, and Water ước tính cơ sở của xAI ở Memphis có thể sử dụng tới 150 megawatt điện mỗi giờ , tương đương với lượng điện cần thiết để cung cấp năng lượng cho 100.000 ngôi nhà.

“Mọi người đang lo sợ. Họ lo lắng về những gì có thể xảy ra với nguồn nước và nguồn cung cấp năng lượng,” thành viên Hội đồng Thành phố Memphis, Pearl Walker, cho biết tuần trước.

Tuy vậy nhưng cơ sở của xAI tại Memphis có thể không phải là trạm máy tính lớn nhất thế giới. Các gã khổng lồ công nghệ như Microsoft, Google và Meta cũng sử dụng các trung tâm dữ liệu để huấn luyện và vận hành các mô hình AI của họ, với CEO của Meta, Mark Zuckerberg, cam kết sẽ mua 350.000 GPU H100 của Nvidia trong năm nay.

Trước đây, Musk cho biết xAI dự định phát hành Grok 2 vào tháng tới, nhưng không rõ liệu hay cách nào họ có thể sử dụng cụm siêu máy tính này. Tuy nhiên, Grok 3 sẽ được huấn luyện trên 100.000 GPU H100 ở Memphis và dự kiến phát hành vào cuối năm nay.