Số điện chip Nvidia H100 tiêu thụ tương đương một nước nhỏ

Nvidia hiện là công ty dẫn đầu về chip AI, trong đó riêng GPU H100 liên tục khan hàng và đạt doanh số hàng triệu chiếc.

Theo trang công nghệ Tom's Hardware dẫn lời Paul Churnock, kỹ sư điện phụ trách chiến lược và quản trị kỹ thuật trung tâm dữ liệu tại Microsoft, rằng mỗi GPU H100 có công suất 700 W.

Tổng mức tiêu thụ điện năng của hàng triệu chip AI H100 được ước tính tương đương một thành phố lớn tại Mỹ hay một nước nhỏ ở châu Âu.

Cụ thể, mỗi H100 sẽ ngốn khoảng 3.740 kWh mỗi năm. Nvidia dự kiến bán 3,5 triệu GPU này trong hai năm 2023 và 2024, tức con số tổng là 13.091 GWh.

Trong khi đó, một số nước như Georgia, Lithuania, Guatemala tiêu thụ trung bình hàng năm khoảng 13.092 GWh điện năng.

Trong khi đó, loại chip này luôn rơi vào tình trạng hiếm hàng do nhu cầu sử dụng của người dùng quá cao.

Ông Churnock cho biết thêm: "Với mức sử dụng hàng năm 61%, H100 tương đương mức tiêu thụ điện trung bình của một hộ gia đình ở Mỹ (2,51 người/hộ gia đình). Doanh số H100 ước đạt từ 1,5 đến 2 triệu GPU năm 2024. So với mức tiêu thụ điện của dân cư tính theo thành phố, H100 đứng thứ năm, sau Houston, Texas, trước Phoenix, Arizona".

Trước đó, vào tháng 10, công ty Schneider Electric cũng thống kê tổng tiêu thụ điện năng của các trung tâm dữ liệu AI tạo sinh đã ngang bằng Cyprus.

Thời gian tới, các dòng GPU mới như B100 Blackwell của Nvidia có thể còn cần nhiều điện hơn so với H100.

Tuy nhiên, các chuyên gia trong giới công nghệ hy vọng GPU AI thế hệ mới sẽ hoàn thành được nhiều công việc hơn cho mỗi đơn vị năng lượng sử dụng.