Chuẩn bị đến thời mua GPU số lượng lớn về huấn luyện AI?

Thời kỳ các dân cày cryptocurrency ôm hàng trăm, hàng nghìn GPU tiêu dùng, phần lớn phục vụ chơi game của AMD và Nvidia để đào tiền mã hóa vừa trôi qua được có hơn một năm, kể từ thời điểm thị trường crypto tụt dốc quãng tháng 3/2022. Kể từ thời điểm đó, giá card đồ họa trên thị trường tự do, cũng như bản thân thị trường GPU nói chung đã trở về mức giá ổn định, ngang ngửa, thậm chí có khi còn thấp hơn cả giá khuyến nghị của các hãng.

Nhưng có vẻ cơn sốt GPU tiêu dùng tiếp theo đang đến rất gần. Bằng chứng là mới đây, hacker nổi tiếng George Hotz vừa đăng một tấm hình lên mạng xã hội X, khoe 60 chiếc card đồ họa AMD Radeon RX 7900 XTX, và nói rằng ngần này card đồ họa tương đương 7.38 petaflops sức mạnh xử lý số thực dấu phẩy động. Ở dưới phần bình luận của bức hình này thậm chí còn có người tính toán, nói con số 7.38 petaflops kể trên là chính xác ở độ chính xác dấu phẩy động FP16, dựa trên sức mạnh xử lý 122.8 Teraflops của mỗi chiếc RX 7900 XTX.

Nếu anh em thấy cái tên George Hotz nghe quen, thì anh này chính là người từng đảo ngược mã nguồn để bẻ khóa cỗ máy PlayStation 3 vào năm 2009, cũng như có công sức tạo ra công cụ jailbreak iOS 3 hồi năm 2007. Hiện tại, Hotz đang làm chủ tịch và nhà sáng lập hai đơn vị AI. Một là Comma AI, nghiên cứu thuật toán mã nguồn mở phục vụ xe tự hành. Còn 60 chiếc card đồ họa trong hình trên sẽ được trang bị cho máy chủ của Tinygrad, một đơn vị triển khai nền tảng phục vụ nghiên cứu, xử lý và vận hành thuật toán machine learning, trong đó bao gồm cả những mô hình ngôn ngữ, thứ đang tạo ra cơn sốt trên thị trường công nghệ.



Đến đây một vấn đề nảy sinh. Khi cả AMD lẫn Nvidia đều đang không thể đáp ứng được 100% nhu cầu mua GPU của thị trường AI, thì hệ quả tất yếu là các đơn vị làm việc trong ngành AI sẽ chuyển qua chọn card đồ họa tiêu dùng, những sản phẩm anh em đã quá quen thuộc, thậm chí đang dùng hàng ngày để chơi điện tử.

Chi phí là một chuyện, để những GPU được tạo ra phục vụ nhu cầu chơi game này xử lý vector và tensor hiệu quả, để chạy machine learning, số lượng card chơi game cần để đáp ứng mục tiêu hiệu năng cũng là một vấn đề khác.

Lấy một ví dụ nhỏ, 60 chiếc card trong tấm hình trên, cứ cho là Hotz mua với giá 1.000 USD như giá chính hãng, chi phí sẽ là 60.000 USD cho 7.38 petaflops. Hotz từng đề cập đến chuyện muốn hệ thống của Tinygrad đạt sức mạnh 2 exaflops, tức là 2000 petaflops. Nếu chỉ chọn RX 7900 XTX thì chi phí sẽ là khoảng 20 triệu USD, tương đương 20 nghìn card đồ họa. Muốn scale tiếp lên 8 exaflops, chi phí là 60 triệu USD. Vấn đề nằm ở chỗ, khi tính đơn hàng card đồ họa theo con số hàng vạn như thế này, chắc chắn nó sẽ ảnh hưởng tới thị trường tiêu dùng.

Với anh em gamer và người dùng cá nhân, 60 nghìn USD hay hàng triệu USD là con số không tưởng. Nhưng với các doanh nghiệp và đơn vị nghiên cứu, 60 nghìn USD chỉ mua được đúng 1 GPU H100 mới nhất của Nvidia mà thôi.

Nguy cơ là có thật, và chúng ta sẽ phải đợi vài tháng nữa để đưa ra nhận định chính xác, rằng liệu cơn sốt AI có ảnh hưởng trực tiếp tới thị trường card đồ họa chơi game hay không, vì cái nguy cơ này giống hệt như những gì đã từng xảy ra khi crypto đang đạt đỉnh giá trị trong khoảng thời gian từ cuối năm 2020 tới đầu năm 2022.

Theo ExtremeTech