Trong xu thế phát triển trí tuệ nhân tạo (AI/ML) hiện nay, nhu cầu về hạ tầng kỹ thuật phục vụ các mô hình AI/ML huấn luyện dữ liệu trong các trung tâm dữ liệu lớn, tính toán hiệu năng cao rất cao và được dự đoán tăng trưởng rất nhanh trong giai đoạn tới đây. Sự xuất hiện của những công ty công nghệ cung cấp các giải pháp tích hợp trong các trung tâm tính toán đám mây cho các mô hình AI/ML (AI Cloud Data Center) và các thiết bị tính toán biên chuyên dụng (Edge Computing) là cầu nối giữa các tập đoàn sản xuất chip AI tiên tiến (ví dụ: Nvidia, AMD, Intel) với các mô hình AI/ML tạo sinh (GenAI) qui mô lớn tại các tập đoàn công nghệ, (ví dụ: OpenAI với ChatGPT, Alphabet/Google với Gemini hay Meta với LLaMA). Supermicro là một trong những cầu nối này. Đây là một công ty chuyên về các giải pháp trung tâm dữ liệu (Data Center – DC), nắm giữ các bản quyền về năng lượng xanh, công nghệ làm mát cho các hệ thống chip AI cực lớn. Nhu cầu xây dựng các DC tiết kiệm điện năng hết sức tiềm năng đối với quá trình chuyển đổi số hiện nay trên thế giới, đặc biệt là Việt Nam.

 

Buổi làm việc có sự tham gia của lãnh đạo công ty phụ trách công nghệ và các mảng sản phẩm, công nghệ lõi của Supermicro. Đó là ông Mory Lin – Phó Tổng giám đốc phụ trách mảng sản phẩm IoT/Embedded & Edge Computing, ông Michael Chao – Giảm đốc bộ phận phát triển sản phẩm Cloud và DC, ông Anderson Tsai – Giám đốc bộ phận nghiên cứu công nghệ làm mát DC. Hiện Việt Nam đang định hướng phát triển các ngành công nghệ mũi nhọn là chip bán dẫn và AI, Cloud/Edge Computing trong quá trình chuyển đổi số quốc gia. Việc phát triển hệ sinh thái doanh nghiệp hỗ trợ đội ngũ kỹ sư nghiên cứu phát triển và làm chủ công nghệ tích hợp Cloud/Edge Computing với chip và AI sẽ giúp Việt Nam dần nâng bậc, và tham gia sâu hơn trong các công đoạn trong chuỗi giá trị toàn cầu. Qua chuyến thăm quan làm việc, lãnh đạo Viện CNTT cũng đã nắm bắt được công nghệ lõi mà công ty Supermicro hiện có, từ đó có những bước đi phù hợp trong hợp tác với đối tác này. Bản thân hệ thống AI/ML tại Viện CNTT tiên tiến hàng đầu Việt Nam với dòng chip Nvidia GPU A100 80GB cũng dựa trên công nghệ tích hợp của Supermicro. Những tư vấn từ Supermicro sẽ đem lại giá trị cho nhóm quản trị, vận hành và nghiên cứu ứng dụng hệ thống này tại Viện CNTT.

 

Thực tế lịch sử công ty Supermicro gắn kết chặt chẽ với tập đoàn Nvidia trong các dự án AI Cloud Data Center. Cụ thể, dự án trung tâm siêu tính toán AI/ML trị giá 6 tỉ USD lớn nhất thế giới hiện nay là Colossus của công ty xAI (Tổng giám đốc và nhà sáng lập Elon Musk) triển khai với qui mô 100.000 GPU H100 của Nvidia, công nghệ làm mát và DC từ Supermicro. Với năng lực tích hợp hệ thống hàng đầu thế giới, Supermicro đã triển khai dự án này trong khoảng thời gian kỷ lục 122 ngày, thay vì tiến độ bình thường là 2 năm đối với những trung tâm siêu tính toán AI/ML nhỏ hơn vài lần.

 

Với qui mô hiện tại 100.000 GPU H100, điện năng tiêu thụ của Colossus lên tới 150 MW, tương đương 1/10 công suất nhà máy thủy điện Sơn La lớn nhất Đông Nam Á. Với công nghệ làm mát của mình tại Colossus, Supermicro giảm đáng kể điện năng tiêu thụ từ hệ thống này, từ đó giảm thiểu áp lực lên hệ thống điện lưới tại địa phương. Bài toán AI/ML, Cloud Computing và các trung tâm dữ liệu sẽ không đơn giản chỉ ở cấp độ dữ liệu lớn và chip tính toán hiệu năng cao. Còn đó là vấn đề công nghệ năng lượng xanh. Khi xAI dự kiến mở rộng Colossus lên gấp 10 lần hiện nay, tức là 1 triệu GPU dòng Hopper H100 hoặc Blackwell B200 như trong tuyên bố của Tổng giám đốc Elon Musk, vai trò của công nghệ tiết kiệm điện năng và làm mát hệ thống chip trở nên cực kỳ quan trọng đối với sự ổn định vận hành hệ thống.

 

Một số hình ảnh của buổi làm việc tại Supermicro.

Dải sản phẩm tủ rack tích hợp các hệ thống nút tính toán GPU tiên tiến của Nvidia trên các mainboard và hệ thống điều khiển làm mát các con chip của Supermicro

Dòng tủ rack và hệ thống máy chủ hiện đại nhất đang được kiểm thử và chuyển giao tới hệ thống Colossus của xAI