Hạ tầng kỹ thuật hiện đại phục vụ xử lý dữ liệu lớn, siêu tính toán trên nền tảng điện toán đám mây (AI Cloud Data Center)

-         Hạ tầng siêu tính toán xử lý dữ liệu cực lớn, các mô hình học máy/trí tuệ nhân tạo tiên tiến (mô hình ngôn ngữ lớn Large Language Models - LLMs như ChatGPT), sử dụng dòng chip chuyên dụng các giải thuật trí tuệ nhân tạo của Nvidia GPU A100 80GB

-         Hệ thống đang được triển khai cho các ứng dụng xử lý ngôn ngữ lớn (truy vấn thông minh, dịch ngôn ngữ, xử lý ảnh và phát hiện đối tượng, nhận dạng mặt người…), chia sẻ cho nhiều cơ quan đơn vị nghiên cứu hàng đầu của cả nước (Viện Hàn lâm KHCN Việt Nam, Đại học quốc gia Hà Nội…)

Hệ thống AI Cloud DC tại Viện CNTT là sự tích hợp của 2 thành phần chính. Đó là:

a.     Hệ thống Cloud với 20 máy chủ server hiện đại, chịp Intel CPU Xeon Gold, dung lượng bộ nhớ RAM 6 TByte, dung lượng lưu trữ dữ liệu lớn trên SAN khoảng 1 Pbyte. Hạ tầng mạng hiện đại lease-line bandwidth tốc độ cao;

b.     Hệ thống AI/ML sử dụng dòng chíp tiên tiến Nvidia GPU A100 80GB. Hệ thống quản trị các luồng công việc phiên bản thương mại mới nhất có bản quyền Bright Software version 9.2 (tháng 12/2022) có tích hợp các bản quyền tăng tốc độ Data Accelerator cho từng chip A100;

c.      Các ứng dụng mô hình ngôn ngữ lớn (Large Language Models – LLMs), AI tạo sinh (tương tự ChatGPT), các mô hình phân tích dữ liệu sinh học (gene, DNA…) đang được vận hành tính toán trên hệ thống này. Hiện nay, hệ thống đang hỗ trợ chạy và tinh chỉnh các mô hình ngôn ngữ, dịch máy cho nhiều loại ngôn ngữ khác nhau. Dữ liệu đầu vào hàng trăm triệu câu văn bản. Mô hình LLM đã được thử nghiệm từ 500 triệu tới 50 tỉ tham số Để so sánh, ChatGPT của OpenAI là mô hình ngôn ngữ có 175 tỉ tham số, dựa trên hạ tầng AI Cloud lớn hơn rất nhiều so với hạ tầng tại Viện CNTT (gấp khoảng 200 lần).

 Nền tảng là môi trường cho phép cộng đồng đóng góp, khai thác, chia sẻ dữ liệu và xây dựng, phát triển các mô hình học máy, phân tích dữ liệu. Nền tảng góp phần quan trọng vào việc thực hiện thắng lợi Chiến lược quốc gia về nghiên cứu, phát triển và ứng dụng trí tuệ nhân tạo đến năm 2030.

  Hệ thống giám sát và tổng hợp dữ liệu trên Internet là hệ thống cho phép thu thập thông tin quy mô lớn từ các nguồn dữ liệu từ Internet, file local, tích hợp các hệ thống khác…có khả năng nhận diện và phân tích chuyên sâu các vấn đề thông tin theo nhu cầu người dùng.

  Với nhiều phân hệ đa năng, đa dạng được thiết kế rất chi tiết và được xây dựng một cách linh hoạt nhằm đáp ứng cho những yêu cầu giám sát và phân tích thông tin đa chiều.

+ Tính bảo mật cao.

+ Hệ thống chức năng phong phú.

+ Giao diện thân thiện.

+ Tốc độ đáp ứng nhanh.

+ Điểm tin theo thời gian.

+ Báo cáo đa dạng phục vụ nhiều cấp quản lý.

+ Đo lường quan điểm dựa trên phương pháp học máy.

Hình ảnh hệ thống thông tin tổng hợp thông tin kinh tế, xã hội

4.     Ứng dụng mô phỏng quy trình sản xuất thuốc 3D
  Ứng dụng sử dụng công nghệ số hóa 3D, mô phỏng lại toàn bộ các bước sản xuất thuốc viên nén Paracetamol dựa theo quy trình thực tế. Ứng dụng được xây dựng với mục đích hỗ trợ giảng dạy tại khoa Y dược đại học Nguyễn Tất Thành và đã được đưa vào giảng dạy. Ứng dụng được xây dựng bằng Unity 3D chạy trên máy tính cá nhân và các thiết bị di động.
  Mô phỏng lại chi tiết các bước thực hiện quá trình chuẩn bị nguyên liệu, tháo lắp máy móc, cách thức hoạt động của máy móc một cách trực quan. Trong thực tế khi giảng dạy, giảng viên sẽ mất rất nhiều thời gian và công sức thực hiện quy trình để truyền tải kiến thức cho sinh viên, ứng dụng sẽ rút ngắn thời gian và tiết kiệm công sức cho giảng viên cũng như sinh viên sẽ tiếp nhận thông tin một cách chi tiết và trực quan hơn ứng dụng sử dụng công nghệ số hoá 3D, mô phỏng lại toàn bộ các bước sản xuất
5.     Phần mềm kiểm soát lượng người vào ra với sự trợ giúp của camera:
+ Xử lý hình ảnh 2D,3D, Video.
+ Mô hình hóa cho hệ thống thực tại ảo
+ Kiến trúc tính toán cho thực tại ảo.
+ Các kỹ thuật ghép nỗi vào ra với hệ thống thực tại ảo, thực tại ảo tăng cường.
+ Các ngôn ngữ thực tại ảo, lập trình hệ thống thực tại ảo, thực tại ảo tăng cường, thực tại ảo trộn.