Nvidia hé lộ phần mềm mới cho phép theo dõi vị trí GPU AI trong trung tâm dữ liệu
Nvidia vừa công bố chi tiết phần mềm quản lý đội GPU AI từ xa, cho phép các trung tâm dữ liệu theo dõi tình trạng vận hành và xác định vị trí vật lý của GPU. Tính năng này được xem là một biện pháp gián tiếp nhằm hạn chế tình trạng buôn lậu chip AI, trong bối cảnh các GPU cao cấp của Nvidia đang bị kiểm soát xuất khẩu.
Phần mềm hoạt động theo cơ chế tùy chọn (opt-in), không bắt buộc. Dữ liệu telemetry từ GPU sẽ được thu thập và hiển thị trên bảng điều khiển trung tâm thông qua nền tảng Nvidia NGC, cho phép quản trị viên theo dõi GPU theo từng khu vực địa lý, cụm máy hoặc trung tâm dữ liệu cụ thể.
Nvidia nhấn mạnh đây không phải công cụ kiểm soát hay vô hiệu hóa từ xa. Phần mềm chỉ mang tính giám sát, không có “công tắc tắt” hay cửa hậu. Ngay cả khi phát hiện GPU xuất hiện ở vị trí nhạy cảm, Nvidia cũng không thể tắt chip, nhưng dữ liệu có thể hỗ trợ truy vết chuỗi phân phối.
Ngoài theo dõi vị trí, hệ thống còn giám sát điện năng tiêu thụ (kể cả các đỉnh công suất ngắn hạn), mức sử dụng GPU, băng thông bộ nhớ, tình trạng kết nối liên GPU, nhiệt độ và luồng khí. Những dữ liệu này giúp trung tâm dữ liệu tối ưu hiệu suất trên mỗi watt, tránh nghẽn cổ chai, giảm nguy cơ quá nhiệt và kéo dài tuổi thọ phần cứng AI.
Phần mềm cũng kiểm tra tính đồng nhất của môi trường phần mềm giữa các node, giúp đảm bảo quá trình huấn luyện AI có thể lặp lại và ổn định, đồng thời nhanh chóng phát hiện các sai lệch về driver hoặc cấu hình.
Nvidia cho biết đây là công cụ quản lý đội GPU tiên tiến nhất của hãng hiện nay, bên cạnh DCGM (giám sát cục bộ) và Base Command (quản lý quy trình AI). Điểm mấu chốt: Nvidia có thể “nhìn thấy” GPU của mình đang hoạt động ở đâu, nhưng không thể điều khiển hay vô hiệu hóa chúng từ xa.
