與NVIDIA MIG的集成可通過一鍵式交付按需的ML / DL工作負(fù)載的單個GPU的多個實(shí)例，從而提高性能

cnvrg.io用于機(jī)器學(xué)習(xí)的AI OS宣布將NVIDIA多實(shí)例GPU（MIG）技術(shù)與其數(shù)據(jù)科學(xué)平臺進(jìn)行了原生集成。cnvrg.io是第一個集成MIG的ML平臺，這是一項(xiàng)突破性的新功能，可以將每個NVIDIA A100 GPU劃分為多達(dá)七個加速器，以實(shí)現(xiàn)最佳利用率，從而有效地擴(kuò)展對每個用戶和應(yīng)用程序的訪問權(quán)限。此次集成是在發(fā)布NVIDIA A100 Tensor Core GPU和NVIDIA DGX A100系統(tǒng)以及cnvrg.io的NVIDIA DGX-Ready Software程序作為AI工作流解決方案的認(rèn)證之后進(jìn)行的。

NVIDIA GPU是機(jī)器學(xué)習(xí)和深度學(xué)習(xí)工作負(fù)載的強(qiáng)大動力。全新的NVIDIA A100 Tensor Core GPU在AI，數(shù)據(jù)分析和HPC工作負(fù)載的各個規(guī)模上均提供了前所未有的加速，以應(yīng)對全球最棘手的計算挑戰(zhàn)。作為NVIDIA數(shù)據(jù)中心平臺的引擎，A100可以有效地擴(kuò)展至數(shù)千個GPU，并且借助MIG，可以將其劃分為七個獨(dú)立的GPU實(shí)例，以加速各種規(guī)模的AI工作負(fù)載。

由于存在如此巨大的可變性，因此資源管理至關(guān)重要。基礎(chǔ)架構(gòu)團(tuán)隊需要MLOps，以及分配，安排，共享和監(jiān)視MIG資源利用率的方法。這就是cnvrg.io數(shù)據(jù)科學(xué)平臺快速發(fā)展的地方，并提供了具有自助服務(wù)資源管理，元計劃和MLOps功能的MIG集成。