GPU的AI加速運算能力在各大研究上扮演關鍵角色。麗臺科技突破傳統限制,領先業界發表GPU資源分配與管理系統(GDMS),並首由長庚大學資工系導入使用。
麗臺GDMS提供多人使用單一張GPU,以及一人使用多GPU兩種資源分配模式,適用於NVIDIA全系列繪圖卡,支援不同規模的工作負載,達到資源運用最大化。其直覺式圖型操作介面,讓不懂Docker指令的管理人員,仍能輕鬆執行AI專案建置,將AI研發和教學環境部署時間縮短300倍。
在AI研發上,目前大部分開發者採用容器化開源軟體架構,皆以單張GPU為單位。也就是單一GPU卡,只能分配給單一Container使用。麗臺GDMS則是以專案及Docker為基礎的GPU資源分配與管理系統,容許多個Container使用同一張GPU資源。長庚大學資工系陳仁暉系主任提到,在教學上,學生所執行的專案較小,若GPU等資源無法有效分配,將十分可惜。GDMS可在相同資源條件下,讓更多學生同時使用GPU運算資源,將能夠大大提升GPU使用率。
此外,透過GDMS圖型介面,除了能讓使用者更方便操作外,老師也能在課堂間的休息時間,快速部署不同Container給指定學生使用。一般來說,大約需要花50分鐘才能建立100個Container,但現在只需要花十秒即可完成,同時達到快速備課及資源使用最大化目的,真是教學一大利器。
麗臺科技林威延博士補充,此種單卡支援多人使用的模式也相當適合企業研發單位執行AI訓練,以降低總體持有成本。麗臺GDMS另一個功能則反過來。例如研究單位進行大型AI研發專案時,麗臺GDMS能集中多張GPU資源支持該專案進行,並確保其他人尋找可用GPU資源時不會影響到該專案的資源分配,彈性支援不同AI開發情境。訊息網址:www.leadtek.com.tw。