KV快取產品崛起

資料中心GPU記憶體容量擴充緩不濟急、成本高昂，眾多儲存廠商與開源社群看準AI市場應用商機，紛紛投入KV快取這個全新的產品領域，希望透過外部記憶體資源擴充，為GPU提供更多記憶體，目前已形成多種產品路線，也帶來嶄新的階層式AI記憶體應用框架