Red Hat更新企業級AI平臺,擴充分散式推論與模型即服務

Red Hat(紅帽)發表Red Hat AI 3,作為該公司企業級人工智慧平臺的新一代版本,目標是將推論工作負載推進至可預測、可治理的生產環境。此波更新以OpenShift AI 3.0為核心平臺,內含已達正式版的llm-d,推論層則由可獨立部署的Red Hat AI Inference Server 3.2提供企業級vLLM與異質加速器支援。

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *