生成式AI驅動當前整個IT領域的發展,已是不爭的事實,諸如AI模型、加速運算平臺、代理型AI、擷取增強生成(RAG)、模型上下文協定(MCP)、AI輔助開發工具等相關應用,話題不斷。 對於一般使用者而言,如果想要搭上這個技術特快車,可直接採用服務業者代管的平臺,使用門檻並不高,然而,對於企業而言,需要更大的技術自主空間、具有更高的機密防護,以及尋求更多降低總體成本的可能性,因此,仍有不少公司決定採用混合式架構、甚至自行建置相關基礎架構的方式,來獲得這些好處,而在這樣的考量之下,我們需要的,不只是採購、建置、維運高效能AI加速運算伺服器,還需要兼具功能強大、具有延展性、便於管理的AI資料平臺。 See more: https://www.ithome.com.tw/voice/170392
Comments