IBM 宣布與芯片初創公司 Groq 達成戰略合作，將其高性能 推理技術集成至 watsonx 平臺，以為企業客戶提供更快、更具成本效益的人工智能解決方案。此次合作標志著 IBM 在企業級 AI 加速領域邁出關鍵一步。

通過該合作，IBM 用戶可在 Watsonx Orchestrate 中直接訪問 GroqCloud 服務。Groq 以其自研的 語言處理單元（LPU） 架構著稱，聲稱在特定 AI 推理任務上可比傳統 GPU 系統快 五倍以上，同時顯著降低能耗與成本。

IBM 表示，雙方的技術整合將優先應用于 醫療保健和零售 場景。例如，在醫療領域，系統可同時高效響應數千個患者查詢;在零售行業中，則可用于人力資源與供應鏈的智能自動化。此外，IBM 與 Groq 還計劃將 Red Hat 開源的 vLLM 技術 與 Groq 的 LPU 硬件結合，以增強模型部署靈活性，并讓 GroqCloud 支持 IBM 自研的 Granite 模型。目前，IBM 客戶已可直接使用 GroqCloud 的核心功能。

成立于2016年的 Groq，現已擁有超過 200萬名開發者，定位為 GPU 的替代方案，也是“美國 AI 堆棧”的重要成員。此次合作不僅將提升 watsonx 的運算性能，更旨在幫助企業客戶將 AI 代理從試點階段擴展至生產環境，覆蓋醫療、金融、政府、零售與制造等對 速度、成本與可靠性 要求極高的行業。