法國公司 Mistral AI最近正式推出了其最新的開源推理模型 ——Magistral Small1.2。這款模型擁有令人矚目的24B 參數(shù)，并且以 Apache2.0的開源許可方式發(fā)布，充分展示了 Mistral 在 AI 技術(shù)創(chuàng)新上的雄心與實力。

新版本 Magistral Small1.2不僅支持高達128k 的上下文處理，能夠處理多種語言和視覺輸入，還引入了一個全新的創(chuàng)新特性 ——[THINK] 特殊 token。這一特殊 token 的設(shè)計目的在于包裹推理過程，從而提升模型的表現(xiàn)力和靈活性。相較于前一版本1.1，Magistral Small1.2增加了視覺編碼器，使得它在處理圖像和文本的綜合任務(wù)上更具優(yōu)勢。

此外，Magistral Small1.2還內(nèi)置了多種推理模板，兼容了當前流行的框架，比如 vLLM、Transformers 和 llama.cpp 等，用戶可以即刻上手，無需繁瑣配置。同時，該模型還提供了 GGUF 量化版本以及 Unsloth 微調(diào)示例，為開發(fā)者提供了更多便利。

企業(yè)版的 Magistral Medium1.2也進行了同步升級，依然通過 Le Chat 平臺為用戶提供對話服務(wù)，其 API 已經(jīng)上線到 La Plateforme 平臺，進一步拓寬了應(yīng)用場景。

Mistral 的這一系列新舉措，標志著其在開源 AI 領(lǐng)域邁出了重要的一步，為開發(fā)者和企業(yè)帶來了更為強大和靈活的工具，助力他們在快速發(fā)展的 AI 市場中取得成功。無論是研究人員還是企業(yè)用戶，都可以借助這一新模型來提升自身的工作效率和技術(shù)水平。