本文摘自《云棲戰略參考》，這本刊物由阿里云與鈦媒體聯合策劃。目的是為了把各個行業先行者的技術探索、業務實踐呈現出來，與思考同樣問題的“數字先行者”共同探討、碰撞，希望這些內容能讓你有所啟發。

如果說 2023 年是生成式人工智能(GenAI)元年，那么 2024 年或將是 GenAI 在行業側應用扎根落地的伊始。

“所有 ToB 的應用場景都值得被 AI 重新賦能一遍。” 酷渲科技 CTO 陳一瑋說。

酷渲科技成立于 2017 年，是一家以“科技創新驅動人才與業務共同成長”為使命的互聯網企業服務公司，旗下的核心產品——業培一體的企業學習平臺“酷學院”，為企事業單位提供“SaaS 平臺 + 海量內容 + 運營服務” 三位一體企業學習解決方案。

與一般的企業培訓不同，酷學院深耕技術領域，從算法軟件到綜合解決方案都進行了升級，以“萃學練考用” 的方法論進一步提升了行業競爭力與用戶體驗度。“萃學練考用”組織學習方法論是一套高效的企業學習方法論，在數字化時代背景下，它突破了傳統培訓模式的局限，全面提升了培訓效果，實現了人才與業務的共同成長。

在 AI 大模型問世之后不久，酷學院就開始布局相關產品的研發，借由此次 AI 大模型的浪潮，對原本的酷學院平臺進行 AI 賦能。相較于傳統 SaaS 領域產品研發周期可能需要半年、甚至一年才能成型，酷學院早期戰略布局的優勢是，在賽道還未過于擁擠時，就可以拿出一個比較成熟的應用，這對于追求速度的酷學院團隊來說至關重要。

其實，早在 2020 年酷學院就嘗試和阿里巴巴達摩院合作研發“AI 出題”，不過當時的場景做出來之后，所有人都認為，讓 AI 像人類一樣精準地從海量知識庫和題庫里準確找出題目和內容，幾乎是不可能完成的。然而，才過了三年，AI 大模型就帶來了顛覆性的改變。現在，無論是從速度還是質量來看，真正的“AI 出題”新時代已經來臨。

性能、成本兼顧，打造 AI 基座

無論哪個行業，當下使用 AI 大模型賦能業務時，性能和成本是繞不開的兩個話題，教培行業亦是如此。

正是基于上述兩個因素的考慮，在選擇 AI 大模型應用方式時，酷學院采用了“開源模型 + 閉源模型”雙管齊下的方式進行整體技術架構搭建。在閉源模型方面，酷學院目前主要采用了通義千問 -Max 和通義千問 -Plus 進行大模型產品的開發，并整合了部分通義星塵的個性化角色對話的能力。

在整體平臺打造方面，酷學院以包括文檔解析、音視頻解析等在內的多種數據處理能力為基石，為 AI 大模型 提供充足的“素材”，并以自用模型與通義千問大模型能力為 AI 基座，通過提示詞工程、語義向量索引等技術手段，不斷對模型進行工程化適配和調優，在原本的 “萃學練考用”方法論的基礎上，融合了 AI 大模型的能力，更深層次地挖掘并展現了 AI 大模型在平臺上的效能。

“萃”方面，使用 AI 大模型文字生成、文生圖功能，結合酷學院已有文字驅動表情、視頻能力，AI 導師可以根據參考資料、課程目標對象等自動生成符合企業要求的智能化課件。

“學”方面，基于 AI 大模型上下文理解、信息抽取、文本摘要等能力，酷學院將 AI 導學融入到在線課程學習中，智能總結課程關鍵內容，智能識別、切割課程內容，幫助員工快速高效學習課程。

“練”方面，酷學院使用 AI 大模型問答對話能力、豐富的多領域知識，特定或開放場景下提供模擬實戰的、個性化的、實時互動的陪練體驗，并根據個人的情況不斷調整和拓展訓練內容，高效訓練快速掌握技能。

“考”方面，基于 AI 大模型上下文理解、信息抽取、文字生成等能力，酷學院可為用戶提供根據課件智能出題，實現不同難度、不同類型 ( 單選、多選、判斷、簡答等 )，并結合酷學院已有能力發布并完成考試、練習，智能批閱試卷、作業。

“用”方面，通過 AI 大模型的問答能力，酷學院幫助企業構建了分權限隔離的 AI 知識庫，并持續訓練調優，形成企業專屬的知識大腦，進而借助企業知識庫和大模型的能力，生成各類方案，幫助企業員工高效傳遞并掌握知識，賦能整個業務運營環節，提升整體業務績效。

與此同時，酷學院主要服務具有一定規模的中大型企業，其中一些企業對數據管理權限有著嚴格的要求，因此更偏好于內部培訓以建立私有化的大模型或部署規模較小、更為專業精細的模型產品。通過融合閉源與開源的 AI 大模型策略，酷學院成功地平衡了安全與效率的需求，不僅有效降低了技術應用的門檻，還顯著減少了企業的使用成本。

現在，酷學院通過阿里云提供的百煉平臺進行數據的篩選、清洗、標注和訓練，并調用通義千問 -Max 和通義千問 -Plus 的大模型能力進行賦能，同時也在百煉平臺上整合了其他開源模型。從整體效果來說，這套平臺架構和解決方案幫酷學院節省了很大一部分成本，也能為不同行業領域和不同培訓需求的客戶提供更好的服務。

在多類模型并行運用的情景下，酷學院感受到通義千問相較于開源的 AI 大模型，在整體模型的迭代效率與客服響應速度上都更好，不僅滿足了酷學院對高效率的嚴格要求，而且在模型的有效性與準確性方面也展現出顯著優勢，這些能力都是酷學院在AI技術應用領域行業，持續保持領先地位的關鍵因素。此外，通義千問在與同類參數模型的對比中，凸顯出更高的可用性和更優的性價比，契合了酷學院追求模型高性能與成本效益平衡的初衷。

六大“原子能力”落地，AI 大模型全面重塑在線教培

以 AI 大模型為技術底座，酷學院重構了新一代“智能” 學習平臺。

在底層，通過文檔、音頻、視頻、圖片等數據的收集、歸納、劃分、清洗、分析等環節，為大模型提供了高質量的學習數據，并通過針對不同行業、不同企業進行模型的微調，以酷學院 AI 基座為依托，重新定義一個高效、智能、個性化的學習生態系統。

同時，酷學院利用 AI 能力對六大核心維度分別進行了賦能：AI 制課、AI 導學、AI 陪練、AI 考試、AI 問答、AI 報表。通過六大原子級“AI 技能”的賦能，進一步衍生了眾多應用場景，切實提高了企業在應用學習平臺時的效率和體驗。

以 AI 導師為例，學員可以創建個性化的 AI 導師，為其 指定授權知識范圍，通過知識學習與推理，AI 導師將知識解析后給出答案，并且可以將個人導師通過授權分享給他人使用。AI 導師可以根據不同學員進行個性化學習問答，并根據學員的反饋進行人工干預，不斷調優糾偏。學員還可以在每次對話中訪問原知識點，省去了翻閱多個知識材料的時間，極大提高了知識獲取、知識應用的效率，進而更好地滿足業務需求、創造價值。

這背后是基于通義千問 -Max + AnalyticDB 向量數據庫 + 音頻轉寫構建的導師體系，該體系不僅具備大規模數據處理能力，還可以針對大規模語料和數據集進行優化分析。更重要的是，通義千問 -Max 的行業知識強化能力，可針對特定行業和領域進行訓練，從而顯著提升在該領域的專業度和準確率。

AI 導師與常規 C 端 AI 聊天工具產品的不同在于：首先，每一個學員都能夠配置自己個性化的 AI 導師；第二，基于高精準度的權限跟數據隔離，每一個學員的 AI 導師都具有獨一無二的背景知識；第三，通過自動和人工兩種方式來進行調優和糾偏，讓 AI 導師的回答效果更加的精準，更加的個性化。

另一個場景是“考試”。過去，企業出題需要總結、歸納大量資料，花費一周的時間，才能出一套幾十道題目的試卷。而現在，利用 AI 大模型后，酷學院基于通義千問 -Plus+AnalyticDB 向量數據庫 + 音頻轉寫構建了一套全新的出題系統，酷學院僅需將海量學習資料 “喂”給大模型，AI 大模型就可以快速的整理出考題，讓培訓管理者感受“飛”一般的出題速度。與原先相比，出題的速度與質量都有了極大的提升。

不僅如此，為了滿足不同行業考題專業性的需求，酷學院還建立了提示詞體系，將 AI 模型分為通用語料與專業語料，企業可以根據需求“喂”給 AI 大模型專業語料，這樣編出的考題就更加專業。

“陪練”也是 AI 大模型賦能效果極佳的場景之一。在 AI 大模型問世以前，市面上已經有很多類似 AI 陪練的產品，但是這些產品基本都是基于 NLP(Natural Language Processing, 自然語言處理 ) 技術，通過將固定的腳本放進去，產生機械式提問，AI 對用戶回答進行判斷和打分。這樣的陪練擬人化程度很低，陪練效果也不好。

酷學院基于通義星塵構建了一套“AI 陪練”系統，以通義星塵的個性化角色對話能力，模擬真實練習場景，為學員打造專屬 AI“考官”，通過設定特定的“考官”角色，企業培訓人員可以快速構建特定領域的知識體系。并通過動作、圖片、表情等多種多樣的交互方式，讓整個業務培訓過程更鮮活、更真實。

“AI 陪練”徹底顛覆了原先 NLP 技術架構下一問一答的模式，經過簡單的訓練和推理后，用戶可以設置各類的場景、角色，提供更加真實的陪練場景。據介紹，陪練場景大多是應用在銷售、客服等服務行業的人員培養方面，這種更加擬人化的場景，以及復雜多變的環境和突發情況的陪練體系的建設，對于企業培養該方面的人才而言，起到了積極的推動作用。

除此之外，AI 大模型在其他應用場景也有著顯著的效率提升效果，以課程開發為例，通過“AI 制課”可以將原本的制課時間縮短 95% 左右，加速了教育內容的生產效率；在 AI 報表方面，可以快速收集、整理報表，并提供智能化的數據分析能力，幫助企業更好地進行決策。

目前，酷學院基于通義千問大模型對教學場景的改造正不斷深入，還計劃通過通義聽悟、通義智文、通義靈碼等不同能力繼續構建更多 AI+“X”場景，讓客戶切實感受到新一代 AI 大模型技術帶來的組織效能的極致提升。

面向未來，酷學院也非常堅定要結合自身豐富的知識積累，最終打造自己的企業級培訓專屬大模型。經過多方比對選擇和內部討論，酷學院最終選擇阿里云百煉大模型服務平臺。基于百煉平臺全鏈路的模型訓練能力、多維度的模型評估工具、多種強化的垂直領域能力大模型，以及一站式在線用戶部署，能夠大幅降低酷學院對模型訓練與部署成本。

降本、提質——未來挑戰與機遇并存

即便當下酷學院對于 AI 大模型的應用已經取得顯著成效，且應用場景打磨得也相對完善，但仍有不少優化空間。

首先，從大模型質量層面來看，當下市面上的大模型產品缺乏垂直類行業的知識儲備深度、專有知識精準度，以及大模型的幻覺等問題都是制約大模型在行業廣泛落 地實施的瓶頸。針對這些問題，普遍的策略是通過采用 MoE(Mixture of Experts，混合專家架構)的模式來解決。據了解，酷學院也有意嘗試 MoE 架構的大模型產品，進一步針對平臺上的若干功能進行精細優化與性能調優。

其次，即便市場剛剛經歷過一波大模型的降價，但對于大多數企業而言，AI 大模型使用成本仍然是一個十分值得關注的問題。不過，陳一瑋對此持相對樂觀的態度，他指出，“AI 大模型雖然對于整體行業而言，還算是一個比較新的技術，但是隨著技術的成熟度越來越高，使用門檻也會越來越低，而成本也會越來越低。”

伴隨 AI 大模型浪潮，包括酷學院在內的 SaaS 行業又迎來一場新的機遇。酷學院希望未來兩年內，可以將 AI 大模型的能力全面融合到現有業務中，通過 AI 能力，實現降本增效。“我們會不斷完善整體工程能力，爭取以最低的成本，幫助用戶訓練他們所需要的、好用的 AI 產品。”陳一瑋說。