企業(yè)軟件巨頭Salesforce高管承認，對大模型的信任度在過去一年中有所下降，該公司正在其主要AI產品Agentforce中減少對生成式AI的依賴，轉而采用更多基礎的“確定性”自動化技術來提高軟件可靠性。

周一，據(jù)The Information報道，Salesforce產品營銷高級副總裁Sanjna Parulekar表示：“我們所有人在一年前對大語言模型都更有信心?！痹摴粳F(xiàn)在Agentforce中使用基于預定義指令的確定性自動化，而非完全依賴AI模型的推理和解釋能力。

這一策略調整旨在解決大模型在處理精確任務時出現(xiàn)的“幻覺”等技術故障，確保關鍵業(yè)務流程每次都遵循完全相同的步驟。Salesforce網(wǎng)站現(xiàn)在強調Agentforce能夠幫助“消除大模型固有的隨機性”。

作為最具價值的軟件公司之一，Salesforce對大模型的部分退讓可能對數(shù)千家使用該技術的企業(yè)產生影響，目前Agentforce預計年收入將超過5億美元。

技術可靠性挑戰(zhàn)推動策略轉變

Salesforce在實際應用中遇到了大模型的多項技術挑戰(zhàn)。該公司Agentforce首席技術官Muralidhar Krishnaprasad指出，當給大模型超過8個指令時，它會開始遺漏指令，這對需要精確處理的任務來說并不理想。

家庭安防公司Vivint的經(jīng)歷印證了這些問題。該公司為250萬客戶使用Agentforce處理客戶支持，但遇到了可靠性問題。例如，盡管給出了在每次互動結束時向客戶發(fā)送滿意度調查的指令，但Agentforce有時會因無法確定的原因不發(fā)送調查。

為解決這類問題，Vivint與Salesforce合作在Agentforce內設置了"確定性觸發(fā)器"，確保每次都能發(fā)送調查。使用這種基礎自動化形式不僅降低了運營成本，也為客戶提供了更低的價格。

應對AI"漂移"現(xiàn)象

Salesforce高管Phil Mui在10月的博客文章中描述了另一個關鍵挑戰(zhàn)：AI“漂移”現(xiàn)象。據(jù)Mui介紹，該公司“最復雜的客戶”在使用AI時遇到困難，“當用戶提出無關問題時，AI代理會失去對其主要目標的關注”。

例如，被編程引導客戶填寫表格的AI聊天機器人在客戶提出與表格無關的問題時會“失去焦點”。為解決這一問題，Salesforce開發(fā)了Agentforce script系統(tǒng)，通過識別哪些任務可以由不使用大模型的"代理"處理來最小化大語言模型的"不可預測性"。

該系統(tǒng)目前處于測試階段，旨在確保AI代理在面對偏離問題時仍能保持專注于核心任務。

實際應用中的調整與優(yōu)化

在自身運營中，Salesforce也調整了對大模型的使用程度。盡管CEO Marc Benioff此前表示，部分依賴OpenAI大模型的Agentforce現(xiàn)在處理Salesforce大部分客戶服務詢問，使公司能夠裁減約4000名客戶服務人員，但該公司近期似乎減少了其客戶服務代理對大模型的使用。

例如，上周該公司在回應Agentforce技術問題的協(xié)助請求時，顯示了博客文章鏈接列表，而非詢問更多信息或討論可能的問題。這種響應方式類似于企業(yè)多年來使用基礎聊天機器人處理客戶或網(wǎng)站訪客問題的方式。

Salesforce發(fā)言人表示，公司今年“完善了主題結構，加強了防護措施，提高了檢索質量，并調整響應以更具體、更符合上下文、更符合真實客戶需求”。該發(fā)言人稱，幫助代理解決的客戶問題比以往任何時候都多，預計在1月底結束的財年中，已解決對話數(shù)量將增長90%。

這一趨勢反映了整個行業(yè)面臨的挑戰(zhàn)。本月早些時候，由企業(yè)AI初創(chuàng)公司Sierra提供支持的Gap Inc.聊天機器人回答了關于成人用品和納粹德國的問題，凸顯了大模型偏離預期用途的普遍性問題。