近日,百度安全憑借在人工智能安全領(lǐng)域的創(chuàng)新實踐和突出貢獻(xiàn),連續(xù)入選工業(yè)和信息化部兩項典型案例:作為單獨申報單位入選"2024年度網(wǎng)絡(luò)安全技術(shù)應(yīng)用典型案例"支持項目名單,同時名列151項"人工智能賦能新型工業(yè)化典型應(yīng)用案例"之中。

2024年度網(wǎng)絡(luò)安全技術(shù)應(yīng)用典型案例 & 人工智能賦能新型工業(yè)化典型應(yīng)用案例

作為AI安全領(lǐng)域的領(lǐng)軍企業(yè),百度安全始終堅持以技術(shù)創(chuàng)新引領(lǐng)行業(yè)發(fā)展。在大模型技術(shù)快速迭代的背景下,百度大模型安全解決方案敏銳把握行業(yè)需求,從多模態(tài)內(nèi)容安全、端側(cè)內(nèi)容安全、數(shù)據(jù)安全、模型安全等多個維度,構(gòu)建了全方位的大模型安全防護(hù)體系。此次同時入選工信部兩項典型案例,不僅是行業(yè)對百度安全技術(shù)創(chuàng)新的肯定,更是對百度安全持續(xù)面向行業(yè)提供更加全面、可靠的大模型安全保障解決方案的認(rèn)可。

在多模態(tài)內(nèi)容安全領(lǐng)域,百度安全創(chuàng)新性地提出了"模態(tài)對齊"和"視覺理解"的原生安全方案。該方案融合了前沿的視覺理解技術(shù)和自然語言處理能力,通過區(qū)域分割和聚合分析技術(shù)實現(xiàn)精細(xì)化的風(fēng)險識別。

多模態(tài)內(nèi)容安全

針對端側(cè)大模型場景,百度安全深入理解終端環(huán)境下的特殊需求,構(gòu)建了一套精簡而全面的安全架構(gòu)。從多模態(tài)審核到防越獄設(shè)計,從上下文提示詞保護(hù)到云端策略更新,實現(xiàn)了端上與云端的安全管控閉環(huán)。這一解決方案在手機(jī)廠商、PC廠商與智能IoT設(shè)備廠商等領(lǐng)域獲得廣泛認(rèn)可。

端側(cè)大模型內(nèi)容安全

在大模型數(shù)據(jù)安全方面,百度安全基于"零信任、零改造、全流程"理念,實現(xiàn)從語料數(shù)據(jù)管理到模型訓(xùn)練、流轉(zhuǎn)、使用和私有化交付等環(huán)節(jié)的全方位保護(hù)。通過可信計算、數(shù)據(jù)全流程加密以及數(shù)據(jù)圍欄等技術(shù),確保數(shù)據(jù)"可見不可用、可用不可得",有效防范各類安全風(fēng)險。

大模型數(shù)據(jù)安全

百度安全的創(chuàng)新實踐不僅體現(xiàn)在技術(shù)層面,更重要的是企業(yè)始終堅持將安全理念融入大模型全生命周期。從數(shù)據(jù)清洗、安全對齊、內(nèi)生安全到安全圍欄,百度安全構(gòu)建了一套完整的原生安全體系。特別在跨模態(tài)安全治理方面,百度安全通過視覺理解與文本語義的雙重審核,引入?yún)^(qū)域關(guān)注、跨模態(tài)對齊等機(jī)制,有效提升了對復(fù)合內(nèi)容的風(fēng)險管控能力。

未來,百度安全將繼續(xù)攜手行業(yè)合作伙伴,以技術(shù)創(chuàng)新推動大模型安全的健康發(fā)展,也將在大模型安全領(lǐng)域持續(xù)投入,為各行各業(yè)提供更加專業(yè)、可靠的安全服務(wù),助力人工智能產(chǎn)業(yè)的可持續(xù)發(fā)展,為構(gòu)建更加安全可信的AI應(yīng)用環(huán)境貢獻(xiàn)力量。