人民財訊8月5日電，國家安全部今日發(fā)文表示，人工智能的訓練數(shù)據(jù)存在良莠不齊的問題，其中不乏虛假信息、虛構(gòu)內(nèi)容和偏見性觀點，造成數(shù)據(jù)源污染，給人工智能安全帶來新的挑戰(zhàn)。通過篡改、虛構(gòu)和重復等“數(shù)據(jù)投毒”行為產(chǎn)生的污染數(shù)據(jù)，將干擾模型在訓練階段的參數(shù)調(diào)整，削弱模型性能、降低其準確性，甚至誘發(fā)有害輸出。研究顯示，當訓練數(shù)據(jù)集中僅有0.01%的虛假文本時，模型輸出的有害內(nèi)容會增加11.2%；即使是0.001%的虛假文本，其有害輸出也會相應上升7.2%。