10月19日,針對近期“字節(jié)跳動大模型訓練被實習生攻擊”的傳聞,字節(jié)跳動發(fā)布聲明回應稱,該涉事實習生惡意干擾商業(yè)化技術團隊研究項目的模型訓練任務,但并不影響商業(yè)化的正式項目及線上業(yè)務,也不涉及字節(jié)跳動大模型等其他業(yè)務。網(wǎng)傳“涉及8000多卡、損失上千萬美元”嚴重夸大。
字節(jié)跳動稱,經(jīng)核實,涉事人一直在商業(yè)化技術團隊實習,并沒有AI Lab實習經(jīng)歷。其社交媒體個人簡介及部分媒體報道有誤。另外,該實習生已在8月被公司辭退。公司也將其行為同步給行業(yè)聯(lián)盟和所在學校,交由校方處理。

此前報道
10月18日,多個微信群流傳一則消息:“某頭部大廠的大模型訓練被實習生入侵,注入了破壞代碼,導致其訓練成果不可靠,可能需要重新訓練。據(jù)稱遭到入侵的代碼注入了8000多張卡,帶來的損失可能超過千萬美元。”
據(jù)知情人士透露,該頭部大廠為字節(jié)跳動。此事發(fā)生在今年6月,起因是某高校的博士在字節(jié)跳動商業(yè)化技術團隊實習,因對團隊資源分配不滿,該實習生利用了HF(huggingface)的漏洞,使用攻擊代碼破壞團隊的模型訓練任務。目前,該實習生已被辭退。
一位技術安全專家表示,HF漏洞產(chǎn)生肯定是單一性集中訓練,此事暴露了字節(jié)跳動技術訓練存在安全管理問題。公司既沒做權限隔離,也沒有做好共用代碼的審計。正常情況下,每次大的代碼變動必須做審計,無論誰做操作都有痕跡記錄,一個人想動代碼是不可能的。





京公網(wǎng)安備 11011402013531號