【ITBEAR】近期，字節(jié)跳動(dòng)公司內(nèi)部發(fā)生了一起模型訓(xùn)練安全事件，引發(fā)廣泛關(guān)注。據(jù)悉，一名實(shí)習(xí)生因?qū)F(tuán)隊(duì)資源分配心生不滿，利用技術(shù)漏洞破壞模型訓(xùn)練，造成了一定損失。
事件發(fā)生在字節(jié)跳動(dòng)商業(yè)化技術(shù)團(tuán)隊(duì)，實(shí)習(xí)生田某某通過(guò)共享模型注入破壞代碼，導(dǎo)致團(tuán)隊(duì)模型訓(xùn)練成果受損。不過(guò)，公司知情人士透露，損失并未達(dá)到千萬(wàn)美元之巨。
此次事件暴露了字節(jié)跳動(dòng)在技術(shù)訓(xùn)練安全管理方面的漏洞，如權(quán)限隔離和共用代碼審計(jì)等問(wèn)題亟待解決。
目前，該實(shí)習(xí)生已被辭退，公司也已將相關(guān)情況通報(bào)給行業(yè)聯(lián)盟和實(shí)習(xí)生所在學(xué)校。
字節(jié)跳動(dòng)在10月15日發(fā)布了新的大模型訓(xùn)練視頻預(yù)處理方案，助力解決技術(shù)挑戰(zhàn)。
