網(wǎng)絡安全領域近期迎來了一項新的警示，一種被稱作“Slopsquatting”的攻擊手段正逐漸顯露頭角。這種攻擊方式利用了生成式人工智能（AI），如大型語言模型（LLMs）在代碼編寫過程中可能引發(fā)的“包幻覺”現(xiàn)象。所謂的“包幻覺”，指的是AI在推薦軟件包名稱時，有時會生成并不存在的名稱，而這些名稱往往看起來十分逼真。
攻擊者利用這一漏洞，預先注冊了這些由AI虛構的軟件包名稱，并在其中植入了惡意代碼。研究人員指出，這些由AI生成的虛構包名具有很高的可信度和重復性，約有38%的虛構包名與真實存在的包名高度相似，僅有13%的虛構包名是通過簡單的拼寫錯誤產(chǎn)生的。這種相似性使得開發(fā)者在未經(jīng)核實的情況下，很容易直接采用這些包名。
在對16個代碼生成模型進行測試后，研究人員發(fā)現(xiàn)，平均有20%的AI推薦軟件包是偽造的。尤其是開源模型，如DeepSeek和WizardCoder，它們的幻覺率高達21.7%。相比之下，商業(yè)模型如GPT-4Turbo的幻覺率則相對較低，為3.59%。而CodeLlama的表現(xiàn)最為糟糕，超過三分之一的推薦都存在錯誤。這種威脅在Python和Javascript等依賴中央包倉庫的編程生態(tài)系統(tǒng)中尤為突出。
實驗數(shù)據(jù)進一步顯示，AI的“包幻覺”現(xiàn)象具有很高的可復現(xiàn)性。在高達43%的案例中，相同的幻覺會連續(xù)出現(xiàn)10次，而58%的幻覺會在多次測試中重復出現(xiàn)。這種高度的可復現(xiàn)性為攻擊者提供了極大的便利，使他們能夠精準地布局惡意軟件包。
研究人員認為，當前AI模型在安全測試方面的不足是導致這一問題的主要原因。盡管目前尚未發(fā)現(xiàn)實際的Slopsquatting攻擊案例，但該技術已經(jīng)具備了構成現(xiàn)實威脅的所有要素。因此，研究人員強烈呼吁開發(fā)社區(qū)提高警惕，對AI生成的代碼建議保持審慎態(tài)度，并務必進行驗證，以免成為這種新型軟件供應鏈攻擊的受害者。
