布羅克班克的測試揭示了一個令人擔(dān)憂的現(xiàn)象：ChatGPT有時會引用被黑客攻擊的網(wǎng)站上的篡改內(nèi)容，或是已被重新利用來發(fā)布無關(guān)信息的過期域名。這些網(wǎng)站和域名雖然原本具有較高的搜索引擎權(quán)重，但已被不法分子或不良機(jī)構(gòu)利用來誤導(dǎo)AI系統(tǒng)。
具體而言，布羅克班克指出，被黑客攻擊的網(wǎng)站往往被植入與原本內(nèi)容無關(guān)的信息，而過期域名的再利用則是一些機(jī)構(gòu)或個人購買這些域名后，發(fā)布與其原主題不符的內(nèi)容，以利用其原有的搜索引擎權(quán)重。這種行為不僅違反了道德準(zhǔn)則，還可能對AI推薦的準(zhǔn)確性造成嚴(yán)重影響。
布羅克班克在接受采訪時強(qiáng)調(diào)，雖然通過合法途徑提升品牌在AI推薦中的曝光度是可行的，但利用被黑或過期域名則明顯越過了底線。他呼吁AI開發(fā)者加強(qiáng)對操控內(nèi)容的識別與過濾機(jī)制，提高系統(tǒng)的信息篩選能力，以確保AI推薦的準(zhǔn)確性和可靠性。
布羅克班克提醒道：“我們目前還未到達(dá)可以完全信任ChatGPT推薦而不加驗證的階段。在使用這類AI工具時，保持審慎和理性的態(tài)度至關(guān)重要。”
