近期，獨(dú)立人工智能研究者西蒙·威利森深度剖析了Anthropic公司最新推出的Claude4模型，特別是其Opus4和Sonnet4版本背后的系統(tǒng)指令細(xì)節(jié)。這些指令，作為模型的“隱形指揮棒”，在每次交互中引導(dǎo)著Claude的行為與輸出。
系統(tǒng)指令，對(duì)于大型語(yǔ)言模型（LLM）而言，是其在生成回應(yīng)前的預(yù)設(shè)指導(dǎo)。它們界定了模型的角色定位、行為原則及溝通風(fēng)格，卻往往不為普通用戶(hù)所見(jiàn)。這些指令與用戶(hù)的輸入一同傳遞給模型，確保對(duì)話過(guò)程中的一致性。
盡管Anthropic在官方發(fā)布時(shí)簡(jiǎn)要提及了部分指令，但威利森揭示，那些只是冰山一角。真正的完整指令集，涵蓋了對(duì)網(wǎng)頁(yè)搜索、代碼創(chuàng)作等多方面功能的詳盡指示，是通過(guò)技術(shù)手段被挖掘出來(lái)的。
Claude的指令中，尤為引人注目的是對(duì)行為控制的精細(xì)設(shè)定。例如，明確禁止模型鼓勵(lì)任何形式的自我傷害行為，如不良嗜好或極端生活方式，并要求模型提供情感上的支持。這一原則在Opus4和Sonnet4中均得到體現(xiàn)。
威利森比喻說(shuō)，這些指令更像是“一份模型過(guò)往不良行為的黑名單”。
針對(duì)近期AI模型，如ChatGPT，因過(guò)度恭維用戶(hù)而飽受批評(píng)的現(xiàn)象，Claude的指令中明確指出，模型應(yīng)避免使用如“好問(wèn)題”、“真棒”等正面評(píng)價(jià)語(yǔ)開(kāi)頭，而是直接切入主題。這一設(shè)定旨在避免模型陷入“討好型AI”的陷阱。
在其他指令亮點(diǎn)方面，Claude被要求在非正式對(duì)話中謹(jǐn)慎使用列表形式，除非用戶(hù)明確請(qǐng)求。關(guān)于知識(shí)截止日期的設(shè)置，盡管官方聲明為2025年3月，但內(nèi)部指令中卻限定為1月，這可能是為了預(yù)防模型基于后續(xù)信息給出誤導(dǎo)性答復(fù)。
在版權(quán)保護(hù)方面，Claude在引用網(wǎng)頁(yè)內(nèi)容時(shí)受到嚴(yán)格限制，每次回答只能使用不超過(guò)15個(gè)單詞的短引用，且嚴(yán)禁復(fù)制歌詞或生成可能替代原文的全面摘要。
威利森強(qiáng)調(diào)，這些指令為高級(jí)用戶(hù)提供了寶貴的操作指南，并呼吁Anthropic及行業(yè)其他參與者進(jìn)一步提升透明度，公開(kāi)完整的指令內(nèi)容。
此次分析不僅揭露了Claude4背后的運(yùn)作邏輯，也凸顯了當(dāng)前AI模型如何在倫理與法律框架內(nèi)，通過(guò)企業(yè)的精細(xì)調(diào)校，實(shí)現(xiàn)更加安全、可控的表現(xiàn)。
