emergent misalignment

LLM 的有害行為藏在哪裡

這篇研究用權重剪枝發現，有害輸出可能集中在一小組共享權重裡，且和正常能力分開。這能解釋為什麼 jailbreak 很脆弱，也為什麼窄域微調會引發更廣泛的失配。