Seonglae ChoDefense method that makes models robust against adversarial examples
Adversarial Trainings
Adversarial training으로 LLM의 표현이 단순해지면, 실제 계산을 담당하는 causal circuit도 작아지는가? 현의 단순함이 항상 causal circuit의 단순함을 의미하지는 않는다. 다만 높은 faithfulness에서는 adversarial training이 더 작은 circuit을 형성할 가능성이 있다.