Seonglae ChoAI advice suppresses people's willingness to say "I don't know", even when the advice is wrong and accuracy is incentivized
Human confidence increases while error rate also increases. AI Hallucination reversed
Who’s Aligned to Whom?
AI 에이전트를 사용하는 전문가들은 자신도 모르게 AI의 판단을 자신의 판단으로 받아들인다.
- 86%: 전문가의 분석 선택이 AI가 선호하는 방향과 일치했다. 무작위 기준은 50%.
- 72%p: AI의 선호 방향을 바꿨을 때 전문가의 분석 선택이 바뀌는 인과적 효과(flip rate).
- 82%: AI에 무작위로 부여한 중간 분석 선호만으로 최종 정책 권고를 예측한 정확도. 다만 탐색적 in-sample 분석이다.
- 77%: 사후에 자신의 결정을 설명할 때 AI의 논리를 재사용한 참가자 비율. 반면 AI를 언급한 참가자는 15%뿐이었다.
- 52%: 최종 결정이 AI보다 자신의 판단에 가깝다고 생각했다.
