Seonglae ChoConcept-Wrapper Network (CW-Net)
Interpretable AI가 Human AI collaboration의 핵심 요소 bridge 이고 실제 성능에도 도움이 된다는 증거
Concept Bottleneck Model(CBM) 기존 자율주행 모델의 마지막 판단 부분을 사람이 이해하는 개념을 거치도록 바꾼 구조. 기존 모델 대부분은 고정하고 추가한 개념 분류기와 새 점수 계산 부분을 학습해. 그 개념 값들을 운전자에게도 보여준다. 그리고 설명이 사람이 모델의 행동과 실수를 예측하는 데 실제로 도움이 된다.
