AI에 대한 설명이 신뢰에 미치는 영향 (The effectiveness of explainable AI on human factors in trust models)

유형: 논문 · 저자: Justin C. Cheung, Shirley S. Ho · 출처: Nanyang Technological University · 별점: ⭐️⭐️⭐️

핵심

• AI가 설명을 제공하면 사람들이 AI를 더 신뢰하는가 → AI가 아니라 AI를 만든 사람과 조직을 더 믿게 만드는가 ⇒ 즉, XAI(explainable AI)가 기술 신뢰를 넘어 조직 신뢰 장치로 작동하는가
• 사용자는 “모델”이 아니라 “회사와 팀→만든 사람”을 믿고 구매하기 때문에 중요함

실험과 결과

• 가상의 AI 드론 시나리오를 보여주고 “설명이 있는 AI vs 없는 AI”를 비교한 뒤, 사람들이 AI 엔지니어를 얼마나 유능하고, 선하고, 정직하다고 느끼는 지를 설문으로 측정
• 설명이 있으면 사람들은 AI를 만든 엔지니어/팀을 더 유능해 보인다고 느끼고, 더 선의가 있다고 느끼고, 더 정직할 것이라고 추정
• 하지만, 그 신뢰가 실제 사용 증가로 이어지는지, 위험한 상황에서도 유지되는지, 잘못된 AI 판단을 비판적으로 보게 만드는지 이 부분은 아직 검증되지 않음