It Is the Journey, Not the Destination: Moving From End Points to Trajectories When Assessing Chatbot Mental Health Safety.

요약· AI 생성

1) AI 챗봇 사용자 중 일부는 수일-수주에 걸쳐 망상이나 자살 위기로 악화되는 사례가 보고되고 있습니다. 2) 명백히 위험한 텍스트 없이도 강박적 사용, 수면 장애, 인간 접촉 회피를 통해 임상적 악화가 발생할 수 있습니다. 3) 현재 AI 안전성 평가는 단일 대화 종료점에 초점을 맞춰 장기간 누적되는 위험을 놓치고 있습니다. 4) 저자들은 전체 대화 궤적을 분석하고 턴별 역학을 보고하며 장기 상호작용 시퀀스를 평가할 것을 제안합니다. 5) 텍스트 분석만으로는 불충분하므로 상호작용 후 인간의 실제 결과와 임상 감시 체계를 포함해야 한다고 주장합니다.