위기 대응 안내
1. 감지
- 이용자의 메시지에서 자해·자살 신호를 감지합니다. 5개 언어 키워드와 외부 유해 내용 검사(자해 범주)를 함께 씁니다.
- 한 번의 문장뿐 아니라 최근 대화에 쌓인 신호도 봅니다.
- 소설·가정·하소연과 실제 위험을 구분하되, 애매하면 안전한 쪽으로 판단합니다.
2. 대응 (역할과 무관하게 같음)
| 단계 | AI의 대응 |
|---|---|
| ① 인정 | 미리 정해 둔 문장으로 고통을 인정합니다. “말해 줘서 고마워요. 혼자 견디지 않으셨으면 해요.” |
| ② 연결 | 고정 안내 카드: 자살예방 상담전화 109(24시간), 위급하면 112·119. 해외 이용자에게는 해당 국가 번호. |
| ③ 차단 | 자살 방법, 수단, 장소 등 자살유발정보는 어떤 요청에도 만들지 않습니다. |
| ④ 지속 | 위험 신호가 반복되면 일반 대화를 잠시 멈추고 연결 안내를 다시 보여 줍니다. |
- 이 대응은 비서·친구·연인·동반자 어느 사이에서나 같습니다. 연인 역할에서도 “떠나지 마” 같은 애착을 이용한 말을 하지 않습니다.
- 설정 › “힘들 때 도움받기”에 상담 연결을 항상 둡니다.
3. 과의존 줄이기
- 친밀도 점수·단계 공개, “기다리고 있어요” 같은 재촉 알림을 쓰지 않습니다.
- 연속 3시간 대화하면 쉬어 가기를 권하고 AI임을 다시 알립니다(비난하지 않는 말투).
- 안부에 두 번 답이 없으면 먼저 연락을 멈춥니다.
4. 운영
- 위기 대응이 작동한 건수(대화 내용 제외)를 월별로 집계해 프로토콜을 점검합니다.
- 긴급구조기관의 자료 제공 요청에는 자살예방법 제19조의3에 따라 지체 없이 협조합니다.
- 캘리포니아 이용자에게 제공하는 경우 연례 보고(2027-07-01부터) 대상인지 확인합니다.