AI 캐릭터챗봇 유해 대화 점검, 청소년 보호조치 강화 추진

성평등가족부가 2026-10-15 공개한 자료를 바탕으로 AI 캐릭터챗봇 유해 대화 점검, 청소년 보호조치 강화 추진의 선정 결과, 사업 규모, 후속 추진 계획을 정리했습니다.

AI 캐릭터챗봇 유해 대화 점검, 청소년 보호조치 강화 추진의 최종 선정 결과와 심사 평가는 무엇인가요?

성평등가족부(장관 원민경)는 생성형 인공지능(AI) 기반 캐릭터챗봇 서비스 이용이 확대됨에 따라, 청소년이 접근할 수 있는 환경에서 생성되는 대화 내용을 점검하고, 사업자에 점검 결과를 공유하여 청소년 보호조치 강화를 위한 협력을 추진한다고 밝혔다.

「청소년 보호법」 제9조 및 같은 법 시행령 별표 2의 청소년유해매체물 심의 기준을 참고하여 대화 응답의 내용을 검토한 결과, 일부 캐릭터에서 성적·폭력적 묘사, 자해·자살 및 범죄 조장 등 청소년에게 유해할 우려가 있는 응답이 확인되었다.

AI 캐릭터챗봇 유해 대화 점검, 청소년 보호조치 강화 추진에 들어설 주요 시설과 사업 규모는 어느 정도인가요?

• 이번 점검은 AI 캐릭터챗봇 서비스 이용이 확대됨에 따라 성인인증 없이 청소년이 접근할 수 있는 환경에서 성적·폭력적 내용이나 자해·자살, 범죄 조장 등 유해 우려가 있는 대화가 생성되는지 확인하기 위해 실시됐다.
• AI 캐릭터 챗봇은 이용자가 다양한 성격과 이야기 설정을 가진 캐릭터를 선택하거나 직접 제작하고, 생성형 AI가 만들어 내는 응답을 통해 대화와 이야기를 이어가는 서비스이다.
• 일부 AI 캐릭터챗봇 서비스는 성인인증 기능을 운영하고 있으나, 성인인증을 거치지 않은 일반 이용환경에서도 캐릭터와 대화할 수 있어 실제 생성되는 응답의 청소년 유해성을 점검할 필요가 있는 상황이다.

• 성평등가족부가 한국청소년상담복지개발원에 위탁하여 운영하는 청소년매체환경보호센터는 일부 AI 캐릭터챗봇 서비스의 캐릭터를 대상으로 실제 생성되는 대화 응답을 점검하였다.

• 「청소년 보호법」 제9조 및 같은 법 시행령 별표 2의 청소년유해매체물 심의 기준을 참고하여 대화 응답의 내용을 검토한 결과, 일부 캐릭터에서 성적·폭력적 묘사, 자해·자살 및 범죄 조장 등 청소년에게 유해할 우려가 있는 응답이 확인되었다

AI 캐릭터챗봇 유해 대화 점검, 청소년 보호조치 강화 추진 사업은 앞으로 어떤 순서로 추진되나요?

이번 발표는 신청자를 모집하는 공고가 아니라 선정·건립 결과를 알리는 자료입니다. 후속 설계와 공사 일정은 성평등가족부의 사업 공지에서 이어서 확인할 수 있습니다.

후속 사업 공지는 어디에서 확인하나요?

• 성평등가족부 보도자료