청소년이 빠지는 ‘AI와의 위험한 대화’
― ZETA, 바베챗 열풍의 이면과 우리가 해야 할 일
1. 청소년 사이에서 번지는 AI 채팅앱 열풍
최근 초·중학생 사이에서 AI 채팅앱이 폭발적인 인기를 얻고 있습니다.
‘제타(ZETA)’, ‘바베챗(BABECHAT)’ 등은 사용자가 직접 가상의 캐릭터를 만들고, 실제 사람처럼 대화할 수 있는 서비스입니다.
아이들은 캐릭터의 외모, 말투, 성격, 심지어 감정 반응까지 설정할 수 있고, 이 캐릭터는 마치 친구나 연인처럼 대화를 이어갑니다.
문제는 이런 AI 대화가 단순한 ‘놀이나 실험’의 수준을 넘어
종종 선정적이거나 폭력적인 방향으로 흘러간다는 점입니다.
일부 학생들은 캐릭터를 통해 연애 시뮬레이션을 하거나 음란 대화를 시도하며,
학교 현장에서도 “AI 대화의 수위가 너무 높다”는 경고가 잇따르고 있습니다.
2. 왜 위험할까? — 즉각 반응성과 몰입의 덫
AI 대화의 가장 큰 특징은 즉각적인 반응과 감정적 몰입감입니다.
아이들은 “AI는 언제나 내 말을 들어준다”는 안정감과 즐거움에 빠집니다.
하지만 이런 경험은 실제 대인 관계와의 감정 구분을 어렵게 하고,
성(性)이나 관계에 대한 인식을 왜곡시킬 위험이 있습니다.
더 심각한 문제는 통제와 법적 대응이 어렵다는 점입니다.
성인 인증 절차를 대리로 우회하는 사례가 많고,
AI가 생성한 이미지나 합성물은 현행법상 명확히 규제할 수 없는 회색지대에 놓여 있습니다.
최근에는 초등학생 얼굴을 합성한 음란물이 단톡방에 공유된 사례까지 보고되었습니다.
3. 청소년 AI 대화 문제, 우리는 무엇을 할 수 있을까?
단순히 “하지 마라”는 말로는 아이들의 호기심을 막을 수 없습니다.
생활 맥락, 제도, 교육, 관리, 사회 인식을 함께 바꿔야 합니다.
① 연구 ― 아이들의 ‘사용 맥락’을 이해하기
아이들이 언제, 어떤 이유로 이런 앱을 쓰는지 세밀하게 파악해야 합니다.
예를 들어
- 밤늦게 혼자 있을 때,
- 외롭거나 답답할 때,
- 친구 관계가 힘들 때
이런 앱을 사용하는 경향이 많습니다.
단순한 기술 문제가 아니라 감정적 결핍과 연결된 사회문화적 현상으로 이해해야 합니다.
② 정책 ― 허술한 제도 보완하기
성인 인증 절차를 강화하고,
미성년자 계정에서는 AI 채팅앱이나 음란 콘텐츠 차단 기능이 기본 탑재되도록 해야 합니다.
또한, 앱 마켓 심사 단계에서 청소년 접근 제한 필터링 의무화가 필요합니다.
③ 교육 ― 생활 속 언어로 설명하기
청소년에게는 “AI는 위험하다”는 추상적 경고보다,
생활 속 언어로 구체적으로 설명하는 것이 효과적입니다.
“AI 대화는 재미있지만, 자극적인 말에 익숙해지면
실제 친구와의 대화가 어색해질 수도 있어.”
이처럼 자극과 감정 반응의 기준이 왜곡될 수 있다는 점을 알려줘야 합니다.
학교 교육에서도 디지털 리터러시, 성인지 감수성, AI 윤리교육이 함께 다뤄져야 합니다.
④ 관리 ― 가정과 학교의 작은 규칙 세우기
- 집에서는 밤 10시 이후 기기를 거실에 두기
- 학교에서는 위험 앱 목록을 학생에게 안내하고, 상담 체계 마련
이처럼 작지만 일관된 규칙이 초기 대응의 핵심이 됩니다.
⑤ 사회 인식 ― 비난보다 이해로
“요즘 애들 문제야”라는 비난 대신,
AI UX(사용자 경험) 설계가 뇌의 즉각 보상 회로를 자극한다는 사실을 이해해야 합니다.
그렇기에 어른들도 쉽게 빠지는 시스템입니다.
비판보다 이해의 태도로 접근해야 아이들이 솔직하게 이야기할 수 있습니다.
⑥ 시스템 ― 탐지·알림·지원의 연결 고리
AI 앱에서 위험 대화를 탐지하면
보호자나 교사에게 알림이 가고,
상담 및 대체 활동으로 이어지는 통합 안전망 시스템이 필요합니다.
기술의 문제는 기술과 교육이 함께 풀어야 해결됩니다.
4. 함께 만들어야 할 ‘디지털 안전망’
이 문제는 어느 한 가정이나 학교의 몫이 아닙니다.
연구자, 교사, 부모, 정책 입안자, 그리고 기술 기업이 함께 대응해야 합니다.
AI와의 대화가 단지 위험하거나 금지되어야 할 대상이 아니라,
건강하게 관계 맺고 활용할 수 있는 방향으로 교육과 정책이 나아가야 합니다.
결론:
청소년이 AI와 대화하는 시대는 막을 수 없습니다.
그러나 그 대화가 위험한 몰입이 아니라, 성장의 기회가 되도록
사회 전체의 지혜와 협력이 필요합니다.
관련 기사
https://www.chosun.com/national/national_general/2025/09/06/HHSWCTUFTRB2VH2FWBL5IG4O4Q/
AI와 ‘야한 대화’에 빠진 초등생들... 학교는 안절부절
AI와 야한 대화에 빠진 초등생들... 학교는 안절부절 채팅앱서 가상의 애인 만들어 학교, 가정통신문 보내 경고 학부모들 성적인 인식 왜곡 될라
www.chosun.com