청소년 AI 챗봇 안전 기준: 친구·상담사처럼 믿기 전에 확인할 것

2026. 8. 8 (토) · 약 13분

숙제를 묻던 AI 챗봇에 어느 날 친구 관계나 불안한 마음까지 털어놓기 시작했다면, 사용 시간을 줄이는 것만으로는 충분하지 않다. 말투는 다정해도 챗봇은 관계를 맺거나 진단을 내리는 사람이 아니고, 답변에는 틀린 정보와 과도한 동조가 섞일 수 있다. OpenAI가 8월 6일 미국심리학회(APA)와 청소년 정신건강·AI 협력을 발표한 이유도 차단과 허용 사이에 아직 채워야 할 근거와 사용 기준이 많기 때문이다. 두 기관의 발표, APA의 청소년 AI 권고, UNICEF의 아동 중심 AI 지침, 실제 부모 통제 기능을 함께 놓고 가정과 서비스가 어디에 경계를 세워야 하는지 확인했다.

오늘의 핵심뉴스

심층 분석 · OpenAI · 2026. 8. 6

OpenAI와 미국심리학회, 청소년 정신건강과 책임 있는 AI 사용 기준 공동 개발

OpenAI와 미국심리학회는 청소년이 AI를 사용하는 방식과 위기 순간의 지원, 부모·보호자·임상가용 자료, 발달 단계에 맞는 안전장치를 함께 연구하기로 했다. 협력 발표만으로 제품의 안전이 보장되는 것은 아니므로 APA와 UNICEF의 독립 권고, 실제 부모 통제 기능의 범위와 한계를 함께 확인했다.

이번 협력은 챗봇을 상담사로 인정한 발표가 아니다

OpenAI와 APA가 8월 6일 밝힌 협력 범위는 크게 세 갈래다. 청소년이 어려움을 겪는 순간 AI가 정보를 찾고 현실의 지원으로 연결하는 방식, 부모·보호자와 임상가가 과의존과 부적절한 사용을 알아차릴 수 있는 자료, 청소년·가족·교사·상담가의 실제 경험을 반영하는 절차다. ‘AI가 상담을 더 잘한다’는 성능 발표가 아니라, 제품을 만드는 쪽에 발달심리와 임상 지식을 넣고 사람이 개입할 경계를 구체화하겠다는 약속에 가깝다.

발표문도 AI가 현실의 관계와 돌봄을 강화해야지 대체해서는 안 된다고 선을 긋는다. 이 문장은 중요하다. 챗봇은 늦은 밤에도 즉시 답하고 비판하지 않는 말투를 유지할 수 있지만, 표정과 생활 변화를 직접 보지 못하고 진단 책임도 지지 않는다. 아직 개발할 자료와 안전장치를 협력 목표로 적었다는 사실은 현재 기능을 완성된 보호 체계로 오해하지 말아야 한다는 뜻이기도 하다.

AI는 정보 탐색과 생각 정리를 도울 수 있지만 관계·돌봄·진단·위기 대응을 대신하지 않는다. 다정한 문장과 책임을 지는 사람의 지원은 역할이 다르다.

APA의 독립 권고는 이 경계를 더 분명히 한다. 청소년은 챗봇의 모의 공감과 사람의 이해를 구분하기 어렵거나, 친구·멘토처럼 말하는 시스템을 더 신뢰할 수 있다. 연구가 아직 발전 중이므로 AI가 청소년에게 모두 해롭다거나 반대로 충분히 안전하다고 단정하지 않는다. 대신 관계를 흉내 내는 설계, 개인정보, 유해 콘텐츠, 과도한 사용, 현실 관계를 밀어내는 변화를 따로 관찰하라고 권한다.

사용 시간보다 먼저 ‘무엇을 맡겼는지’를 본다

한 시간 사용했다는 숫자만으로 건강한 사용과 위험한 사용을 가르기는 어렵다. 같은 30분이라도 영어 문장을 고치거나 어려운 개념을 질문한 경우와, 친구와의 갈등·자존감·건강 문제를 AI의 판단 하나로 결정한 경우는 다르다. 먼저 목적을 학습·아이디어·정보 탐색처럼 결과를 다시 확인할 수 있는 일과, 관계·건강·안전처럼 사람의 책임이 필요한 일로 나누는 편이 낫다.

청소년 AI 사용 목적에 따라 달라지는 확인 기준

사용 장면	AI가 도울 수 있는 범위	사람이 이어받을 순간
학습·과제	개념 설명, 예시, 초안 피드백	출처가 없거나 답이 수업 기준과 충돌할 때
친구·가족 고민	생각과 선택지를 글로 정리	관계를 끊거나 숨기라는 조언, AI만 찾게 될 때
건강·정서	일반 정보와 도움 기관 탐색	진단·치료 판단, 심각한 불안이나 위해 신호가 있을 때
개인정보	공개된 정보로 일반 질문	실명, 학교, 연락처, 진료·상담 내용 입력을 요구할 때

기준을 말로만 ‘조심해서 써’라고 두면 상황마다 해석이 달라진다. 숙제 답을 그대로 제출하지 않기, 건강·관계 결정을 AI 하나로 내리지 않기, 실명·학교·연락처·상담 기록을 입력하지 않기처럼 행동으로 확인할 수 있는 문장으로 바꾸는 편이 좋다. 청소년을 통제 대상으로만 놓지 않고 왜 그 경계가 필요한지 함께 정해야 숨겨서 쓰는 상황도 줄일 수 있다.

UNICEF의 아동 중심 AI 지침도 안전과 개인정보만 떼어 보지 않는다. 설명 가능성, 차별 방지, 발달과 웰빙, 참여와 통제권을 함께 요구한다. 서비스가 연령을 묻고 민감한 답변을 제한하더라도, 왜 제한됐는지 알 수 없거나 자신의 데이터를 지우고 기능을 끌 방법이 없다면 아동 중심 설계라고 보기 어렵다.

728x90

 

네 가지 경계가 있어야 설정도 제 역할을 한다

가정과 학교에서 합의할 경계는 복잡할 필요가 없다. 첫째는 목적이다. AI가 대신 결정하지 않고 초안·설명·선택지 정리까지만 맡긴다. 둘째는 정보다. 실명과 연락처뿐 아니라 학교·동아리·생활 동선처럼 조합하면 사람을 특정할 수 있는 정보도 줄인다. 셋째는 시간이다. 밤늦게 대화가 길어져 수면을 밀어내지 않도록 조용한 시간을 둔다. 넷째는 전환 조건이다. 일상에 변화가 생기거나 심각한 고민이 나오면 화면 안 답변을 더 찾기보다 화면 밖 사람에게 바로 말한다.

평소 사용은 일상이 유지되는지 함께 보고, 수면·학교·친구 관계가 밀리면 목적과 시간을 조정한다. 심각한 위해나 위기 신호는 AI 답변을 기다리지 않고 보호자·교사·전문가·긴급 지원으로 전환한다.

여기서 전환 조건은 진단표가 아니다. 부모가 대화 몇 줄을 보고 병명을 붙이는 대신, 평소와 다른 생활 변화를 대화의 시작점으로 삼는 기준이다. AI 사용 때문에 잠을 계속 줄이거나 학교생활과 취미를 피하고, 사람에게 말하기보다 챗봇만 찾는 흐름이 이어진다면 ‘앱을 뺏을까’보다 ‘이 도구에서 무엇을 얻고 있었는가’를 먼저 묻는 편이 낫다. 당장 자신이나 다른 사람의 안전이 걱정되는 상황에서는 일반적인 온라인 조언보다 지역의 긴급 서비스와 전문 지원을 우선해야 한다.

• AI를 쓰는 목적을 학습·정보·아이디어·고민 정리 중 하나로 먼저 말한다.
• 실명, 학교, 연락처, 위치, 진료·상담 기록은 입력하지 않기로 합의한다.
• 답변의 출처가 없거나 중요한 판단이면 부모·교사·전문가와 다시 확인한다.
• 수면·학교·친구 관계가 밀리기 시작하면 사용 시간보다 목적과 의존부터 조정한다.
• 심각한 위해나 위기 신호는 챗봇 답변을 기다리지 않고 즉시 사람과 지역 지원에 연결한다.

부모 통제는 대화 감시 기능이 아니다

ChatGPT의 부모 통제는 부모와 청소년 계정을 연결한 뒤 민감한 콘텐츠 감소, 모델 개선에 대화 사용 여부, 메모리, 음성·이미지 생성, Study Mode, ChatGPT Work의 네트워크·브라우저 기능과 조용한 시간을 일부 조정한다. 설정 변경이 기존 대화에 바로 적용되지 않을 수 있다는 안내도 있다. 기능을 켰다는 사실만 믿지 말고 새 대화에서 실제로 달라졌는지 확인해야 한다.

부모 통제는 자녀의 대화를 실시간으로 읽는 기능이 아니다. 일부 기능과 조용한 시간을 관리하고 제한적인 상황에서 안전 알림을 받을 수 있지만, 알림은 전문 돌봄이나 긴급 서비스의 대체물이 아니다. 화면 출처: OpenAI Help Center.

계정을 연결해도 부모가 청소년의 대화 내용을 열람하거나 실시간으로 감시할 수는 없다. 심각한 자해 우려나 폭력 관련 계정 조치처럼 제한적인 상황에서 시스템과 훈련된 검토자가 확인한 뒤 필요한 범위의 안전 알림을 보낼 수 있다고 설명한다. OpenAI도 이 알림이 완벽하지 않고 전문 돌봄과 긴급 서비스의 대체물이 아니라고 명시한다. 즉 부모 통제는 관계를 대신하는 감시 도구가 아니라, 가족이 합의한 기능과 시간 경계를 제품 안에 일부 반영하는 장치다.

연령 추정이 틀릴 수 있다는 전제까지 읽어야 한다

OpenAI는 계정 생성 시 적은 나이뿐 아니라 계정 사용 기간, 주로 활동하는 시간대와 사용 패턴 같은 신호로 18세 미만 가능성을 추정한다고 설명한다. 확신이 없으면 더 안전한 경험을 적용하고, 성인이 잘못 분류되면 신원 확인으로 복구하는 경로를 둔다. 이는 연령 확인의 현실적인 보조 수단이지만 오분류 가능성과 추가적인 개인정보 처리를 함께 만든다. 보호 기능이 있다고 해서 연령을 완벽히 안다고 가정해서는 안 된다.

제품 기능과 가정의 역할을 섞지 않기 위한 구분

장치	할 수 있는 일	해결하지 못하는 일
연령 추정	청소년 가능성이 높은 계정에 추가 보호 적용	나이와 상황을 항상 정확히 판별
부모 통제	일부 기능·시간·데이터 설정 관리	모든 대화 감시와 과의존 원인 해결
안전 알림	제한적인 심각 신호를 보호자에게 전달	전문가의 평가·치료·긴급 대응 대체
가족 대화	목적·개인정보·사람 전환 조건 합의	제품의 오류와 유해 답변을 완전히 차단

기능 이름은 안전해 보여도 작동 범위가 서로 다르다. 민감한 콘텐츠 감소를 껐다고 성인 계정과 같아지는 것은 아니고, 조용한 시간은 한 번에 한 구간만 설정할 수 있다. 검색, 플러그인, 커넥터, 클라우드 브라우저와 코드의 네트워크 접근도 각각 다른 통제다. 자녀가 실제로 어떤 기능을 쓰는지 모르고 시간 제한 하나만 걸면 필요한 경계가 비어 있을 수 있다.

서비스를 만드는 쪽은 사람에게 넘기는 길을 설계해야 한다

청소년 대상 AI를 만드는 팀이라면 유해 문장을 막는 필터만으로 끝낼 수 없다. 연령에 맞는 기본값, 데이터 최소 수집과 삭제 방법, AI임을 분명히 알리는 표현, 사용을 멈추고 사람에게 연결되는 경로, 실패를 신고하고 검토하는 절차가 함께 있어야 한다. 정서적 지지를 제공하는 기능이라면 사용 시간을 늘리는 지표와 안전 지표가 충돌할 수 있다는 점도 제품 목표에 반영해야 한다.

이번 발표의 가치는 ‘전문가와 협력한다’는 문구 자체보다 앞으로 공개될 자료와 제품 변화가 어떤 기준을 충족하는지 확인할 출발점이 생겼다는 데 있다. 가족용 자료가 실제 행동으로 이어지는지, 임상가용 지침이 제품의 위기 연결과 맞물리는지, 청소년의 목소리가 정책에 어떻게 반영됐는지는 후속 공개에서 다시 봐야 한다. 협력 발표를 안전 인증서처럼 소비하지 않고 약속과 구현을 나눠 보는 태도가 필요하다.

OpenAI·APA 협력 발표에서 예정된 작업 범위를 확인하고, APA의 청소년 AI 권고와 UNICEF 아동 중심 AI 지침으로 독립적인 경계를 대조했다. ChatGPT 연령 추정과 부모 통제 도움말은 현재 제품에서 실제로 조정할 수 있는 항목과 대화 비공개·안전 알림의 한계를 확인하는 데 사용했다.

참고한 자료

• Working with the American Psychological Association on youth mental health and AI공식
• Artificial intelligence and adolescent well-being: An APA health advisory독립 자료
• Guidance on AI and children, version 3.0독립 자료
• Our approach to age prediction공식 문서
• Parental controls in ChatGPT공식 문서

함께 읽기

이어서 보면 좋은 글

• Word Copilot의 숨은 명령 위험을 막는 4가지 문서 검토 기준AI가 그럴듯하게 답해도 입력 문서와 숨은 지시를 사람이 다시 확인해야 하는 이유가 청소년의 답변 검증과 이어진다.
• 250억 원 청구서부터 AI 보안 경고까지, 자동화 결과를 다시 보는 법AI가 만든 결과를 그대로 실행하지 않고 출처·수치·권한과 사람 승인으로 되짚는 기준을 일상적인 AI 사용에도 적용할 수 있다.

청소년의 AI 사용을 안전하게 만드는 핵심은 대화를 몰래 들여다보는 감시가 아니다. 챗봇이 맡아도 되는 일과 사람이 이어받아야 하는 순간을 먼저 합의하고, 민감한 정보는 입력하지 않으며, 수면·학교·친구 관계가 밀릴 때 사용 방식부터 다시 보는 것이다. 제품의 연령 추정과 부모 통제는 이 합의를 돕는 보조 장치일 뿐 완벽한 판별기나 전문 돌봄의 대체물이 아니다. AI가 늘 곁에 있는 시대일수록 답변의 편리함보다 사람에게 돌아오는 길이 짧아야 한다. 가정이나 학교에서 사용하는 AI 한 가지를 골라 사용 목적, 입력하지 않을 정보, 사람에게 바로 말할 상황을 짧게 합의해 두자.