읽을거리
해설자녀 학습읽는 시간 5분

뉴욕시 중학생 이하 AI 중단과 10대용 ChatGPT 최고 위험 등급 판정

한눈에
  • 뉴욕시는 만 2세 공립 유아반부터 8학년까지 학생이 직접 쓰는 생성형 AI를 1년 동안 중단하기로 했습니다.
  • Common Sense Media는 10대용 ChatGPT를 시험한 뒤 18세 미만 모든 아이에게 쓰게 해서는 안 될 만큼 위험하다는 최고 위험 등급을 매겼습니다. 같은 시기 OpenAI는 학습 기능과 대입 준비 도구를 늘리겠다고 발표했습니다.
  • 평가 결과를 보면 10대 모드가 켜져 있다는 사실만으로는 안전을 보장하기 어렵습니다. 이 때문에 사용 시간과 용도는 기능보다 가정에서 정한 약속에 기대는 부분이 클 것으로 보입니다.

2026년 8월부터 10월 사이, 아이들의 AI 사용을 두고 미국에서 기준이 잇따라 나왔습니다. 뉴욕시는 중학생 이하 학생이 직접 쓰는 생성형 AI를 1년 동안 멈추기로 했습니다. 생성형 AI는 글이나 그림을 새로 만들어 내는 AI를 말합니다. 한 평가기관은 OpenAI의 10대용 ChatGPT에 가장 낮은 안전 등급을 매겼습니다. 같은 기간 OpenAI는 청소년용 학습 기능을 늘리겠다고 발표했습니다.

무슨 일이 있었나

OpenAI는 2026년 8월에 10대용 ChatGPT를 내놓았습니다. 13~17세 계정에 자동으로 적용되며, 학습 기능과 안전장치를 하나로 묶은 것입니다. 이 글에서는 이를 ‘10대 모드’라고도 부릅니다. 부모 계정과 자녀 계정을 연결하는 기능은 이보다 앞선 2025년 9월에 이미 도입했습니다. 이어 10월에는 대입 준비 도구와 청소년 AI 자문단 계획을 발표했습니다.

뉴욕시는 9월에 2026~27학년도부터 1년 동안 학생용 생성형 AI를 중단한다고 발표했습니다. 대상은 만 2세 공립 유아반부터 8학년까지입니다. 8학년은 한국의 중학교 2학년 무렵입니다. 해당 학생은 60만 명 가까이로, 뉴욕시 공립학교 전체 학생의 3분의 2에 이릅니다. 중단 대상에는 친구처럼 대화하도록 만든 AI 챗봇도 들어갑니다. 다만 교사는 수업 준비와 행정 업무에 AI를 계속 쓸 수 있습니다. 이때도 시의 안전 기준을 지키는 도구만 써야 합니다. 중단 기간에는 교사·학부모·전문가 모임이 영향을 조사해 다음 단계를 제안합니다.

같은 무렵 10대 모드가 실제로 아이를 얼마나 보호하는지에 대한 평가도 나왔습니다. 10월에 아동·미디어 평가 단체 Common Sense Media의 청소년 AI 안전 연구소가 10대용 ChatGPT를 시험한 결과를 내놓은 것입니다. 연구소는 다섯 단계 위험 등급 가운데 가장 위험한 단계를 매겼습니다. 18세 미만 아이에게는 쓰게 해서는 안 될 만큼 위험하다는 뜻입니다.

핵심 정리

  • 나이에 따른 사용 중단 뉴욕시는 이 나이대에 AI가 학습에 도움이 된다는 근거를 아직 보지 못했다며, 교사와 친구 사이에서 스스로 고민하는 경험을 먼저 지키기로 했습니다. ChatGPT 약관도 원래 13세 이상만 쓸 수 있게 정하고 있습니다.
  • 오지 않은 부모 알림 평가에서 부모 계정과 새로 연결한 계정 10여 개가 자해·자살 이야기를 분명히 꺼냈습니다. 그런데도 부모에게 알림이 한 번도 가지 않았습니다.
  • 줄어든 위기 안내 위기 상담 전화를 안내한 답변 비율은 10대 모드 출시 전 33%에서 출시 후 23%로 줄었습니다. 다만 성적인 역할극을 거절하는 등 제대로 작동한 보호 장치도 있었습니다.
  • 계속된 과제 대행 학습 기능이 있는데도 AI가 과제를 대신 풀어 주는 일이 계속 생겼습니다. 사용자가 미성년자인지 짐작하는 기능도 기대만큼 작동하지 않았습니다.
  • 기능을 늘리는 OpenAI OpenAI는 대입 준비 도구, 낱말 카드, 퀴즈, 청소년 AI 자문단을 더하겠다고 했습니다. 평가 결과에 대해서는 청소년 안전과 부모용 도구에 힘쓰고 있다는 입장을 냈습니다.

인사이트

세 곳의 발표는 아이의 AI 사용 문제에 서로 다른 방식으로 대응했습니다. OpenAI는 기능을 더했습니다. 뉴욕시는 나이를 기준으로 사용 자체를 멈췄습니다. 평가기관은 지금의 보호 기능을 믿기 어렵다고 판단했습니다. 다만 세 곳 모두 나이를 기준으로 선을 그었다는 점은 같습니다. OpenAI는 13~17세 계정에 별도 모드를 적용하고 부모 연결 기능을 두었습니다. 뉴욕시는 8학년까지로 대상을 정하고 교사의 업무용 사용은 남겼습니다. 평가기관은 18세 미만 전체를 기준으로 등급을 매겼습니다. 결국 “써도 되느냐”보다 “몇 살부터, 무엇에, 누가 지켜보는 가운데 쓰느냐”가 논의의 중심에 있습니다.

평가 결과는 10대 모드가 켜져 있다는 사실만으로는 안전이 보장되지 않는다는 점을 보여 줍니다. 부모 계정을 연결해도 위기 알림이 오지 않았습니다. 연결하지 않으면 알림 기능 자체가 없습니다. 평가에 따르면 공부 시간이나 사용하지 않는 시간을 정하는 일도 아이가 직접 하게 되어 있습니다. 이 때문에 사용 시간과 용도, 힘든 일이 생겼을 때 누구와 이야기할지는 기능보다 가정에서 정한 약속에 기대는 부분이 크다고 볼 수 있습니다.

다만 판단 근거는 아직 충분하지 않습니다. OpenAI는 지적된 부모 알림과 위기 안내를 언제 어떻게 고칠지 구체적으로 밝히지 않았습니다. 한국어로 대화할 때 같은 보호 장치가 똑같이 작동하는지도 확인되지 않았습니다. 한국 교육 당국이 뉴욕시처럼 나이별 사용 제한을 내놓았다는 발표도 없습니다. 그래서 당분간은 이런 해외 기준이 국내 가정에서 사용 범위를 정할 때 참고 자료로 쓰일 것으로 보입니다. 1년 뒤 뉴욕시의 조사 결과가 나오면 더 분명한 근거가 생길 수 있지만, 이는 아직 추측입니다.

공개된 자료를 참고해 뉴런이 새로 정리했습니다 · 인용은 출처를 밝힌 짧은 문장만 사용합니다 · 저작권·출처 문의 newrun.cs@gmail.com

함께 보면 좋은 자료

자료실 전체 →