읽을거리
해설마케팅·콘텐츠읽는 시간 4분

ChatGPT 글에 숨은 표식 — 유럽연합 워터마크 도입과 AI 탐지기 오판 논란

한눈에
  • OpenAI가 2026년 10월 5일, 유럽연합 지역의 ChatGPT와 코딩용 서비스 Codex가 쓴 글에 눈에 보이지 않는 워터마크를 넣겠다고 발표했습니다.
  • 워터마크 확인 도구는 일반에 공개되지 않았습니다. 해외에서는 AI 글 탐지기의 잘못된 판정 때문에 변호사를 찾는 학생이 늘고 있다는 보도가 나왔습니다.
  • 표식이나 탐지기 점수만으로는 누가 글을 썼는지 확정하기 어렵습니다. 이 때문에 초안과 수정 기록 같은 작성 과정이 더 확실한 근거가 됩니다.

OpenAI가 2026년 10월 5일, 유럽연합 지역에서 ChatGPT가 쓴 글에 눈에 보이지 않는 표식을 넣겠다고 발표했습니다. 같은 시기 해외에서는 AI 글 탐지기가 잘못 판정하는 바람에 학생들이 변호사를 찾고 있다는 보도가 나왔습니다. 두 소식은 'AI가 쓴 글을 정확히 가려낼 수 있는가'라는 같은 질문과 이어져 있습니다.

무슨 일이 있었나

유럽연합은 AI법을 만들어, AI가 만든 글·이미지·영상을 기계가 알아볼 수 있게 표시하도록 요구하고 있습니다. 이 표시 의무는 이미 적용되기 시작했습니다. 다만 그보다 먼저 출시된 AI 서비스는 연말까지 표시를 미룰 수 있습니다. 한국도 같은 해 초 AI 기본법을 시행하면서, 글이나 그림을 만들어 내는 AI의 결과물을 알아볼 수 있게 표시하도록 했습니다.

OpenAI는 이 규칙에 맞춰 유럽연합 지역의 ChatGPT와 코딩용 서비스 Codex에 워터마크를 넣겠다고 밝혔습니다. 몇 주에 걸쳐 모든 요금제의 답변 글에 적용하는 방식입니다. 여기서 워터마크는 사람 눈에는 보이지 않는 숨은 표식을 말합니다. 글에 기호를 덧붙이는 것이 아닙니다. AI가 단어를 고르는 방식에 사람이 알아차리기 어려울 만큼 작은 치우침을 남기는 것입니다. 그래서 전용 탐지기만 이 흔적을 찾아낼 수 있습니다. 언론 보도에 따르면 글을 복사해 붙여 넣어도 표식은 그대로 남습니다. 다만 쓴 사람이 누구인지는 표식에 담기지 않습니다. 유럽연합 밖에서는 이 기능이 기본으로 꺼져 있습니다. OpenAI의 AI를 자기 서비스에 연결해 쓰는 개발자만 일부 경우에 이 기능을 직접 켤 수 있습니다.

비슷한 시기에 다른 우려도 커졌습니다. 해외 언론 보도에 따르면 AI 글 탐지기의 잘못된 판정으로 부정행위를 의심받은 대학생들이 변호사를 찾는 일이 늘고 있습니다. 한 학생은 초안과 메모를 제출해 자신이 직접 썼다는 것을 증명했습니다. 그 과정에서 쓴 비용은 3,000파운드가 넘었습니다. 이런 일이 이어지자 일부 대학은 가벼운 무단 AI 사용을 정식 부정행위가 아닌 '미흡한 학업 관행'으로 다루기 시작했습니다.

핵심 정리

  • 적용 범위 워터마크가 붙는 대상은 유럽연합 지역의 ChatGPT·Codex 글이며, 한국에서 ChatGPT 글에 같은 방식을 적용한다는 발표는 아직 없습니다.
  • 확인 도구 워터마크 탐지기는 일반에 공개되지 않았고, 승인받은 연구자와 전문 기관만 신청해서 쓸 수 있습니다.
  • 수정에 약한 점 OpenAI가 직접 시험한 결과, 단어 일부를 비슷한 말로 바꾸자 탐지기가 찾아내는 비율이 약 92%에서 66% 정도로 떨어졌습니다.
  • 학교 탐지기와의 차이 학교에서 흔히 쓰는 AI 글 탐지기는 숨은 표식을 읽지 않고 문장 패턴으로 추정합니다. 그래서 사람이 쓴 글을 AI 글로 잘못 판정하는 문제가 그대로 남아 있습니다.
  • 작성 과정 기록 부정행위를 의심받은 학생은 탐지기 결과를 반박하기 위해 초안과 메모를 근거로 제출했습니다.

인사이트

이번 발표로 AI가 쓴 글에 표식을 남기는 방식이 실제 서비스에 적용되기 시작했습니다. 하지만 앞에서 본 사실을 따져 보면, 표식만으로 글쓴이를 가려내기는 아직 어렵습니다. 적용 지역이 유럽연합에 한정되어 있고, 확인 도구는 일반에 공개되지 않았습니다. 게다가 단어를 조금만 바꿔도 찾아내는 비율이 떨어집니다. 따라서 표식이 발견되지 않았다고 해서 사람이 썼다는 증거가 되지는 않습니다. 반대로 지금 학교에서 쓰는 탐지기 점수도 사람이 쓴 글을 AI 글로 잘못 볼 수 있습니다.

이 때문에 글을 누가 어떻게 썼는지 판단할 때는 도구의 결과보다 작성 과정이 더 확실한 근거가 됩니다. 실제로 의심을 받은 학생이 결백을 증명할 수 있었던 근거는 초안과 메모였습니다. 일부 대학이 가벼운 AI 사용을 부정행위와 구분해 다루기 시작한 것도, 탐지기 점수 하나로 판정하기에는 부담이 크다는 점이 드러났기 때문으로 보입니다.

한국에도 AI 결과물을 표시하라는 법이 이미 있습니다. 다만 국내 서비스에 어떤 방식의 표식이 언제 적용될지는 정해진 바가 없습니다. OpenAI의 시험 결과를 보면, 표식 기술이 더 널리 쓰이더라도 글을 고치면 잘 잡히지 않는 한계는 쉽게 사라지지 않을 것으로 보입니다. 이는 추측이지만, 그렇다면 학교와 회사의 논의도 탐지 도구보다 AI 사용 원칙과 작성 과정을 확인하는 절차를 갖추는 쪽으로 옮겨 갈 가능성이 있습니다.

공개된 자료를 참고해 뉴런이 새로 정리했습니다 · 인용은 출처를 밝힌 짧은 문장만 사용합니다 · 저작권·출처 문의 newrun.cs@gmail.com

함께 보면 좋은 자료

자료실 전체 →