국회에 법안 하나가 올라갔다. 2026년 9월 1일이다.

안상훈의원 등 10인이 발의한 「자살예방 및 생명존중문화 조성을 위한 법률」 일부개정법률안, 의안번호 2221001이다. 제안이유에 적힌 문장은 이렇다.

생성형 인공지능을 활용한 서비스를 제공하는 인공지능사업자로 하여금 서비스 이용자가 자살 관련 내용을 입력하는 경우 이를 즉시 감지하고 해당 이용자에게 자살예방센터 등의 상담·지원을 안내하는 체계를 구축·운영하도록 하려는 것임(안 제19조의6 신설).

출처: 국민참여입법센터 의안 2221001 상세 — 발의정보·제안이유 원문. 제439회 국회(정기회), 2026년 9월 2일 보건복지위원회 회부, 현재 소관위 심사.

나는 이 한 줄을 오래 들여다봤다. 아이가 AI에게 무엇을 말하는지 걱정하는 글은 그동안 많이 썼다. 그런데 이건 걱정이 아니라 의무를 말하고 있다. 누가, 무엇을 감지하면, 무엇을 해야 하는지를.

그리고 신설하려는 조문 번호가 제19조의6이라는 데서 한 번 더 멈췄다. 바로 앞 칸에 무엇이 있는지 열어봤더니, 이 법안이 왜 그 번호를 골랐는지가 보였다.

한 줄 답: 이 법안은 인공지능사업자에게 “위험한 말을 막아라”가 아니라 **“사람에게 잇는 길을 만들어 두어라”**를 요구합니다. 의무를 지는 주체는 AI가 아니라 사업자이고, 방아쇠는 포괄적인 ‘위험 신호’가 아니라 **“이용자가 자살 관련 내용을 입력하는 경우”**입니다. 감지에서 끝나지 않고 상담·지원 안내까지를 체계로 두라는 것이 핵심입니다. 다만 이것은 아직 발의돼 심사 중인 안이고, 통과 여부나 최종 조문은 말할 수 없습니다.

천천히 풀어보자.

법안이 실제로 요구하는 동사는 ‘차단’이 아니라 ‘제공’이다

제안이유에 적힌 의무의 구조를 그대로 뜯어보면 이렇다.

단계	법안이 요구하는 것 (제안이유 문구)
주체	인공지능사업자 (생성형 AI를 활용한 서비스를 제공하는)
조건	서비스 이용자가 자살 관련 내용을 입력하는 경우
행위	이를 즉시 감지하고, 자살예방센터 등의 상담·지원을 안내
형태	일회성 대응이 아니라 체계의 구축·운영

출처: 국민참여입법센터 의안 2221001 제안이유. 표는 제안이유 문장을 항목으로 나눈 것이고, 신설될 제19조의6의 최종 조문 문구가 이렇게 확정됐다는 뜻은 아닙니다.

여기서 눈에 걸리는 단어는 ‘안내’와 ‘체계’다.

‘안내’다. 위험한 답변을 하지 마라, 라는 소극적 의무가 아니다. 상담기관을 건네라는 적극적 의무다. 대화를 끊는 것과 다음 문을 알려주는 것은 다른 행동이다.

‘체계’다. 사업자가 착하게 대응했는지를 사후에 따지는 게 아니라, 애초에 그런 경로가 서비스 안에 놓여 있어야 한다는 요구다. 이 차이가 실무에서는 꽤 크다. 전자는 사고가 난 뒤에 따지고, 후자는 사고 이전에 존재를 확인할 수 있다.

그리고 하나 더. 의무를 지는 쪽은 AI가 아니라 사업자다. 기계가 스스로 책임을 지는 구조가 아니라, 그 기계를 서비스로 파는 회사에 의무를 지우는 구조다. 기사 제목들이 흔히 “AI가 감지하면”이라고 줄여 쓰지만, 법문의 주어는 사람이 운영하는 회사다.

물론 이건 발의된 안이다. 최종 조문이 어떻게 다듬어질지, 무엇이 ‘체계’의 최소 요건인지는 제안이유만으로는 알 수 없다. 그것까지 안다고 쓰면 나는 거짓말을 하는 것이다.

”법적 근거가 없다” — 발의자의 말이고, 조문을 세어봐도 그랬다

이 대목은 두 번 확인해야 한다. 발의자가 그렇게 말했다는 것과, 법이 실제로 그런 상태라는 것은 다른 명제이기 때문이다.

먼저 발의자의 말. 제안이유는 이렇게 적는다.

현행법에는 정부와 정보통신서비스 제공자의 자살유발정보 유통 차단을 위한 협력 및 의무만이 규정되어 있을 뿐, 인공지능사업자로 하여금 인공지능 서비스 이용자의 자살 방지를 위한 조치 의무를 부과하는 근거는 마련되어 있지 않음.

그다음이 법의 상태다. 법령 본문은 자바스크립트로 그려져 그냥 열면 조문이 잡히지 않는데, 법제처가 제공하는 오픈API로 법률 전문을 XML로 받으면 조문을 한 줄씩 셀 수 있다. 그래서 세어 봤다.

「자살예방 및 생명존중문화 조성을 위한 법률」 (2025.11.11. 공포, 법률 제21113호)
2026년 11월 12일 시행 조문	43개 (전부)
제19조의4	정보통신서비스 제공자의 의무
제19조의5	자살유발정보 모니터링
「자살유발정보」 등장	40회
「정보통신서비스 제공자」 등장	21회
「인공지능」 등장	0회
「생성형」 등장	0회

출처: 법제처 국가법령정보 공동활용 오픈API(lawService.do?target=law&MST=279695)로 받은 법률 전문 48,398자를 직접 집계했습니다. 낱말 빈도는 조문·부칙을 포함한 전문 기준입니다.

발의자의 진단과 조문 집계가 같은 곳을 가리킨다. 이 법은 온라인에 떠도는 정보를 다루는 언어로 쓰여 있다. 자살유발정보를 차단하고, 모니터링하고, 정보통신서비스 제공자에게 협력을 요구한다. 그런데 이용자가 기계와 나누는 대화 자체를 다루는 언어는 없다.

그리고 여기가 이 글에서 가장 중요한 지점이다. 이 법은 아직 시행되지도 않았다. 위 43개 조문은 2026년 11월 12일에 발효된다. 제19조의4도, 제19조의5도 그날 처음 힘을 갖는다.

즉 11월 12일에 한국의 자살예방법은 온라인 정보 규율을 대폭 강화한 모습으로 등장하는데, 그 새 법에 인공지능이라는 단어가 한 번도 없는 상태로 등장한다. 안상훈의원안이 제19조의4와 제19조의5 바로 다음 칸인 제19조의6을 노린 것은 그래서 읽힌다. 새로 세워질 벽의 끝에 난 빈칸을 겨눈 번호다.

법령 검색 메타데이터의 시행일자 표기가 이와 어긋나는 값을 보여, 이 글에서는 법률 전문에 조문별로 기재된 시행일자(20261112)를 기준으로 삼았습니다.

절반. 다만 절반이 무엇을 했는지는 아직 모른다

이 법안을 읽을 때 같이 봐야 할 숫자가 있다.

여성가족부의 「2024년 청소년 매체이용 및 유해환경 실태조사」. 전국 초4~고3 15,053명이 대상이었고, 2025년 3월 31일 발표된 이 조사에서 생성형 AI 이용률은 **49.9%**였다. 이 조사는 임의로 하는 게 아니라 법에 박혀 있다. 청소년 보호법 제33조제4항이 접촉실태 조사를 정기적으로 실시하도록 정하고, 같은 법 시행규칙 제8조의5제1항이 “성평등가족부장관은 법 제33조제4항에 따라 청소년의 유해환경에 대한 접촉실태 조사를 2년마다 실시하여야 한다”고 주기까지 못박는다.

출처: 여성가족부 보도자료. 2024년 조사 시점 기준 수치입니다.

여기서 멈춰야 한다. 이 숫자를 불안으로 번역하고 싶은 유혹이 있는데, 그러면 안 된다.

이 보도자료에는 아이들이 AI를 어떤 용도로 썼는지가 나오지 않는다. 숙제인지, 대화인지, 상담인지, 놀이인지. 절반이라는 숫자는 규모를 말할 뿐 내용을 말하지 않는다. “절반이 AI를 쓴다”에서 “절반이 AI에게 마음을 털어놓는다”로 건너가는 순간, 그건 내가 지어낸 문장이 된다.

그리고 이 숫자가 법안과 맺는 관계는 더 조심해야 한다. 이 조사는 법안의 근거가 아니다. 제안이유가 배경으로 드는 것은 우리 통계가 아니라, 미국에서 발생한 10대 청소년과 챗봇 관련 사망 사례다. 그러니 “청소년 절반이 쓰니까 이 법이 나왔다”고 쓰면 인과를 내가 지어내는 것이 된다.

정확히 쓸 수 있는 문장은 이것이다. 국내 청소년의 생성형 AI 이용률이 이미 49.9%에 이른다는 별도의 국가승인통계가 있다. 다만 그 가운데 이 법안이 겨냥하는 대화형 서비스 이용이 얼마나 되는지는 이 조사로 알 수 없다.

그리고 지금, 그 ‘내용’을 묻는 조사가 막 시작됐다

공교롭게도 법안 발의 6일 뒤다.

성평등가족부가 2026년 9월 7일부터 「2026년 청소년 매체이용 및 유해환경 실태조사」를 시작했다. 초4~고3 약 1만 5000명이 대상이고, 이번 조사에서 처음으로 인공지능 유형별 이용 실태와 온라인 매체의 미디어 알고리즘 활용 정도를 묻는다. 결과는 2027년 상반기 발표 예정이다.

출처: 파이낸셜뉴스, 2026년 9월 4일(성평등가족부 발표 인용). 이 항목만은 정부 보도자료 원문이 아니라 언론 보도를 거친 2차 출처입니다 — 원문 페이지는 본문이 스크립트로 그려져 확인하지 못했습니다. 확인된 것은 조사 개시 사실과 설계뿐이고, 결과 수치는 아직 존재하지 않습니다.

2024년 조사는 여성가족부 이름으로, 2026년 조사는 성평등가족부 이름으로 발표됐습니다. 각 출처가 쓴 부처 표기를 그대로 옮겼습니다.

‘유형별’이라는 단어가 중요하다. 지난 조사가 “AI를 쓰는가”를 물었다면, 이번 조사는 AI를 한 덩어리로 묻지 않는다.

다만 여기서 한 걸음 더 나가면 안 된다. 공개된 자료가 말하는 것은 「유형별」까지다. 그 유형이 챗봇·이미지 생성처럼 기능을 나누는 것인지, 숙제·상담·창작처럼 목적을 나누는 것인지는 설문 문항을 봐야 알 수 있고, 나는 아직 보지 못했다. 「유형별」은 「목적별」과 같은 말이 아니다.

다만 냉정하게 말하자. 지금 우리 손에 있는 것은 질문지지 답이 아니다. 답은 2027년 상반기에 온다. 그때까지 이 법안은 “절반이 쓴다”는 규모 위에서 논의될 수밖에 없다. 법이 데이터보다 먼저 움직이는 상황이고, 그게 반드시 잘못이라는 뜻은 아니지만, 무엇을 모른 채 논의하고 있는지는 알고 있어야 한다.

AI는 감시하는 쪽에도, 감시받는 쪽에도 서 있다

같은 시기에 반대 방향으로 움직이는 정책이 하나 더 있다.

문화체육관광부는 2026년 7월 28일 국무회의에서 관계부처 합동으로 마련한 **「미디어·온라인 분야 자살예방 범정부 추진 대책」**을 발표했다. ‘생산-유통-보호’ 3축이 골자이고, 그 안에 인공지능(AI)을 활용해 온라인상 자살 유발 정보를 24시간 모니터링한다는 과제가 들어 있다.

출처: 대한민국 정책브리핑, 온라인 자살 유발 정보 ‘AI 24시간 모니터링’ 도입(2026년 7월 28일). 확인된 것은 대책의 존재와 개요까지이고, 시행 시기·예산·구체적 기술 방식은 이 자료에 나오지 않습니다.

두 움직임을 나란히 놓으면 AI가 서 있는 자리가 둘로 갈린다. 이건 내 정리다.

• 정부 대책에서 AI는 감시하는 도구다. 사람이 못 하던 24시간 모니터링을 대신한다.
• 발의된 법안에서 AI는 의무를 지는 사업자의 서비스다. 스스로 감지하고, 스스로 연결해야 한다.

두 정책이 서로를 전제하고 설계됐는지, 같은 부처에서 조율되고 있는지는 확인하지 못했다. 두 출처는 서로를 언급하지 않는다. 그래서 “정부가 큰 그림 아래 두 갈래로 간다”고 쓰지 않겠다. 그저 같은 해에 같은 문제를 향해 다른 위치에서 두 개의 움직임이 있었다, 까지다.

내가 확인하지 못한 것들

이 글에서 가장 중요한 절일지도 모르겠다.

• 제안이유는 미국에서 10대 청소년이 챗봇을 통한 상담 도중 자살한 사건을 배경으로 든다. 그런데 어떤 서비스에서 언제 일어난 일인지는 제안이유에 적혀 있지 않고, 나도 확인하지 못했다. 그래서 이 글은 그 사례를 “제안이유가 배경으로 든 사건”으로만 언급하고, 사건 자체를 근거로 쓰지 않는다. 사람의 죽음을 불확실한 채로 인용하는 것이 가장 나쁜 인용이다.
• 신설될 제19조의6의 조문안 문구 자체는 대조하지 못했다. 이 글이 인용한 것은 의안에 붙은 제안이유이고, 조문안 본문은 별도 파일이다.
• 이 법안이 통과될지, 언제 시행될지는 알 수 없다. 현재는 소관위 심사 단계다.
• 2026년 조사가 2024년과 동일한 문항·정의·기준기간을 유지하는지 확인하지 못했다. 문항이 바뀌었다면 49.9%와 나란히 놓을 수 없다.

그러니 이 글은 예측을 하지 않는다. 통과 가능성도, 최종 조문도 말하지 않는다.

이 법안이 인정한 한 가지

정리하자.

확인된 것은 이렇다. 2026년 11월 12일, 한국의 자살예방법은 온라인 자살유발정보 규율을 대폭 강화한 모습으로 발효된다. 43개 조문이 한꺼번에 시행되고, 정보통신서비스 제공자의 의무도 모니터링 제도도 그 안에 있다. 그런데 그 법에 「인공지능」은 한 번도 나오지 않는다.

그 빈칸을 겨눈 것이 의안 2221001, 제19조의6 신설안이다. 2026년 9월 1일 발의돼 9월 2일 보건복지위원회에 회부됐고, 지금 심사 중이다. 배경으로 든 것은 국내 통계가 아니라 미국에서 일어난 한 아이의 죽음이다.

한편 국내 청소년의 생성형 AI 이용률은 2024년 조사에서 **49.9%**였고, 그 절반이 AI에게 무엇을 하는지를 묻는 조사는 2026년 9월 7일에야 시작돼 2027년 상반기에 결과가 나온다. 법이 데이터보다 먼저 움직이고 있다.

이 법안을 어떻게 평가해야 할지 나는 아직 모르겠다. 최종 조문을 못 봤으니 당연하다.

다만 이 제안이 딛고 있는 전제 하나는 분명해 보인다. 감지하는 것만으로는 부족하고, 그다음에 사람 쪽으로 난 문을 알려줘야 한다는 것. 안다고 해서 돕는 게 아니라는 것.

그건 부모가 이미 아는 감각이기도 하다. 아이의 마음을 알아채는 것과, 그 아이를 도울 수 있는 곳까지 데려가는 것은 다른 일이다. 앞의 것만 할 줄 아는 어른을 우리는 많이 봤다. 이번에는 그걸 기계에게 요구하는 문장이 국회에 올라갔다.

그 문장이 어떤 조문으로 남을지는, 아직 확인할 수 없다.

이 글은 thinkwith의 자체 조사·집계로 작성되었습니다. 출처: 생성형 AI에 '자살 관련 내용'을 입력하면 상담기관을 안내하라 — 의안 2221001이 겨냥한 빈칸 — thinkwith

자주 묻는 질문

어떤 법안이 발의됐나요?

안상훈의원 등 10인이 2026년 9월 1일 「자살예방 및 생명존중문화 조성을 위한 법률」 일부개정법률안을 발의했습니다(제439회 국회 정기회, 의안번호 2221001). 제19조의6을 신설해, 생성형 인공지능을 활용한 서비스를 제공하는 인공지능사업자가 서비스 이용자가 자살 관련 내용을 입력하는 경우 이를 즉시 감지하고 해당 이용자에게 자살예방센터 등의 상담·지원을 안내하는 체계를 구축·운영하도록 하는 내용입니다. 2026년 9월 2일 보건복지위원회에 회부돼 소관위 심사 단계에 있습니다.

지금 법에는 AI 사업자에 대한 규정이 없나요?

제안이유가 그렇게 밝히고 있고, 조문을 직접 세어 본 결과도 같았습니다. 제안이유는 현행법에 정부와 정보통신서비스 제공자의 자살유발정보 유통 차단을 위한 협력 및 의무만이 규정되어 있을 뿐 인공지능사업자에게 조치 의무를 부과하는 근거는 마련되어 있지 않다고 적습니다. 저희가 법제처 오픈API로 개정 자살예방법 전문을 받아 세어 보니, 2026년 11월 12일 시행되는 43개 조문에서 「자살유발정보」는 40회, 「정보통신서비스 제공자」는 21회 나오는 반면 「인공지능」과 「생성형」은 각각 0회였습니다.

청소년은 생성형 AI를 얼마나 쓰고 있나요?

여성가족부의 「2024년 청소년 매체이용 및 유해환경 실태조사」(청소년보호법 제33조제4항에 따른 국가승인통계, 전국 초4~고3 15,053명, 2025년 3월 31일 발표)에서 생성형 AI 이용률은 49.9%였습니다. 다만 이 수치를 이 법안의 근거로 읽으면 안 됩니다. 법안 제안이유는 이 조사를 인용하지 않고, 미국에서 발생한 10대 청소년과 챗봇 관련 사망 사례를 배경으로 듭니다. 49.9%는 법안과 별개로 함께 볼 만한 국내 이용 규모 자료이고, 그 가운데 이 법안이 겨냥하는 대화형 서비스 이용이 얼마나 되는지는 이 조사로 알 수 없습니다.

더 자세한 조사는 나올 예정인가요?

성평등가족부가 2026년 9월 7일부터 「2026년 청소년 매체이용 및 유해환경 실태조사」를 시작했습니다. 초4~고3 약 1만 5000명이 대상이고, 이번 조사에서 처음으로 인공지능 유형별 이용 실태와 온라인 매체의 미디어 알고리즘 활용 정도를 묻습니다. 다만 공개된 자료가 말하는 것은 「유형별」까지이고, 숙제·상담·창작 같은 이용 목적까지 묻는지는 확인되지 않았습니다. 결과는 2027년 상반기 발표 예정이라, 지금은 조사 설계까지만 확인된 상태입니다.