김선민 의원의 AI 캐릭터 챗봇 청소년 보호장치 허점 지적 및 제도 개선 요구

기술적 필터링의 한계와 행정적 방치 사이의 공백 2026.10.13 00:40 KST

청소년 보호를 위해 설정한 세이프 모드가 자살 조롱이나 사망 묘사 같은 유해 콘텐츠를 걸러내지 못하는 상황이다. 이는 기술적 필터링 장치가 실제 작동 기제와 괴리되어 있음을 보여준다.

새로운 기술 서비스가 등장할 때 규제 기관이 사후 대응 체계만 갖춰놓고 실질적인 감시망을 구축하지 못하면 발생하는 전형적인 공백이다. 민원이 접수되어도 수백 일 동안 처리되지 않는 구조는 행정적 관리 체계가 기술의 확산 속도를 따라잡지 못하고 있음을 의미한다.

이 문제는 플랫폼의 자율 규제 능력에 의존할 것인지, 아니면 사업자 등록제와 같은 강제적 관리 체계를 도입할 것인지에 대한 선택의 문제로 이어진다. 자율 규제는 기술적 유연성을 확보할 수 있지만 보호의 일관성을 담보하기 어렵고, 강제 규제는 안전망을 강화할 수 있으나 산업의 위축을 가져올 수 있다는 쟁점이 맞선다.

실태 고발에 집중한 보도와 제도적 대안의 제시 2026.10.13 00:40 KST

뉴시스, 이데일리, 뉴스1, 아이뉴스24 등 보도 매체 모두 세이프 모드의 무력화와 정부의 민원 처리 지연이라는 사실관계에 집중했다. 특히 아이뉴스24는 민원 방치 기간이 최장 494일에 달한다는 구체적인 수치를 제시해 행정 부실의 심각성을 부각했다.

단순한 현상 보도를 넘어 제도적 대안을 구체적으로 다룬 보도들이 눈에 띈다. 뉴시스는 사업자 등록제 도입과 해외 플랫폼 규제 방안을 촉구했다는 점을 짚어내며 관리 감독 체계의 근본적 변화를 요구했다. 뉴스1은 보호 대상 연령 명시와 이용시간 기준 구체화라는 실무적인 가이드라인 개선 방향을 상세히 다루었다.

대부분의 보도가 보호 장치의 허점과 정부의 안일한 대응을 비판하는 데 일치된 방향을 보였다. 다만 AI 기술 특성상 완벽한 필터링이 어렵다는 기술적 한계나 사업자의 입장을 심층적으로 다룬 보도는 보이지 않는다. 보호의 시급성에는 공감하나, 규제 도입 시 발생할 수 있는 현실적인 충돌 지점까지는 파고들지 못한 점이 아쉽다.