[AI 트렌드] 유튜브 쇼츠 가짜뉴스 수익 구조와 국내외 처벌법 총정리 (feat. 팩트체크 가이드)

최근 유튜브 쇼츠(Shorts)와 SNS를 중심으로 중장년층뿐만 아니라 젊은 세대까지 교묘하게 속이는 'AI 짜깁기 가짜뉴스'가 기승을 부리고 있습니다. 최근 발생한 유명 배우의 수천억 원대 허위 기부설이 대표적인 사례입니다.

 

실제 네이버나 구글 등 정식 언론사 뉴스에는 기사 한 줄 없지만, 유튜브 알고리즘을 탄 쇼츠 영상은 수백만 조회수를 기록하며 수많은 대중의 눈과 귀를 멀게 하고 있습니다. 이제는 뉴스를 볼 때마다 매번 의심하고 촉각을 세워야 하는 피곤한 시대가 되었습니다.

 

오늘은 이러한 AI 가짜뉴스가 끊임없이 생산되는 추악한 수익 구조와 이를 막기 위한 국내외 법적 규제 현황, 그리고 유튜브의 향후 행보까지 심층적으로 분석해 보겠습니다.

1. 제재를 비웃는 AI 가짜뉴스의 '먹튀' 수익 구조

"유튜브에서 제재를 가하면 어차피 수익을 못 받는 것 아닌가?"라는 의문이 들 수 있습니다.

하지만 가짜뉴스 제작자들은 플랫폼의 시스템적 허점을 교묘하게 파고드는 '치고 빠지기(먹튀)' 전략을 취하고 있습니다.

• 제재보다 빠른 조회수 폭발: 유튜브 AI 시스템이나 인간 검토자가 허위 사실을 인지하고 채널을 차단하거나 노란 딱지(수익 창출 제한)를 붙이기까지는 보통 최소 며칠에서 몇 주의 시간이 걸립니다. 제작자들은 영상 업로드 후 시스템이 작동하기 전, 단 2~3일 만에 자극적인 소재로 수백만 조회수를 폭발시켜 광고 수익을 바짝 당깁니다.
• AI를 활용한 대량 생산(물량 공세): 과거에는 영상 편집에 많은 시간이 걸렸지만, 지금은 생성형 AI 툴을 이용해 자연스러운 AI 목소리(TTS)와 대본을 단 5분 만에 뚝딱 만들어냅니다. 구글 계정을 수십 개씩 파서 물량 공세를 펼치기 때문에, 채널 10개 중 9개가 날아가도 단 1개만 터지면 인건비 대비 막대한 이득을 챙기는 구조입니다.

2. 가짜뉴스 처벌법 현황: 국내외 규제의 현실과 한계

그렇다면 이들을 법으로 단죄할 수는 없을까요?

국내외 법적 규제는 기술의 발전 속도를 따라잡기 위해 분투 중이지만, 현실적인 한계가 명확합니다.

① 해외의 상황: "플랫폼 기업에 초고액 벌금 부과"

• 유럽연합(EU)의 디지털서비스법(DSA): 전 세계에서 가장 강력한 법안으로 평가받습니다. 가짜뉴스나 혐오 표현이 올라왔을 때 유튜브, 메타 같은 거대 플랫폼 기업이 이를 신속하게 삭제하지 않으면, 전 세계 연간 매출의 최대 6%라는 천문학적인 벌금을 부과합니다. 이에 따라 구글 등도 유럽 내 모니터링을 극도로 강화하고 있습니다.
• 미국의 상황: 미국은 '표현의 자유'를 절대적으로 우대하는 수정헌법 제1조가 있어 국가가 가짜뉴스 자체를 직접 처벌하는 법을 만들기 매우 어렵습니다. 대신 민간 기업들이 자발적으로 AI 생성 콘텐츠에 라벨을 붙이도록 압박하는 정책을 취하고 있습니다.

② 국내의 상황: "법적 사각지대와 강제력 부족"

• 현행법상의 한계: 한국의 정보통신망법 등에 따르면 가짜뉴스를 퍼뜨렸을 때 '특정 개인의 명예를 훼손(명예훼손죄)'하거나 '타인을 속여 금전적 이득을 취했을 때(사기죄)'만 처벌할 수 있습니다. 예를 들어 "A 배우가 3,900억 원을 기부했다"라는 식의 허위 사실은 비난이 아닌 칭찬에 가깝기 때문에, 법적으로 명예훼손을 적용해 처벌하기가 매우 애매한 사각지대에 놓여 있습니다.
• 해외 플랫폼 규제의 한계: 방송통신심의위원회 등에서 시정 요구나 삭제 권고를 내리더라도, 유튜브를 운영하는 구글은 미국 기업이기 때문에 국내법의 강제력이 온전히 미치지 못하고 처리 속도 또한 느리다는 고질적인 문제가 있습니다.

3. 결국 열쇠는 유튜브가 쥐고 있다: 향후 유튜브의 행보

국가가 법을 만들고 재판을 거쳐 처벌하는 데는 수개월에서 수년이 걸리지만, 가짜뉴스는 단 며칠 만에 트래픽을 빨아먹고 사라집니다.

결국 가장 확실한 해결책은 플랫폼인 유튜브가 기술적 방어벽을 세우는 것입니다.

 

최근 유튜브 역시 가짜뉴스의 심각성을 인지하고 다음과 같은 대책을 시행 및 고도화하고 있습니다.

1. AI 콘텐츠 표시 의무화: 생성형 AI를 사용해 만든 사실적인 영상에는 반드시 변형 또는 합성된 콘텐츠라는 라벨을 붙이도록 강제하고 있습니다. 이를 고의로 위반할 경우 수익 창출 박탈 및 채널 삭제라는 강력한 조치를 취합니다.
2. AI 역이용 필터링 시스템: 가짜뉴스 쇼츠 영상들이 가지는 특유의 패턴(특정 TTS 목소리, 자극적 자막 배출 빈도 등)을 AI 알고리즘이 스스로 학습하여, 사용자의 신고가 대량으로 접수되기 전 선제적으로 검토 단계에 올리는 기술을 계속해서 업그레이드하고 있습니다.

4. 피곤한 세상에서 나를 지키는 3초 팩트체크 가이드

정부의 규제와 유튜브의 시스템이 완벽해지기 전까지는 이용자 스스로 방어 수단을 가져야 합니다.

딱 3가지만 기억하면 3초 만에 가짜뉴스를 걸러낼 수 있습니다.

• 포털 사이트 교차 검증: 유튜브에서 충격적인 소식을 접했다면 즉시 네이버나 구글 '뉴스 탭'에 검색해 보세요. 대형 메이저 언론사의 정식 보도가 단 한 줄도 없다면 100% 가짜뉴스입니다.
• 터무니없는 숫자 의심하기: '3,900억 기부', '전 재산 환원', '시한부 판정' 등 자극적인 타이틀과 비현실적인 수치는 조회수를 유도하는 전형적인 가짜뉴스의 특징입니다.
• 채널의 과거 이력 확인: 해당 채널을 클릭했을 때, 정식 언론사 외관을 흉내 냈거나 온통 자극적인 연예계 루머·확인되지 않은 시사 이슈 짜깁기 영상만 가득하다면 즉시 '채널 추천 안 함' 및 '신고'를 눌러야 합니다.

가짜뉴스에 누르는 '좋아요'와 '댓글'은 악질적인 유튜버들에게 돈을 쥐여주며 다음 범죄 영상을 만들라고 응원하는 것과 다름없습니다.

늘 촉각을 세워야 해서 피곤한 디지털 시대이지만, 좋아요를 누르기 전 '3초만 멈추고 검색하는 습관'이 우리 부모님과 소중한 이들을 지키는 가장 강력한 무기입니다.