티스토리 뷰
목차
유튜브 추천 영상 다섯 개 중 하나가 AI가 찍어낸 콘텐츠라는 사실, 알고 계셨습니까? 저는 입사 첫 달에 회사 데이터룸에서 이 수치를 직접 들여다보고 나서야, 우리가 매일 소비하는 정보의 바닥이 얼마나 빠르게 무너지고 있는지를 실감했습니다. 'AI 슬롭(AI Slop)'이라 불리는 저품질 AI 생성물의 범람은 이제 단순한 콘텐츠 피로감이 아니라, 디지털 정보 생태계 전체를 흔드는 구조적 문제로 커졌습니다.
AI 슬롭이란 무엇인가, 그리고 얼마나 퍼져 있는가
혹시 최근 틱톡을 보다가 "이 영상, 뭔가 어색한데"라는 느낌을 받은 적 있으십니까? 의미 없는 자막이 반복되고, 어딘가 매끄럽지 않은 AI 음성이 흘러나오는 영상 말입니다. 저도 처음에는 그냥 제작 실력이 부족한 채널이겠거니 했는데, 실무를 배우면서 그게 단순한 실력 문제가 아니라는 걸 알게 됐습니다.
'AI 슬롭(AI Slop)'이란 생성형 AI가 프롬프트 몇 줄만으로 대량 찍어낸 저품질 온라인 콘텐츠를 가리킵니다. 슬롭(Slop)은 원래 가축에게 주는 찌꺼기 사료를 뜻하는 단어로, 여기서 착안해 만들어진 신조어입니다. 쉽게 말해, 사람이 직접 취재하거나 검증하는 과정 없이 AI가 순식간에 뽑아낸 콘텐츠 찌꺼기라고 보시면 됩니다.
문제는 규모입니다. 최근 조사에 따르면 틱톡이 새 이용자에게 추천하는 영상의 약 60%, 유튜브는 약 20%가 AI 슬롭으로 분류됐습니다. 영상에만 그치지 않습니다. '바이브 코딩(Vibe Coding)'이라는 방식으로 만들어진 앱들이 앱 마켓을 채우고, AI가 임의로 만들어 낸 논문을 인용한 가짜 학술 논문이 권위 있는 학회에서 채택되기도 했습니다. 여기서 바이브 코딩이란 생성형 AI에 자연어로 아이디어를 입력해 코드를 자동으로 만들어내는 방식을 의미합니다. 코딩 지식이 전혀 없어도 앱을 만들 수 있다는 점에서 급속히 확산됐지만, 그 대부분이 기존 앱을 베낀 AI 슬롭이었습니다.
특히 저로서는 한국의 AI 슬롭 유튜브 채널 누적 조회수가 세계 1위라는 데이터를 업무 중 직접 확인했을 때 손끝이 뚝 멈추는 느낌이었습니다. 우리가 그만큼 이 찌꺼기 콘텐츠에 노출되어 있다는 뜻이니까요.
- 틱톡 신규 추천 영상의 약 60%가 AI 슬롭으로 분류
- 유튜브 추천 영상의 약 20%가 AI 슬롭으로 분류
- AI 슬롭 유튜브 채널 누적 조회수 한국이 세계 1위 기록
- 바이브 코딩 앱, 논문, 이미지, 음악 등 형태를 가리지 않고 확산 중
슬롭 루프, 왜 이 문제는 스스로 커지는가
AI 슬롭이 골치 아픈 진짜 이유가 뭔지 아십니까? 내버려 두면 알아서 줄어드는 게 아니라, 오히려 스스로 커지는 구조를 갖고 있다는 점입니다. 저도 처음 이 구조를 이해했을 때 "이게 그냥 콘텐츠 품질 문제가 아니구나"라고 다시 생각하게 됐습니다.
이 구조를 '슬롭 루프(Slop Loop)'라고 합니다. 슬롭 루프란 AI 슬롭이 높은 조회수나 수익을 올리면, 비슷한 콘텐츠를 만드는 프롬프트가 퍼지고, 그 콘텐츠가 다시 AI 모델의 학습 데이터로 유입되어 AI가 더 저품질의 답변을 내놓는 악순환을 의미합니다. 쉽게 말해, 찌꺼기가 찌꺼기를 낳는 구조입니다.
여기에 AI 기본법의 맹점이 더해집니다. 올해 시행된 AI 기본법은 AI 생성물에 표시 의무를 부과하고 있지만, 규제 대상이 사업자로 한정되어 있습니다. 일반 이용자가 AI 워터마크를 제거하거나 재가공해 배포하는 행위는 사실상 막기 어렵습니다. 실제로 소셜미디어에는 'AI 생성 워터마크 제거법' 관련 콘텐츠가 공공연하게 공유되고 있습니다. 제가 직접 엑셀 시트로 이 사각지대를 정리해보니, 유통 과정에서 진위 확인이 얼마나 어려운지가 숫자로 선명하게 보였습니다.
더 넓게 보면, AI 슬롭이 국가 안보·금융·법률처럼 민감한 분야까지 파고들어 공공 정보 인프라 전체의 신뢰도를 흔드는 상황이 됐습니다. 한국인터넷진흥원(KISA)도 딥페이크·생성형 AI 악용 사례에 대한 모니터링을 강화하고 있는 배경이 바로 이 구조적 위험입니다(출처: 한국인터넷진흥원).
플랫폼 규제, 민간이 먼저 움직이기 시작했다
그렇다면 이 문제를 막으려는 움직임은 있는 걸까요? 다행히 없지는 않습니다. 다만, 솔직히 말씀드리면 아직까지는 속도가 충분하지 않다고 느낍니다.
가장 적극적으로 나선 곳은 플랫폼들입니다. 유튜브는 최근 AI 슬롭에 대한 수익 창출 제재 규정을 강화했습니다. 기계적으로 대량 생산된 영상은 물론, 실존 인물을 본뜬 AI 아바타가 금융·의료·법률 분야에서 조언을 제공하는 채널도 광고 수익 대상에서 전면 제외하기로 했습니다. 틱톡 역시 자체 정책을 통해 AI 스팸 단속을 강화하겠다고 밝혔습니다. '돈이 안 되면 안 만든다'는 논리로 공급 자체를 막겠다는 전략입니다.
기업 차원에서는 'AI 검증 솔루션(AI Validation Solution)'에 대한 관심이 높아지고 있습니다. AI 검증 솔루션이란 생성형 AI의 답변이 유해하거나 잘못된 정보를 포함하는지를 별도의 AI가 실시간으로 점검하는 시스템을 말합니다. 구글과 마이크로소프트 같은 빅테크가 기업용 AI 서비스에 이 기능을 빠르게 탑재하고 있습니다. "AI를 거르는 AI"라는 말이 이제 실무에서도 자연스럽게 쓰이는 시대가 됐습니다.
개인 이용자들도 행동으로 반응하고 있습니다. AI 오버뷰(AI Overview), 즉 구글 검색 결과 상단에 자동으로 표시되는 AI 요약 기능에 실망한 이용자들이 유료 검색 엔진 '카기(Kagi)'로 이동하는 사례가 늘고 있습니다. 카기는 월 일정 비용을 내면 광고·AI 콘텐츠를 제외한 인간 제작 콘텐츠만 보여주는 필터를 제공하는데, 총방문 횟수가 지난 2월 441만 건에서 4월 522만 건으로 뚜렷하게 늘었습니다(출처: Kagi Search). 제가 이 수치를 처음 봤을 때 "사람들이 돈을 내고서라도 AI 콘텐츠를 피하고 싶어한다"는 신호로 읽혔습니다. 그만큼 정보 오염에 대한 피로감이 임계점에 달했다는 뜻입니다.
AI 리터러시, 결국 스스로 지켜야 하는 이유
플랫폼이 규제를 강화하고, 기업이 검증 솔루션을 도입해도, 결국 마지막 방어선은 각자의 판단력이라는 게 저의 생각입니다. 제가 이번 업무를 통해 가장 깊이 체감한 것도 이 부분입니다.
'AI 리터러시(AI Literacy)'란 AI가 생성한 콘텐츠를 비판적으로 수용하고, 정보의 진위를 스스로 검증하는 능력을 의미합니다. 단순히 AI를 잘 쓰는 능력이 아니라, AI가 만든 정보를 얼마나 의심하고 걸러낼 수 있는가의 역량입니다. 전문가들은 AI 슬롭의 범람을 막기 위해 제도적 규제, 플랫폼의 노력과 함께 이용자의 AI 리터러시가 반드시 결합되어야 한다고 강조합니다.
저는 입사 초기만 해도 "AI가 만들었으면 어때, 내용이 맞으면 되는 거 아닌가"라고 생각하는 쪽이었습니다. 그런데 학회 논문에서 AI가 임의로 만들어 낸 가짜 논문이 인용된 사례, 바이브 코딩으로 만들어진 앱들이 검증도 없이 마켓을 채우는 현실을 데이터로 직접 보고 나서는 그 생각이 완전히 바뀌었습니다. AI가 내놓은 정보가 그럴듯하게 보일수록, 오히려 더 의심해야 한다는 걸 배운 셈입니다.
실제로 제가 업무에서 쓰고 있는 방법은 간단합니다. AI가 제공한 정보는 반드시 원출처를 따로 확인하고, 논문이나 통계는 해당 기관의 공식 사이트에서 직접 검증하는 습관을 들이는 것입니다. 번거롭지만, 이 한 단계가 슬롭 루프의 먹이가 되지 않는 가장 현실적인 방법이라고 생각합니다.
자주 묻는 질문
Q. AI 슬롭인지 아닌지 어떻게 구별하나요?
A. 영상이라면 어색한 발음, 부자연스러운 손가락 묘사, 반복되는 자막 패턴을 눈여겨보시면 됩니다. 글이라면 출처가 불분명하거나 구체적인 날짜와 기관명이 빠져 있는 경우가 많습니다. 결국 "이 정보의 원출처가 어디인가"를 직접 추적해보는 습관이 가장 확실한 구별법입니다.
Q. 바이브 코딩으로 만든 앱은 다 믿으면 안 되나요?
A. 바이브 코딩 자체가 문제라기보다, 검증 과정 없이 배포된 앱이 문제입니다. 앱 마켓에 신규 등록된 앱이라면 리뷰 수와 개발사 정보를 먼저 확인하고, 개인정보를 요구하는 앱은 특히 신중하게 접근하시는 것이 좋습니다. 출시된 지 얼마 안 된 앱이 기존 유명 앱과 기능이 지나치게 유사하다면 AI 슬롭일 가능성이 있습니다.
Q. AI 기본법이 있는데 왜 AI 슬롭이 줄지 않는 건가요?
A. 현행 AI 기본법의 규제 대상이 사업자에 한정되어 있어서, 일반 이용자가 AI 워터마크를 제거하거나 재가공해 유통하는 행위를 막기가 어렵습니다. 법의 그물망이 생산 단계에만 걸쳐 있고, 유통 단계는 사각지대로 남아 있는 구조적 문제가 핵심입니다. 제도 개선과 함께 이용자 교육이 병행되어야 하는 이유가 바로 여기 있습니다.
Q. 유튜브에서 AI 슬롭 채널은 수익을 완전히 못 버나요?
A. 유튜브의 새 정책에 따르면, 기계적으로 대량 생산된 영상과 AI 아바타가 금융·의료·법률 분야에서 조언하는 채널은 광고 수익 창출 대상에서 제외됩니다. 다만 AI 도구를 활용하더라도 독창적인 가치가 있는 콘텐츠는 허용된다는 입장이므로, AI를 보조 도구로 쓰는 모든 채널이 차단되는 것은 아닙니다.
결론
AI 슬롭 문제를 들여다보면서 제가 내린 결론은 하나입니다. 이건 기술의 문제가 아니라 신뢰의 문제라는 것입니다. 슬롭 루프가 디지털 정보의 품질을 갉아먹고, AI 기본법의 사각지대가 허위 정보 유통을 방치하는 지금, 플랫폼 규제와 기업의 AI 검증 솔루션만으로는 역부족입니다.
결국 각자의 AI 리터러시가 마지막 보루입니다. AI가 제공하는 정보를 편하게 소비하되, 중요한 판단에는 반드시 원출처를 확인하는 습관. 이 단순한 원칙이 AI 슬롭의 홍수 속에서 스스로를 지키는 가장 단단한 방법이라고 생각합니다. 앞으로 AI 생성 콘텐츠를 접할 때마다 "이게 진짜인가?"라는 질문 하나만 버릇처럼 던져 보시길 권합니다.