요즘 인터넷에서 AI가 만든 그림이나 영상을 정말 많이 볼 수 있죠? 인스타그램, 페이스북, 유튜브 어디를 봐도 AI 생성물이 가득해요 . 특히 2022년에 스테이블 디퓨전이라는 AI 그림 도구가 무료로 공개되면서 AI 이미지가 정말 폭발적으로 늘어났어요 .

IT 전문가들이 추정한 결과에 따르면, 2022년부터 2023년까지 딱 2년 동안 AI가 만든 이미지가 무려 154억 7천만 개나 된다고 해요 . 하루 평균 3,400만 개의 이미지가 만들어진 셈이죠 . 대부분 스테이블 디퓨전을 기반으로 만들어졌지만, 미드저니나 달리 2 같은 다른 도구들로도 엄청난 양의 이미지가 나왔어요 . 최근에는 오픈ai의 이미지 생성 성능도 엄청나게 좋아져서 인터넷 커뮤니티에 합성 결과물이 계속 쏟아지고 있어요 .

이렇게 AI가 만든 이미지나 영상들이 인터넷을 가득 채우면서 ai 슬롭이라는 새로운 단어가 생겨났어요 . 원래 슬롭은 음식물 찌꺼기나 오물이라는 뜻인데 , AI가 만들어낸 쓸모없는 콘텐츠들을 ai 슬롭이라고 부르게 된 거죠 . 인터넷이 커지면서 스팸 메일이 생겨난 것처럼 , ai 슬롭도 AI 시대의 새로운 문제가 될 거라고 예상하는 사람들도 많아요 .

AI 기술이 좋아져서 이상하거나 불쾌한 AI 그림이 줄어들긴 했지만 , 또 다른 문제가 생겼어요. 바로 AI가 만든 것과 사람이 만든 것을 구분하기가 너무 어려워졌다는 거예요 . 핀터레스트 같은 곳에서 이미지를 찾아보면 AI 이미지가 정말 많아서 이용자들이 불편함을 느끼고 있어요 . 좋은 자료를 찾고 싶은데 검색 결과 상위에 AI 그림이 가득하니까 피로감이 쌓이는 거죠 .

AI 그림이나 글 같은 수많은 생성물들은 AI 모델 성능이 좋아져서 가능한 거예요 . 그리고 이런 AI 모델 성능을 높이는 데 가장 중요한 건 바로 데이터랍니다 . 좋은 AI를 만들려면 양질의 데이터가 아주 많이 필요하죠 . 그래서 인터넷에 있는 정보를 자동으로 모으는 AI 봇들의 활동이 엄청나게 늘었어요 .

우리가 쓰는 인터넷에는 사람만 있는 게 아니라 다양한 기업들이 만든 AI 봇들도 돌아다녀요 . 클라우드 플레이어라는 회사 자료를 보면, AI 봇들이 인터넷 트래픽을 엄청나게 차지하고 있어요 . 특히 ‘바이트 스파이더‘라는 AI 봇은 ai 봇 트래픽의 38.6%를 차지할 정도로 활동량이 많았죠 . 이 바이트 스파이더는 틱톡을 만든 바이트댄스의 AI 봇으로, AI 학습 데이터를 모으는 데 쓰인다고 해요 .

이 AI 봇들의 활동량이 너무 많아서 문제가 생기기도 해요 . 심지어 인터넷 사이트가 마비될 정도라고 하니 정말 심각하죠. 어떤 2D 이미지 회사 사이트는 갑자기 다운됐는데, 분석해보니 오픈ai의 크롤링 봇이 데이터를 너무 많이 가져가서 생긴 일이었다고 해요 . AI 봇들이 웹사이트 운영자들이 막아놓은 크롤링 차단 조치를 무시하고 데이터를 긁어가는 사례도 많이 보고되고 있어요 .

AI 모델 학습에 필요한 데이터 중에서 위키피디아는 정말 중요한 자료예요 . 많은 사람들이 함께 검증한 자료라서 다른 인터넷 자료보다 믿을 수 있기 때문이죠 . 실제로 많은 AI 모델들이 위키피디아 데이터를 학습에 사용했다고 밝히고 있어요 . 오픈ai의 gpt-3 논문에도 위키피디아가 중요한 훈련 데이터셋 중 하나로 들어가 있었답니다 .

그런데 최근에는 위키피디아를 학습한 AI들이 만든 정보가 다시 위키피디아로 돌아가는 상황이 포착되고 있어요 . 프린스턴 대학교 연구팀이 영문 위키피디아 문서들을 분석했더니, 최대 5.36%가 AI가 만든 것으로 추정된다고 해요 . AI가 쓴 글에는 ‘additionally’나 ‘crucial’ 같은 특정 단어들이 더 많이 사용되는 특징도 발견되었다고 하네요 .

이렇게 AI가 만든 글이 위키피디아에 섞이면 가장 큰 문제는 신뢰도예요 . AI가 가짜 정보를 진짜처럼 말하는 ‘환각 현상’이 아직 완전히 해결되지 않았는데, 이런 내용이 인터넷 백과사전에 실리면 안 되겠죠 . 과제를 하거나 보고서를 쓸 때 위키피디아를 참고했는데, 알고 보니 AI가 만든 틀린 정보였다면 정말 큰 문제일 거예요 . AI가 만든 글은 참고 자료가 부족하거나 다른 문서와 연결성이 떨어지는 경향이 있어요 . 홍보나 정치적으로 편향된 내용이 포함될 수도 있고요 .

더 어려운 점은 AI가 만든 것인지 아닌지를 구분하기 어렵다는 거예요 . AI가 만든 자료에는 ‘AI 생성물’이라고 표시가 되어 있지 않거든요 . 이슬람 신학교를 설명하는 위키피디아 그림도 사실 AI가 만든 이미지인데, 자세히 보지 않으면 알기 힘들죠 . 심지어 페이지 전체가 AI가 만든 정보로 채워져 있는 경우도 있다고 해요 . 그래서 위키피디아 관리자들은 AI 생성물을 찾아내고 편집해서 위키피디아의 신뢰도를 지키려고 노력하고 있답니다 .

AI 생성물이 인터넷을 가득 채우는 것보다 더 큰 문제는, AI가 만든 결과물을 AI가 다시 학습하는 거예요 . 이걸 ai 자가포식 현상이라고 부르는데, 이게 AI 모델 자체에 아주 심각한 악영향을 줄 수 있답니다 . 작년 네이처 잡지 표지에 AI가 토하는 그림이 실렸는데 , 바로 이 ai 자가포식 현상 때문에 모델이 붕괴할 수 있다는 것을 보여주는 그림이었어요 .

사람 손글씨 이미지 데이터를 AI에게 여러 세대에 걸쳐 학습시킨 실험이 있었어요 . 이때 각 세대 AI 모델은 바로 전 세대 AI가 만든 데이터만 가지고 학습했죠 . AI가 AI가 만든 데이터만 계속 학습한 결과, 몇 세대 지나지 않아 원래 손글씨 이미지와는 전혀 다른 이상한 이미지를 만들어냈어요 . 결국 모델이 망가져 버린 거죠 .

이 실험 결과는 사람 얼굴이나 언어 데이터에서도 똑같이 나타났어요 . AI가 만든 데이터를 계속 학습하면 결과물의 다양성이 사라지고 , 자연스러웠던 문장도 이상하게 변해버려요 . AI가 만든 정보가 위키피디아로 가고, 이걸 AI 봇이 다시 긁어와서 학습하는 일이 반복된다면 어떻게 될까요? AI 모델은 제대로 된 결과물 대신 엉뚱한 것만 만들어내게 될 거예요 . 이런 상황이 계속되면 AI 모델은 붕괴하고 성능도 떨어지고 믿을 수 없는 문제가 생길 수 있답니다 . AI 생성물의 범람이 인터넷뿐만 아니라 AI 모델 자체도 망가뜨릴 수 있다는 우려가 나오는 이유죠 .

모두가 피해를 보는 상황까지 가지 않으려면 어떻게 해야 할까요? 일단 우리 스스로가 어떤 콘텐츠가 AI가 만든 것인지 아닌지를 확인하려는 노력이 필요해요 . 지금도 AI 생성물을 탐지하는 기술이 있지만 아직 완벽하지 않답니다 .

전문가들은 기술만으로는 한계가 있기 때문에 규제 기관과의 협력이 중요하다고 말해요 . 법이나 제도를 만들어서 AI 생성물에는 AI가 만들었다는 표시를 꼭 남기도록 하는 등, 구분할 수 있는 시스템을 갖춰야 한다는 거죠 . 기업들은 AI 콘텐츠를 구별하는 기술을 계속 개발하고, 정부는 AI 생성물이 너무 많아지지 않도록 규제해야 이런 문제들을 막을 수 있을 거예요 .

2010년대 후반에 ‘죽은 인터넷 이론‘이라는 이야기가 유행했었어요 . 우리가 보는 인터넷 정보 대부분이 사람이 아닌 자동화된 봇이 만든 것이고, 인터넷은 이미 죽었다는 내용이었죠 . AI가 만든 콘텐츠가 무분별하게 인터넷을 떠돌아다니고, AI 봇들이 데이터를 마구 긁어가는 지금 상황을 제대로 관리하지 않으면, 이 ‘죽은 인터넷 이론‘이 현실이 될지도 몰라요 . 과연 지금 우리가 보고 있는 인터넷은 정말 살아있는 걸까요?