오늘은 진짜 저도 충격 먹은 건데요? 일단 아래 영상 화면부터 보시죠? "안녕하세요 손흥민입니다. 만나서 반갑습니다. 저는 축구 선수이자 경험 많은 투자자입니다. 카톡을 추가하고 숫자 3을 보내는 선착순 200명에게 저의 독점 사인 사진과 팬미팅 티켓을 받을 수 있습니다."
네, 이번 주에 갑자기 유튜브에 광고가 떠서 이미 보신 분들도 있을 텐데요? 일단 당연히 AI로 만든 사기 영상입니다. 손흥민 선수가 버는 돈이 얼만데 이런 짓을 할 리가 없죠?
그리고 이런 건 불과 3개월 전에도 있었는데요? "안녕하세요? 저는 송혜교입니다. 교수님의 QF 어린이 기금회를 진심으로 감사드리며.., 안녕하세요? 조인성입니다. 박순혁 교수님의 QF 어린이 재단 개최 감사드리며.." 이런 식으로 수억 원의 투자금을 가로챈 사건도 있었죠?
그런데 오늘 영상의 핵심은 바로 이겁니다. 이제 이런 딥 페이크는 시작에 불과하다는 거예요. "Have you ever had maybe you are not.." 자, 지금 본 영상 조금 AI(인공지능) 스럽다고요?
내, 자세히 보시면 사실 어색하죠? 근데 문제는 그게 아닙니다. 이 영상이 고작 이 사진 한 장으로 이렇게 만들어졌다는 건데요? 이제는 수십 개 영상을 학습시킬 필요가 없이 그냥 아무 사진 한 장으로 누구나 페이크를 하는 시대가 온 거죠.
게다가 이 남자를 보시면 원래 이렇게 이탈리아어로 말하는 영상인데요? 근데 이렇게 한국말로 바뀝니다. "괜찮아 이건 테스트야 이건 실시간 더빙 가능성을 탐구하는 것입니다."
AI(인공지능)라고는 믿을 수 없을 정도로 입모양까지 엄청 자연스럽죠? 근데 문제는 아직 이런 기술을 현실적으로 막을 수가 없다는 겁니다.
이게 진짜 핵심인데요? 아까 그 유튜브에서 나오는 손흥민 광고 영상이 업로드된 지 5일이나 지났고 이미 수십만 명이나 봤음에도 아직까지 삭제가 안 된 게 바로 그 증거입니다.
수 백, 수 천 건의 신고가 들어갔을 텐데 말이죠. 사실 이건 유튜브뿐만 아니라 인스타그램이나 페이스북 모두 거의 모든 광고를 AI가 필터링하고 있기 때문인데요?
AI가 만든 사기 영상을 AI가 필터링한다? 참 웃긴 상황이 바로 지금의 현실입니다. 그래서 제가 말하고 싶은 건 결국 이겁니다. 이제는 이런 AI 기술이 유명인에 국한되지 않을 거라는 거예요.
카톡 사진 한 장 그리고 일반 카페에서 무심코 떠든 우리들의 목소리만으로도 일반인 딥 페이크 영상이 무수히 많이 만들어질 겁니다 그리고 이게 지금까진 보이스 피싱으로 우리에게 사기 쳤듯이 앞으론 실질 영상통화인 것처럼 악용되겠죠?
그러니까 구독자 분들 제발 조심하시고요? 오늘 포스팅은 주변에 꼭 공유해 주세요. 그래서 이런 거에 피해를 당하는 분들이 앞으로도 없었으면 좋겠습니다.