“윤어게인” 미모20대女…알고보니 AI였다
인공지능(AI)으로 생성한 젊은 여성의 이미지를 앞세워 SNS 계정을 만들고 정치적 메시지를 확산하는 사례가 확인돼 논란이 일었다. 특히 최근 짦은 치마를 입고 태극기 집회 등에 참여하는 영상을 올려 화제를 모은 20대 여성은 AI로 파악됐다. 해당 영상을 올린 계정주는 “어느 시점부터 솔직하게 말씀 드렸어야 했는데 타이밍을 놓쳤다. 놀라시거나 배신감을 느끼실 분에게 사과 이외는 변명의 여지가 없다. 죄송하다”는 입장을 밝혔다.
최근 온라인 커뮤니티엔 ‘극우 SNS AI 조작 충격 근황’ 등 제목의 게시물들이 확산됐다. 일부 보수 지지자들이 AI로 만든 여성 사진이나 실제 인물 사진을 도용해 SNS 계정을 개설했다는 내용이다. 이들의 인터넷 활동을 추적해 온 황희두 노무현재단 이사는 자신의 인스타그램에 이같은 내용들을 캡처했다.
특히 이 중 ‘OO조아’라는 닉네임을 쓰는 인스타그램 계정은 언뜻 20대 여성이 운영되는 것처럼 보였지만, 네티즌들 사이에서 계정에 대한 의문이 지속적으로 제기됐다. 이후 계정주는 “OO조아는 남자”라며 지난달 사과문을 게재했다. 현재 해당 계정은 삭제된 상태다.
황 이사는 ‘OO조아’라는 인스타 계정이 만들어지기 전 또다른 SNS 플랫폼인 스레드 계정에 비슷한 이미지의 여성 사진으로 남성 극우가 활동했다는 의혹을 제기하기도 했다. 황 이사는 “젊은 여성 극우 ‘네임드’ 계정의 정체가 결국 드러났다”며 “문제는 AI 기술이 인간의 눈만으로 진짜와 가자를 구분하기 어려운 수준까지 왔다는 것”이라고 지적했다.
황 이사는 “단순한 기술 문제가 아니라 인간의 ‘인지 과정’을 공격하는 인지전의 전형적인 사례”라며 “이미지를 활용하면 정치에 관심이 적은 이용자들도 알고리즘을 통해 자연스럽게 콘텐츠를 접하게 된다. 극단적 정치 메시지 확산에 활용되는 구조”라고 설명했다.
댓글0