AI로 만든 가짜뉴스가 당신의 한 표를 바꿔놓을 수 있다?! 당장 4월 총선부터 위험하다.

인공지능(AI) 기술의 발달이 우리의 일상에 혁신을 가져오고 있지만, 동시에 우려되는 부분도 점점 커지고 있다. 특히 최근 AI를 활용해 정교한 가짜뉴스를 생성하는 것이 매우 쉬워졌다. 이런 추세라면 다가오는 4월 총선에서부터 AI 가짜뉴스가 중대한 영향을 미칠 수도 있다.

전문가들은 AI로 만들어진 딥페이크 영상이나 조작된 이미지, 그럴듯한 허위 기사 등이 유권자들을 교묘하게 현혹할 수 있다고 경고한다. 일부 악의적인 세력이 특정 후보에게 유리한 가짜뉴스를 대량으로 생산하고 확산시킨다면, 선거 판세를 뒤흔들 수도 있는 것이다.

 

최근 챗GPT를 개발한 오픈AI에서 단 15초만이라도 한 사람의 목소리를 들려주면 그 사람이 말하는 목소리와 말투를 그대로 따라하는 인공지능을 발표했다. 아래는 해당 인공지능 모형 Voice Engine을 소개하는 오픈AI의 공식 페이지이다.

https://openai.com/blog/navigating-the-challenges-and-opportunities-of-synthetic-voices

Navigating the Challenges and Opportunities of Synthetic Voices

 

그리고 아래와 같은 정교한 딥페이크 영상(실제 인물의 영상처럼 보이지만 인공지능이 생성한 가짜 영상)도 실제와 구분하기 힘든 수준이다. 딥페이크 기술로 어떤 내용이든 만들어낼 수 있다. 아래는 버락오바마 전 미국 대통령 등 유명인사의 딥페이크 영상 모음이다. 모두 가짜다.

https://x.com/sairahul1/status/1773268892800229755?s=20

X의 Sai Rahul님(@sairahul1)

 

그리고 실제로 최근 AI가 만든 가짜 기사가 진짜인 것처럼 확산되기도 했다. SNS를 통해 순식간에 퍼지는 가짜뉴스의 위력은 상상 이상일 것이며, 내 한 표의 방향을 바꿔놓을 수도 있게 된다

물론 선관위 등에서 가짜뉴스 대응에 총력을 기울이겠지만, AI 기술은 나날이 발전하고 있어 사실상 완벽한 대책을 세우기란 쉽지 않아 보인다.

그렇다면 우리는 어떻게 해야 할까? 가장 중요한 것은 유권자 개개인이 미디어에 대해 비판적인 시각을 갖는 것이다. 어떤 뉴스를 접하더라도 다양한 경로로 사실 여부를 확인할 필요가 있다.

또한 사회적으로도 가짜뉴스 문제의 심각성을 공론화하고, 강력한 규제책과 기술적 대응 방안을 함께 모색해 나가야 할 것이다.