인공지능의 위협: 허위 정보와 2024년 선거

2024년 미국 대선이 한 달 앞으로 다가온 지금, 인공지능(AI)이 대중의 인식을 형성하는 데 전례 없는 역할을 하고 있다는 것은 의심의 여지가 없습니다. AI는 다양한 산업 분야에 혁신을 가져왔지만, 동시에 허위 정보와 기만 행위를 위해 그 기능을 악용하려는 사람들에게도 점점 더 쉽게 접근할 수 있게 되었습니다. 

국가정보국장실로서 9월 말에 개요가 제시되었습니다., 러시아와 이란이 인공지능(AI)을 이용해 미국 대선에 영향을 미치고 있다는 경고가 나왔습니다. 이는 올해 국제 선거에서 이미 목격되었던 AI 기반 허위 정보 유포 캠페인이 미국에서도 발생하고 있음을 보여줍니다. 선거를 한 달 앞둔 지금, 딥페이크를 포함한 AI 기반 허위 정보의 확산은 유권자, 정부, 그리고 소셜 미디어 플랫폼 모두에게 새로운 과제를 안겨주고 있습니다.

잘못된 정보가 증가하고 있습니다

스윔레인 최근 사이버 보안 분야 의사 결정권자 500명을 대상으로 직장 및 그 외 분야에서의 AI에 대한 인식을 조사했습니다. 전체 보고서는 10월에 발표될 예정이지만, 저희는 그중에서도 특히 주목할 만한 통계 하나를 공개하고자 합니다. 사이버 보안 의사 결정권자 741명(TP3T)은 인공지능을 이용해 허위 정보를 생성하는 것이 미국에 상당한 위험을 초래한다는 데 동의했습니다.. 이들은 인공지능 기술이 점점 더 저렴해지고 접근하기 쉬워지고 있다는 사실을 직접 경험했습니다. 따라서 11월 5일을 앞두고 잘못된 정보의 양은 더욱 급증할 것입니다.

인공지능(AI)은 더 이상 자원이 풍부한 조직만의 전유물이 아닙니다. 오늘날 인터넷 연결과 기본적인 지식만 있다면 누구나 AI 도구를 이용할 수 있습니다. 이러한 민주화는 여러모로 고무적이지만, 딥페이크 영상부터 허위 기사에 이르기까지 조작된 미디어가 온라인 플랫폼을 뒤덮을 위험이 있다는 점에서 판도라의 상자를 여는 것과 같은 파장을 일으키기도 합니다.

가장 우려스러운 인공지능 위협 중 하나는 딥페이크의 등장입니다. 딥페이크는 개인의 행동이나 발언을 매우 사실적으로 조작하는 영상으로, 심각한 윤리적, 사회적 문제를 야기합니다. 최근 한 연구에서는 이러한 딥페이크의 확산을 지적했습니다. 테일러 스위프트가 등장하는 딥페이크 이는 유명 인사들이 얼마나 쉽게 표적이 될 수 있는지를 섬뜩하게 일깨워주는 사건이었습니다. 그리고 이는 올해 우리가 목격한 수많은 사례 중 하나일 뿐입니다.

시각적 허위 정보는 사람들이 본능적으로 눈으로 보는 것을 신뢰하기 때문에 특히 위험합니다. 이로 인해 일반인들은 진짜 콘텐츠와 조작된 콘텐츠를 구분하기가 더욱 어려워집니다. 이러한 위험성은 특히 정치 분야에서 심각한데, 딥페이크는 후보자의 신뢰도를 떨어뜨리거나 유권자를 조작할 수 있기 때문입니다.

법적 및 윤리적 회색 지대

인공지능과 허위 정보의 교차점은 특히 표현의 자유와 관련하여 어려운 문제들을 제기합니다. 딥페이크와 인공지능으로 조작된 콘텐츠는 창의적인 표현과 악의적인 의도 사이의 경계를 모호하게 만듭니다. 편집된 콘텐츠가 예술이나 풍자의 형태를 벗어나 위험한 거짓으로 변질되는 시점은 언제일까요?

법률적 관점에서 이 질문은 특히 어렵습니다. 허위 정보를 다루는 법률이 일부 존재하지만, AI 생성 콘텐츠의 진화하는 특성으로 인해 법 집행이 어려워지고 있습니다. 유럽 연합은 최근 이러한 문제를 해결하기 위한 방안을 공식화했습니다. 인공지능법, 이는 EU 최초의 AI 시스템 규제입니다. 그러나 미국에서는 딥페이크 및 AI 콘텐츠를 규제하는 현행 연방 규정이 기술의 급속한 발전을 제대로 반영하지 못해 중요한 윤리적, 법적 문제들이 해결되지 않은 채 남아 있습니다.

앞으로 우리는 어디로 나아갈 것인가

딥페이크, 가짜 음성, 맞춤형 문자 메시지 등 선거에 영향을 미치는 데 사용되는 것과 동일한 AI 기반 기술이 조직을 공격하는 데 점점 더 많이 활용되고 있습니다. 현실은 AI가 정치적 조작에만 사용되는 것이 아니라, 맞춤형 이메일을 시기적절하게 보내 주택 구매자를 속여 잔금을 잘못된 계좌로 송금하게 하는 것과 같은 고도로 표적화된 피싱 공격에도 적용되고 있다는 것입니다.

이처럼 정교한 공격 방식은 공격자들에게 새로운 공격 경로를 열어주며, 이미 확대되고 있는 공격 범위를 더욱 넓힙니다. 산업 전반에 걸쳐 기술 의존도가 높아짐에 따라 사이버 위협의 규모와 복잡성은 더욱 증가할 것입니다.

이러한 급격한 증가세에 발맞추기 위해 기업들은 다음과 같은 조치를 취해야 합니다. 오토메이션 그리고 통합합니다 일체 포함 AI는 공격자와 방어자 양측 모두에서 사용되므로 효율성이 핵심이 될 것입니다. 우리가 나아가야 할 방향은 분명합니다. 공격자보다 한발 앞서 나가는 것이 아니라, 공격자와 보조를 맞춰 진화하고 AI를 활용하여 점점 더 정교해지는 디지털 환경의 도전에 대응하는 것입니다.