La amenaza de la IA: la desinformación y las elecciones de 2024

A solo un mes de las elecciones estadounidenses de 2024, no cabe duda de que la IA está desempeñando un papel sin precedentes en la percepción pública. Si bien la IA ha impulsado la innovación en todos los sectores, también se ha vuelto cada vez más accesible para quienes buscan explotar sus capacidades para la desinformación y el engaño. 

Como Oficina del Director de Inteligencia Nacional esbozado a finales de septiembre, Rusia e Irán están usando IA para influir en las elecciones estadounidenses. Esta advertencia confirma que las campañas de desinformación generadas por IA, que ya se observaron en las elecciones internacionales de este año, ahora están ocurriendo en EE. UU. Al entrar en el último mes previo a las elecciones, este auge de la desinformación generada por IA, incluyendo deepfakes, presenta nuevos desafíos tanto para los votantes como para los gobiernos y las plataformas de redes sociales.

La desinformación en aumento

Carril de natación Recientemente, encuestamos a 500 responsables de la toma de decisiones en ciberseguridad sobre su percepción de la IA en el entorno laboral y más allá. Si bien el informe completo se publicará en octubre, hubo una estadística que nos pareció impaciente: 74% de los tomadores de decisiones en materia de ciberseguridad coinciden en que el uso de IA para generar información engañosa supone un riesgo significativo para Estados Unidos.. Estas personas saben de primera mano que la tecnología de IA es cada vez más barata y accesible. Como resultado, el volumen de información engañosa seguirá aumentando antes del 5 de noviembre.

La IA ya no es dominio exclusivo de organizaciones con recursos suficientes. Hoy en día, cualquier persona con conexión a internet y conocimientos básicos puede acceder a herramientas de IA. Si bien esta democratización es emocionante en muchos sentidos, también abre la caja de Pandora de los medios inventados —desde vídeos deepfake hasta artículos engañosos— que amenazan con inundar las plataformas en línea.

Una de las amenazas más alarmantes de la IA es el auge de los deepfakes: vídeos muy convincentes que falsifican de forma realista acciones o declaraciones de individuos, lo que plantea profundas implicaciones éticas y sociales. Un estudio reciente... deepfake que involucra a Taylor Swift Fue un escalofriante recordatorio de lo fácil que es atacar a personajes fácilmente reconocibles. Y este es solo uno de los muchos ejemplos que hemos visto este año.

La desinformación visual es particularmente peligrosa porque las personas confían instintivamente en lo que ven. Esto dificulta que la persona promedio distinga entre contenido auténtico y alterado. Las implicaciones son enormes, especialmente en el ámbito político, donde los deepfakes podrían desacreditar a candidatos o manipular a los votantes.

Áreas grises legales y éticas

La intersección de la IA y la desinformación plantea preguntas complejas, en particular en torno a la libertad de expresión. Los deepfakes y el contenido manipulado por IA difuminan la frontera entre la expresión creativa y la intención maliciosa. ¿En qué momento el contenido editado deja de ser una forma de arte o sátira para convertirse en una mentira peligrosa?

Desde una perspectiva legal, esta cuestión es especialmente compleja. Si bien algunas leyes abordan la desinformación, la naturaleza cambiante del contenido generado por IA dificulta su aplicación. La Unión Europea formalizó recientemente su... Ley de Inteligencia Artificial, lo que la convierte en la primera regulación de sistemas de IA en la UE. Sin embargo, en EE. UU., las regulaciones federales actuales que rigen los deepfakes y el contenido de IA podrían no tener en cuenta los rápidos avances tecnológicos, lo que deja sin resolver importantes desafíos éticos y legales.

Hacia dónde vamos desde aquí

Las mismas técnicas basadas en IA que se utilizan para influir en las elecciones, ya sea mediante deepfakes, voces falsas o mensajes de texto altamente personalizados, se utilizan cada vez más para comprometer a las organizaciones. La realidad es que la IA no solo se utiliza para la manipulación política, sino que también se aplica a ataques de phishing altamente selectivos, como aquellos que engañan a los nuevos compradores de vivienda para que transfieran su pago final a la cuenta incorrecta mediante el envío de un correo electrónico personalizado y oportuno.

Este nivel de sofisticación abre nuevas vías para los atacantes, ampliando una superficie de ataque ya creciente. A medida que aumenta la dependencia tecnológica en los sectores, el volumen y la complejidad de las ciberamenazas no harán más que aumentar.

Para mantenerse al día con esta rápida escalada, las empresas deben adoptar automatización e integrar AI En sus defensas. Con el uso de la IA en ambos lados de la ecuación —por atacantes y defensores—, la eficiencia será clave. La dirección que debemos tomar es clara: no se trata solo de anticiparnos a los atacantes, sino de evolucionar a su ritmo, utilizando la IA para afrontar los desafíos de un panorama digital cada vez más sofisticado.