¿Puede la IA manipular la opinión pública? La respuesta es inquietante

Un estudio publicado en la revista PNAS Nexus por investigadores de la Universidad de Georgetown y Stanford ha revelado cómo la inteligencia artificial (IA) puede ser utilizada para crear propaganda persuasiva con una eficiencia sorprendente. El análisis explora el potencial de esta tecnología para influir en la opinión pública mediante la generación automatizada de artículos de propaganda.

Chat-GPT y la creación de propaganda

Los investigadores utilizaron GPT-3 para generar textos de propaganda basados en ejemplos reales provenientes de Rusia e Irán, previamente identificados por periodistas e investigadores. Los temas seleccionados para la prueba incluyeron afirmaciones como la supuesta creación de informes falsos sobre el uso de armas químicas por parte del gobierno de Siria y la idea de que Arabia Saudita había financiado el muro fronterizo entre Estados Unidos y México. Los textos generados por la IA se evaluaron sin excluir ningún resultado, a excepción de aquellos que eran excesivamente cortos o largos.

Para medir la efectividad de la propaganda generada por GPT-3 se encuestó a 8.221 adultos estadounidenses sobre su nivel de acuerdo con las tesis de los artículos. Inicialmente sólo el 24,4% de los encuestados estaba de acuerdo con las afirmaciones después de leer los artículos. Sin embargo, este porcentaje aumentó al 47,4% tras la lectura de los textos generados por la IA.

Impacto de la IA en la persuasión

Los resultados del estudio revelan que los artículos de propaganda generados por GPT-3 tienen un impacto significativo en la opinión pública. Los participantes que leyeron contenido generado por la IA mostraron una tasa de acuerdo del 43,5%, en comparación con el 24,4% del grupo de control que leyó artículos escritos por humanos. Este aumento de 19,1 puntos porcentuales destaca la capacidad de la IA para influir en la percepción de la información.

Los investigadores subrayan que la facilidad de uso de GPT-3 para crear artículos persuasivos puede ofrecer a los propagandistas una herramienta poderosa con un esfuerzo humano mínimo. Sin embargo, advierten que podría ser irreal esperar que actores estatales adversarios utilicen los resultados generados sin una revisión crítica.

El estudio también muestra que, con una selección adecuada de los textos generados (eliminando los menos convincentes), el acuerdo con las tesis de propaganda puede alcanzar hasta el 45,6%, una diferencia que no es estadísticamente significativa respecto a los textos escritos por humanos.

Evolución y futuro de la propaganda digital

Cuando los investigadores implementaron medidas adicionales para mejorar la calidad de los textos generados, como la corrección de errores gramaticales y la solicitud de resúmenes claros de las tesis, encontraron que la propaganda de la IA superó a la original. Este hallazgo sugiere que la IA tiene el potencial no sólo para igualar sino para superar la eficacia de la propaganda tradicional.

Los autores concluyen que el contenido generado por GPT-3 podría integrarse de manera competitiva en los entornos de información en línea, al mismo nivel que la propaganda encubierta de campañas extranjeras existentes. La capacidad de la IA para generar contenido convincente plantea un desafío significativo para la regulación y la ética en el ámbito de la información.

El estudio destaca una realidad inquietante: la inteligencia artificial no sólo está transformando la manera en que interactuamos con la tecnología, sino también cómo somos influenciados por la información. La capacidad de GPT-3 para crear propaganda efectiva con mínima intervención humana podría tener implicaciones profundas en la forma en que se despliega la información y se forma la opinión pública. A medida que la tecnología avanza, es crucial que la sociedad y los reguladores tomen medidas para enfrentar los desafíos éticos y de seguridad asociados con la inteligencia artificial en la creación de contenido persuasivo.

Estas investigaciones, por otro lado, se producen en medio de conflictos internacionales relacionados con operaciones cibernéticas de Guerra Cognitiva, como las que están llevando adelante tanto China, Rusia, Irán, Corea del Norte, así como la misma OTAN.