Este mes, OpenAI, los creadores de ChatGPT y otros productos que utilizan Inteligencia Artificial (IA), lanzaron una nueva versión de su producto SORA, que permite crear vídeos muy realistas con solo explicar lo que deseas en formato de texto.
He visto muchos productos para crear video con IA, pero este avance es tan significativo que me lleva a pensar que los reguladores, las redes sociales y, sobre todo, los votantes, no estarán preparados para hacer frente a videos falsos extremadamente realistas que podrían alterar las elecciones que se llevarán a cabo en 40 países, incluidos Estados Unidos y México.
El año 2024 traerá más elecciones a más personas que en cualquier otro año de la historia, con más de 40 países y más de cuatro mil millones de personas eligiendo a sus líderes y representantes. El rápido desarrollo de la IA está creando nuevas oportunidades, así como desafíos para el proceso democrático.
Toda la sociedad tendrá que aprovechar las oportunidades que ofrece la IA y tomar nuevas medidas juntos para proteger las elecciones y el proceso electoral.
Google, Meta, OpenAI y X (anteriormente Twitter) se encuentran entre las 20 empresas tecnológicas que se han comprometido a eliminar el contenido fraudulento generado por inteligencia artificial (IA), como parte de los esfuerzos para proteger las elecciones globales que se esperan este año.
El grupo de empresas firmó el Acuerdo Tecnológico para Combatir el Uso Engañoso de la IA en las Elecciones de 2024 en la Conferencia de Seguridad de Múnich, que describe un “marco voluntario de principios y acciones” que abarca la prevención, detección, respuesta, evaluación e identificación de la fuente de contenido electoral engañoso generado por IA.
También incluye esfuerzos para aumentar la conciencia pública sobre cómo protegerse de ser manipulados por dicho contenido, según un comunicado conjunto emitido por los signatarios del acuerdo tecnológico, que también incluye a TikTok, Amazon, IBM, Anthropic y Microsoft.
El acuerdo abarca contenido definido como audio, video e imágenes generadas por IA “convincentes” que “falsifican o alteran de manera engañosa la apariencia, voz o acciones” de candidatos políticos, funcionarios electorales y otros actores clave en una elección, o que difunden información fraudulenta al público sobre dónde, cuándo y cómo votar.
Siento que esta iniciativa no es suficiente, la amenaza de la desinformación y los videos falsos ha sido evidente en elecciones pasadas, donde se han documentado casos preocupantes que han puesto en riesgo la integridad de los procesos electorales.
Uno de los casos más notorios ocurrió durante las elecciones presidenciales de Estados Unidos en 2016. En ese momento, se descubrió que hubo una campaña coordinada de desinformación en las redes sociales, con la difusión masiva de noticias falsas y la manipulación de opiniones a través de anuncios dirigidos. Esta estrategia tuvo un impacto significativo en la percepción pública y la toma de decisiones de los votantes, lo que planteó serias dudas sobre la legitimidad de los resultados electorales.
Otro ejemplo relevante tuvo lugar durante el referéndum sobre la salida del Reino Unido de la Unión Europea, conocido como Brexit, en 2016. En ese momento, se difundieron numerosas noticias falsas y desinformación a través de las redes sociales, con afirmaciones engañosas sobre las consecuencias económicas y políticas de abandonar la UE. Esta desinformación contribuyó a moldear la opinión pública y, en última instancia, el resultado del referéndum, generando un intenso debate sobre la influencia de la desinformación en la democracia y los procesos electorales.
Existe el gran riesgo de un video con información falsa, extremadamente realista, que se propague rápidamente por WhatsApp o mensaje directo, en un momento que podría alterar la decisión de voto de la población justo antes de las elecciones, dejando poco tiempo para ser desmentido.
Es del interés de todos los candidatos y la población en general comunicar los riesgos de esta tecnología y encontrar métodos de propagación oficiales que permitan saber la fuente de información.
La democracia enfrentará retos nunca antes vistos en los siguientes años.
Hasta la próxima, Manuel.
:quality(70)/s3.amazonaws.com/arc-authors/elfinanciero/d6d97591-01ec-42fc-85cc-779219908b6a.png)