La reciente difusión de un audio atribuido a Martí Batres, en el que daba indicaciones para fortalecer la campaña de Clara Brugada y debilitar a Omar García Harfuch, contendientes para coordinar los comités de defensa de la 4T, en la Ciudad de México, fue desmentido por el jefe de gobierno, “Está circulando un audio en el que se pretende atribuirme expresiones relacionadas con el proceso interno de #Morena en la Ciudad de México. Aclaro que es totalmente falso. Nunca he hecho tales afirmaciones. Está producido con inteligencia artificial. No es real”.

El uso de la Inteligencia Artificial (IA) es cada vez más extendido e incontrolable. La dificultad para distinguir entre la información verdadera y falsa genera confusión entre la ciudadanía, al tiempo que cuestiona la legitimidad de la toma de decisiones de las autoridades.

Uno de los riesgos que entraña la IA es la opacidad y la falta de transparencia de los algoritmos que pueden utilizarse para contravenir la democracia y convertirse en una herramienta propagandística dirigida a orientar la opinión pública, favoreciendo intereses particulares que declinen la balanza en favor de un candidato o de un partido político.

El potencial de la IA y su accesibilidad no sólo es capaz de incidir en la decisión de la ciudadanía para lograr objetivos específicos en una contienda electoral, sino también capaz de crear desinformación y caos para desestabilizar gobiernos

La IA introduce un dilema ético al promover la desconfianza generalizada con información que no corresponde a la realidad y creada para influir en la decisión de las personas, poniendo en entredicho la capacidad de la ciudadanía para elegir a sus representantes de manera autónoma.

La creación de imágenes falsas, audios creados y situaciones manipuladas, que circulan por las redes sociales, prefigura un peligro para el tratamiento de la información. La creación de un nuevo lenguaje similar al humano producido por plataformas digitales que muestran escenas que nunca existieron, ya es una realidad.

Contenidos periodísticos creados por la IA para desinformar, distorsionar e influir en la opinión pública hace tiempo que comenzaron a circular por todos los canales mediáticos, poniendo en riesgo la libertad de opinión y el debate público.

Un aspecto que debe considerarse en este nuevo escenario es saber quién controla el dominio digital de la IA. Si en el siglo pasado los medios masivos de comunicación devinieron “cuarto poder”, hoy estamos ante el monopolio de empresas privadas que utilizan estas tecnologías con fines comerciales, pero que gradualmente están absorbiendo los espacios de debate público y el entorno digital de los votantes.

Numerosos son los peligros que acechan a la democracia ante la dependencia de la IA de la gran tecnología y las grandes empresas tecnológicas. Peligros que demandan urgentemente la regulación legal de la IA.

Mientras tanto, queda la tarea de “desmontar” la información falsa producida por la IA para enfrentar la “guerra mediática” rumbo a las elecciones de 2024 en México.

Doctorada en Ciencias Políticas y Sociales por la UNAM y Posdoctorada por la Universidad de Yale