Las figuras públicas, como la presidenta Xiomara Castro, son las principales víctimas de contenidos creados con inteligencia artificial, usados para dar legitimidad a esquemas fraudulentos que se viralizan en redes sociales.
El Mirón verificó que el video donde Castro promociona “Genetrax AI” fue manipulado digitalmente, citando herramientas especializadas que confirman la naturaleza de deepfake y la utilización indebida de fragmentos de eventos oficiales.
Tegucigalpa, Honduras. – Las figuras públicas se han convertido en los principales blancos para la creación de deepfakes, tecnologías que manipulan imágenes y voces con inteligencia artificial para generar contenido falso que circula masivamente en redes sociales.
¿QUÉ VERIFICAMOS?
Días atrás, El Mirón (la sección de verifican de Corterio.hn), detectó en la red social Facebook la circulación de un video publicitario que usa la imagen de la presidenta Xiomara Castro para promover “Genetrax AI”, una supuesta plataforma de inversión digital que promete multiplicar el capital de cada ciudadano hondureño mediante inteligencia artificial y activos como oro y petróleo.
En el video promocional, se presenta a la presidenta Xiomara Castro haciendo promesas llamativas dirigidas a los hondureño y en el que asegura que “cada ciudadano de Honduras puede multiplicar su capital en solo tres simples pasos con nuestra plataforma inteligente”, destacando el uso de inteligencia artificial para operar con oro, petróleo y otros activos.
Además, se promete la posibilidad de generar ingresos estables y obtener dividendos desde $2,000 mensuales, calificando al proyecto como uno de los más avanzados del país y llamando a no perder tiempo ante la alta demanda.
De interés: Video falso busca sembrar miedo sobre supuestos bloqueos económicos de EE. UU.
¿QUÉ ENCONTRAMOS EN EL ANÁLISIS?
El Mirón sometió a análisis el audio, por medio de la herramienta digital Hiya— que ayuda a detectar si las voces en un audio o video son manipuladas— y encontró que la autenticidad del audio es 1/100. Es decir, que la voz analizada es probablemente un deepfake.
De igual manera, se utilizó la herramienta Búsqueda por imágenes de Google para detectar el origen de la publicación del video proyectado. En ese sentido, se conoció que el fragmento utilizado en el video publicitario corresponde a la disertación de la mandataria hondureña durante la 79 Asamblea General de Organización de Naciones Unidas, celebrada el 25 de septiembre de 2024.
Este tipo de mensajes forma parte de un esquema digital frecuente, en el que manipula la imagen de figuras públicas mediante tecnología deepfake e inteligencia artificial para dar una falsa apariencia de legitimidad y así captar la confianza de los usuarios, a pesar de que ninguna de estas afirmaciones cuenta con respaldo real del gobierno hondureño ni de la propia presidenta.
Al momento de querer hacer una revisión exhaustiva sobre el perfil desde el cual se había publicado el fragmento, la publicación fue eliminada.
Especialistas en Inteligencia Artificial señalan que al utilizar la imagen de personas reconocidas —como presidentes, políticos o celebridades—, los autores de estos montajes buscan generar confianza y credibilidad entre las audiencias, facilitando así la viralización de mensajes engañosos o estafas financieras.
Lea: Consejera del CNE y candidata de Libre promueven la desinformación electoral
FIGURAS PÚBLICAS Y NOTICIAS FALSAS, LA DOBLE AMENAZA DIGITAL
La inteligencia artificial, como toda herramienta comunicacional, representa tanto una oportunidad como un riesgo dependiendo del uso que se le dé y del contexto social donde se integra. Así lo indica Helen Ocampo, investigadora en derechos digitales y feminista, quien destaca que en Honduras y la región han surgido numerosos casos en los que la IA ha sido utilizada para suplantar identidades de políticos, celebridades o personas con influencia, atribuyéndoles declaraciones y acciones que nunca ocurrieron. Esto intensifica un problema ya existente: la proliferación de noticias falsas, que ahora pueden crearse y viralizarse en minutos, incluso por personas sin experiencia profesional, utilizando plataformas digitales gratuitas y comercialmente accesibles.
Ocampo subraya que esta tendencia se agrava por el consumo predominante de información en redes sociales, donde la población enfrenta dificultades para distinguir contenidos verídicos de aquellos manipulados por sistemas automatizados.
Las fake news y los deepfakes afectan reputaciones, inducen desinformación y pueden influir en decisiones políticas cruciales, especialmente en contextos electorales como el hondureño. En ese sentido, la investigadora recomienda poner atención en detalles críticos: validar el origen del contenido, analizar el perfil y actividad de quienes difunden, revisar la naturaleza de la publicidad y, sobre todo, contrastar información en varias fuentes antes de compartirla.
Le pude interesar: Falso: La Constitución no faculta a las FF AA a tener acceso a las actas electorales
SIN LEYES PARA LA INTELIGENCIA ARTIFICIAL
En Honduras, actualmente, no existe una legislación que regule, investigue o sancione el mal uso de la inteligencia artificial, lo cual deja a la población completamente vulnerable frente a la suplantación de identidades y otros delitos digitales. Helen Ocampo, advierte que esta carencia permite que figuras públicas, precandidatos y hasta menores de edad sean blanco de abusos, como ya ocurre en Europa donde, sí existen leyes que han derivado en condenas por la generación de imágenes falsas o desnudos con IA.
Ocampo sostiene que la ausencia de mecanismos legales facilita la proliferación impune de deepfakes y noticias falsas en redes, afectando reputaciones, promoviendo extorsiones y poniendo en riesgo procesos democráticos y derechos fundamentales. Por ello, urge la creación de marcos normativos y entidades especializadas que garanticen la protección de las personas ante la acelerada expansión de las tecnologías de inteligencia artificial.
El Mirón concluye que el video publicitario donde la presidenta Castro promueve un sistema de inversión llamado Genetrax AI, es FALSO. Su objetivo es captar víctimas mediante el uso indebido de la imagen de la presidenta para validar un esquema de inversión no regulado y potencialmente fraudulento.
