Resumen para apurados
- Google abrió al público su herramienta SynthID para identificar si imágenes, videos o audios fueron generados mediante inteligencia artificial y combatir la desinformación online.
- Presentada en 2023 para verificación informativa, la tecnología rastrea marcas de agua digitales imperceptibles aplicadas por Google y firmas asociadas como OpenAI y NVIDIA.
- La herramienta promueve la transparencia digital, aunque su alcance es parcial al no detectar contenidos creados por sistemas de IA que carezcan de estas marcas específicas.
Cada vez cuesta más distinguir una imagen real de otra creada con inteligencia artificial (IA). Para ayudar a reconocerlas, Google abrió al público su detector SynthID, una herramienta que permite revisar imágenes, videos y audios en busca de señales que indican si fueron creados con sus sistemas de inteligencia artificial o con los de empresas asociadas.
La herramienta está disponible en inglés y busca ofrecer más información sobre los contenidos que circulan por internet. Así, los usuarios pueden tener más elementos para evaluar lo que ven, escuchan y comparten en redes sociales.
Cómo funciona
Google presentó SynthID en 2023. Su tecnología incorpora marcas de agua invisibles en imágenes, videos y audios creados con inteligencia artificial. Estas señales quedan dentro de los archivos y no cambian su apariencia ni alteran cómo se escuchan o reproducen.
Cuando alguien analiza un archivo con SynthID Detector, la herramienta busca esas marcas para comprobar si el contenido fue creado con inteligencia artificial. Según Google, también puede reconocer archivos producidos con sistemas de empresas como OpenAI, NVIDIA y Kakao. Apple se sumaría próximamente.
Hasta ahora, el detector estaba disponible en una versión de prueba para periodistas y equipos que verifican información. Con la apertura al público general, cualquier persona puede utilizarlo para revisar contenidos digitales.
Google informó que su tecnología ya incorporó marcas de agua en más de 180.000 millones de imágenes y videos, además de una gran cantidad de archivos de audio.
Qué puede detectar
La herramienta puede ayudar a reconocer el origen de un archivo, pero tiene limitaciones. Si encuentra una marca de agua, puede indicar que el contenido fue creado con inteligencia artificial. Sin embargo, si no encuentra ninguna señal, eso no significa que la imagen, el video o el audio sean reales. También podrían haber sido creados con otras herramientas de IA que no utilizan esas marcas.
Además, detectar el uso de inteligencia artificial no permite saber, por sí solo, si una publicación cuenta algo verdadero o falso. Una imagen puede haber sido creada artificialmente y acompañar información cierta. También puede mostrar una escena fuera de contexto y llevar a conclusiones equivocadas.
Por eso, antes de compartir un contenido, conviene revisar quién lo publicó, buscar la fuente original y comparar la información con otras fuentes confiables.
