La división de desarrollo de inteligencia artificial en Google continúa ampliando sus esfuerzos para identificar y categorizar de manera clara los contenidos creados con sus herramientas de IA. Su última iniciativa es la integración de SynthID en Magic Editor, una herramienta de edición potenciada por IA que ofrece Google.
Synth ID es una tecnología desarrollada por la empresa para ayudar a identificar contenido generado por inteligencia artificial mediante marcas de agua. Su función es etiquetar con patrones, imágenes, videos, audios y texto con el propósito de que estas pueden ser categorizadas tras su creación como obras sintéticas.
“Poder identificar los contenidos generados por la IA es fundamental para fomentar la confianza en la información”, explica Google. “Aunque no es una solución milagrosa para resolver problemas como la desinformación o la atribución errónea, SynthID es un conjunto de soluciones técnicas prometedoras para este apremiante problema de seguridad de la IA”.
Según Google, estas marcas de agua serían imperceptibles al ojo humano y no afectarían la calidad de la creación, pero serían detectables por programas especializados diseñados para detectar estos patrones y notificar al usuario que el contenido que están consumiendo fue generado parcialmente o en su totalidad por IA.
Por muy avanzada que suene esta tecnología, tiene una limitación muy importante. SynthID depende de que la creación haya sido generada con estos patrones en primer lugar, lo que significa que por el momento solo será capaz de identificar obras generadas por las herramientas de Google y no tendrá capacidad de detectar contenido creado por otras plataformas.
“Este conjunto de herramientas está actualmente en fase beta y sigue evolucionando. Ahora se está integrando en una gama cada vez mayor de productos, ayudando a capacitar a personas y organizaciones para trabajar de forma responsable con contenidos generados por IA”, concluye la empresa.
Vía: Google
