En el mundo de hoy, donde las imágenes falsas y la desinformación se propagan como un incendio forestal gracias a la Inteligencia Artificial (IA), enfrentamos un desafío sin precedentes. Es en medio de esta tormenta de información distorsionada que Google DeepMind ha decidido dar un paso audaz.
SynthID, su última creación, no es una herramienta ordinaria. Su misión es simple pero crucial: identificar y marcar imágenes generadas por IA y “Deep Fakes”. ¿Cómo lo hace? Utiliza una sofisticada marca de agua digital que se incrusta directamente en los píxeles de la imagen. Lo que es asombroso, es que esta marca de agua es completamente invisible al ojo humano, pero no pasa desapercibida cuando se trata de la identificación.
Kris Bondi, el fundador de Mimoto, una empresa especializada en detección y respuesta proactiva en ciberseguridad, ha compartido sus pensamientos sobre SynthID. Para él, esta iniciativa de Google representa un salto cuántico en la lucha contra las falsificaciones profundas. Sin embargo, también hace hincapié en que no existe una solución mágica para este problema creciente.
Puntos importantes:
Tabla de Contenidos
Hasta ahora no se conoce mucho del funcionamiento exacto de la herramienta, para evitar su posible (y probable) explotación. Lo que sí se sabe, es que detectará estas imágenes generadas por IA y que utilizará una marca de agua especial, la cuál solo será visible para los propios algoritmos de Google, para marcarlas y reconocerlas.
Además de esto, también implementarán la detección de las transformaciones y reediciones de este contenido, previniendo así que se sigan compartiendo después de haberlas transformado o redimensionado.
Demis Hassabis, CEO de DeepMind e investigador de inteligencia artificial, asegura que no altera la imagen en sí de ninguna manera perceptible. "No cambia la imagen, su calidad visual, ni su experiencia", sostiene. "Sin embargo, muestra una gran resistencia ante diversas transformaciones, como el recorte, el ajuste de tamaño y todas las maniobras que uno podría implementar para eludir las marcas de agua convencionales y tradicionales".
Conforme los modelos subyacentes de SynthID mejoren, Hassabis prevé que la marca de agua será aún menos detectable por parte de los seres humanos, aunque mucho más sencilla de identificar para las herramientas desarrolladas por DeepMind.
En el marco de la conferencia Cloud Next de Google, se ha presentado la nueva herramienta. Según el medio de noticias, The Verge, el CEO de Google Cloud, Thomas Kurian, destaca el crecimiento explosivo de la plataforma Vertex AI y la sofisticación creciente de los modelos, lo que impulsó el lanzamiento de SynthID.
Se posiciona como una solución esencial para diversas aplicaciones, desde verificar la autenticidad de imágenes publicitarias hasta garantizar la integridad de descripciones de productos en el comercio minorista. También menciona que podría integrarse al navegador de Chrome para identificar cualquier posible “deep fake”.
Además, se plantea la posibilidad de que esta herramienta se integre en aplicaciones como Slides y Docs, así como en navegadores web, lo que plantea interrogantes sobre cómo debería comunicar de manera efectiva la generación de contenido por IA a los usuarios. Este avance representa un paso significativo en la incorporación de esta tecnología en la vida cotidiana de los negocios.
Tan reciente como el mes pasado, Meta, OpenAI, Google y varios de los gigantes en el campo de la inteligencia artificial comprometieron sus esfuerzos en la integración de capas adicionales de salvaguardias y sistemas de seguridad para su tecnología de Inteligencia Artificial.
Además, numerosas empresas están inmersas en la exploración de un protocolo conocido como C2PA, el cual hace uso de metadatos cifrados para categorizar el contenido originado por la Inteligencia Artificial.
Según estas empresas, dentro de poco, toda la información generada por ChatGPT, MidJourney, Stable Diffusion, Google Bard y el Chat de Bing incorporará una marca de aguavisible. Esto facilitará la rápida identificación de contenido generado a través de estos medios y el software particular que lo ha producido.
» RELACIONADO: “Influencers Deepfake” en China ya se mantiene retransmitiendo 24 horas al día
