Herramientas para Verificar Origen de Contenido

En la actual pandemia de la inteligencia artificial generativa, la creación de textos, imágenes y audios sintéticos se ha convertido en algo muy sencillo, pero también ello ocasiona que sea especialmente complicado diferenciar si un contenido ha sido creado por una persona o por una IA, por lo que las IAs detectoras de IAs, que son tecnologías desarrolladas para identificar cuándo un texto, una imagen o un multimedia ha sido producido con algoritmos, han visto la luz.

¿Qué son las IAs detectoras de IAs?

Las IAs detectoras de IAs son modelos que han sido entrenados para distinguir patrones, estilos y características propias del contenido generado por IA. Las IAs detectoras de IAs pueden analizar textos (observando las inconsistencias lingüísticas, las redundancias, o los patrones típicos de los modelos de lenguaje), imágenes (pudiendo identificar artefactos digitales o señales que no suelen aparecer en fotos o ilustraciones realizadas por personas) o audio y voz, detectando los aspectos que modulan y generan (sonidos, las cuales no suelen encontrarse en músicas humanas).

El principal objetivo de las IAs detectoras de IAs es garantizar la autenticidad y la transparencia, especialmente en contextos educativos, legales, periodísticos y comerciales.

Cómo funcionan

Los métodos difieren de acuerdo con la herramienta y el tipo de contenido, pero en líneas generales se encuentran :
• Análisis de patrones de generación. Los modelos de IA acostumbran a dejar «huellas» del tipo de estructura, estilo textual, palabra repetida, etcétera.
• Detección de coherencia semántica. Existen ciertas incoherencias que, aunque sutiles, pueden ser prueba de la generación artificial del contenido.
• Marcadores estadísticos y probabilísticos. Resultados que son evaluaciones de cómo determinadas combinaciones de unidades léxicas o de píxeles se presentan con más frecuencia en el contenido generado.
• Redes neuronales entrenadas para clasificación. Modelos específicos con alta precisión para distinguir entre humano y máquina.

Herramientas populares

Algunas de las IAs detectoras más reconocidas son :
• GPTZero: que detecta textos generados por la máquina de lenguaje.
• Turnitin AI Detection : muy utilizada en educación con la detección de ensayos y trabajos académicos
• Originality.ai: que utiliza marketing como base y contiene funciones de plagio y de generación automática de contenido web.
• Hugging Face AI detectors : librerías open source dirigidas a desarrolladores que se encuentren interesados en añadir detección a sus plataformas.

Cada herramienta tiene ventajas y desventajas, y muchas funcionan mejor si combinan diferentes métodos de análisis.