GPTZero: La herramienta que detecta texto generado por IA

La vida cotidiana ha dado un giro radical mediante la llegada de la inteligencia artificial, ya que herramientas como ChatGPT han transformado la manera de escribir, de investigar y de concebir contenido digital. Pero este avance tecnológico es un nuevo problema a resolver: ¿cómo podemos saber si se trata de un texto que ha escrito una persona o ha generado una máquina? La respuesta, al menos en parte, llega con GPTZero.

¿Qué es GPTZero?

GPTZero es una herramienta que se designa para detectar texto producido por inteligencia artificial. Fue creado con el objetivo de ayudar a los profesores, editores o profesionales en general a detectar si los documentos escritos son auténticos, con el fin de identificar los patrones de la escritura automatizada.
A diferencia de otros detectores basados únicamente en comparar frases o similitudes con bases de datos, GPTZero se basa en un análisis estadístico moderno que estudia la complejidad y la variabilidad del texto para identificar entre el texto humano y el texto generado por modelos de IA.

Cómo opera GPTZero

El funcionamiento de GPTZero es resultado de dos conceptos fundamentales que son la perplejidad y la burstiness.

1. Perplejidad
   La perplejidad se refiere a la capacidad predictiva del texto. Los textos realizados por IA tienen una arquitectura más homogénea y predecible que aquellos elaborados por humanos, que a menudo contienen algunos elementos no intencionados como variaciones naturales, fallos menores o construcciones inesperadas. Mientras menor es la perplejidad más altas son las probabilidades de que el texto comentado haya sido elaborado por IA.
2. Burstiness
   Este término explica cómo se modifica la complejidad de una idea respecto a una frase o un párrafo. Un escritor humano entrelaza oraciones cortas a cortas, ideas simples a complejas a partir de modificadores creando un patrón irregular. Por otro lado, los textos realizados por IA son más homogéneos. GPTZero observa esta “variabilidad” para su propio diagnóstico.

Usos de GPTZero

GPTZero ha hallado una aplicación sobre todo interesante –si bien no la única– en el área educativa y en la propia del periodismo, ya que los/as profesores/as pueden utilizarla para comprobar la autenticidad de ensayos o trabajos en los cuales el esfuerzo del alumno/a se pone a prueba, al tiempo que los mismos/as medios de comunicación pueden comprobar la autenticidad de un artículo que se puede producir cada día más fácilmente en entornos de inteligencia artificial.
Con el tiempo, incluso ha llegado a ser considerado, dentro del propio contexto de la edición de textos digitales, como una fuente de referencia a tener en cuenta para las y los editores en la búsqueda de la integridad editorial y la non procreación de textos que se pueden generar automáticamente y que pueden atentar contra la credibilidad del propio medio.

Limitaciones

Hay que tener muy presente que ninguna herramienta puede considerarse como un plotón seguro. Los detectores de IA y, dentro de ellos, GPTZero pueden presentar falsos positivos o incluso identificar textos que han sido generados por modelos más eficaces; por lo tanto, es necesario combinar su uso con un juicio humano, con la ayuda de diferentes herramientas de verificación.

Conclusiones

GPTZero es un paso que ayuda a marcar la diferencia entre la creatividad humana y la producción automatizada. No sustituye la evaluación crítica, pero sí ofrece una potente ayuda tecnológica para poder acceder al creciente uso que la IA hace de la escritura o los textos cotidianos.