Mientras se tomaba un café en un restaurante de Toronto, Canadá, Edward Tian, ingeniero de 22 años que se especializa en informática y periodismo en la Universidad de Princeton, en Estados Unidos, se le ocurrió algo que hoy en todo el mundo es una inquietud y una preocupación: ¿cómo detectar los textos hechos con ChatGPT?
En las universidades las aplicaciones ya inventadas se quedan cortas para detectar el plagio; en las salas de redacción hay periodistas escribiendo sus notas con ChatGPT; y hasta hay gente usando esta herramienta para crear sus currículos y cartas de presentación para acceder a un trabajo, del que ya ha mucha gente preocupada si en unos años lo hará una inteligencia artificial. PI, el celular manejado con la mente y con señal hasta en Marte
ChatGPT está de moda y a diario es usado como herramienta de inteligencia artificial para crear textos y hacer consultas; sin embargo, Tian creó una aplicación gratuita que tiene como objetivo ser un contrapeso, un “tatequieto”: GPTZero. La herramienta es capaz de integrarse con otras plataformas similares como Turnitin, reconocida mundialmente por su servicio de detección de plagio.
“Los humanos merecen saber la verdad”
Esa fue la impronta con la que nació GPTZero, una aplicación dirigida a docentes para que puedan evaluar si los trabajos, ensayos y escritos que piden a sus estudiantes fueron escritos por humanos o por inteligencia artificial. En su lanzamiento, el host donde estaba alojada la aplicación colapsó y se bloqueó ante un tráfico descomunal.
Tian reconoció lo delicada que es la galopante evolución de ChatGPT y su directa relación con el aumento del plagio. Su invento ahora es aplaudido por más de 30 mil docentes estadounidenses en foros educativos por su aporte a la transparencia.
¿Cómo funciona GPTZero?
Para lograr su objetivo, GPTZero utiliza dos indicadores: “perplejidad” y “explosión”. La perplejidad mide la complejidad del texto; si GPTZero está perplejo por el texto, entonces tiene una gran complejidad y es más probable que esté escrito por humanos. No obstante, si el texto es más familiar para el bot, porque ha sido entrenado con dichos datos, entonces tendrá una complejidad baja y, por lo tanto, es más probable que sea generado por IA.
“Por separado, la ráfaga compara las variaciones de las oraciones. Los humanos tienden a escribir con mayor rapidez, por ejemplo, con algunas oraciones más largas o complejas junto con otras más cortas. Las oraciones de IA tienden a ser más uniformes”, precisó la Radio Pública Nacional de EE. UU. (NPR).
Y relataron: “En un video de demostración, Tian comparó el análisis de la aplicación de una historia en The New Yorker y una publicación de LinkedIn escrita por ChatGPT. Distinguió con éxito la escritura de un humano frente a la IA”.
OpenAI y la transparencia
OpenAI es la compañía detrás de ChatGPT y hace un mes anunciaron que intentan fortalecer la transparencia de su aplicación, poniendo una marca de agua, “una señal secreta imperceptible”, según Scott Aaronson, analista de seguridad de la empresa, para ayudar a docentes, editores y otras profesiones a identificar su fuente.
Sin embargo, la misma compañía reconoce “no es del todo confiable”, según citó El País de España. “En las pruebas que ha realizado la empresa, la herramienta acertó que los textos habían sido escritos por la inteligencia artificial en un 26% de los casos”, precisó el medio ibérico.
Mientras, tanto entidades estatales como privadas hacen lo suyo. El departamento de educación de Nueva York bloqueó el acceso a ChatGPT en las redes y dispositivos escolares por preocupaciones sobre sus “impactos negativos en el aprendizaje de los estudiantes y preocupaciones sobre la seguridad y precisión del contenido”, según NPR.
“El plagio digital debido a la inteligencia artificial es algo especialmente preocupante en ámbitos como el educativo, donde la originalidad es un valor irremplazable”, expuso a El País, Cristóbal Fernández Muñoz, vicedecano de Comunicación y Relaciones Institucionales de la Facultad de Ciencias de la Información de la Universidad Complutense de Madrid, quien instó a la humanidad a utilizar estas tecnologías “de forma responsable y no como un arma secreta, ni por parte del alumno ni del profesor”.