Ayer mismo nos hacíamos eco de una herramienta que se está haciendo muy popular para ayudar a detectar textos hechos con la muy popular inteligencia artificial de nombre ChatGPT y que se llama DetectGP. Pues bien, solo unas horas después se conoció que la propia OpenAI, la firma fabricante de ChatGPT, tiene su propio software para detectar su herramienta de IA.
Esta puede ser especialmente útil para profesores y profesoras de universidades y de centros educativos en general, ya que muchos estudiantes ya han descubierto la herramienta para hacer sus labores con ChatGPT.
La nueva herramienta de la empresa OpenAI sirve también para detectar si algo ha sido creado con inteligencia artificial y no solo puede descubrir la suya, sino que dice que este software ha sido entrenado con otros proveedores.
Cómo es el nuevo detector de IA
Según ha publicado la propia empresa en su blog, "hemos entrenado un clasificador para distinguir entre texto escrito por un humano y un texto escrito por IA de diversos proveedores", aunque la firma dice que "es imposible detectar de forma fiable todo el texto escrito por IA, creemos que unos buenos clasificadores pueden servir de base".
Lo que resulta sorprendente es que mientras ChatGPT impresione por sus capacidades, la empresa dice que su herramienta de detección "no es totalmente fiable". Sobre un "conjunto de desafíos" de textos en inglés, el clasificador identificó correctamente el 26% de los textos escritos por IA como "probablemente escritos por IA", mientras que etiquetó incorrectamente el 9% de las veces a textos escritos por humanos. Afirman que "este nuevo clasificador es mucho más fiable con textos de sistemas de IA más recientes".
La propia empresa fabricante (de la que se ha filtrado que acaba de contratar a 1.000 desarrolladores para mejorar sus herramientas) reconoce que la identificación de textos escritos con IA ha sido un importante tema de debate entre los educadores, y que es "importante reconocer los límites y el impacto de los clasificadores de texto generados por IA en el aula". Y explica que aunque este recurso se centra en los educadores, esperamos que nuestro clasificador y las herramientas de clasificación asociadas tengan un impacto en periodistas, investigadores de la desinformación y otros grupos.
Además, si te estás viendo afectado o afectada afectado directamente por ChatGPT y sus capacidades, bien porque seas profesor, administrador, padres o madre, estudiante.... tienes a tu disposición este formulario para enviar comentarios directamente a OpenAI.
Puedes probarlo gratis
Esta herramienta a la que OpenAI llama clasificador está disponible de forma gratuita para que todo el mundo pueda probarla. Solo tienes que registrarte o acceder con tu nombre de usuario y contraseña.
Por ahora y, mientras va mejorando, desde la firma advierten que "no debe utilizarse como herramienta principal para la toma de decisiones, sino como complemento de otros métodos para determinar el origen de un texto". Con textos de menos de 1.000 caracteres es aún menos fiable.
También se recomienda utilizar el clasificador sólo para textos en inglés. Aunque también lo podemos usar para textos en otros idiomas, "su rendimiento es significativamente peor en otros idiomas y no es fiable en código".
Ver 1 comentarios