Hemos visto que la revolución de la inteligencia artificial ChatGPT ha llegado a muchos ámbitos de nuestra vida con una herramienta de altas capacidades. Y que está retando a profesores y profesoras de universidades y de centros educativos en general, ya que muchos estudiantes ya han descubierto la herramienta para hacer sus labores con ChatGPT.
Pero la tecnología siempre encuentra soluciones a cualquier reto y hay una herramienta que se está haciendo muy popular. Se llama DetectGP. Aunque cuando llegó a Chrome de Google a principios de mes pasó más desapercibida, se ha ido dando a conocer mientras los docentes y otros profesionales buscan una solución eficaz a los nuevos problemas que les plantea el avanzado software de OpenAI.
Cómo funciona DetectGPT
Este software escanea el contenido de una web o de un documento y lo analiza para identificar si alguno de los contenidos se ha generado utilizando el modelo de lenguaje GPT.
Dicen los autores de esta herramienta que la fluidez y el conocimiento de los grandes modelos lingüísticos (LLM por sus siglas en inglés) aumentan la necesidad de que los sistemas detecten si un texto está escrito por una máquina. Por ejemplo, los estudiantes pueden utilizar estos modelos de inteligencia artificial para completar tareas escritas, lo que impide a los profesores evaluar con precisión el aprendizaje de los alumnos.
DetectGPT parte de la base de que el texto muestreado de un gran modelo lingüístico tiende a ocupar regiones de curvatura negativa de la función de probabilidad logarítmica del modelo. Esto quiere decir que DetectGPT, no requiere del entrenamiento de un clasificador independiente, ni de la recopilación de un conjunto de datos de pasajes reales o generados, ni la marca de agua explícita del texto generado. Sólo utiliza probabilidades logarítmicas calculadas a partir de otro modelo lingüístico genérico preentrenado.
Como ya analizamos desde Genbeta, aunque es impresionante la forma de comprender el lenguaje de ChatGPT y de usarlo para escribir, es muy fácil concluir al ver el resultado de un “texto periodístico” hecho por esta IA, que hay un enorme riesgo a una estandarización de contenidos y a una pérdida de diversidad de puntos de vista y de creatividad, experiencias personales o conocidas y originalidad.
Por lo que hemos podido comprobar haciendo un rastreo en buscadores, DetectGPT está por ahora solo disponible como extensión para el navegador Chrome.
Ver 4 comentarios