La implantación de herramientas basadas en IA en nuestra vida es una realidad. Algunas de ellas como ChatGPT están llegando a los propios centro de formación, al ser usada para redactar los trabajos que envían los profesores para aprobar la asignatura. Y esto está provocando que incluso algunos profesores estén volviendo a un modelo de examen tradicional con el objetivo de que los estudiantes sean los que trabajan.
Además, son muchos los contenidos que tenemos a nuestro alrededor generado por IA sin que lo sepamos. Pero el auge de este tipo de herramientas también ha potenciado la llegada de herramientas que permiten detectar los textos que han sido escritos por ChatGPT o si, por el contrario, lo ha escrito un humano. Pero OpenAI cree que todas estas herramientas no funcionan correctamente y no son de fiar.
Las herramientas para detectar 'contenido de IA' no funcionan
OpenAI en la sección de preguntas y respuestas que están destinadas a los docentes en su página web, dejan prácticamente al principio que estos detectores no funcionan. Son tajantes al explicar que 'en resumen, no'. Se basan para esta negativa en que 'ningún detector ha demostrado distinguir de forma fiable entre contenidos generados por IA y contenidos generados por humanos'.
Y es que esto es algo bastante curioso, ya que la propia OpenAI cuenta con una herramienta que se presenta como detector de IA. Aunque ahora sus propios creadores afirman que no funciona como se esperaba. Y es por ello que a día de hoy no existen herramientas para poder conocer si un texto se ha generado con IA de manera precisa. Obviamente, esto es un grave problema para todos los docentes.
En los últimos meses, hemos podido comprobar como es cierto que estas herramientas no terminan de funcionar correctamente. Por ejemplo vimos como una IA afirmaba que la Constitución de Estados Unidos no había sido generada por un humano, sino por una IA. Y aquí vemos que puede ser realmente complicado entrenar a una herramienta para este tipo de finalidad.
Y este conocido hecho con la Constitución de Estados Unidos lo reconoce la propia OpenAI con la siguiente frase: "Cuando en OpenAI intentamos entrenar a un detector de contenido generado por IA, descubrimos que etiquetaba el texto escrito por humanos como Shakespeare y la Declaración de Independencia como generado por IA." Es por ello que se puede afirmar que todavía queda mucho camino por delante para tener un software de detección adecuado.
Cualquiera puede hacer esta prueba en algunos de los detectores de contenido de IA que hay en la red. En algunos casos se va a poder encontrar como un texto que has escrito tu mismo afirma que ha sido redactado la propia IA. Aunque igualmente en el campo educativo si se cambian unas pocas palabras de lo generado por una IA ya no habrá manera de identificarlo.
Otra opción que se puede venir a la mente de cualquier persona es utilizar ChatGPT para detectar contenido generado por IA. Pero lo cierto es que "ChatGPT no tiene conocimiento de qué contenido podría ser generado por la IA. A veces tendrá respuestas a preguntas como ¿podría haber sido escrito esto por IA? Pero sus respuestas son aleatorias", según ha afirmado OpenAI.
En Genbeta | Eliminar los chats en ChatGPT no te servirá de nada para tener más privacidad. Esta opción sí lo hará
Ver 2 comentarios