ChatGPT se está usando tanto para escribir relatos que una editorial de ciencia ficción ha tenido que decir 'basta'

Clarkesworld es una reputada revista estadounidense de literatura de ciencia ficción y fantasía que lleva casi 20 años publicando autores premiados o nominados a los principales galardones de la literatura 'de género' (Hugo, Nebula, World Fantasy, Sturgeon, Locus, Stoker...). Los autores valoran de Clarkesworld que sea una de las publicaciones más rápida a la hora de leer y responder los relatos de los autores que aspiran a publicar con ellos, así como una de las que mejor pagan.

Por desgracia, la revista está siendo ahora la protagonista de una trama propia de algunos de los relatos que publica: ha tenido que cerrar temporalmente la admisión de nuevos relatos a causa de una avalancha de spam... en forma de relatos escritos por inteligencias artificiales como ChatGPT o ChatSonic.

Según un artículo publicado la semana pasada por Neil Clarke, el editor de Clarkesworld, más de una tercera parte de las historias remitidas a la revista a lo largo de 2023 han sido realmente escritas por alguna inteligencia artificial.

Un problema de proporciones absurdas que sólo puede ir a peor

Y lo que es peor es que la situación se agrava por momentos: en la primera quincena de febrero, se dieron más del doble de esta clase de envíos que en todo el mes de enero y, según publica Kotaku, ayer se encontró con 50 de estos relatos en su bandeja de entrada.

Clarke reconoce que lidiar con el plagio no es algo nuevo para él, y que es un problema que ha ido creciendo desde la pandemia. Pero, a la vista del gráfico que publicó, la irrupción de las nuevas inteligencias artificiales generativas ha llevado este problema a niveles verdaderamente absurdos. Ayer mismo, la publicación anunció el cierre de recepción de nuevas historias. "No debería ser complicado entender por qué", afirma en su tuit.

"[Nos] han estado enviando texto generado por máquinas. Esas obras son predecibles y de mala calidad", afirma. Sin embargo, también sospecha que ya hay obras un escalón por encima de éstas, no tan obvio en su origen. "Es inevitable que ese grupo crezca con el tiempo y se convierta en otro problema", aunque cree que todavía estamos lejos de ver una obra escrita por una IA que merezca la pena leer.

"Todavía tenemos preocupaciones éticas sobre los medios por los cuales se crean estas obras y hasta que tales preocupaciones puedan paliarse, ni siquiera consideraremos publicar obras generadas por máquinas".

En cuanto a soluciones para filtrar de forma fácil y rápida esta avalancha de spam 'made in AI', Clarke advierte que no hay ninguna sencilla: las herramientas de detección de contenido plagiado y/o generado por IA, además de ser muy costosas, dan como resultado demasiados falsos positivos y negativos.

"No voy a detallar cómo sé que estas historias son spam de IA ni voy a describir ninguno de los datos que he recopilado de estos envíos. Hay algunos patrones muy obvios y no tengo intención de ayudar a esas personas a tener menos probabilidades de ser atrapadas".

Clarke plantea en su artículo varias posibles soluciones a corto plazo que han llegado a ponerse sobre la mesa (y que él descarta aplicar), como acabar con las políticas de publicación de 'convocatoria siempre abierta' (que aparentemente generan más interés por parte de estos falsos escritores), o como bloquear la recepción de obras que lleguen a través de VPN o de determinados emplazamientos geográficos (aparentemente hay zonas del mundo con mayor porcentaje de esta clase de relatos fake).

Oiremos hablar más de esta clase de problemas en el futuro. Al fin y al cabo, si las IAs ya han ganado premios de pintura y de fotografía, hacerse con el Nebula no debería ser algo al margen de sus capacidades de aquí a unos años.

Vía | Kotaku

Imagen | Basado en original de Lexica.art