Una IA streamer cosechó el éxito en Twitch, y a las pocas semanas ya ha sido baneada por racista: así era Neuro-Sama

No es raro encontrarnos por Internet con v-tubers (o vr-tubers), youtubers y streamers que ocultan su rostro (y el resto del cuerpo, en realidad) tras avatares virtuales (frecuentemente de estética manga). En algunos casos, incluso, llegan a ocultar su voz tras una voz alterada o enteramente sintetizada. Pero, de vez en cuando, nos encontramos con algún v-tuber que no oculta ningún rostro, cuerpo o voz reales: sencillamente, tras ellos, sólo encontraremos una mera inteligencia artificial. Y una de ellas, precisamente, está siendo noticia en estos días en Twitch.

Un usuario llamado Vedal987, creó en 2018 una IA a la que bautizó como Neuro-Sama ('sama' es uno de los títulos honoríficos japoneses, como '-san', '-kun' o '-sensei'). Al principio sólo la enseñó a jugar al popular 'osu!' (algo que puede hacer con bastante solvencia), pero no había ningún personaje ahí: ni hablaba ni contaba con su propio avatar.

Esto cambió hace unas semanas, ya en diciembre de 2022, cuando Vedal987 relanzó Neuro-Sama incorporándole un LLM (large language model) entrenado con textos de Internet. Suma a eso un avatar gratuito de Live 2D y una voz de anime, y tenemos un personaje listo para charlar en directo con los participantes de los chats en directo de Twitch. Y a eso se ha estado dedicando Neuro-Sama en las últimas semanas, lo que le ha permitido reunir casi 5000 usuarios simultáneos durante sus directos.

Podía terminar mal y lo hizo

Pero, claro, la libre interacción entre usuarios que sometían a todo tipo de preguntas a una IA entrenada con textos extraídos de esa "miserable colmena de escoria y villanía" que es Internet (palabras de Hackaday, no nuestras), era algo que sólo podía terminar mal, al menos conociendo la tendencia que tienen las IAs conversacionales menos refinadas (es decir, esto no va por ChatGPT o por Claude) a terminar copiando improperios humanos, muchas veces de naturaleza intolerante.

Aquí una muestra:

The controversial and fastly growing AI streamer Neuro Sama has officially been banned on Twitch

I've contacted the owner as to the reason why pic.twitter.com/gIVGbGoLxl

— Jake Lucky (@JakeSucky) January 11, 2023

Y efectivamente, ha terminado mal, y Neuro-Sama ha sido baneada de Twitch hace un par de días por las perlas proferidas en su chat: aunque no se ha confirmado exactamente cuál de ellas ha sido la alegada por la plataforma para darle la patada al canal, el hecho de que en uno de sus últimos directos la IA negase el Holocausto Nazi podría, sin duda, ser una buena explicación de por qué ahora, cuando intentamos acceder a su canal, nos encintramos con el siguiente aviso:

"Este canal no está disponible en este momento debido a una infracción de las Directrices de la comunidad o los Términos del servicio de Twitch".

Honest opinion, how do you judge what an AI says vs. a human? If it’s same weight then Neuro Sama needs some HEAVY moderation

— Jake Lucky (@JakeSucky) January 11, 2023