Cuando utilizas algoritmos y todo lo que puede salir mal, sale peor
En Polonia ha tenido lugar hace muy poco tiempo una historia que rivalizaría con un capítulo de Black Mirror. Ocurrió hace unas semanas, cuando la estación de radio Off Radio Krakow, una emisora local financiada por el estado, despidió a todo el equipo y los sustituyó por tres jóvenes de la Generación Z en su web que respondían al nombre de Emilia, de 20 años, Jakub, de 22, y Alex, de 23. Su primera entrevista fue un impulso para la estación: Wislawa Szymborska, un icono cultural polaco y Premio Nobel. El problema es que la poeta estaba muerta.
La “entrevista”. El momento ocurrió el pasado mes de octubre, cuando la emisora pública polaca Off Radio Krakow generó una gran controversia entre los oyentes al emitir una "entrevista" con la icónica poeta polaca Wislawa Szymborska. El problema, como decíamos, es que Szymborska está muerta desde 2012, y en realidad se usó inteligencia artificial para todo. De hecho, ni Jakub, ni Alex, ni Emilia son reales, son avatares con una foto inventada en la web que han sustituido a los humanos que llevaban la radio hasta hace muy poco.
La polémica iniciativa, lanzada para aumentar la audiencia en una estación en declive, ha provocado una enorme indignación pública en la nación. A esta hora nadie entiende cómo pudieron reemplazar a presentadores humanos con avatares generados por ordenador y realizar entrevistas a personajes fallecidos. De hecho, la decisión de simular una conversación con Szymborska también ha indignado a su antiguo presentador, Lukasz Zaleski, quien ha calificado en el New York Times el acto como una grave violación de la ética periodística.
Lo que podía salir mal, salió peor. El director de Radio Krakow, Mariusz Marcin Pulit, ha contado estos días que introdujo la tecnología de IA en un intento por atraer a una audiencia más joven y estimular el debate sobre los algoritmos en los medios. Al parecer, su equipo empleó herramientas como ChatGPT, ElevenLabs y Leonardo.Ai para crear los presentadores virtuales, incluido el personaje no binario de Alex Szulc y la “experta en cultura pop”, Emilia Nowak, la misma que realizó la entrevista ficticia con Szymborska.
La estación, por supuesto, ganó notable visibilidad, pasando de tener muy pocos oyentes a 8.000 en una sola noche, aunque quizás no exactamente como ellos hubieran querido. En general, la recepción fue mayormente negativa, por decirlo de manera suave. Tanto Pulit como las autoridades polacas recibieron una avalancha de críticas, acusaciones de deshumanización y de supeditar el periodismo a la tecnología.
Reacciones en todos los ámbitos. La entrevista con Szymborska también fue recibida con críticas de varias figuras culturales y políticas, incluida Michal Rusinek, encargado del patrimonio literario de la poeta, quien inicialmente autorizó el uso de su voz creyendo que la poeta lo habría encontrado humorístico.
Sin embargo, y una vez realizada la “entrevista”, describió el evento como un acto "horrible", argumentando que tergiversaba la personalidad de Szymborska, haciéndola parecer “ingenua” y “blanda”. La respuesta negativa también incluyó una declaración del periodista Jaroslaw Juszkiewicz, cuya voz (y trabajo) en la versión polaca de Google Maps fue reemplazada por una IA, en este caso resaltando la "pérdida de autenticidad en las voces humanas".
Consecuencias, debate y reflexiones. La controversia finalmente ha tenido un final feliz para la humanidad, y ha llevado a Pulit a cancelar el experimento con inteligencia artificial en Off Radio Krakow y devolver la programación a lo presentadores humanos y su música original. La estación incluso modificó las biografías de los avatares, eliminando menciones a orientaciones sexuales tras críticas de activistas LGBTQ+ que pedían una representación auténtica.
De fondo, el incidente ha suscitado un debate más profundo (una vez más) sobre los límites del uso de la IA en medios de comunicación y el riesgo de desplazar a profesionales humanos en beneficio de tecnologías automatizadas. Contaba el New York Times que un informe reciente sobre el impacto de los algoritmos en el periodismo sugería que la tecnología aún estaba lejos de reemplazarnos a los “plumillas”, al menos de forma efectiva.
Obviamente, queda un largo camino y estamos muy lejos todavía de llegar a un “entendimiento”. La propia tecnología plantea dilemas éticos que difícilmente se solucionarán a corto plazo.
En cualquier caso, esta ha sido, sin duda, una pequeña guerra ganada por los humanos, pero la batalla se prevé larga.
Imagen | Off Radio Krakow
En Genbeta | Después de casi dos años usando ChatGPT, este es el uso principal que le doy
Ver todos los comentarios en https://www.genbeta.com
VER 0 Comentario