Desde que Google, para competir con otros gigantes tech en el mundo de la inteligencia artificial, lanzó su Bard de una forma muy temprana y cuando aún estaba muy verde, diversos han sido los problemas que ha enfrentado el gigante de las búsquedas.
Por ejemplo, un ingeniero dejó la empresa por copiar a otras y ayer tres directivos de la empresa, entre otros el CEO, afirmaban que no entienden algunas de las capacidades de esta IA o de otras de la empresa y que no entienden cómo aprende ciertas cosas.
Ahora se ha filtrado información interna que muestra que los empleados de Google criticaron repetidamente el chatbot Bard de la compañía en mensajes internos, tachando el sistema de "mentiroso patológico" y suplicando a la empresa que no lo lanzara.
Súplicas para no lanzar Bard
Bloomberg ha podido hablar con 18 trabajadores y ex trabajadores de Google, y ha podido acceder a capturas de pantalla de mensajes internos. En estas conversaciones internas, uno de los empleados señaló que Bard solía dar a los usuarios consejos peligrosos sobre temas como aterrizar un avión o bucear.
Otro decía: "Bard es peor que inútil: por favor, no lo lances". Bloomberg afirma que la empresa incluso "invalidó una evaluación de riesgos" presentada por un equipo de seguridad interno que afirmaba que el sistema no estaba listo para su uso general. De todas formas, Google abrió el acceso anticipado al bot "experimental" en marzo.
El informe de Bloomberg ilustra cómo Google ha dejado aparentemente de lado las preocupaciones éticas en un esfuerzo por seguir el ritmo de rivales como Microsoft y OpenAI.
Problemas con la ética
A finales de 2020 y principios de 2021, la compañía despidió a dos investigadores, de nombre Timnit Gebru y Margaret Mitchell, después de que fueran autores de un trabajo de investigación que exponía fallos en los mismos sistemas de lenguaje de IA que sustentan chatbots como Bard.
Como dice Bloomberg, parafraseando testimonios de empleados actuales y antiguos, "el gigante de las búsquedas en Internet de confianza está proporcionando información de baja calidad en una carrera para mantenerse al día con la competencia, mientras da menos prioridad a sus compromisos éticos”.
Brian Gabriel, portavoz de Google, declaró a Bloomberg que la ética de la IA sigue siendo una de las principales prioridades de la empresa. Google no es la única. Hay que recordar que Microsoft ha despedido a todo su equipo de ética para la inteligencia artificial… precisamente ahora que está coliderando su desarrollo
Imagen | Unsplash
Ver 2 comentarios