Google no pareció ver venir que una empresa de la competencia de la que poco se conocía, OpenAI, estaba desarrollando una potente inteligencia artificial para ponerla en manos de todo el mundo. Hablamos de ChatGPT, entre otras.
La de Mountain View, que llevaba años desarrollando software de IA tuvo que "ponerse las pilas" para lanzar sus propuestas al mercado global. En muchos casos, esas prisas llevaron a productos erróneos (como las imágenes que distorsionaban la historia en su Gemini)
Tres directivos de Google concedían hace un año una entrevista a CBS sobre su inteligencia artificial Bard. Lo más sorprendente de las declaraciones del CEO de Google y Alphabet, Sundar Pichai; Sissie Hsiao, Vicepresidenta de Google; y James Manyika, Vicepresidente Senior, es que reconocían que no entienden algunas de las capacidades de esta IA o de otras de la empresa.
Hay que recordar que Google manejaba el 90% de las búsquedas en Internet, pero su dominio fue atacado cuando en febrero de 2023 Microsoft presentó su nuevo chatbot, integrando ChatGPT a su buscador Bing y mejorando muchísimo la experiencia. Mientras el Bard de Google ha llegado con ciertos problemas.
Sissie Hsiao, Vicepresidenta de Google, y James Manyika, Vicepresidente Senior, afirmaban que “lo primero que aprendimos fue que Bard no busca respuestas en Internet como lo hace la búsqueda de Google” y que las respuestas de la inteligencia artificial de Google proceden de un programa autónomo en su mayor parte autodidacta y afirman los propios directivos que su experiencia usando esta IA “fue inquietante”.
La IA aprendió un idioma, pero no se sabe cómo
De los temas de IA de los que hablaron los expertos de Google, el más misterioso se llama propiedades emergentes. Parece ser que las herramientas de inteligencia artificial de la empresa estaban aprendiendo habilidades que no se esperaba que tuvieran.
“No se sabe muy bien cómo ocurre esto. Por ejemplo, un programa de IA de Google se adaptó, por sí solo, después de que se le preguntara en el idioma de Bangladesh, que no estaba entrenado para conocer”, han dicho desde Google.
James Manyika afirma que descubrió que que con muy pocas indicaciones en bengalí, ahora esta inteligencia artificial puede traducir todo el bengalí. Así que desde Google tenían que esforzarse en investigar cómo fue esto posible y lograr que se haga con "mil idiomas" lo mismo.
A esto, el entrevistador de CBS les cuestionaba: “ustedes no entienden completamente cómo funciona, y sin embargo, ¿la han puesto a disposición de la sociedad?”. Pichai dijo que no es algo grave y es que, alegó que “tampoco creo que entendamos del todo cómo funciona la mente humana”.
Qué son las cajas negras
El líder de Alphabet habla de un término usado en la investigación tecnológica: la caja negra. El tema con el aprendizaje del bengalí de Bard entra dentro de la 'caja negra' de los ingenieros de Google, y que son sucesos en IA que son incapaces de explicar.
Según explicaba Pichai “todos nosotros en el campo lo llamamos como una "caja negra", que es que cuando algo no se entiende completamente”. Es decir, que no se puede decir muy bien por qué hizo algo, por qué hubo un error. “Tenemos algunas ideas, y nuestra capacidad para entender esto mejora con el tiempo”.
Como publicaba a finales de 2023 Scientific American, las cajas negras de IA se refieren a sistemas de inteligencia artificial con funcionamiento interno que son invisibles para el usuario. "Puede proporcionarles información y obtener resultados, pero no puede examinar el código del sistema o la lógica que produjo el resultado".
Una versión anterior de este artículo se publicó en 2023.
Imagen | Kai Wenzel en Unsplash
Ver 1 comentarios