Una de las peculiaridades que tienen las inteligencias artificiales es que, sin el volcado de datos que engorden su “conocimiento”, no serían absolutamente nada. Por eso escuchamos tan a menudo avances en una u otra materia con los algoritmos como protagonistas. Porque les hemos lanzado una serie de datos específicos para ver hasta dónde llegaban. Hace unos meses ocurrió dándole las riendas de un eventual conflicto nuclear, y salió mal. Ahora le han dado las llaves de una compañía, y salió regular.
El experimento. Investigadores de Cambridge llevaron a cabo un curioso experimento que ha durado seis meses, de febrero al mes de julio. Durante ese tiempo, 344 personas y una IA formaron parte de una especie de simulación de la vida donde cada uno era un director ejecutivo de una empresa y debía tomar una serie de decisiones vitales para la compañía y sus trabajadores.
Los resultados del algoritmo, como veremos, fueron de lo más satisfactorios, a excepción de una situación. Sí, la IA fue mucho mejor que cualquier otro director ejecutivo humano. Aunque cuando se dieron turbulencias serias en el mercado, el algoritmo colapsó.
Que comience los juegos. Como han explicado, "el objetivo del juego era simple: sobrevivir el mayor tiempo posible sin ser despedido por una junta virtual mientras se maximiza la capitalización de mercado". De esta forma, los 344 jugadores humanos (entre ellos altos ejecutivos de un banco del sur de Asia o estudiantes universitarios) y la IA (en esencia, GPT-4o, el LLM de OpenAI), comenzaron con las simulaciones.
El experimento les hacía asumir el papel de director ejecutivo de una empresa de automóviles. Un juego que fue diseñado por la startup de tecnología educativa de los investigadores de Cambridge, una llamada Strategize.inc.
La IA toma ventaja. Lo que ocurrió durante la primera fase del simulador es que el algoritmo cobró ventaja sobre los participantes humanos. Los LLM lanzados eran extremadamente buenos a la hora de analizar datos, reconocer patrones y hacer inferencias. Por ejemplo, cuando se trataba de diseñar un auto en función de factores como las piezas disponibles, el precio, las preferencias del consumidor o la demanda, había 250.000 combinaciones que los participantes podían idear.
Bien, los automóviles que armó la IA fueron diferentes y significativamente mejores que los que idearon los humanos. ¿Cómo? Para los investigadores, esto se debe a que los humanos tienen prejuicios y gustos personales en cosas como la forma de un automóvil, un sesgo que, para la IA, era simplemente un "rompecabezas para encontrar el valor óptimo para lo que quería el cliente”.
Colapso. Pero no todo fue coser y cantar para el algoritmo. Cuando se produjo un evento denominado como "cisne negro", la IA no pudo abordarla como los ejecutivos y estudiantes humanos. Y cuando hubo un cambio más importante en las condiciones del mercado, con la introducción de una pandemia en la ecuación, el modelo colapsó y fracasó en su intento de salir adelante.
"¿Cómo reaccionas al COVID si te enfrentas a él por primera vez? Mucha gente, y muchos directores ejecutivos, tienen diferentes estrategias. En este caso, la IA no tenía suficiente información sobre cómo reaccionar a tiempo para evitar que la despidieran", cuentan los autores.
Los CEOs respiran tranquilos. Es posible que el puesto de director ejecutivo todavía le venga grande a una inteligencia artificial, por muy LLM que sea, de eso no cabe duda. Según Hamza Mudassir, uno de los investigadores detrás del experimento, la IA superó a los participantes humanos en la mayoría de las métricas, incluida la rentabilidad, el diseño de productos, la gestión de inventario y la optimización de precios, pero su desempeño no fue suficiente para salvarla del "paro".
"No le fue bien en la supervivencia dentro de la alta dirección simplemente porque no era muy bueno en manejar cambios abruptos o cambios que requieren una nueva forma de pensar”, explica el investigador. Por ello, proponen un trabajo de cara al futuro que mejore estos resultados: IAs que se ajusten específicamente a una empresa en particular con datos en tiempo real.
Tiempo al tiempo.
Imagen | Dall-3/Genbeta
En Genbeta | Ojo, Recursos Humanos: un hombre hace una entrevista de trabajo y la entrevistadora era una IA
Ver 5 comentarios