OpenAI tiene que colaborar con Microsoft por contrato… uno que puede romperse en cualquier momento por una razón muy concreta

En 2019, se anunció un acuerdo entre OpenAI y Microsoft, mediante el cual esta última compañía invertiría 1000 millones de dólares en OpenAI para mejorar Azure (que pasaría a ser el único proveedor de computación de sus modelos de IA) y ayudar a desarrollar lo que entonces llamábamos 'inteligencia artificial fuerte' —y que hoy empezamos a conocer sencillamente como AGI—.

En palabras de nuestros compañeros de Xataka, "OpenAI tenía GPT y Microsoft tenía el dinero, así que juntos crearon un superordenador para dar vida a ChatGPT".

Por supuesto, Microsoft también ganaba mucho con ese acuerdo: lograba, de hecho, acceso a toda la tecnología de IA que OpenAI estaba creando, que Microsoft ha aprovechado por ahora para lanzar Bing Chat y toda su gama de asistentes Copilot.

Tan provechosa ha resultado ser esta inversión para ambas empresas que, a comienzos de este mismo año, Microsoft anunció una nueva inversión en OpenAI, esta vez 10 veces mayor: 10.000 millones de dólares.

Sin embargo, existe una cláusula en el acuerdo OpenAI/Microsoft que llama poderosamente la atención. Y es que, a pesar de que la obtención de la AGI (Inteligencia Artificial General) es el fin último de dichas inversiones, también marcaría el final de la colaboración entre ambas…

…según el acuerdo, una vez OpenAI desarrolle su primera AGI, se reserva el derecho a cesar de ceder sus nuevos modelos de IA a Microsoft.

Es, digamos, una de las salvaguardas introducidas por el sector de OpenAI más reticente al uso comercial de la IA, precisamente el bando perdedor en la reciente crisis de la compañía, abierta por el despido y retorno de Sam Altman como CEO.

Una salvaguarda, en definitiva, que podría hacernos pensar que Microsoft no ha hecho un buen negocio con esa inversión, pues podrían no rentabilizarla… sobre todo si la obtención de la AGI por parte de OpenAI está tan cerca como algunos creen.

Hecha la ley, hecha la trampa

Sin embargo, hecha la ley, hecha la trampa, y esta draconiana limitación de la colaboración OpenAI/Microsoft tiene truco: la ambigüedad en la definición de AGI es un punto crítico de esta cláusula.

Podríamos definir la AGI como un "sistema altamente autónomo que supera las capacidades humanas en tareas económicas valiosas", por ejemplo, pero ahí reside el problema: en que la definición de 'AGI' (como la de IA) es compleja y en constante evolución, lo que plantea desafíos para determinar cuándo se ha alcanzado este hito.

¿Cómo se determina cuándo un sistema es lo suficientemente autónomo y capaz como para considerarse AGI? A efectos del acuerdo entre ambas compañías, la AGI se habrá alcanzado… cuando la junta de OpenAI diga que se ha alcanzado. Ni más ni menos.

'Who watches the watchmen?'

Los posibles conflictos entre los intereses sin fines de lucro y los intereses lucrativos podrían llevar a disputas de importante calado para el futuro del desarrollo tecnológico. La pregunta clave es cómo se gestionarán estos conflictos y si la junta de OpenAI priorizará su misión sin fines de lucro por encima de los intereses de Microsoft.

¿Qué nos dice lo ocurrido en las últimas semanas? Pues que la primera pugna entre dichos intereses ya ha tenido lugar, y se ha saldado con la salida de la junta de aquellos consejeros que afirmaban que la desaparición de OpenAI podía ser preferible a vulnerar la misión de la compañía de poner la IA al servicio de la humanidad.

Con eso… y con la entrada de Microsoft —sin voto, pero con voz— en esa misma junta que deberá decidir sobre la capacidad de rentabilización de la inversión de Microsoft en OpenAI.

De hecho, la salida de los díscolos de la junta y la entrada de nuevos miembros fue una consecuencia de las negociaciones para el retorno de Altman… unas negociaciones en las que estuvo implicado el propio Satya Nadella —CEO de Microsoft—  tras 'rescatar' a Altman inmediatamente después de su despido.

Si en algún momento tienen que tomar esa decisión, se avecina un descomunal conflicto de intereses, sí.

Imagen | Marcos Merino mediante IA

En Genbeta | Aún no hemos alcanzado la 'IA general', pero según OpenAI debemos pensar cómo regularemos el siguiente paso: la 'superinteligencia'