Ya hemos escrito en semanas anteriores sobre cómo el auge de ChatGPT pilló con el pie cambiado a la industria de la IA china, la supuesta potencia emergente en este campo tecnológico. "¿Por qué no hemos sido nosotros los primeros?" parecía ser la gran pregunta sobre la mesa…
…e inmediatamente anunciaron que se estaban poniendo las pilas, y trabajando en el inminente lanzamiento de grandes modelos de lenguaje capaces de rivalizar con el de OpenAI. Si alguien parecía ser capaz de seguirle el ritmo, eran ellos.
Sin embargo, algo pasó. Por un lado, el Partido Comunista Chino anunció a mediados de febrero que iban a empezar a vigilar de cerca estos modelos en desarrollo para evitar que ofrecieran a los usuarios respuestas sin censura (Internet está fuertemente censurado dentro de las fronteras chinas)…
…y por otro, tan sólo un mes después, el primer vistazo al chatbot ERNIE de Baidu —el más avanzado y prometedor de los proyectos en marcha, lanzado por una compañía con larga experiencia en IA— resultaba ser una decepción monumental y provocaba la caída de las acciones de Baidu.
"¿Eso es todo?" fue el comentario general en las redes sociales chinas después finalizar el evento: sólo una demo preparada, sin plazos, etc. Sin embargo, con la perspectiva del tiempo, es muy posible que la primera noticia tuviera mucho que ver con la segunda… pues parece que los chatbots chinos deberán cumplir a partir de ahora con una serie de normas férreas que pueden obligar a rehacer parte del trabajo realizado hasta ahora.
Las normas chinas pueden darse de bruces con las limitaciones tecnológicas…
Y es que, según anuncia el New York Times, el régimen de Pekín ha puesto sobre la mesa —a través de su 'Administración del Ciberespacio'— una serie de regulaciones a las que tendrán que ajustarse los chatbots que quieran tener acceso a los usuarios chinos en el futuro.
¿El objetivo? Mantener sobre la IA el control férreo que ya han logrado aplicar a otras tecnologías. 'Perder el tren' frente a EE.UU. parece ahora preferible a dejar que la IA se les vaya de las manos. En su momento no les tembló el pulso a la hora de enseñar a compañías como Google la puerta de salida del país, precisamente a causa de esta clase de políticas.
Así, las compañías desarrolladoras deberán asegurarse de que las respuestas proporcionadas al usuario:
- Reflejan los "valores centrales socialistas". Hace tiempo que aplican la misma norma a los algoritmos de recomendación, por ejemplo.
- Evitan difundir información que socave "el poder estatal" o "la unidad nacional". Esto es, nada sobre Tiananmen, nada acerca de la represión de los uigures.
- Respetan la propiedad intelectual.
Precisamente en este último tema quedó recientemente en evidencia ChatGPT, a quien se puede 'corromper' tan sólo aplicando un poco de psicología para que se salte sus limitaciones de contenidos. Nos gustaría saber cómo van a solventar los chatbots chinos ese problema…
…aunque el Partido Comunista aparentemente también quiere saberlo, y por eso obligará a las empresas tecnológicas que desarrollen chatbots a compartir con ellos el diseño de sus algoritmos.
Las normas que la Administración del Ciberespacio de China ha redactado para regular la inteligencia artificial generativa podrían sufrir cambios adicionales antes de convertirse en definitivas. Pero, aun así, ya están empezando a ser implementadas por los proyectos en desarrollo, y probablemente su feedback determine la evolución de la legislación.
Parece complicado —por meras cuestiones técnicas— que puedan alcanzar a corto plazo el mismo nivel de control que ejercen en las redes sociales, donde se censuran términos(y hasta fechas) concretos, en amplios listados que se actualizan sobre la marcha, a medida que van produciéndose las noticias.
…pero, ¿y si no lo hacen?
Si estás pensando que lo que ocurra en China no nos afecta directamente, probablemente estés equivocado: si demuestran que una IA tipo ChatGPT puede controlarse de manera efectiva para que no se salga de un guión ideológico, los gobiernos (y empresas) de Occidente pueden tomar buena nota, y cualquier queja que Musk tuviera sobre el sesgo 'woke' (progre) de ChatGPT podría quedar empequeñecido por las consecuencias, sobre todo en un mundo que parece tender de manera acelerada a usar los chatbots para sustituir/complementar cualquier otra aplicación.
Imágenes | Generadas mediante IA (Mage.space) por Marcos Merino
Ver 12 comentarios