BitTorrent siempre ha sido mucho más que descargas de contenidos con copyright. De hecho, desde su creación, ha sido una herramienta clave para la distribución de software, particularmente de distribuciones Linux que podían aprovecharse de la eficiencia y escalabilidad del protocolo para distribuir archivos grandes, gracias a su arquitectura descentralizada para evitar la sobrecarga de servidores durante picos de demanda.
Pero, como te contábamos hace poco, en los últimos meses BitTorrent ha encontrado un nuevo uso como medio de distribución de grandes modelos de IA generativa. En particular, Mistral AI llamó la atención de la industria por anunciar el lanzamiento de su modelo Mixtral 8x7B (un archivo de 87 GB) sin más comunicado que un enlace magnet publicado en la red X.
Hace unos días, en un movimiento que recuerda las tácticas de Mistral, Elon Musk ha cumplido su promesa de liberar Grok-1, el modelo de lenguaje detrás de su chatbot Grok (disponible para usuarios de pago de X desde finales de 2023), como open source bajo la licencia Apache 2.0, marcando así un nuevo capítulo en su confrontación con OpenAI por la pérdida de su faceta 'open'.
Grok-1 como competidor de GPT-4
Así, desde mediados de marzo, el equipo de Musk ha puesto a disposición para descarga un archivo torrent de 318,24 GB que aloja un modelo de lenguaje con 314 mil millones de parámetros, uno de los mayores de la industria... aspecto este que ha generado un gran debate: mientras algunos celebran la apertura que representa el libre acceso a de un modelo de esta envergadura, otros cuestionan que el tamaño del modelo garantice una mejora proporcional en su rendimiento.
A diferencia de sus competidores como GPT-4, Gemini Pro y Llama 2, Grok-1 se presenta como una versión satírica de ChatGPT, capaz de insultar y bromear de manera vulgar con sus usuarios. A pesar de tan poco serio enfoque inicial, la decisión de Musk de liberar su modelo como open source podría cambiar el panorama, ofreciendo a Grok-1 la posibilidad de convertirse en una alternativa viable frente a otros modelos de lenguaje generativo.
xAI, en un comunicado en su blog, detalló que el modelo, basado en una arquitectura conocida como Mixture-of-Experts (es decir, en un 'modelo de modelos de IA', cada uno especializado en una tarea), pero que no está diseñado para satisfacer necesidades específicas sin implementar optimizaciones previas.
Cómo descargarnos Grok-1
La comunidad tiene ahora la oportunidad de probar Grok-1 localmente... siempre que dispongan del hardware necesario, claro. Su repositorio en GitHub contiene código de ejemplo en JAX para cargar y ejecutar el modelo (scripts y archivos de requisitos para instalar las dependencias necesarias), pero para poder ejecutar el modelo, necesitas descargar los 'weights' del mismo, todos los parámetros que el modelo ha aprendido durante su entrenamiento.
Es precisamente esa parte fundamental de Grok-1 (la que contiene la información aprendida durante el entrenamiento del modelo) la que podemos descargar ahora recurriendo a un cliente torrent.
Imagen | Wikimedia + Marcos Merino mediante IA
Ver 1 comentarios