Las grandes tecnológicas están teniendo una ardua batalla sobre a ver quién consigue desarrollar el chatbot más avanzado. Si bien a finales de 2022 vimos cómo se desenvolvía ChatGPT, meses después veríamos la aparición de otras alternativas como la de Microsoft con Bing Chat, Google con Bard (este último lo pudimos probar hace unos días), y ahora Meta con LlaMa 2.
Si bien nos hemos dejado algunas otras propuestas, en este artículo hemos querido enfocarnos en el modelo de lenguaje que ofrece Meta. Se trata de un LLM que todo el mundo puede descargar y utilizarlo para todo tipo de proyectos, para investigación, fines comerciales, entornos profesionales, o simplemente para tontear un poco con él. En este artículo te contamos nuestra experiencia con este modelo de lenguaje y cuáles son sus virtudes y carencias.
Un LLM similar a GPT-3.5 disponible para todo el mundo
Cabe mencionar que la versión de LlaMa 2 que hemos probado ha sido gracias a la desarrollada por el programador Pietro Schirano, quien ha habilitado una aplicación web para poder probar LlaMa 2 de manera totalmente gratuita y fácil. La app ha sido desarrollada mediante Replit y Replicate, y cualquiera puede entrar a la web y probar el funcionamiento de este LLM.
Llama 2 was just announced, so I built an app for everyone to test it out, for free! 🎉
— Pietro Schirano (@skirano) July 18, 2023
Built with @replit and @replicatehq .
I really like this model so far, especially for reasoning.
Thanks @ylecun pic.twitter.com/mIU6JmFBST
La web se centra principalmente en el chatbot sin ninguna otra característica adicional. Recordemos que Meta no ha proporcionado esta web, por lo que habrá funciones de otros chatbots que echemos en falta aquí, como el historial de chat u otro tipo de configuraciones.
Además de ello, los usuarios pueden apuntarse a la lista de espera para descargar LlaMa 2 desde la web de Meta o probarlo también directamente a través del modelo en local proporcionado por Hugging Face. Schirano nos ha proporcionado simplemente un entorno en el que probar LlaMa 2 desde cualquier lugar, adelantándose a todo el mundo y siendo actualmente una de las formas más fáciles de probar el chatbot.
En nuestras pruebas, hemos encontrado bastantes similitudes con ChatGPT, aunque en teoría, se trata de un modelo de lenguaje que funcionará de mejor forma en cuanto a razonamiento y manera de interactuar con el usuario. Sin embargo, también hemos detectado que funciona mucho mejor en inglés que en español.
Al ser un modelo preentrenado que puede ser descargado por todo el mundo, no ofrece la posibilidad de conectarse a Internet para buscar información u ofrecer contexto al igual que la versión premium de ChatGPT, Bing Chat o Bard. Es por ello que lo más lógico sería compararlo con la versión gratuita de ChatGPT, aunque en este caso podemos obtener información acerca de sucesos que hayan ocurrido en 2023 hasta marzo, parece ser.
Errores muy básicos de gramática y mezcla entre varios idiomas cuando intentamos que nos responda en español.
LlaMa 2 ha sido entrenado a través de 70.000 millones de parámetros, por lo que se desenvuelve bastante bien en el lenguaje natural. Eso sí, tiene toda la pinta a que por el momento funciona de mejor forma en inglés, o al menos eso nos ha parecido mientras lo estábamos probando. En teoría es compatible con hasta 27 idiomas y el modelo ha sido modificado por el propio Schirano, por lo que si le hablamos en inglés encontraremos algunas frases que hacen referencia a este desarrollador.
Comparativa entre la versión gratuita de ChatGPT (a la izquierda) y LlaMa 2 (a la derecha).
LlaMa 2 se desenvuelve francamente bien, sobre todo cuando le escribimos en inglés. La forma en la que explica y razona los conceptos, o la manera en la que interactúa con nuestras respuestas es bastante acertada. Sin embargo, debemos tener en cuenta que LlaMa 2 no dispone de un entorno oficial de Meta actualmente, por lo que hay funciones que echamos en falta, como el historial de chats, la posibilidad de acompañar con imágenes sus respuestas como hace Bard, o incluso el hecho de poder hacer búsquedas en Internet.
Cuando el chatbot se encuentra generando una respuesta, no la muestra conforme va saliendo, como es el caso de ChatGPT, sino que tendremos que esperar un buen rato hasta que haya terminado de generar la respuesta. Esto también ocurre con Google Bard y personalmente no es algo que me entusiasme demasiado.
Según los datos publicados por Meta, LlaMa 2 ofrece un rendimiento equivalente a GPT-3.5 en la mayoría de los benchmarks, aunque algunos como HumanEval se encuentra muy por debajo. El hecho de que el modelo de lenguaje haya salido para todo el mundo y sin restricciones habilita a cualquiera hacer con este modelo lo que quiera, ya sea para fines de investigación e incluso comercial. Es por ello que puede que muchas compañías comiencen a usar este modelo de lenguaje también para múltiples servicios y aplicaciones.
LlaMa 2 está impulsado por Azure, aunque también se encontrará disponible en AWS. Eso significa que cualquiera que necesite integrar este modelo de lenguaje en línea podrá hacerlo con la ayuda de los servicios de Microsoft o Amazon. Aunque LlaMa 2 tenga todavía un gran margen de mejora, ya es muy superior a la primera versión filtrada meses atrás, por lo que solamente queda ver cómo va evolucionando.
En Genbeta | Ya puedes comparar los programas electorales del 23J… preguntándole a esta inteligencia artificial
Ver 8 comentarios