Siempre he pensado como una cuestión de tiempo, que iniciativas sin ánimo de lucro directo, no comerciales y respetuosas con la privacidad, se fueran sumando al ecosistema de LLM y chatbots de Inteligencia Artificial.
Hace apenas unos días, hemos tenido noticia de una de ellas; se trata de «Apertus» (Abierto en latín) surgida de la colaboración de varias entidades suizas: EPFL, ETH de Zúrich y el Centro Nacional Suizo de Supercomputación (CSCS). En sus propias palabras:
Apertus es un modelo de base completamente de código abierto, disponible en dos versiones (8B y 70B) bajo la licencia Apache 2.0. Actualmente es uno de los LLM multilingües más potentes jamás lanzado por una institución pública, y está disponible para todos a través de la Utilidad de Inferencia de IA Pública.
Entrenado con 15 billones de tokens en más de 1000 idiomas (el 40 % de los datos no son inglés), Apertus incluye muchos idiomas que hasta ahora han estado subrepresentados en los programas de maestría en derecho (LLM), como el alemán suizo, el romanche y muchos otros. Apertus sirve como base para desarrolladores y organizaciones en futuras aplicaciones como chatbots, sistemas de traducción o herramientas educativas.
Como ellos mismos indican, el hecho diferencial de Apertus se sustenta tanto en sus políticas, como en el tamaño de su mayor LLM (70 Billones) y por el hecho de haber sido entrenada con un 40% de datos en otros idiomas diferentes al inglés.
- Los modelos LLM están disponibles para descargar en Hugging Face.
- A la interface de Chatbot se accede desde aquí.
Configuración del Chatbot
La pantalla de inicio nos presenta un interfaz claro y con diversas opciones:
- Ajustes, chats archivados, atajos de teclado, cerrar sesión y usuarios activos en la plataforma.
- Iniciar un nuevo Chat.
- Iniciar un chat temporal.
- Elegir modelo, por defecto en Suiza, Singapur o local.
- Barra lateral que muestra: Iniciar nuevo Chat, buscador, notas e histórico de chats.
- Subir imágenes o archivos para analizar.
- Parámetros autóctonos suizos (no se puede deshabilitar).
- Consultas en Internet.
- Audio
Según el uso que le vayamos a dar al Chatbot, puede merecer mucho la pena detenerse en configurar distintos aspectos que se ponen a nuestra disposición. A destacar las opciones de «Interfaz» y «Personalización» dentro del menú «Ajustes»:
Muy recomendable dedicarle un tiempo para adaptarla a nuestros gustos y necesidades.
Probando el Chatbot
Lo primero y fundamental, es remarcar que toda la información proporcionada por Apertus tiene como límite temporal Marzo de 2024. En sus «propias» palabras:
USER No entiendo muy bien el que puedas acceder a contenido de Internet pasado pero no actual.
ASSISTAN El problema principal es que, como IA, puedo acceder a contenido del internet, pero no puedo estar completamente al día con información «en tiempo real». Mi última actualización es de marzo de 2024, lo que significa que tengo acceso a información hasta esa fecha. Puedo buscar y proporcionar hechos e información detallada sobre temas anteriores hasta esa fecha, pero para información más reciente, desafortunadamente, no puedo acceder a ella, ya que mi conocimiento se limita a lo que aprendí durante mi entrenamiento finalizado en marzo 2024.
En la práctica, ésto se traduce en que si seleccionamos el icono «Búsqueda en Internet» nos mostrará referencias con fecha de Marzo 2024 y anteriores. Y caso de no hacerlo, sus respuestas se ceñirán a lo «aprendido» hasta dicha fecha. El limitante de todo ello ya dependerá del uso y resultados que cada cual le quiera dar o necesite.
Uno de las funciones que más utilizo con los Chatbots es la de corregir y sugerir mejoras gramaticales en los artículos que redacto (tiendo a ser redundante en exceso). Los resultados con Apertus han diferido bastante respecto a Gemini o Perplexity; en tanto y cuanto se ha centrado más en comentar aspectos del propio texto que ha tratar de mejorarlo:
El texto original presentaba ciertas redundancias y algunos saltos de párrafo que no estaban claramente conectados entre temas. He intentado mejorar la coherencia y la continuidad entre párrafos. He también ajustado algunas expresiones para mayor claridad. Sin embargo, ya que el documento original no estaba dañado de manera grave en cuanto a gramática, prosa o coherencia (salvo los pequeños ajustes mencionados para claridad, fluidez y consistencia), las mejoras principales se basaron en estructura y cohesión, más allá de errores gramaticales evidentes
El mayor problema con el que me he topado es que no gestiona correctamente «pegar» textos extensos y «copiar» parcialmente sus respuestas. En el primer caso no muestra el texto pegado y en el segundo copia íntegramente todo el chat.
Otro aspecto que considero molesto es en lo relativo al «chat continuo». Si no se específica de forma clara y concisa, intercala información sobre diferentes aspectos de Suiza ¿¿??. También concatena respuestas de diferentes preguntas sin venir a cuento:
Por otra parte, también hay ocasiones en las que acaba sugiriendo reflexiones oportunas:
Conclusiones
Al margen de cómo evolucione a posteriori, Apertus refleja una nueva tendencia en alza: Inteligencia Artificial ética. Donde no sólo se respeta la parte del usuario final mediantes políticas de uso claras, sin seguimientos ni recolección de datos; sino que se hace extensiva a las fuentes y medios que han sido empleados para su desarrollo. Y todo ello publicado como código abierto de buen principio.
El ofrecer un modelo muy contenido (8B) y un Chatbot online, permite su utilización tanto de forma local en dispositivos móviles como mediante navegador web. Puede que sus prestaciones no estén a la altura de otros modelos (de hecho no lo están), pero muestra un camino donde claramente pueden convivir iA con ejecución en local y respeto (ética) para todas las partes implicadas.
Como curiosidad final. Al preguntar al Chatbot de Gemini por Apertus, su respuesta fue que no lo conocía. En el caso de Perplexity, la respuesta fue positiva elaborando una amplía y detallada entrada al respecto.