Apple ha lanzado una familia de varios modelos de lenguajes grandes (LLM por sus siglas en inglés) de código abierto diseñados para ejecutarse en el dispositivo en vez de hacerlo por los servidores en la nube, tanto en dispositivos personales como en ordenadores portátiles o teléfonos móviles, lo que es una ventaja importante.
Bajo el nombre de OpenELM, esta inteligencia artificial de Apple empleará una estrategia de escalamiento por capas para accionar parámetros de forma eficiente dentro de cada capa del modelo y se centrará en tareas específicas para que los usuarios obtengan resultados más precisos. Además, el que no tenga que requerir a los servidores en la nube proporcionará una mejor privacidad.
Así es OpenELM, la nueva familia de modelos de lenguaje de Apple
Según Macrumors, la nueva familia de modelos de lenguaje de la marca de Cupertino está compuesta por cuatro modelos representados en varios tamaños: 270 millones de parámetros, 450 millones, 1.100 millones y 3.000 millones. Apple utiliza una estrategia de escalamiento por capas que tiene como objetivo mejorar la precisión y la eficiencia.
Los ingenieros de la marca de la manzana indican, dentro de un documento técnico, que han logrado ejecutarlos en un MacBook Pro con chip M2 Max y 64 GB de RAM y en un ordenador con CPU Intel i9-13900KF, la cual está equipada con DDR5-4000 DRAM y GPU NVIDIA RTX 4090 con 24 GB de VRAM. Tras realizar varias pruebas, han confirmado que OpenELM logra una mayor eficiencia en comparación a otros modelos de lenguaje.
Concretamente, muestra una mejora del 2,36 % en la precisión en comparación con OLMo y requiere el doble de tokens de preentrenamiento. También comentan que se están lanzando estos modelos para potenciar y enriquecer la investigación abierta. Esto permitirá que los investigadores puedan estudiar los riesgos de los datos y los modelos, los cuales fueron entrenados con datos de Wikipedia, Reddit, Github, entre otros.
OpenELM está disponible en Hugging Face Hub, una comunidad para compartir código de IA, bajo licencia de código de muestra que permite su uso comercial, así como su modificación. Eso sí, Apple reconoce que no ofrece garantías sobre la precisión y seguridad de los datos generados. Estos LLM no están incorporados todavía, pero se espera que iOS 18 incluya una serie de nuevas funciones de IA y que puedan llegar.