FX.co ★ Apple lanza LLM de código abierto para su ejecución en dispositivos

Apple ha introducido varios grandes modelos lingüísticos de código abierto, denominados OpenELM u Open-source Efficient Language Models, para fomentar y mejorar la comunidad de investigación abierta y contribuir a futuros esfuerzos de investigación.

Los modelos OpenELM, lanzados en la plataforma comunitaria de intercambio de código de IA Hugging Face Hub, tienen la particularidad de ejecutarse en el dispositivo en lugar de en servidores en la nube. Según Bloomberg, Apple ha apostado por un sistema de funcionamiento completamente en el dispositivo, con la tecnología de grandes modelos lingüísticos alimentada por el procesador interno del iPhone en lugar de por tecnologías en la nube.

Apple ha mencionado la presencia de cuatro modelos OpenELM distintos: cuatro preentrenados y cuatro ajustados a las instrucciones. El modelo más grande contiene 3.000 millones de parámetros, mientras que los demás tienen parámetros que oscilan entre 270 millones y 1.100 millones. El gigante tecnológico destaca que todos los modelos emplean una estrategia de escalado por capas para una asignación eficaz de los parámetros dentro de cada capa del modelo de transformador, lo que redunda en una mayor eficacia y precisión.

A diferencia de prácticas anteriores, Apple no sólo incluye los pesos del modelo y el código de inferencia, sino también el marco completo para entrenar y evaluar el modelo lingüístico en conjuntos de datos públicos. También incluye registros de entrenamiento, múltiples puntos de comprobación y configuraciones de preentrenamiento.

Además, está previsto que Apple presente iOS 18, equipado con funciones de IA, en la esperada Conferencia Mundial de Desarrolladores.