PrismML's Bonsai 27B is the first 27B-class model to run on a phone, using less than 5GB of memory on an iPhone 17 Pro. https://t.co/12C705M4B8
El tweet anuncia un hito significativo en la ejecución de modelos de IA grandes en dispositivos móviles, lo cual representa un avance en la eficiencia y accesibilidad de la tecnología AI. Un equipo técnico avanzado debería estar al tanto de este desarrollo ya que podría influir en futuras implementaciones y optimizaciones de modelos en entornos con recursos limitados.