A 27B uncensored model just got squeezed from 54.7 GB down to 15.7 GB, small enough for a single consumer GPU. > OrcaSAQ2 compresses Qwen3.8-27B with a mixed-precision quantization method > 71% small…
Este tweet presenta un avance significativo en la compresión de modelos de lenguaje grandes, reduciendo su tamaño sin perder rendimiento. Es valioso para equipos de IA y ciberseguridad ya que permite ejecutar modelos potentes en hardware más accesible, facilitando su uso en codificación y análisis de vulnerabilidades.