Resumen

BESTARD COLUMBIE, Ana Beatriz; CRUZ MORETE, Daniela Elizabeth; SOLER JAY, Lianet  y  LOPEZ RAMOS, Dionis. MAMBA: SSM model as alternative to the transformers. Enfoque UTE [online]. 2026, vol.17, n.2, pp.8-17. ISSN 1390-6542.  https://doi.org/10.29019/enfoqueute.1204.

Mamba es una arquitectura reciente de Modelo de Espacio de Estados (SSM) que supera las limitaciones computacionales y de escalabilidad de los modelos de secuencia basados en Transformadores. En esta revisión examinamos y comparamos el diseño clave de Mamba —que combina capas de modelo de espacio de estados (SSM) con capas feed-forward y uso optimizado de memoria— frente a los modelos transformadores estándar, destacando su complejidad lineal y capacidad para procesar contextos extremadamente largos. Analizamos marcos de referencia publicados que muestran que Mamba supera o iguala a referentes de código abierto (ejemplo, Pythia, RWKV) de tamaño similar e incluso del doble en tareas zero-shot, siendo más eficiente en secuencias genómicas (procesando más de 1 millón de tokens con solo 74 mil parámetros) y admite variantes como Jamba (extensión MoE), Falcon Mamba 7B y Mamba-2 (SSM estructurado) con mayores ganancias de velocidad o capacidad. Discutimos adaptaciones para visión (VIM) y análisis de dependencias (DepMamba), y nuevos híbridos (ejemplo, Bamba, IBM Granite) que combinan la eficiencia de los SSM con la precisión de los Transformers. Finalmente, interpretamos estos hallazgos en el contexto de restricciones del mundo real —costo computacional, energía y madurez de herramientas—, señalando dónde sobresale Mamba, dónde pueden preferirse modelos híbridos y qué áreas requieren mayor optimización. Nuestras conclusiones sugieren que Mamba y sus derivados ofrecen un camino viable hacia un modelado de secuencias más sostenible y escalable.

Palabras clave : modelos de lenguaje; arquitecturas híbridas; mamba; modelos de espacio de estados; escalabilidad.

        · resumen en Inglés     · texto en Inglés     · Inglés ( pdf )