Optimización de BLIS y TBLIS para ARM SVE y Apple AMX
Tabla de contenidos
- Introducción
- Arquitectura de Bliss para ARM SVE
- Desempeño de Bliss en A64 FX
- Optimizaciones en ARM SVE y NEON ISA
- Portabilidad de Bliss hacia AMX2 en Apple
- Desempeño de Bliss en AMX2
- Instalación de Bliss en sistemas ARM
- Uso de Bliss para cómputo de tensores en Julia
- Conclusiones
- Recursos adicionales
Introducción
¡Hola! Mi nombre es Ruching, y hoy en SC21 voy a compartir un poco sobre mi portabilidad de Bliss hacia dos arquitecturas relacionadas con ARM. Por un lado, tenemos la Extensión Vectorial Escalable (SVE) con mejoras para ARM NEON, y por otro lado, el coprocesador de matriz AMX2 que se encuentra oculto en los chips de Apple a partir del A13. Antes de profundizar en cada uno de ellos, permíteme darte una breve introducción sobre Bliss.
Arquitectura de Bliss para ARM SVE
Bliss, que significa "Blast-like functionality instantiation software", es un software basado en la anatomía de rendimiento de Gosu Plus (también conocido como Open Plus) y cuenta con una API extendida en comparación con el Plus tradicional. Una de las principales ventajas de Bliss es su capacidad para minimizar el número de kernels de ensamblaje necesarios, lo cual facilita su portabilidad a diferentes arquitecturas. En este caso, nos centraremos en su portabilidad hacia ARM SVE.
Desempeño de Bliss en A64 FX
En cuanto al desempeño de Bliss en la arquitectura A64 FX, es importante destacar los resultados obtenidos en las operaciones de resolución de triángulos (TRSM) y multiplicación de matrices (GEMM). Si bien el rendimiento en las operaciones de resolución de triángulos es inferior al de Vendor BLAS debido a una menor optimización de sus kernels, la multiplicación de matrices (GEMM) de Bliss supera al desempeño de Vendor BLAS SSL2.
Optimizaciones en ARM SVE y NEON ISA
Además, se han implementado optimizaciones adicionales en las operaciones de tipo complejo (CGEMM y ZGEMM) que permiten que Bliss supere ampliamente el rendimiento de Vendor BLAS en casos específicos. Estas optimizaciones han sido probadas en chips convencionales de ARM y se espera que también mejoren el desempeño en la arquitectura Neoverse V1.
Portabilidad de Bliss hacia AMX2 en Apple
En el segundo apartado de este artículo, me gustaría compartir mi portabilidad de Bliss hacia el coprocesador de matriz AMX2 utilizado en los chips de Apple, como el M1. AMX2 realiza operaciones de producto externo de vectores de 512 bits y acumula los resultados en una matriz Z. Aunque la programación de instrucciones AMX2 puede resultar un desafío debido a la falta de ejemplos proporcionados por Apple, Bliss permite una implementación eficiente mediante el uso de código en lenguaje ensamblador.
Desempeño de Bliss en AMX2
El desempeño de Bliss en AMX2 es notable, especialmente en casos de precisión simple y doble. En el caso de precisión media (half precision), el desempeño se ve afectado debido a que cada actualización requiere dos ciclos de reloj. Sin embargo, el rendimiento en precisión doble y simple puede alcanzar hasta 2.5 teraflops, superando ampliamente al Vendor BLAS de Apple. Estos resultados demuestran la eficiencia y el potencial de Bliss en los chips de Apple.
Instalación de Bliss en sistemas ARM
La instalación de Bliss en sistemas ARM se puede realizar compilando el código fuente o descargando una versión precompilada disponible en Condor Forge. Además, he construido la biblioteca NumPy en base a este paquete para facilitar su uso en Python. También se ha portado un paquete de Julia llamado "TensorBlade" que permite la contracción de matrices de alto rango.
Uso de Bliss para cómputo de tensores en Julia
Si estás interesado en realizar cálculos tensoriales de alto rango en Julia, te recomiendo utilizar Bliss en combinación con el paquete "TensorBlade". Esta combinación te permitirá realizar cómputos eficientes en matrices de alto rango.
Conclusiones
En conclusión, Bliss ha demostrado ser altamente portátil y eficiente en diversas arquitecturas ARM, como ARM SVE y AMX2 en dispositivos de Apple. Sus optimizaciones y su capacidad para superar el desempeño de Vendor BLAS hacen de Bliss una opción prometedora para aplicaciones de alto rendimiento en cálculos matriciales y tensoriales.
Recursos adicionales
Preguntas frecuentes
¿Bliss es compatible únicamente con dispositivos de Apple?
No, Bliss es una biblioteca que se puede portar a diferentes arquitecturas ARM. Aunque este artículo se enfoca en su portabilidad hacia dispositivos de Apple, Bliss puede utilizarse en una amplia variedad de sistemas ARM.
¿Existen otras optimizaciones posibles en ARM SVE?
Sí, además de las optimizaciones mencionadas en este artículo, existen otras posibilidades de mejora en las instrucciones de punto flotante utilizando procesadores ARM NEON. Estas optimizaciones pueden beneficiar aún más el rendimiento en arquitecturas como Neoverse V1.
¿Cómo puedo instalar Bliss en un sistema ARM?
Puedes instalar Bliss compilando el código fuente o descargando una versión precompilada desde el repositorio de Condor Forge. También puedes encontrar más información en la página oficial de Bliss.
¿Bliss es compatible con otros lenguajes de programación además de Python y Julia?
Sí, Bliss se puede utilizar en diferentes lenguajes de programación que admitan la invocación de bibliotecas externas. Sin embargo, en este artículo se destacó su compatibilidad con Python y Julia debido a la popularidad y las características de estos lenguajes para cómputo científico.
¿Cuál es el potencial de Bliss en términos de rendimiento y eficiencia?
Bliss ha demostrado un gran potencial en términos de rendimiento y eficiencia al superar el desempeño de Vendor BLAS en varias operaciones matriciales y tensoriales. Sin embargo, es importante tener en cuenta que el rendimiento puede variar según la arquitectura y las optimizaciones utilizadas.
¿Se planea la expansión de Bliss hacia otras arquitecturas no ARM?
Actualmente, Bliss se enfoca en arquitecturas ARM, pero en el futuro podría considerarse su expansión hacia otras arquitecturas. Esto dependerá de la demanda y las necesidades de la comunidad de usuarios de Bliss.
¿Puedo utilizar Bliss en mi MacBook basado en ARM?
Sí, Bliss se puede utilizar en los MacBook basados en ARM. La portabilidad de Bliss hacia la arquitectura AMX2 de Apple permite aprovechar el rendimiento del coprocesador de matriz en aplicaciones científicas y de alto rendimiento.
¿Dónde puedo encontrar más información sobre Bliss y sus características avanzadas?
Puedes encontrar más información sobre Bliss en su página oficial y en su repositorio en GitHub. También puedes consultar la documentación y las discusiones en la comunidad de Bliss para obtener información más detallada sobre sus características avanzadas y sus casos de uso.
No difficulty
WHY YOU SHOULD CHOOSE TOOLIFY
