Intel proporciona aceleración de IA a PyTorch 2.0

En el lanzamiento de Python 2.0, las contribuciones de Intel que utilizan Intel® Extension para PyTorch , oneAPI Deep Neural Network Library (oneDNN) y asistencia adicional para CPU de Intel® permiten a los desarrolladores optimizar el rendimiento de la inferencia y el entrenamiento para la inteligencia artificial (IA).

Como parte de la pila de compilación de PyTorch 2.0, la optimización de backend de CPU TorchInductor de Intel Extension para PyTorch y PyTorch ATen CPU logró un rendimiento de inferencia FP32 hasta 1,7 veces más rápido en pruebas comparativas con TorchBench, HuggingFace y timm. ¹ Esta actualización aporta notables mejoras de rendimiento a la compilación de gráficos sobre el modo entusiasta de PyTorch.

El resto de optimizaciones incluyen:

• Mejora del paso de mensajes entre nodos de redes neuronales adyacentes para soportar redes neuronales gráficas en PyTorch Geometric (PyG) para mejorar la inferencia y el rendimiento del entrenamiento en CPUs Intel.
• Nuevo backend de cuantificación x86: una combinación de FBGEMM (Facebook General Matrix-Matrix Multiplication) y oneDNN- que sustituye a FBGEMM como backend de cuantificación predeterminado para plataformas de CPU x86 con el fin de mejorar el rendimiento de la inferencia int8 de extremo a extremo. 
• Uso extendido de oneDNN con oneDNN Graph API para maximizar la generación eficiente de código en hardware de IA mediante la identificación automática de las particiones gráficas que se acelerarán a través de la fusión. Se admiten los tipos de datos BFloat16 y Float32 y sólo se pueden optimizar las cargas de trabajo de inferencia; BF16 sólo se optimiza en máquinas con soporte ISA AVX512_BF16.

Más: Lee con el anuncio completo "Celebración de PyTorch* 2.0 con nuevas funciones de rendimiento para desarrolladores de IA".

_{¹ Consulta https://github.com/pytorch/pytorch/issues/93531#issuecomment-1457373890, Performance Dashboard para una precisión de 32 subprocesos de un solo zócalo (lanzamiento nocturno 2023-03-05).}

<sub>Avisos y exención de responsabilidades

Los resultados de rendimiento se basan en pruebas realizadas en las fechas indicadas en las configuraciones y puede que no reflejen todas las actualizaciones de seguridad disponibles públicamente. Consulte la copia de seguridad para más información sobre la configuración.
Intel no controla ni audita los datos de terceros. Consultar otras fuentes para evaluar la exactitud.</sub>