Publicado en: May 11, 2020
Los AWS Deep Learning Containers para Elastic Inference están disponibles a partir de hoy con las versiones de marco PyTorch 1.3.1., TensorFlow 1.15.0 y TensorFlow 2.0.0. La actualización de PyTorch 1.3.1 incluye la inferencia de SageMaker y la inferencia PyTorch de SageMaker recientemente agregadas. Las mejoras de TensorFlow 1.15.0 y TensorFlow 2.0.0 incluyen las versiones más recientes del servidor de modelos TensorFlow para su uso con Elastic Inference. Puede lanzar las nuevas versiones de los Deep Learning Containers en HAQM SageMaker, HAQM EC2 y HAQM Elastic Container Service (HAQM ECS). Consulte las notas de la versión para obtener una lista completa de los paquetes versiones compatibles con AWS Deep Learning Containers.
Los AWS Deep Learning Containers con HAQM Elastic Inference (EI) con PyTorch y TensorFlow le permiten ejecutar llamadas de inferencia en PyTorch 1.3.1, TensorFlow 1.15.0 y TensorFlow 2.0.0 en aceleradores de Elastic Inference. HAQM EI le permite adjuntar aceleración impulsada por GPU de bajo costo a las instancias de HAQM EC2, HAQM SageMaker y tareas de HAQM ECS para reducir el costo de ejecutar la inferencia de aprendizaje profundo hasta un 75 %. Estas imágenes de Docker han sido probadas con HAQM SageMaker, EC2 y ECS. Todos los componentes de software en estas imágenes se escanean para detectar las vulnerabilidades de seguridad y se actualizan o se les aplican parches de acuerdo con las prácticas recomendadas de seguridad de AWS.
Los AWS Deep Learning Containers para entrenamiento e inferencia ya están disponibles con las últimas versiones de marco de TensorFlow 1.15.2 y 2.1.0. Las mejoras de TensorFlow incluyen la versión más reciente de SMDebug, Sagemaker-tensorflow-training y Sagemaker-container. Puede lanzar las nuevas versiones de Deep Learning Containers en HAQM SageMaker, HAQM Elastic Kubernetes Service (HAQM EKS), Kubernetes autoadministrado en HAQM EC2 y HAQM Elastic Container Service (HAQM ECS). Consulte las notas de la versión para obtener una lista completa de los marcos y las versiones compatibles con AWS Deep Learning Containers.
AWS Deep Learning Containers para TensorFlow incluye contenedores para el entrenamiento en las CPU y las GPU, las cuales están optimizadas para el rendimiento y el escalado de AWS. Estas imágenes de Docker se han probado con HAQM SageMaker, EC2, ECS y EKS. Además, proporcionan versiones estables de NVIDIA CUDA, cuDNN, Intel MKL y otros componentes de software necesarios para proporcionar una experiencia de usuario sin inconvenientes con las cargas de trabajo de aprendizaje profundo. Todos los componentes de software en estas imágenes se escanean para detectar las vulnerabilidades de seguridad y se actualizan o se les aplican parches de acuerdo con las prácticas recomendadas de seguridad de AWS.
Puede encontrar más información en el Marketplace y una lista de los contenedores disponibles en nuestra documentación. Comience a utilizar AWS Deep Learning Containers rápidamente con las guías de introducción y los tutoriales de niveles principiante a avanzado de nuestra guía del desarrollador. También se puede suscribir a nuestro foro de debate, donde anunciamos nuestros lanzamientos y donde podrá publicar sus preguntas.