Publicado en: Nov 26, 2023
HAQM Redshift mejora Redshift ML para admitir modelos de lenguaje de gran tamaño (LLM). HAQM Redshift ML permite a los clientes crear, entrenar e implementar modelos de machine learning mediante comandos SQL conocidos. Ahora, puede aprovechar los LLM previamente entrenados disponibles públicamente en HAQM SageMaker JumpStart como parte de Redshift ML. De esta manera, puede llevar la utilidad de los LLM a los análisis. Por ejemplo, puede hacer inferencias sobre los datos de los comentarios de sus productos en HAQM Redshift, utilizar los LLM para resumirlos, realizar la extracción de entidades, el análisis de opiniones y la clasificación de los comentarios sobre los productos.
Para utilizar esta característica, debe crear un punto de conexión para un LLM en HAQM SageMaker JumpStart. Puede aprovechar los modelos predefinidos listos para usar o entrenar un modelo personalizado en HAQM Sagemaker JumpStart con sus propios datos y, luego, utilizar el punto de conexión del modelo para realizar inferencias remotas en sus datos de Redshift mediante Redshift ML. Para utilizar las inferencias de LLM, el tipo de datos de entrada y salida debe ser SUPER. No hay costos adicionales asociados al uso de LLM con HAQM Redshift ML. Consulte la página de precios de HAQM SageMaker para obtener más información.
La mejora de HAQM Redshift ML para el soporte de LLM ya está disponible en versión preliminar en las regiones de AWS Este de EE. UU. (Norte de Virginia), Oeste de EE. UU. (Oregón), Este de EE. UU. (Ohio), Oeste de Europa (Irlanda), Norte de Europa (Estocolmo) y Noreste de Asia-Pacífico (Tokio). Para comenzar y obtener más información, consulte la guía para desarrolladores de bases de datos de HAQM Redshift.