Preguntas frecuentes sobre HAQM Bedrock

Los agentes de HAQM Bedrock son capacidades totalmente administradas que facilitan a los desarrolladores la creación de aplicaciones basadas en IA generativa que pueden completar tareas complejas para una amplia gama de casos de uso y ofrecer respuestas actualizadas basadas en orígenes de conocimiento propios. En unos pocos pasos, los agentes de HAQM Bedrock desglosan automáticamente las tareas y crean un plan de orquestación, sin necesidad de codificación manual. El agente se conecta de forma segura a los datos de la empresa a través de una API, convierte automáticamente los datos en un formato legible por máquina y aumenta la solicitud con información relevante para generar la respuesta más precisa. A continuación, los agentes llaman de manera automática a las API para cumplir con la solicitud de un usuario. Por ejemplo, una empresa de fabricación podría querer desarrollar una aplicación de IA generativa que automatice el seguimiento de los niveles de inventario, los datos de ventas y la información de la cadena de suministro y que pueda recomendar puntos de pedido y cantidades óptimas para maximizar la eficiencia. Al tratarse de capacidades totalmente administradas, los agentes de HAQM Bedrock eliminan la carga no diferenciada que supone administrar la integración de sistemas y el aprovisionamiento de infraestructuras, lo que permite a los desarrolladores aprovechar al máximo la IA generativa en toda su organización.

Puede conectar de forma segura los FM a los orígenes de datos de su empresa mediante los agentes de HAQM Bedrock. Con una base de conocimientos, puede utilizar agentes para dar a los modelos fundacionales (FM) de HAQM Bedrock acceso a datos que les ayuden a generar respuestas más relevantes, específicas del contexto y precisas sin tener que volver a entrenar continuamente el FM. En función de las entradas del usuario, los agentes identifican la base de conocimientos adecuada, recuperan la información relevante y la agregan a la solicitud de entrada, lo que proporciona al modelo más información contextual para generar una finalización.

Los agentes de HAQM Bedrock pueden ayudarlo a aumentar la productividad, mejorar la experiencia de servicio al cliente y automatizar los flujos de trabajo (como la tramitación de reclamaciones de seguros).

Gracias a los agentes, los desarrolladores tienen un soporte perfecto para la supervisión, el cifrado, los permisos de usuario, el control de versiones y la administración de invocaciones de API sin necesidad de escribir código personalizado. Los agentes de HAQM Bedrock automatizan la ingeniería de peticiones y la orquestación de las tareas solicitadas por los usuarios. Los desarrolladores pueden utilizar la plantilla de solicitudes creada por el agente como referencia para perfeccionarla aún más y mejorar la experiencia del usuario. Pueden actualizar la entrada del usuario, el plan de orquestación y la respuesta del FM. Con el acceso a la plantilla de solicitudes, los desarrolladores tienen un mejor control sobre la orquestación del agente.

Con los agentes completamente administrados, no tiene que preocuparse por el aprovisionamiento o la administración de la infraestructura y puede llevar las aplicaciones a producción con mayor rapidez.

Todo el contenido que se procesa con HAQM Bedrock se cifra y almacena en reposo en la región de AWS en la que está usando el servicio.

No. Las entradas de los usuarios y las salidas de los modelos no se comparten con ningún proveedor de modelos.

HAQM Bedrock ofrece varias capacidades para cumplir con los requisitos de seguridad y privacidad. HAQM Bedrock cumple con los estándares de conformidad comunes, como el FedRAMP Moderate, el Control de Servicios y Organizaciones (SOC), la Organización Internacional de Normalización (ISO) y la Ley de Portabilidad y Responsabilidad de los Seguros Médicos (HIPAA) y los clientes pueden usar Bedrock de conformidad con el Reglamento General de Protección de Datos (GDPR). HAQM Bedrock se incluye en el ámbito de los informes SOC 1, 2 y 3, lo que permite a los clientes obtener información sobre nuestros controles de seguridad. La conformidad se demuestra a través de exhaustivas auditorías de los controles de AWS que llevan a cabo terceros. HAQM Bedrock es ahora uno de los servicios de AWS que cumple con los requisitos de ISO para las normas ISO 9001, ISO 27001, ISO 27017 e ISO 27018, ISO 27701, ISO 22301 e ISO 20000. HAQM Bedrock cuenta con la certificación CSA Registro de seguridad, confianza y garantía (STAR) de nivel 2, que valida el uso de las prácticas recomendadas y la postura de seguridad de las ofertas en la nube de AWS. Con HAQM Bedrock, su contenido no se utiliza para mejorar los modelos base ni se comparte con ningún proveedor de modelos. Puede utilizar AWS PrivateLink para establecer una conectividad privada desde la VPC de HAQM a HAQM Bedrock, sin tener que exponer sus datos al tráfico de Internet.

No, AWS y los proveedores de modelos de terceros no utilizarán ninguna entrada o salida de HAQM Bedrock para entrenar a HAQM Nova, HAQM Titan ni a ningún modelo de terceros.

HAQM Bedrock admite los SDK para los servicios de versión ejecutable. Los SDK de iOS y Android, así como Java, JS, Python, CLI, .Net, Ruby, PHP, Go y C++, admiten la entrada de texto y voz.

Todos los SDK admiten streaming.

Consulte la página de precios de HAQM Bedrock para ver información actualizada de precios.

Según su contrato de AWS Support, el soporte de HAQM Bedrock se incluye en los planes de Developer Support, Business Support y Enterprise Support.

Puede usar las métricas de CloudWatch para realizar un seguimiento de los tokens de entrada y salida.

Los clientes verán una factura de AWS Marketplace correspondiente a determinados modelos sin servidor de Bedrock y modelos de Bedrock Marketplace. Esto se debe a que estos modelos son vendidos por proveedores externos como “Contenido de terceros”, tal y como se describe en la sección 50.12 de los Términos de servicio de AWS.

Lanzamos la formación previa continua para los modelos HAQM Titan Text Express y HAQM Titan en HAQM Bedrock. El entrenamiento previo continuo permite la continuación del entrenamiento previo en un modelo base de HAQM Titan con grandes cantidades de datos sin etiquetar. Este tipo de entrenamiento adaptará el modelo de un corpus de dominio general a un corpus de dominio más específico, como el médico, el del derecho, el de las finanzas, entre otros, al tiempo que preservará la mayoría de las capacidades del modelo base de HAQM Titan. 

Es posible que las empresas deseen crear modelos para tareas en un dominio específico. Es posible que los modelos base no estén entrenados en la jerga técnica utilizada en ese dominio específico. Por lo tanto, ajustar de manera directa el modelo base requerirá grandes cantidades de registros de entrenamiento etiquetados y un entrenamiento de larga duración para obtener resultados precisos. Para aliviar esta carga, el cliente puede, en cambio, proporcionar grandes cantidades de datos sin etiquetar para un trabajo de entrenamiento previo continuo. Este trabajo adaptará el modelo base de HAQM Titan al nuevo dominio. Luego, el cliente puede ajustar el nuevo modelo personalizado previamente entrenado para las tareas posteriores utilizando una cantidad significativamente menor de registros de entrenamiento etiquetados y con una duración de entrenamiento más corta. 

El entrenamiento previo continuo y el ajuste preciso de HAQM Bedrock tienen requisitos muy similares. Por este motivo, optamos por crear API unificadas que admitan tanto el entrenamiento previo continuo como el ajuste fino. La unificación de las API reduce la curva de aprendizaje y ayudará a los clientes a utilizar características estándar, como HAQM EventBridge, para hacer el seguimiento de los trabajos de larga duración, la integración con HAQM S3 para obtener datos de entrenamiento, las etiquetas de recursos y el cifrado de modelos. 

El entrenamiento previo continuo ayuda a adaptar fácilmente los modelos de HAQM Titan a los datos específicos del dominio, a la vez que conserva la funcionalidad básica de los modelos HAQM Titan. Para crear un trabajo de entrenamiento previo continuo, diríjase a la consola de HAQM Bedrock y haga clic en «Modelos personalizados». Accederá a la página de modelos personalizados que tiene dos pestañas: modelos y trabajos de entrenamiento. Ambas pestañas ofrecen el menú desplegable «Personalizar modelo» a la derecha. Seleccione «Capacitación previa continua» en el menú desplegable y navegue hasta «Crear trabajo de capacitación previa continua». Proporcionará el modelo de origen, el nombre, el cifrado del modelo, los datos de entrada, los hiperparámetros y los datos de salida. Además, puede brindar etiquetas junto con detalles sobre los roles de AWS Identity and Access Management (IAM) y las políticas de recursos para el trabajo.

Exclusiva de HAQM Bedrock, la familia de modelos HAQM Titan incorpora los 25 años de experiencia de HAQM en la innovación de la IA y el machine learning en toda la empresa. Los modelos fundacionales de HAQM Titan ofrecen a los clientes una gran variedad de opciones de modelos de texto, multimodales y de imágenes de alto rendimiento a través de una API totalmente administrada. Los modelos HAQM Titan son creados por AWS y se los entrena previamente en grandes conjuntos de datos, lo que los convierte en modelos poderosos y de uso general diseñados para respaldar una variedad de casos de uso y, al mismo tiempo, respaldar el uso responsable de la IA. Utilícelos tal como son o personalícelos de forma privada con datos propios. Más información sobre HAQM Titan.

Para obtener más información sobre los datos procesados para desarrollar y entrenar los modelos fundacionales de HAQM Titan, visite la página de entrenamiento y privacidad de los modelos de HAQM Titan.

Puede ingerir contenido de varios orígenes, lo que incluye la Web, HAQM Simple Storage Service (HAQM S3), Confluence (versión preliminar), Salesforce (versión preliminar) y SharePoint (versión preliminar). También puede ingerir de forma programática datos de streaming o datos de orígenes no compatibles. También puede conectarse a sus orígenes de datos estructurados, como el almacén de datos de Redshift y el catálogo de datos de AWS Glue.

Las bases de conocimiento de HAQM Bedrock proporcionan un lenguaje natural a SQL administrado para convertir el lenguaje natural en consultas SQL procesables y recuperar datos, lo que le permite crear aplicaciones con datos de estos orígenes.

Sí, la administración del contexto de sesión está integrada, lo que permite que las aplicaciones mantengan el contexto en múltiples interacciones, lo cual es esencial para soportar conversaciones en varios turnos.

Sí, toda la información recuperada incluye citas, lo que mejora la transparencia y minimiza el riesgo de alucinaciones en las respuestas generadas.

Las bases de conocimiento de HAQM Bedrock admiten el procesamiento de datos multimodal, lo que permite a los desarrolladores crear aplicaciones de IA generativa que analizan datos visuales y textuales como imágenes, gráficos, diagramas y tablas. Las respuestas modelo pueden aprovechar la información de los elementos visuales además del texto, proporcionando respuestas más precisas y relevantes desde el punto de vista del contexto. Además, la atribución del origen de las respuestas incluye elementos visuales, lo que mejora la transparencia y la confianza en las respuestas.

Las bases de conocimiento de HAQM Bedrock pueden procesar documentos con gran riqueza visual en formato PDF, que pueden contener imágenes, tablas, gráficos y diagramas. En el caso de los datos que solo contienen imágenes, las bases de conocimiento de Bedrock admiten formatos de imagen estándar como JPEG y PNG, lo que permite buscar capacidades donde los usuarios pueden recuperar imágenes relevantes a partir de consultas basadas en texto.

Los clientes tienen tres opciones de análisis para las bases de conocimiento de HAQM Bedrock. Para el procesamiento de solo texto, el analizador Bedrock predeterminado incorporado está disponible sin costo adicional; es ideal cuando no se requiere el procesamiento de datos multimodal. HAQM Bedrock Data Foundation (BDA) o los modelos fundacionales se pueden usar para analizar datos multimodales. Para obtener más información, consulte la documentación del producto. 

La base de conocimientos de HAQM Bedrock gestiona diversas complejidades del flujo de trabajo, como la comparación de contenido, la gestión de errores, el control del rendimiento y el cifrado para garantizar que sus datos se procesen y administren de forma segura de acuerdo con los estrictos estándares de seguridad de AWS.

La evaluación de modelos en HAQM Bedrock permite evaluar, comparar y seleccionar los mejores modelos fundacionales para los casos de uso en simples pasos. HAQM Bedrock ofrece la posibilidad de elegir entre la evaluación automática y la evaluación humana. Puede utilizar la evaluación automática con métricas predefinidas, como la precisión, la solidez y la toxicidad. Para obtener métricas subjetivas o personalizadas, como la amabilidad, el estilo y la alineación con la voz de la marca, puede usar un flujo de trabajo de evaluación humana. Puede utilizar a sus propios empleados o designar a un equipo administrado por AWS como revisores para llevar a cabo la evaluación humana. La evaluación del modelo en HAQM Bedrock ofrece conjuntos de datos seleccionados integrados, aunque puede utilizar propios conjuntos de datos propios.

Puede evaluar una variedad de métricas predefinidas, como la precisión, la solidez y la toxicidad, mediante evaluaciones automáticas. También puede usar los flujos de trabajo de evaluación humana para obtener métricas subjetivas o personalizadas, como la amabilidad, la relevancia, el estilo y la alineación con la voz de la marca.

Las evaluaciones automáticas permiten reducir rápidamente la lista de FM disponibles en función de los criterios estándar (como la precisión, la toxicidad y la solidez). Las evaluaciones basadas en humanos se utilizan a menudo para evaluar los criterios más matizados o subjetivos que requieren el juicio humano y en los que es posible que no existan evaluaciones automáticas (como la voz de la marca, la intención creativa o la amabilidad).

Puede evaluar rápidamente los modelos de HAQM Bedrock para determinar métricas como la precisión, la solidez y la toxicidad al utilizar los conjuntos de datos integrados seleccionados o incorporando sus propios conjuntos de datos de solicitudes. Una vez que los conjuntos de datos de solicitudes se envíen a los modelos de HAQM Bedrock para su inferencia, las respuestas del modelo se califican mediante algoritmos de evaluación para cada dimensión. El motor de backend agrega las puntuaciones a las solicitudes de respuesta individuales en forma de calificaciones resumidas y las presenta mediante informes visuales fáciles de entender.

HAQM Bedrock permite la configuración de los flujos de trabajo de revisión humana en simples pasos y traer a sus empleados o utilizar un equipo de expertos administrado por AWS para evaluar los modelos. Con la interfaz intuitiva de HAQM Bedrock, las personas pueden revisar las respuestas de los modelos y dar su opinión haciendo clic con el pulgar hacia arriba o hacia abajo, calificarlas en una escala del 1 al 5, elegir la mejor de varias respuestas o clasificar las solicitudes. Por ejemplo, se puede dar una demostración a un miembro del equipo de cómo responden dos modelos a la misma solicitud y, a continuación, solicitar que seleccione el modelo que muestre los resultados más precisos, relevantes o estilísticos. Puede especificar los criterios de evaluación al personalizar las instrucciones y los botones para que aparezcan en la evaluación de interfaz de usuario del equipo. También, puede brindar instrucciones detalladas con ejemplos y el objetivo general de la evaluación del modelo, para que los usuarios puedan alinear su trabajo en consecuencia. Este método es útil para evaluar los criterios subjetivos que requieren el juicio humano o una experiencia más matizada en la materia y no pueden juzgarse fácilmente mediante evaluaciones automáticas.

Las barreras de protección de HAQM Bedrock ayudan a implementar medidas de seguridad para las aplicaciones de IA generativas en función de los casos de uso y las políticas de IA responsable. Puede crear varias barreras de protección adaptadas a diferentes casos de uso y aplicarlas a través de múltiples modelos fundacionales (FM), proporcionando una experiencia de usuario consistente y estandarizando los controles de seguridad y privacidad a través de sus aplicaciones de IA generativa.

Las barreras de protección ayudan a los clientes definir un conjunto de seis políticas para ayudar a proteger las aplicaciones de IA generativa. Puede configurar las siguientes políticas en una barrera de protección HAQM Bedrock:

• Filtros de contenido multimodales: configure umbrales para detectar y filtrar contenidos nocivos de texto o imágenes en categorías como odio, insultos, contenido sexual, violencia, mala conducta y ataques puntuales.

• Temas denegados: defina un conjunto de temas indeseables en el contexto de su aplicación. El filtro ayudará a bloquearlos si se detectan en las consultas de los usuarios o en las respuestas del modelo.

• Filtros de palabras: configure los filtros para ayudar a bloquear palabras, frases y blasfemias no deseadas (coincidencia exacta). Estas palabras pueden incluir términos ofensivos, nombres de competidores, etc.

• Filtros de información confidencial: configure los filtros para ayudar a bloquear o enmascarar la información confidencial, como la información de identificación personal (PII) o la expresión regular personalizada en las entradas de los usuarios y las respuestas del modelo. El bloqueo o enmascaramiento se realiza en función de la detección probabilística de información confidencial en formatos estándar en entidades como el número de seguro social, la fecha de nacimiento, la dirección, etc. Esto también permite configurar la detección de patrones basada en expresiones regulares para los identificadores.

• Verificaciones de fundamento contextual: ayudan a detectar y filtrar las alucinaciones en caso de que las respuestas no estén fundamentadas (por ejemplo, información imprecisa o nueva) en la información de origen y que sean irrelevantes para la consulta o la instrucción del usuario.

• Comprobación del razonamiento automatizado: ayudan a detectar inexactitudes fácticas en el contenido generado, sugieren correcciones y explican por qué las respuestas son precisas comparándolas con una representación matemática estructurada del conocimiento denominada política de razonamiento automatizado.

Las barreras de protección Bedrock admiten contenido de texto e imagen para permitir a los clientes crear aplicaciones de IA generativa seguras a escala.

Las barreras de protección de HAQM Bedrock funcionan con una amplia gama de modelos, incluidos los FM compatibles con HAQM Bedrock, los modelos refinados y los modelos autohospedados fuera de HAQM Bedrock. Las entradas de los usuarios y las salidas del modelo se pueden evaluar de forma independiente para modelos de terceros y autohospedados mediante la API ApplyGuardrail. Las barreras de protección de HAQM Bedrock también se pueden integrar en los agentes y las bases de conocimiento de HAQM Bedrock para crear aplicaciones de IA generativa seguras y protegidas alineadas con políticas de IA responsable

Actualmente, las barreras de protección HAQM Bedrock admiten inglés, francés y español en lenguaje natural. El uso de cualquier otro idioma generará resultados ineficaces.

Existen cinco políticas de barreras de protección, cada una con diferentes protecciones listas para usar

• Filtros de contenido: tiene 6 categorías, estándar (odio, insultos, contenido sexual, violencia, mala conducta [incluida la actividad delictiva]) y de ataque inmediato (fuga e inyección inmediata). Cada categoría puede tener otros umbrales personalizados en términos de agresividad del filtrado: bajo/medio/alto para el contenido de texto y de imagen.
• Tema denegado: son temas personalizados que los clientes pueden definir mediante una sencilla descripción en lenguaje natural
• Filtro de información confidencial: vienen con más de 30 PII listas para usar. Se puede personalizar aún más añadiendo información confidencial exclusiva del cliente.
• Filtros de palabras: viene con un filtro estándar de palabras obscenas y se puede personalizar aún más con palabras personalizadas.
• Verificaciones contextuales fundamentadas: pueden ayudar a detectar alucinaciones para las aplicaciones de RAG, de resumen y conversacionales, en las cuales la información original se puede usar como una referencia para validar la respuesta del modelo.

Existen cinco políticas de barreras de protección, cada una con diferentes protecciones listas para usar

• Filtros de contenido: tiene 6 categorías, estándar (odio, insultos, contenido sexual, violencia, mala conducta [incluida la actividad delictiva]) y de ataque inmediato (fuga e inyección inmediata). Cada categoría puede tener otros umbrales personalizados en términos de agresividad del filtrado: bajo/medio/alto.
• Tema denegado: son temas personalizados que los clientes pueden definir mediante una sencilla descripción en lenguaje natural
• Filtro de información confidencial: vienen con más de 30 PII listas para usar. Se puede personalizar aún más añadiendo información confidencial exclusiva del cliente.
• Filtros de palabras: viene con un filtro estándar de palabras obscenas y se puede personalizar aún más con palabras personalizadas.
• Verificaciones contextuales fundamentadas: pueden ayudar a detectar alucinaciones para las aplicaciones de RAG, de resumen y conversacionales, en las cuales la información original se puede usar como una referencia para validar la respuesta del modelo.

Las barreras de protección de HAQM Bedrock ofrecen la posibilidad de establecer barreras de protección obligatorias para cada llamada de inferencia mediante capacidades de aplicación basadas en políticas de IAM. Consulte aquí para obtener más detalles. 

AWS ofrece una indemnización de propiedad intelectual (IP) ilimitada para los reclamos de derechos de autor que surjan de la producción generativa de los siguientes servicios de IA generativa de HAQM disponibles de forma general: los modelos HAQM y otros servicios enumerados en la Sección 50.10 de las Condiciones del servicio (los “Servicios de IA generativa indemnizados”). Esto significa que los clientes están protegidos contra los reclamos de terceros que alegan una infracción de derechos de autor por la producción generada por los servicios de IA generativa indemnizados en respuesta a las entradas u otros datos proporcionados por el cliente. Los clientes también deben utilizar los servicios de manera responsable, por ejemplo, no ingresar datos infractores o deshabilitar las características de filtrado de un servicio.

El uso de las barreras de protección de HAQM Bedrock conlleva un costo aparte. Se puede aplicar tanto a la entrada como a la salida. Consulte los precios al final de la página haciendo clic aquí.

Las barreras de protección HAQM Bedrock ofrecen filtros de información confidencial que proporcionan 31 PII que incluyen números de seguridad social y números de teléfono. Consulte aquí para obtener una lista completa.

El precio de las barreras de protección HAQM Bedrock se basa en un modelo por uso para el contenido de texto e imagen. Consulte la página de precios de las barreras de protección para obtener detalles sobre los precios.

Sí, las API de la barrera de protección de HAQM Bedrock ayudan a los clientes a realizar pruebas automatizadas. El “generador de casos de prueba” puede ser una opción que desee usar antes de desplegar la barrera de protección en la producción. Todavía no existe un generador de casos de prueba nativo. Para la supervisión continua del tráfico de producción, las barreras de protección ayudan a brindar registros detallados de todas las infracciones para cada entrada y salida, de modo que los clientes pueden supervisar de forma granular todas y cada una de las entradas de datos que entran y salen de su aplicación de IA generativa. Estos registros se pueden almacenar en CloudWatch o S3 y se pueden usar para crear paneles personalizados basados en los requisitos de los clientes.

Al utilizar una política de razonamiento automatizado, las verificaciones de razonamiento automatizado pueden identificar tanto afirmaciones precisas como inexactitudes fácticas en el contenido. Tanto para afirmaciones precisas como inexactas, la verificación de razonamiento automatizado proporciona explicaciones lógicas y verificables para su resultado. La verificación de razonamiento automatizado requiere la participación inicial de un experto en el dominio para crear una política y solo admite el contenido que define las reglas. Por otro lado, las verificaciones de fundamento contextual en las barreras de protección de Bedrock utilizan técnicas de machine learning para garantizar que el contenido generado siga de cerca los documentos que se proporcionaron como entrada desde una base de conocimientos, sin necesidad de ningún trabajo inicial adicional. Tanto las verificaciones de razonamiento automatizado como las de fundamento contextual proporcionan sus comentarios en la salida de la API de la barrera de protección. Puede usar los comentarios para actualizar el contenido generado.

Los formatos de imagen PNG y JPEG son compatibles con las barreras de protección Bedrock.

HAQM Bedrock Marketplace ofrece a los clientes más de 100 modelos populares, emergentes o especializados, además de las FM sin servidor de HAQM Bedrock, para que los clientes puedan crear y optimizar fácilmente sus aplicaciones de IA generativa. Dentro de la consola HAQM Bedrock, los clientes podrán descubrir un amplio catálogo de FM que ofrecen varios proveedores. A continuación, puede implementar estos modelos en puntos de enlace totalmente administrados, donde puede elegir la cantidad de instancias y los tipos de instancias que desee. Una vez implementados los modelos, se puede acceder a ellos a través de la API Invoke de HAQM Bedrock. Para los modelos de texto a texto ajustados por chat, los clientes pueden usar nuestra nueva API Converse, una API unificada que abstrae las diferencias de FM y permite cambiar de modelo con un solo cambio de parámetro. Cuando corresponda, los modelos se pueden usar con el área de juegos, los agentes, las bases de conocimiento, la administración de peticiones, los flujos de peticiones, las barreras de protección y la evaluación del modelo de HAQM Bedrock.

Debería utilizar HAQM Bedrock Marketplace para beneficiarse de los poderosos modelos que están surgiendo rápidamente a medida que la industria de la IA generativa continúa innovando. Puede acceder e implementar rápidamente modelos populares, emergentes y especializados adaptados a sus requisitos únicos, lo que puede acelerar el tiempo de comercialización, mejorar la precisión o reducir el costo de sus flujos de trabajo de IA generativa. Puede acceder a los modelos a través de las API unificadas de Bedrock y, si son compatibles con la API Converse de Bedrock, utilizarlos de forma nativa con las herramientas de Bedrock, como agentes, bases de conocimiento y barreras de protección. Puede conectar fácilmente HAQM Bedrock Marketplace a los modelos sin servidor de HAQM Bedrock, todo desde un solo lugar.
 

Simplemente navegue hasta la página del catálogo de modelos de HAQM Bedrock en la consola de Bedrock, donde podrá buscar los listados de modelos de HAQM Bedrock Marketplace junto con los modelos de HAQM Bedrock sin servidor. Una vez que haya seleccionado el modelo de HAQM Bedrock Marketplace que desea utilizar, puede suscribirse al modelo a través de la página de detalles del modelo y aceptar el EULA y los precios establecidos por el proveedor. Una vez completada la suscripción, lo que normalmente demora unos minutos, puede implementar el modelo en un punto de enlace de SageMaker totalmente administrado haciendo clic en Implementar en la página de detalles del modelo o mediante las API. En el paso de implementación, puede seleccionar la cantidad y los tipos de instancias que desee para cumplir con su carga de trabajo. Una vez configurado el punto de enlace, lo que suele tardar entre 10 y 15 minutos, puede empezar a realizar llamadas de inferencia al punto de enlace y utilizar el modelo en las herramientas avanzadas de Bedrock siempre que el modelo sea compatible con la API Converse de Bedrock.

Los modelos con arquitecturas compatibles con la importación de modelos personalizada (Mistral, Mixtral, Flan y Llama2/3/3.1/3.2) se pueden refinar en SageMaker y están disponibles en HAQM Bedrock mediante la importación de modelos personalizada. Los modelos que no son compatibles con la importación de modelos personalizada aún se pueden refinar en SageMaker. Sin embargo, la versión refinada de estos modelos no se puede utilizar en HAQM Bedrock.

¿Qué es Bedrock Data Automation? HAQM Bedrock Data Automation es una capacidad de Bedrock basada en IA generativa que agiliza el desarrollo de aplicaciones de IA generativa y automatiza los flujos de trabajo relacionados con documentos, imágenes, audio y videos. Al aprovechar Bedrock Data Automation, los desarrolladores pueden reducir el tiempo y el esfuerzo de desarrollo, lo que facilita la creación inteligente de procesamiento de documentos, análisis de medios y otras soluciones de automatización multimodales centradas en los datos. Bedrock Data Automation ofrece una precisión líder en la industria a un costo menor que las soluciones alternativas, junto con características como la base visual con puntuaciones de confianza para facilitar la explicación y la mitigación integrada de alucinación. Esto garantiza información fiable y precisa a partir de orígenes de datos no estructurados y multimodales. Los clientes pueden personalizar fácilmente la salida de Bedrock Data Automation para generar información específica en los formatos consistentes que requieren sus sistemas y aplicaciones. Los desarrolladores comienzan a usar Bedrock Data Automation en la consola de HAQM Bedrock, donde pueden configurar y personalizar el resultado con sus datos de muestra. A continuación, pueden integrar la API de inferencia multimodal unificada de Bedrock Data Automation en sus aplicaciones para procesar su contenido no estructurado a escala de producción con gran precisión y coherencia. Bedrock Data Automation también se integra con las bases de conocimiento de Bedrock, lo que facilita a los desarrolladores la generación de información significativa a partir de su contenido no estructurado y multimodal para proporcionar respuestas qué más relevantes para la generación aumentada por recuperación (RAG).

Bedrock Data Automation facilita la transformación de datos empresariales no estructurados en formatos de salida específicos de la aplicación que pueden utilizar las aplicaciones de IA generativa y los flujos de trabajo de ETL. Los clientes ya no necesitan dedicar tiempo y esfuerzo a administrar y organizar varios modelos, peticiones de ingeniería, implementar barreras de protección de seguridad o unir las salidas para alinearlas con los requisitos del sistema posterior. Bedrock Data Automation ofrece un procesamiento altamente preciso, consistente y rentable de datos no estructurados. Bedrock Data Automation se crea teniendo en cuenta la IA responsable, lo que proporciona a los clientes características clave, como el fundamento visual y las puntuaciones de confianza, que facilitan la integración de la automatización de datos de Bedrock en los flujos de trabajo empresariales.

Las capacidades de Bedrock Data Automation están disponibles a través de una API totalmente administrada que los clientes pueden integrar fácilmente en sus aplicaciones. Los clientes no tienen que preocuparse por escalar los recursos de computación subyacentes, seleccionar y organizar modelos ni administrar las peticiones de los FM.

Un esquema es una característica que los clientes utilizan para especificar sus requisitos de salida mediante un lenguaje natural o un editor de esquemas. Incluye una lista de los campos que desean extraer, un formato de datos para cada campo e instrucciones en lenguaje natural para cada campo. Por ejemplo, los desarrolladores pueden escribir: “Crear un esquema para las facturas con los siguientes campos: impuestos, fecha de vencimiento, fecha de recepción” o “Confirmar que el total de la factura coincide con la suma de las líneas de pedido”. Hacen referencia a los esquemas como parte de las llamadas a la API de inferencia para que el sistema devuelva la información en el formato descrito en el esquema.

Documentos

Bedrock Data Automation admite tanto la salida estándar como la salida personalizada para documentos.

• La salida estándar proporcionará la extracción del texto de los documentos y la salida generativa, como el resumen del documento y los títulos de las tablas/figuras/diagramas. La salida se devuelve en orden de lectura y, opcionalmente, se puede agrupar por elemento de diseño, que incluirá encabezados/pies de página/títulos/tablas/figuras/diagramas. La salida estándar se utilizará para la integración de BDA con las bases de conocimiento de Bedrock.
• La salida personalizada aprovecha los esquemas, que especifican los requisitos de salida mediante lenguaje natural o un editor de esquemas. Los esquemas incluyen una lista de campos para extraer y un formato de datos para cada campo.

Bedrock Data Automation admitirá PDF, PNG, JPG, TIFF, un máximo de 1500 páginas y un tamaño máximo de archivo de 500 MB por solicitud de API. De forma predeterminada, BDA admitirá 50 trabajos simultáneos y 10 transacciones por segundo por cliente.

Imágenes

Bedrock Data Automation admite tanto la salida estándar como la salida personalizada para imágenes.

• La salida estándar proporcionará un resumen, el contenido explícito detectado, el texto detectado, la detección del logotipo y la taxonomía de anuncios: IAB para imágenes. La salida estándar se utilizará para la integración de BDA con las bases de conocimiento de Bedrock.
• La salida personalizada aprovecha los esquemas, que especifican los requisitos de salida mediante lenguaje natural o un editor de esquemas. Los esquemas incluyen una lista de campos para extraer y un formato de datos para cada campo.

Bedrock Data Automation admitirá JPG y PNG, una resolución máxima de 4K y un tamaño máximo de archivo de 5 MB por solicitud de API. De forma predeterminada, BDA admite una concurrencia máxima de 20 imágenes con 10 transacciones por segundo (TPS) por cliente.

Videos

Bedrock Data Automation admite ambas salidas estándar para videos.

• La salida estándar proporcionará un resumen completo del vídeo, la segmentación del capítulo, el resumen del capítulo, la transcripción completa del audio, la identificación del hablante, el contenido explícito detectado, el texto detectado, la detección del logotipo y la taxonomía de los vídeos de la Interactive Advertising Bureau (IAB). El resumen completo del video está optimizado para el contenido con diálogos descriptivos, como descripciones generales de productos, capacitaciones, noticieros y documentales.

Bedrock Data Automation admitirá MOV y MKV con H.264,VP8, VP9, una duración máxima de vídeo de 4 horas y un tamaño máximo de archivo de 2 GB por solicitud de API. De forma predeterminada, BDA admite una concurrencia máxima de 20 vídeos con 10 transacciones por segundo (TPS) por cliente.

Audio

Bedrock Data Automation admite ambas salidas estándar de audio.

• La salida estándar proporcionará un resumen, incluido el resumen del capítulo, la transcripción completa y detectará la moderación explícita del contenido de los archivos de audio.

Bedrock Data Automation admitirá FLAC, M4A, MP3, MP4, Ogg, WebM, WAV, una duración máxima de audio de 4 horas y un tamaño máximo de archivo de 2 GB por solicitud de API.

HAQM Bedrock Data Automation está disponible con carácter general en las regiones de AWS del Oeste de EE. UU. (Oregón) y Este de EE. UU. (Norte de Virginia).

HAQM Bedrock Data Automation actualmente es compatible con el inglés. La compatibilidad con idiomas adicionales estará disponible próximamente en 2025.

Se puede acceder a HAQM Bedrock a través de la consola de administración de AWS, las API o HAQM SageMaker Unified Studio. En HAQM SageMaker Unified Studio, los usuarios pueden crear e iterar rápidamente aplicaciones de IA generativa usando modelos fundacionales (FM) de alto rendimiento. A través de una interfaz intuitiva, puede experimentar con estos modelos, colaborar en proyectos y agilizar el acceso a varias herramientas y recursos de Bedrock a fin de crear aplicaciones de IA generativa rápidamente.

Para acceder a HAQM Bedrock en HAQM SageMaker Unified Studio, los desarrolladores y sus administradores deberán seguir estos pasos:

1. Cree un dominio nuevo en HAQM SageMaker Unified Studio.
2. Habilite el perfil del proyecto de desarrollo de aplicación de AI generativa.
3. Acceda a HAQM Bedrock a través de las secciones del campo de juegos de IA generativa (Discover) y del desarrollo de IA generativa (Build) con las credenciales de inicio de sesión único (SSO) de su empresa en HAQM SageMaker Unified Studio.

Si bien se puede acceder a HAQM Bedrock a través de la Consola de administración de AWS, las API o HAQM SageMaker Unified Studio, sus capacidades en SageMaker Unified Studio se basan en el HAQM Bedrock Studio original (que ya no está disponible) con varias mejoras clave. Cuando se accede a través de HAQM SageMaker Unified Studio, proporciona acceso a modelos de IA avanzados de empresas líderes, herramientas para crear y probar peticiones de IA y una integración sin problemas con las bases de conocimiento de HAQM Bedrock, las barreras de protección de HAQM Bedrock, los flujos de HAQM Bedrock y los agentes de HAQM Bedrock. Los equipos pueden colaborar en un espacio de trabajo compartido para crear aplicaciones de IA personalizadas que se adapten a sus necesidades.

Las nuevas características incluyen un centro de modelos para comparar modelos de IA en paralelo, un área de juegos ampliada que admite interacciones de chat, imágenes y vídeo y una creación mejorada de bases de conocimiento con rastreo web. Introduce la creación de agentes para aplicaciones de chat más complejas y simplifica el intercambio de aplicaciones y peticiones de IA dentro de las organizaciones. También ofrece acceso al código de la aplicación subyacente y la posibilidad de exportar aplicaciones de chat como plantillas de CloudFormation. Al administrar los detalles de la infraestructura de AWS, permite a los usuarios con distintos niveles de habilidad crear aplicaciones de IA de manera más eficiente, lo que la convierte en una herramienta más versátil y potente que su predecesora.

Se cambió el nombre de HAQM Bedrock IDE para representar mejor la capacidad principal de HAQM Bedrock, a la que se accede a través del entorno gobernado de HAQM SageMaker Unified Studio.

Al acceder a la interfaz de HAQM Bedrock a través de HAQM SageMaker Unified Studio, los equipos se benefician de un entorno gobernado que permite la colaboración. Los equipos pueden crear proyectos, invitar a colegas y crear juntos aplicaciones de IA generativa de forma colaborativa. Pueden recibir comentarios rápidos sobre sus prototipos y compartir las aplicaciones con cualquier usuario de SageMaker Unified Studio o con usuarios específicos del dominio. Los sólidos controles de acceso y las características de gobernanza permiten que solo los miembros autorizados accedan a los recursos del proyecto, como los datos o las aplicaciones de IA generativa, lo que respalda la privacidad y el cumplimiento de los datos y, por lo tanto, fomenta la colaboración y el intercambio seguros entre funciones. Además, las aplicaciones de IA generativa se pueden compartir desde un creador con usuarios específicos del dominio de SageMaker Unified Studio o con personas específicas, lo que permite disponer de los derechos de acceso, los controles y la gobernanza adecuados de dichos activos.

Si bien se puede acceder a HAQM Bedrock a través de la consola de administración de AWS, las API o HAQM SageMaker Unified Studio, esta integración elimina las barreras entre los datos, las herramientas y los desarrolladores en el proceso de desarrollo de IA generativa. Los equipos obtienen una experiencia de desarrollo unificada al acceder a los entornos y herramientas de análisis conocidos de JupyterLab y, al mismo tiempo, incorporar sin problemas las potentes capacidades de IA generativa de HAQM Bedrock, todo dentro del mismo espacio de trabajo.

El entorno unificado permite una colaboración fluida entre desarrolladores de distintos niveles de habilidad a lo largo del ciclo de vida del desarrollo, desde la preparación de datos hasta el desarrollo del modelo y la creación de aplicaciones de IA generativa. Los equipos pueden acceder a herramientas integradas para la creación de bases de conocimientos, la configuración de barrera de protección y el desarrollo de aplicaciones de IA generativa de alto rendimiento, todo dentro de un marco seguro y gobernado.

En HAQM SageMaker Unified Studio, los desarrolladores pueden cambiar fácilmente entre diferentes herramientas según sus necesidades, combinando capacidades de análisis, machine learning e IA generativa en un único espacio de trabajo. Este enfoque consolidado reduce la complejidad del desarrollo y acelera el tiempo de generación de valor para los proyectos de IA generativa. Al incorporar HAQM Bedrock en HAQM SageMaker Unified Studio, AWS reduce las barreras de entrada para el desarrollo de la IA generativa y, al mismo tiempo, mantiene la seguridad y la gobernanza de nivel empresarial y, en última instancia, permite a las organizaciones innovar de forma más rápida y eficaz con la IA generativa.

Las capacidades de HAQM Bedrock en HAQM SageMaker Unified Studio son ideales para los equipos empresariales que necesitan un entorno gobernado para crear y desplegar aplicaciones de IA generativa de forma colaborativa. A través de HAQM SageMaker Unified Studio, los equipos pueden acceder a:
 

• El campo de juego de IA generativa de la sección Discover permite a los equipos experimentar con modelos fundacionales (FM), probar diferentes modelos y configuraciones, comparar los resultados de los modelos y colaborar en las peticiones y las aplicaciones. Este entorno proporciona una forma perfecta para que los equipos evalúen y comprendan las capacidades de los diferentes modelos antes de implementarlos en sus aplicaciones.
   
• La sección Desarrollo de aplicaciones de IA generativa en la sección Creación proporciona a los equipos las herramientas necesarias para crear aplicaciones de IA generativa listas para la producción. Los equipos pueden crear y administrar bases de conocimiento, implementar barreras de protección para una IA responsable, desarrollar agentes y flujos y colaborar de forma segura mientras mantienen los controles de gobierno y cumplimiento. Este entorno es particularmente valioso para las organizaciones que requieren una colaboración segura y un acceso sin problemas a la gama completa de capacidades de HAQM Bedrock, al tiempo que mantienen los estándares empresariales de seguridad y cumplimiento.

Las capacidades de HAQM Bedrock ahora están disponibles de forma general en HAQM SageMaker Unified Studio, lo que ofrece un entorno de colaboración gobernado que permite a los desarrolladores crear y personalizar rápidamente aplicaciones de IA generativa. Esta interfaz intuitiva está dirigida a desarrolladores de todos los niveles de habilidad, ya que proporciona un acceso sin problemas a los modelos fundacionales (FM) de alto rendimiento de HAQM Bedrock y a las herramientas de personalización avanzadas para el desarrollo colaborativo de aplicaciones de IA generativa personalizadas.

En HAQM SageMaker Unified Studio, HAQM Bedrock se integra sin problemas con las capacidades de análisis, machine learning (ML) e IA generativa de HAQM SageMaker. Las organizaciones pueden pasar del concepto a la producción con mayor rapidez creando prototipos y experimentando con FM en HAQM Bedrock y, a continuación, realizando una transición sencilla a los cuadernos o editores de código de JupyterLab para integrar estos recursos en aplicaciones y flujos de trabajo más amplios. Este espacio de trabajo consolidado optimiza la complejidad, lo que permite crear prototipos, iterar y desplegar con mayor rapidez aplicaciones de IA generativa responsables y listas para la producción que se alinean con los requisitos empresariales específicos.

HAQM Bedrock en SageMaker Unified Studio está sujeto a los límites de cuenta y las cuotas definidos para la plataforma y los recursos subyacentes de HAQM Bedrock, como los modelos fundacionales (FM), las bases de conocimiento, los agentes, los flujos y las barreras de protección.

Acceder a HAQM Bedrock mediante SageMaker Unified Studio no tiene ningún coste adicional y los usuarios solo pagan por el uso de los recursos subyacentes que requieren las aplicaciones de IA generativa que crean. Por ejemplo, los clientes solo pagarán por el modelo, la barrera de protección y la base de conocimientos asociados que hayan utilizado en su aplicación de IA generativa. Para más información, visite la página de precios de HAQM Bedrock.

HAQM Bedrock en SageMaker Unified Studio está sujeto a los mismos SLA que HAQM Bedrock. Para más información, visite la página del acuerdo de nivel de servicios de HAQM Bedrock.

Para facilitar una experiencia de incorporación fluida con HAQM Bedrock en SageMaker Unified Studio, puede encontrar documentación detallada en la Guía del usuario. Si tiene más preguntas o necesita más ayuda, no dude en ponerse en contacto con su equipo de cuentas de AWS.