|
Hoy presentamos Amazon Bedrock Marketplace, una nueva capacidad que le brinda acceso a más de 100 modelos de bases (FM) populares, emergentes y especializados a través de Amazon Bedrock. Con este lanzamiento, ahora puede descubrir, probar e implementar nuevos modelos de proveedores empresariales como IBM y Nvidia, modelos especializados como Solar Pro de Upstages para el procesamiento del idioma coreano y ESM3 de Evolutionary Scale para la investigación de proteínas, junto con el modelo general de Amazon Bedrock. FM específicos de proveedores como Anthropic y Meta.
Se puede acceder a los modelos implementados con Amazon Bedrock Marketplace a través de las mismas API estándar que los modelos sin servidor y, para los modelos que son compatibles con la API de Converse, se pueden utilizar con herramientas como Amazon Bedrock Agents y Amazon Bedrock Knowledge Bases.
A medida que la IA generativa continúa remodelando la forma en que funcionan las organizaciones, crece la necesidad de modelos especializados optimizados para dominios, idiomas o tareas específicas. Sin embargo, encontrar y evaluar estos modelos puede resultar desafiante y costoso. Debe descubrirlos en diferentes servicios, crear abstracciones para usarlas en sus aplicaciones y crear capas complejas de seguridad y gobernanza. Amazon Bedrock Marketplace aborda estos desafíos proporcionando una única interfaz para acceder a FM tanto especializados como de uso general.
Uso del mercado de Amazon Bedrock
Para comenzar, en la consola de Amazon Bedrock, elijo Catálogo de modelos en el Modelos de cimentacion sección del panel de navegación. Aquí puedo buscar modelos que me ayuden con un caso de uso o lenguaje específico. Los resultados de la búsqueda incluyen tanto modelos sin servidor como modelos disponibles en Amazon Bedrock Marketplace. Puedo filtrar los resultados por proveedor, modalidad (como texto, imagen o audio) o tarea (como clasificación o resumen de texto).
En el catálogo hay modelos de organizaciones como Arcee AIque construye modelos de lenguaje pequeño (SLM) adaptados al contexto, y Widn.AIque proporciona modelos multilingües.
Por ejemplo, estoy interesado en el Granito IBM modelos y buscar modelos de Datos de IBM e IA.
yo selecciono Granito 3.0 2B Instrucciónun modelo de lenguaje diseñado para aplicaciones empresariales. Al elegir el modelo, se abre la página de detalles del modelo donde puedo ver más información del proveedor del modelo, como aspectos destacados sobre el modelo, precios y uso, incluidas llamadas API de muestra.
Este modelo específico requiere una suscripción y elijo Ver opciones de suscripción.
Desde el cuadro de diálogo de suscripción, reviso los precios y las notas legales. En Detalles de preciosVeo el precio del software fijado por el proveedor. Para este modelo, no hay costos adicionales además de la infraestructura implementada. El costo de la infraestructura de Amazon SageMaker se cobra por separado y se puede ver en los precios de Amazon SageMaker.
Para proceder con este modelo, elijo Suscribir.
Una vez completada la suscripción, lo que suele tardar unos minutos, puedo implementar el modelo. Para Detalles de implementaciónuso la configuración predeterminada y el tipo de instancia recomendado.
amplío lo opcional Configuraciones avanzadas. Aquí, puedo optar por implementar en una nube privada virtual (VPC) o especificar la función de servicio de AWS Identity and Access Management (IAM) utilizada por la implementación. Amazon Bedrock Marketplace crea automáticamente una función de servicio para acceder a los depósitos de Amazon Simple Storage Service (Amazon S3) donde se almacenan los pesos del modelo, pero puedo optar por utilizar una función existente.
Mantengo los valores predeterminados y completo la implementación.
Después de unos minutos, el despliegue es En servicio y se puede revisar en el Implementaciones de mercado página desde el panel de navegación.
Allí, puedo elegir un punto final para ver los detalles y editar la configuración, como la cantidad de instancias. Para probar la implementación, elijo Abierto en el patio de recreo y pide algo de poesía.
También puedo seleccionar el modelo del Chat/texto página de la Patio de juegos usando el nuevo Mercado categoría donde se enumeran los puntos finales implementados.
De manera similar, puedo usar el modelo con otras herramientas como Amazon Bedrock Agents, Amazon Bedrock Knowledge Bases, Amazon Bedrock Prompt Management, Amazon Bedrock Guardrails y evaluaciones de modelos, eligiendo Seleccionar modelo y seleccionando el Mercado punto final del modelo.
El modelo que utilicé aquí es texto a texto, pero puedo usar Amazon Bedrock Marketplace para implementar modelos con diferentes modalidades. Por ejemplo, después de implementar Estabilidad IA Difusión estable 3,5 grandePuedo realizar una prueba rápida en Amazon Bedrock Imagen del patio de recreo.
Los modelos que implementé ahora están disponibles a través de la API de Amazon Bedrock InvokeModel. Cuando se implementa un modelo, puedo usarlo con la interfaz de línea de comandos de AWS (AWS CLI) y cualquier SDK de AWS utilizando el nombre de recurso de Amazon (ARN) del punto final como ID del modelo.
Para los modelos de texto a texto optimizados para chat, también puedo usar la API Converse de Amazon Bedrock, que abstrae las diferencias de los modelos y permite el cambio de modelos con un solo cambio de parámetro.
Cosas que debes saber
Amazon Bedrock Marketplace está disponible en las siguientes regiones de AWS: Este de EE. UU. (Norte de Virginia), Este de EE. UU. (Ohio), Oeste de EE. UU. (Oregón), Asia Pacífico (Mumbai), Asia Pacífico (Seúl), Asia Pacífico (Singapur), Asia Pacífico (Sídney), Asia Pacífico (Tokio), Canadá (Central), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (París) y América del Sur (São Paulo).
Con Amazon Bedrock Marketplace, usted paga una tarifa de software al proveedor de modelo externo (que puede ser cero, como en el ejemplo anterior) y una tarifa de alojamiento basada en el tipo y la cantidad de instancias que elija para los puntos finales de su modelo.
Comience a explorar los nuevos modelos utilizando el catálogo de modelos en la consola de Amazon Bedrock, visite la documentación de Amazon Bedrock Marketplace y envíe comentarios a AWS re: Publicación para Amazon Bedrock. Puede encontrar contenido técnico detallado y descubrir cómo nuestras comunidades de constructores utilizan Amazon Bedrock en comunidad.aws.
— Danilo
GIPHY App Key not set. Please check settings