Ejecute cargas de trabajo de IA generativa escalables y de nivel empresarial con Cohere Command R & R+, ahora disponible en Amazon Bedrock | Servicios web de Amazon

En noviembre de 2023, pusimos a disposición dos nuevos modelos Cohere en Amazon Bedrock (Cohere Command Light y Cohere Embed English). Hoy anunciamos la incorporación de dos modelos Cohere más en Amazon Bedrock; Cohere el Comando R y el Comando R+.

Las organizaciones necesitan modelos de inteligencia artificial generativa (IA generativa) para interactuar de forma segura con la información almacenada en sus fuentes de datos empresariales. Tanto Command R como Command R+ son modelos de lenguaje grande (LLM) potentes y escalables, diseñados específicamente para cargas de trabajo de nivel empresarial del mundo real. Estos modelos son multilingües y se centran en equilibrar una alta eficiencia con una gran precisión para sobresalir en capacidades como la generación aumentada de recuperación (RAG) y el uso de herramientas para permitir a las empresas ir más allá de la prueba de concepto (POC) y pasar a la producción utilizando inteligencia artificial (IA).

Command R es un modelo generativo multilingüe escalable dirigido a RAG y el uso de herramientas para permitir la IA a escala de producción para las empresas. Command R+ es un modelo optimizado para RAG de última generación diseñado para abordar cargas de trabajo de nivel empresarial y optimizar las aplicaciones de inteligencia artificial empresarial. Command R+ está optimizado para RAG avanzado para brindar respuestas listas para la empresa, altamente confiables y verificables gracias a las citas en línea que vienen de serie con este modelo. Con estos nuevos modelos Cohere en Bedrock, puede escalar con IA para encontrar rápidamente la información más relevante para respaldar tareas en funciones comerciales como finanzas, recursos humanos (RRHH), ventas, marketing y atención al cliente, entre otras, en una variedad de sectores empresariales. uso de herramientas También está disponible en Command R+. Command R+ es un potente modelo multilingüe y, al igual que Command R, presenta un tokenizador que comprime el texto que no está en inglés mucho mejor que el tokenizador utilizado para otros modelos en el mercado.

Primeros pasos con Command R y Command R+
Para comenzar con ambos modelos en Amazon Bedrock, primero debe obtener acceso a los modelos. En la consola de Amazon Bedrock, elija Acceso al modeloy luego elija Administrar el acceso al modelo. A continuación, elija su(s) modelo(s) preferido(s) y luego elija Guardar cambios. Como puede ver, ahora tiene seis modelos Cohere para elegir en Amazon Bedrock, incluidos Command R y Command R+, lo que le brinda mayores opciones y flexibilidad para utilizar los modelos óptimos para sus necesidades comerciales específicas.

Una vez que tenga acceso a su modelo preferido, podrá utilizar el modelo en Amazon Bedrock. Actualice la tabla de modelos base para ver el estado actualizado.

Los modelos han sido entrenados para responder en el idioma del usuario como inglés, francés, español, italiano, alemán, portugués brasileño, japonés, coreano, chino simplificado y árabe. He aquí un ejemplo:

Inmediato

<s>"Écris une description de produit pour une voiture électrique en 50 à 75 mots"

Producción

Découvrez la voiture électrique qui va révolutionner votre façon de conduire.
Avec son design élégant, cette voiture offre une expérience de conduite unique
avec une accélération puissante et une autonomie impressionnante. Sa
technologie avancée vous garantit une charge rapide et une fiabilité inégalée.
Avec sa conception innovante et durable, cette voiture est parfaite pour les 
trajets urbains et les longues distances. Profitez d'une conduite silencieuse
et vivez l'expérience de la voiture électrique!

Interactuar mediante programación con Command R y Command R+
También puede utilizar la interfaz de línea de comandos (CLI) de AWS y el kit de desarrollo de software (SDK) de AWS para realizar varias llamadas mediante las API de Amazon Bedrock. A continuación se muestra un código de muestra en Python que interactúa con las API de Amazon Bedrock Runtime con AWS SDK. Tomando el mismo mensaje de generación de texto que usé anteriormente, así es como se ve cuando se usa mediante programación. En este ejemplo estoy interactuando con el modelo Command R. De regreso a Python, primero ejecuto la llamada API ListFoundationModels para descubrir el modelId para el Comando R.

import boto3
import json
import numpy

bedrock = boto3.client(service_name="bedrock", region_name="us-east-1")

listModels = bedrock.list_foundation_models(byProvider="cohere")
print("\n".join(list(map(lambda x: f"{x['modelName']} : { x['modelId'] }", listModels['modelSummaries']))))

Al ejecutar este código se obtiene la lista:

Command : cohere.command-text-v14
Command Light : cohere.command-light-text-v14
Embed English : cohere.embed-english-v3
Embed Multilingual : cohere.embed-multilingual-v3
Command R: cohere.command-r-v1:0
Command R+: cohere.command-r-plus-v1:0

De esta lista selecciono cohere.command-r-v1:0 ID del modelo y escriba el código para generar el texto como se muestra anteriormente en esta publicación.

import boto3
import json

bedrock = boto3.client(service_name="bedrock-runtime", region_name="us-east-1")

prompt = """
<s>Écris une description de produit pour une voiture électrique en 50 à 75 mots

body = json.dumps({
    "prompt": prompt,
    "max_tokens": 512,
    "top_p": 0.8,
    "temperature": 0.5,
})

modelId = "cohere.command-r-v1:0"

accept = "application/json"
contentType = "application/json"

response = bedrock.invoke_model(
    body=body,
    modelId=modelId,
    accept=accept,
    contentType=contentType
)

print(json.loads(response.get('body').read()))

Puede obtener una salida con formato JSON como:

Découvrez la voiture électrique qui va révolutionner votre façon de conduire.
Avec son design élégant, cette voiture offre une expérience de conduite unique
avec une accélération puissante et une autonomie impressionnante. Sa
technologie avancée vous garantit une charge rapide et une fiabilité inégalée.
Avec sa conception innovante et durable, cette voiture est parfaite pour les 
trajets urbains et les longues distances. Profitez d'une conduite silencieuse
et vivez l'expérience de la voiture électrique!

Ya disponible

Los modelos Command R y Command R+, junto con otros modelos Cohere, están disponibles hoy en Amazon Bedrock en las regiones Este de EE. UU. (Norte de Virginia) y Oeste de EE. UU. (Oregón); consulte la lista completa de regiones para futuras actualizaciones.

Visita nuestro sitio community.aws para encontrar contenido técnico detallado y descubrir cómo nuestras comunidades de constructores utilizan Amazon Bedrock en sus soluciones. Pruebe Command R y Command R+ hoy mismo en la consola de Amazon Bedrock y envíe sus comentarios a AWS re: Publicación para Amazon Bedrock o a través de sus contactos habituales de AWS Support.

– Veliswa.