Editor Top
|
|
Imagine crear aplicaciones de inteligencia artificial que brinden información precisa y actual sin la complejidad de desarrollar complejos sistemas de recuperación de datos. Hoy, nos complace anunciar la disponibilidad general de Web Grounding, una nueva herramienta integrada para los modelos Nova en Amazon Bedrock.
Web Grounding proporciona a los desarrolladores una opción llave en mano de generación aumentada de recuperación (RAG) que permite a los modelos básicos de Amazon Nova decidir de forma inteligente cuándo recuperar e incorporar información actualizada relevante en función del contexto del mensaje. Esto ayuda a fundamentar el resultado del modelo incorporando fuentes públicas citadas como contexto, con el objetivo de reducir las alucinaciones y mejorar la precisión.
¿Cuándo deberían los desarrolladores utilizar Web Grounding?
Los desarrolladores deberían considerar el uso de Web Grounding al crear aplicaciones que requieran acceso a información objetiva actual o que necesiten proporcionar respuestas bien citadas. La capacidad es particularmente valiosa en una variedad de aplicaciones, desde asistentes de chat basados en conocimientos que brindan información actualizada sobre productos y servicios, hasta herramientas de generación de contenido que requieren verificación de hechos y verificación de fuentes. También es ideal para asistentes de investigación que necesitan sintetizar información de múltiples fuentes actuales, así como aplicaciones de atención al cliente donde la precisión y la verificabilidad son cruciales.
Web Grounding es especialmente útil cuando necesita reducir las alucinaciones en sus aplicaciones de IA o cuando su caso de uso requiere una atribución transparente de la fuente. Debido a que maneja automáticamente la recuperación e integración de información, es una solución eficiente para los desarrolladores que desean centrarse en crear sus aplicaciones en lugar de administrar implementaciones complejas de RAG.
Empezando
Web Grounding se integra perfectamente con los modelos compatibles de Amazon Nova para manejar la recuperación y el procesamiento de información durante la inferencia. Esto elimina la necesidad de construir y mantener complejos canales RAG, al mismo tiempo que proporciona atribuciones de fuentes que verifican el origen de la información.
Veamos un ejemplo de cómo hacer una pregunta a Nova Premier usando Python para llamar a la API de Amazon Bedrock Converse con Web Grounding habilitado.
Primero, creé un cliente de Amazon Bedrock utilizando AWS SDK para Python (Boto3) de la forma habitual. Como buena práctica, estoy usando una sesión, que ayuda a agrupar configuraciones y hacerlas reutilizables. Luego creo un BedrockRuntimeClient.
try:
session = boto3.Session(region_name="us-east-1")
client = session.client(
'bedrock-runtime')Luego preparo la carga útil de la API de Amazon Bedrock Converse. Incluye un parámetro de «rol» establecido en «usuario», que indica que el mensaje proviene del usuario de nuestra aplicación (en comparación con el «asistente» para las respuestas generadas por IA).
Para esta demostración, elegí la pregunta «¿Cuáles son las regiones de AWS actuales y sus ubicaciones?» Esto se seleccionó intencionalmente porque requiere información actualizada, lo que lo hace útil para demostrar cómo Amazon Nova puede invocar automáticamente búsquedas mediante Web Grounding cuando determina que se necesitan conocimientos actualizados.
# Prepare the conversation in the format expected by Bedrock
question = "What are the current AWS regions and their locations?"
conversation = [
{
"role": "user", # Indicates this message is from the user
"content": [{"text": question}], # The actual question text
}
]Primero, veamos cuál es el resultado sin Web Grounding. Hago una llamada a la API de Amazon Bedrock Converse.
# Make the API call to Bedrock
model_id = "us.amazon.nova-premier-v1:0"
response = client.converse(
modelId=model_id, # Which AI model to use
messages=conversation, # The conversation history (just our question in this case)
)
print(response['output']['message']['content'][0]['text'])Obtengo una lista de todas las regiones de AWS actuales y sus ubicaciones.
Ahora usemos Web Grounding. Hago una llamada similar a la API de Amazon Bedrock Converse, pero declaro nova_grounding como una de las herramientas de las que dispone el modelo.
model_id = "us.amazon.nova-premier-v1:0"
response = client.converse(
modelId=model_id,
messages=conversation,
toolConfig= {
"tools":[
{
"systemTool": {
"name": "nova_grounding" # Enables the model to search real-time information
}
}
]
}
)Después de procesar la respuesta, puedo ver que el modelo utilizó Web Grounding para acceder a información actualizada. El resultado incluye rastros de razonamiento que puedo usar para seguir su proceso de pensamiento y ver dónde consultó automáticamente fuentes externas. El contenido de las respuestas de estas llamadas externas aparece como [HIDDEN] – una práctica estándar en los sistemas de IA que protege la información confidencial y ayuda a gestionar el tamaño de la producción.
Además, la salida también incluye citationsContent objetos que contienen información sobre las fuentes consultadas por Web Grounding.
Finalmente, puedo ver la lista de regiones de AWS. Termina con un mensaje justo al final que dice: «Estas son las regiones de AWS más actuales y activas a nivel mundial».
Web Grounding representa un importante paso adelante para hacer que las aplicaciones de IA sean más confiables y actualizadas con el mínimo esfuerzo. Ya sea que esté creando asistentes de chat de servicio al cliente que necesitan proporcionar información precisa y actualizada, desarrollando aplicaciones de investigación que analizan y sintetizan información de múltiples fuentes, o creando aplicaciones de viajes que brindan los detalles más recientes sobre destinos y alojamientos, Web Grounding puede ayudarlo a brindar respuestas más precisas y relevantes a sus usuarios con una conveniente solución llave en mano que es fácil de configurar y usar.
Cosas que debes saber
Amazon Nova Web Grounding está disponible hoy en el este de EE. UU. (Norte de Virginia). Web Grounding también se lanzará pronto en EE. UU. Este (Ohio) y EE. UU. Oeste (Oregón).
Web Grounding tiene un costo adicional. Consulte la página de precios de Amazon Bedrock para obtener más detalles.
Actualmente, solo puede utilizar Web Grounding con Nova Premier, pero pronto se agregará compatibilidad con otros modelos de Nova.
Si no ha utilizado Amazon Nova antes o desea profundizar más, pruebe este tutorial en línea a su propio ritmo. Taller donde podrá aprender a utilizar eficazmente los modelos básicos de Amazon Nova. y funciones relacionadas para el procesamiento de texto, imágenes y videos a través de ejercicios prácticos.
