Presentamos Amazon Nova 2 Lite, un modelo de razonamiento rápido y rentable | Servicios web de Amazon

Hoy lanzamos Amazon Nova 2 Lite, un modelo de razonamiento rápido y rentable para cargas de trabajo diarias. Disponible en Amazon Bedrock, el modelo ofrece una relación precio-rendimiento líder en la industria y ayuda a las empresas y desarrolladores a crear aplicaciones de IA agente capaces, confiables y eficientes. Para las organizaciones que necesitan una IA que realmente comprenda su dominio, Nova 2 Lite es el mejor modelo para usar con Nova Forge para construir su propia inteligencia de frontera.

Nova 2 Lite admite el pensamiento extendido, incluido el razonamiento paso a paso y la descomposición de tareas, antes de dar una respuesta o tomar una acción. El pensamiento extendido está desactivado de forma predeterminada para brindar respuestas rápidas y con costos optimizados, pero cuando se necesita un análisis más profundo, puede activarlo y elegir entre tres niveles de presupuesto de pensamiento: bajo, medio o alto, lo que le brinda control sobre la velocidad, la inteligencia y la compensación de costos.

Nova 2 Lite admite texto, imágenes, videos y documentos como entrada y ofrece una ventana contextual de un millón de tokens, lo que permite un razonamiento ampliado y un aprendizaje en contexto más rico. Además, Nova 2 Lite se puede personalizar según las necesidades específicas de su negocio. El modelo también incluye acceso a dos herramientas integradas: conexión a tierra web y un intérprete de código. La conexión web recupera información disponible públicamente con citas, mientras que el intérprete de código permite que el modelo ejecute y evalúe el código dentro del mismo flujo de trabajo.

Amazon Nova 2 Lite demuestra un sólido rendimiento en diversos puntos de referencia de evaluación. El modelo destaca en inteligencia central en múltiples dominios, incluido el seguimiento de instrucciones, matemáticas y comprensión de videos con razonamiento temporal. Para flujos de trabajo agentes, Nova 2 Lite muestra una función confiable que requiere automatización de tareas y capacidades precisas de interacción con la interfaz de usuario. El modelo también demuestra una sólida generación de código y capacidades prácticas de resolución de problemas de ingeniería de software.

Nova 2 Lite está diseñado para satisfacer las necesidades de su empresa

Nova 2 Lite se puede utilizar para una amplia gama de tareas diarias de IA. Ofrece la mejor combinación de precio, rendimiento y velocidad. Los primeros clientes utilizan Nova 2 Lite para chatbots de servicio al cliente, procesamiento de documentos y automatización de procesos comerciales.

Nova 2 Lite puede ayudar a soportar cargas de trabajo en muchos casos de uso diferentes:

• Aplicaciones empresariales: automatice el flujo de trabajo de los procesos empresariales, el procesamiento inteligente de documentos (IDP), la atención al cliente y la búsqueda web para mejorar la productividad y los resultados.
• Ingeniería de software: genere código, depure, refactorice y migre sistemas para acelerar el desarrollo y aumentar la eficiencia.
• Investigación e inteligencia empresarial: utilice el razonamiento a largo plazo y la base web para analizar fuentes internas y externas para descubrir conocimientos y tomar decisiones informadas.

Para requisitos específicos, Nova 2 Lite también está disponible para personalización tanto en Amazon Bedrock como en Amazon SageMaker AI.

Usando Amazon Nova 2 Lite

En la consola de Amazon Bedrock, puede utilizar el Zona de juegos de chat/texto para probar rápidamente el nuevo modelo con sus indicaciones. Para integrar el modelo en sus aplicaciones, puede utilizar cualquier SDK de AWS con Amazon Bedrock InvokeModel y la API de Converse. A continuación se muestra una invocación de ejemplo utilizando AWS SDK para Python (Boto3).

import boto3

AWS_REGION="us-east-1"
MODEL_ID="global.amazon.nova-2-lite-v1:0"
MAX_REASONING_EFFORT="low" # low, medium, high

bedrock_runtime = boto3.client("bedrock-runtime", region_name=AWS_REGION)

# Enable extended thinking for complex problem-solving
response = bedrock_runtime.converse(
    modelId=MODEL_ID,
    messages=[{
        "role": "user",
        "content": [{"text": "I need to optimize a logistics network with 5 warehouses, 12 distribution centers, and 200 retail locations. The goal is to minimize total transportation costs while ensuring no location is more than 50 miles from a distribution center. What approach should I take?"}]
    }],
    additionalModelRequestFields={
        "reasoningConfig": {
            "type": "enabled", # enabled, disabled (default)
            "maxReasoningEffort": MAX_REASONING_EFFORT
        }
    }
)

# The response will contain reasoning blocks followed by the final answer
for block in response["output"]["message"]["content"]:
    if "reasoningContent" in block:
        reasoning_text = block["reasoningContent"]["reasoningText"]["text"]
        print(f"Nova's thinking process:\n{reasoning_text}\n")
    elif "text" in block:
        print(f"Final recommendation:\n{block['text']}")

También puede utilizar el nuevo modelo con marcos de agentes que admitan Amazon Bedrock e implementar los agentes mediante Amazon Bedrock AgentCore. De esta manera, puede crear agentes para una amplia gama de tareas. Aquí está el código de muestra para un sistema interactivo de múltiples agentes que utiliza el Agentes de hebras SDK. Los agentes tienen acceso a múltiples herramientas, incluido el acceso de lectura y escritura a archivos y la posibilidad de ejecutar comandos de shell.

from strands import Agent
from strands.models import BedrockModel
from strands_tools import calculator, editor, file_read, file_write, shell, http_request, graph, swarm, use_agent, think

AWS_REGION="us-east-1"
MODEL_ID="global.amazon.nova-2-lite-v1:0"
MAX_REASONING_EFFORT="low" # low, medium, high

SYSTEM_PROMPT = (
    "You are a helpful assistant. "
    "Follow the instructions from the user. "
    "To help you with your tasks, you can dynamically create specialized agents and orchestrate complex workflows."
)

bedrock_model = BedrockModel(
    region_name=AWS_REGION,
    model_id=MODEL_ID,
    additional_request_fields={
        "reasoningConfig": {
            "type": "enabled", # enabled, disabled (default)
            "maxReasoningEffort": MAX_REASONING_EFFORT
        }
    }
)

agent = Agent(
    model=bedrock_model,
    system_prompt=SYSTEM_PROMPT,
    tools=[calculator, editor, file_read, file_write, shell, http_request, graph, swarm, use_agent, think]
)

while True:
    try:
        prompt = input("\nEnter your question (or 'quit' to exit): ").strip()
        if prompt.lower() in ['quit', 'exit', 'q']:
            break
        if len(prompt) > 0:
            agent(prompt)
    except KeyboardInterrupt:
        break
    except EOFError:
        break

print("\nGoodbye!")

Cosas que debes saber

Amazon Nova 2 Lite ahora está disponible en Amazon Bedrock a través de inferencia global entre regiones en múltiples ubicaciones. Para conocer la disponibilidad regional y la hoja de ruta futura, visite Capacidades de AWS por región.

Nova 2 Lite incluye controles de seguridad integrados para promover el uso responsable de la IA, con capacidades de moderación de contenido que ayudan a mantener resultados adecuados en una amplia gama de aplicaciones.

Para comprender los costos, consulte los precios de Amazon Bedrock. Para obtener más información, visite la Guía del usuario de Amazon Nova.

Comience a construir con Nova 2 Lite hoy. Para experimentar con el nuevo modelo, visite el Sitio web interactivo de Amazon Nova. Pruebe el modelo en la consola de Amazon Bedrock y comparta sus comentarios sobre AWS re:Post.

— Danilo