Editor Top
|
|
Hoy anunciamos una nueva experiencia de consola en Amazon Bedrock para que pueda experimentar, iterar y escalar con los últimos modelos de IA en el motor de inferencia de próxima generación de Amazon Bedrock creado para ofrecer alto rendimiento, confiabilidad y seguridad. Esta consola tiene un flujo de trabajo actualizado y optimizado para bedrock-mantle endpoint, que admite los últimos modelos GPT, Claude y de peso abierto con la API OpenAI Responses, la API OpenAI Chat Completions y la API Anthropic Messages.
La nueva experiencia de consola hace que sea sencillo encontrar el modelo correcto y pasar rápidamente de la evaluación a la producción.
- tarjeta nuevo modelo – Puede explorar el catálogo de modelos completo, compararlos uno al lado del otro en cuanto a capacidades, soporte de modalidad, ventana contextual y cuotas de servicio aplicables en una sola vista, eliminando la necesidad de unir documentación y calcular calculadoras de límites.
- Trabajo basado en proyectos – Puede crear un proyecto para ejecutar evaluaciones y revisar conocimientos de uso en un flujo de trabajo optimizado que refleje el ciclo de vida de la creación de una aplicación de IA generativa.
- Documentación en vivo – Puede utilizar documentación en vivo compatible con el proyecto: los ejemplos de código, fragmentos de SDK y referencias de API se completan automáticamente con las variables de su proyecto. Puede copiar un fragmento directamente desde la consola a su aplicación y ejecutarlo sin modificaciones.
Cómo empezar
Puedes probar una nueva experiencia eligiendo Pruebe la consola Bedrock Mantle desde la consola de Amazon Bedrock o utilizando directamente el enlace de la nueva consola.
Puede encontrar un panel basado en proyectos para mostrar solicitudes de inferencia y errores por rango de fechas recientes, modelos utilizados recientemente y la lista de proyectos. Puede crear un proyecto, asignar modelos, configurar claves API y comenzar a realizar solicitudes de inferencia en minutos.
Un nuevo catálogo de modelos muestra los últimos modelos GPT, Claude y de peso abierto compatibles con el bedrock-mantle motor. Puede ver los detalles de funciones, tokens, precios, entrada/salida, información de precios y disponibilidad regional. También podrás comparar hasta 3 modelos en una sola vista.
Cuando elige el panel del proyecto, puede ver los modelos utilizados en el proyecto, la distribución del uso de tokens, como el uso total de tokens, el uso de tokens por minuto, las solicitudes de inferencia por minuto y los tokens por solicitud de inferencia. Esto puede informar la selección de su modelo, la optimización rápida y las decisiones de coherencia de la carga de trabajo.
Puede seleccionar hasta 3 modelos para comenzar a evaluar y comparar las respuestas una al lado de la otra con el mismo mensaje.
Para construir su aplicación en el proyecto, elija Empezando. Puede migrar el código existente, crear una nueva aplicación con Anthropic u OpenAI SDK, o conectar un asistente de codificación de IA a Bedrock.
Elige el API y SDKsu SDK (ya sea Anthropic u OpenAI), su lenguaje de programación preferido y su método de autenticación. Muestra el código de su entorno para ejecutarlos en su terminal para una prueba rápida o guardarlos en un .env archivo para su aplicación. También puede enviar su primera solicitud con fragmentos de código de muestra para verificar su configuración.
cuando tu eliges Clientelapuede seleccionar la fuente del agente de codificación AI, como Claude Code, Cline, Codex, Cursor u OpenCode, que desea conectar al bedrock-mantle motor. Proporciona instrucciones sobre cómo instalar el agente de IA, usar sus credenciales de AWS IAM o usar una clave API de Bedrock, establecer variables de entorno y enrutar solicitudes de cada agente de IA a través de Bedrock.
Para obtener más información sobre las API compatibles con Anthropic y OpenAI, elija Documentos API en vivo. puedes elegir Protocolo API antrópico para acceder a las funciones del modelo Claude, como la API de mensajes o Protocolo API OpenAI para acceder a funciones como Responses API.
Por ejemplo, cuando elige OpenAI Response API, recupera una respuesta de modelo con el ID de modelo proporcionado. Estas referencias de API se completan automáticamente con el ID del modelo seleccionado del proyecto, la región y bedrock-mantle URL del punto final y referencia de clave API, y se actualizan en su lugar a medida que cambia los modelos o la configuración.
También puede elegir la consola Bedrock existente para administrar funciones totalmente administradas, como agentes, bases de conocimiento, barreras de seguridad, ajustes o las API InvokeModel y Converse para ejecutar en el bedrock-runtime punto final.
Ahora disponible
La nueva experiencia de consola está disponible en todas las regiones de AWS donde bedrock-mantle Se ofrece el punto final: Este de EE. UU. (Norte de Virginia, Ohio), Oeste de EE. UU. (Oregón), Asia Pacífico (Yakarta, Mumbai, Sydney, Tokio), Europa (Frankfurt, Irlanda, Londres, Milán, Estocolmo) y América del Sur (São Paulo). Consulte la lista completa de regiones para futuras actualizaciones.
Pruebe la nueva experiencia de consola en la nueva consola de Amazon Bedrock y envíe sus comentarios a AWS re: Publicación para Amazon Bedrock o a través de sus contactos habituales de AWS Support.
— chany
