Puede monitorear la función Lambda AWS que emplea el streaming de respuesta en la aplicación Node.js para obtener tiempo real información valiosa sobre el rendimiento y el comportamiento de cada invocación. Esta solución se integra con el monitoreo de IA para permitirle rastrear las respuestas del modelo y recopilar datos de observabilidad relacionados con su carga de trabajo de IA. Al emplear estas capacidades, puede optimizar el rendimiento de la aplicación sin servidor y mantener una supervisión integral de los procesos impulsados por IA.
Este documento lo ayudará a:
- Configurar la función de transmisión de respuesta de monitoreo Lambda
- Comprender la métrica y los datos disponibles para la función de transmisión de respuesta Lambda
- Aprenda a usar la New Relic UI para monitorear y observar el rendimiento de su función de transmisión de respuesta Lambda
Configurar la transmisión de respuesta Lambda
Requisitos previos
- Compruebe que su función Lambda cumple con nuestros requisitos y compatibilidad.
- Emplee la última capa lambda disponible para Node.js.
Configurar la transmisión de respuesta Lambda
Para habilitar el monitoreo de transmisión de respuestas para su Node.js función Lambda:
Instalar y configurar el monitoreoLambda en New Relic.
Agregue las variables de entorno necesarias para la Node.js función de transmisión de respuesta Lambda
Almacene los cambios e implemente la función.
Luego de la implementación, puedes ver la transmisión de datos de la respuesta Lambda en la plataforma New Relic . Para obtener más información, consulte Acceder a la transmisión de datos de respuesta Lambda .
Acceda a la transmisión de datos de la respuesta Lambda
Para ver la transmisión de datos de la respuesta Lambda en la plataforma New Relic :
Vaya a one.newrelic.com > left navigation pane > All Capabilities > Serverless Functions.
Seleccione la función Lambda requerida que emplea la transmisión de respuesta.
Ver resumen, invocaciones, métricas de CloudWatch y rastreo distribuido para su respuesta en streaming función Lambda.
En la sección More views , haga clic en AI Responses.
Para obtener más información sobre las respuestas de IA, consulte Ver respuestas de IA.
Métrica clave para el streaming de respuesta
En la página Cloudwatch metrics , monitoree las siguientes métricas relacionadas con la transmisión de respuestas:
- Bytes salientes transmitidos: muestra la cantidad promedio de bytes transmitidos por la función Lambda.
- Rendimiento de transmisión saliente: muestra la velocidad promedio a la que la función Lambda transmite bytes.
Para obtener más información sobre nuestra UI, consulte Introducción a la plataforma New Relic .