Tasa de error en 1,9 millones de fotogramas procesados
Aumento del rendimiento respecto a la configuración base de precisión estándar
Ingresos recurrentes anuales modelados por escuela atendida
DefenX
Nueva York, NY
Tecnología de seguridad escolar
Amazon SageMaker AI, Amazon Kinesis Data Streams, Amazon CloudWatch, Amazon S3, Amazon ECR
DefenX es una empresa de tecnología de seguridad escolar que utiliza visión artificial para detectar armas en tiempo real a través de las redes de cámaras de los colegios. Para escalar más allá del hardware instalado localmente en cada centro, DefenX necesitaba saber si su carga de trabajo de detección podía ejecutarse de forma fiable y asequible en la nube. Avahi validó la carga de trabajo de inferencia de DefenX en Amazon Web Services, identificó la configuración de computación más rentable y creó una canalización de inferencia en la nube en vivo que procesa los datos de las cámaras de extremo a extremo. La colaboración proporcionó a DefenX una arquitectura probada, una canalización validada continuamente y los modelos de costes e ingresos necesarios para fijar el precio de una versión de su servicio alojada en la nube.
DefenX desarrolla tecnología de visión artificial que detecta armas en tiempo real desde las redes de cámaras escolares, ayudando al personal de los centros a responder más rápido ante posibles amenazas. Su modelo de detección se ejecuta sobre la arquitectura de detección de objetos YOLOv11.
DefenX ejecutaba su canalización de detección en hardware GPU local instalado en cada escuela. Escalar ese enfoque a más centros implicaba adquirir y mantener nuevo hardware en cada ubicación, lo que limitaba la rapidez de crecimiento de DefenX y dificultaba la oferta de un servicio sencillo y gestionado centralmente.
Para ofrecer una versión alojada en la nube de su producto, DefenX necesitaba validar si su carga de trabajo de detección en tiempo real, aproximadamente 400 a 500 inferencias por segundo por escuela, podía ejecutarse de forma fiable en la nube, y a qué coste. Sin esa validación, DefenX no podía fijar con confianza el precio de una oferta gestionada basada en la nube para sus clientes escolares, y corría el riesgo de sobredimensionar la infraestructura o subestimar el coste de ejecutar el servicio a escala.
Como empresa que planea ofrecer su tecnología de detección como un servicio gestionado en muchas escuelas, DefenX necesitaba una infraestructura que pudiera escalar hacia arriba o hacia abajo sin poseer servidores físicos, junto con acceso a una variedad de opciones de GPU y aceleradores de IA para encontrar la forma más rentable de ejecutar su modelo. La amplitud de la infraestructura de aprendizaje automático gestionada de AWS, que incluye múltiples familias de instancias GPU y un chip de inferencia de IA diseñado específicamente para ese fin, le dio a DefenX una forma de probar y validar esa infraestructura empíricamente antes de comprometerse con una arquitectura de producción.
DefenX necesitaba un socio que pudiera avanzar rápidamente a través de una evaluación técnica estructurada, realizar pruebas de referencia de cargas de trabajo reales en condiciones realistas y traducir los resultados en un modelo claro de costes y precios, no solo un prototipo funcional. La experiencia de Avahi ayudando a clientes de AWS a validar y poner en producción cargas de trabajo de aprendizaje automático la hizo muy adecuada para liderar esta evaluación y entregar una base que DefenX pudiera usar para escalar su oferta con confianza.
Avahi realizó una evaluación estructurada del modelo de detección de armas basado en YOLOv11 de DefenX en Amazon SageMaker AI, realizando pruebas de referencia del rendimiento y la latencia de inferencia en múltiples tipos de instancias GPU. El equipo también evaluó AWS Inferentia2, un chip de inferencia de IA diseñado específicamente para ese fin, como una alternativa potencialmente de menor coste, probándolo contra los mismos objetivos de rendimiento en tiempo real.
A través de estas pruebas, Avahi midió el rendimiento y el coste en múltiples precisiones de peso y tamaños de lote, luego sometió a pruebas de estrés las configuraciones principales hasta el doble de la carga de cámaras objetivo de DefenX. Los resultados mostraron que una instancia GPU de SageMaker ejecutándose con una configuración de menor precisión (FP16) con un tamaño de lote mayor ofrecía la mejor combinación de rendimiento y coste, mejorando el rendimiento en más del 30% respecto a la línea base de precisión estándar. Inferentia2 mostró una latencia competitiva pero no pudo igualar el rendimiento de la configuración GPU seleccionada sin una flota de instancias mucho más grande y compleja, por lo que Avahi recomendó la configuración basada en GPU para producción.
Con la configuración objetivo seleccionada, Avahi construyó e implementó una canalización de inferencia en vivo de extremo a extremo: Amazon Kinesis ingiere los datos de las cámaras y los transmite a un endpoint de inferencia de SageMaker AI ejecutando la configuración seleccionada, con Amazon CloudWatch proporcionando monitoreo en tiempo real del rendimiento, la latencia y las tasas de error. Avahi luego validó la canalización con una validación continua mínima de 24 horas bajo carga sostenida, confirmando que podía ejecutarse de forma fiable sin intervención manual.
Finalmente, Avahi construyó un modelo de coste total de propiedad que desglosó los costes de AWS por escuela e identificó el punto en el cual una implementación alojada en la nube se vuelve menos costosa que el hardware local existente de DefenX a medida que se agregan más escuelas, junto con un modelo de ingresos recurrentes mensuales y anuales que DefenX puede usar para fijar el precio de una versión gestionada y alojada en la nube de su servicio.
Se realizaron pruebas de referencia del rendimiento de inferencia, la latencia y el coste en múltiples tipos de instancias GPU de Amazon SageMaker y precisiones de peso
Se evaluó AWS Inferentia2 como un chip alternativo de inferencia de IA
Se seleccionó e implementó la configuración de producción con la mejor relación rendimiento-coste
Se construyó una canalización de inferencia en vivo de extremo a extremo utilizando Amazon Kinesis para la ingesta de datos de cámaras y Amazon SageMaker AI para inferencia en tiempo real
Se implementaron paneles de Amazon CloudWatch para el monitoreo de la canalización
Se completó una ejecución de validación continua de varios días bajo carga sostenida
Se entregó un modelo de coste total de propiedad con proyecciones de coste por escuela
Se entregó un modelo de ingresos recurrentes mensuales y anuales para respaldar los precios de DefenX alojados en la nube
La arquitectura en la nube validada le da a DefenX un camino claro y respaldado por datos para ofrecer su tecnología de detección de armas como un servicio alojado en la nube, sin poseer ni mantener hardware en cada escuela.
La configuración de producción seleccionada entregó 400-500 inferencias/segundo de rendimiento sostenido, una mejora respecto a la línea base de precisión estándar
La ejecución de validación continua procesó 1.892.656 fotogramas y 247.173 invocaciones de endpoint con una tasa de error del 0,000%
El modelo de costes establece un precio mínimo con un margen bruto del 70% y modela ingresos recurrentes anuales de 25.000 $ por escuela para la oferta alojada en la nube de DefenX
DefenX
Nueva York, NY
Tecnología de seguridad escolar
Amazon SageMaker AI, Amazon Kinesis Data Streams, Amazon CloudWatch, Amazon S3, Amazon ECR
DefenX es una empresa de tecnología de seguridad escolar que utiliza visión artificial para detectar armas en tiempo real a través de las redes de cámaras de los colegios. Para escalar más allá del hardware instalado localmente en cada centro, DefenX necesitaba saber si su carga de trabajo de detección podía ejecutarse de forma fiable y asequible en la nube. Avahi validó la carga de trabajo de inferencia de DefenX en Amazon Web Services, identificó la configuración de computación más rentable y creó una canalización de inferencia en la nube en vivo que procesa los datos de las cámaras de extremo a extremo. La colaboración proporcionó a DefenX una arquitectura probada, una canalización validada continuamente y los modelos de costes e ingresos necesarios para fijar el precio de una versión de su servicio alojada en la nube.
DefenX desarrolla tecnología de visión artificial que detecta armas en tiempo real desde las redes de cámaras escolares, ayudando al personal de los centros a responder más rápido ante posibles amenazas. Su modelo de detección se ejecuta sobre la arquitectura de detección de objetos YOLOv11.
DefenX ejecutaba su canalización de detección en hardware GPU local instalado en cada escuela. Escalar ese enfoque a más centros implicaba adquirir y mantener nuevo hardware en cada ubicación, lo que limitaba la rapidez de crecimiento de DefenX y dificultaba la oferta de un servicio sencillo y gestionado centralmente.
Para ofrecer una versión alojada en la nube de su producto, DefenX necesitaba validar si su carga de trabajo de detección en tiempo real, aproximadamente 400 a 500 inferencias por segundo por escuela, podía ejecutarse de forma fiable en la nube, y a qué coste. Sin esa validación, DefenX no podía fijar con confianza el precio de una oferta gestionada basada en la nube para sus clientes escolares, y corría el riesgo de sobredimensionar la infraestructura o subestimar el coste de ejecutar el servicio a escala.
Como empresa que planea ofrecer su tecnología de detección como un servicio gestionado en muchas escuelas, DefenX necesitaba una infraestructura que pudiera escalar hacia arriba o hacia abajo sin poseer servidores físicos, junto con acceso a una variedad de opciones de GPU y aceleradores de IA para encontrar la forma más rentable de ejecutar su modelo. La amplitud de la infraestructura de aprendizaje automático gestionada de AWS, que incluye múltiples familias de instancias GPU y un chip de inferencia de IA diseñado específicamente para ese fin, le dio a DefenX una forma de probar y validar esa infraestructura empíricamente antes de comprometerse con una arquitectura de producción.
DefenX necesitaba un socio que pudiera avanzar rápidamente a través de una evaluación técnica estructurada, realizar pruebas de referencia de cargas de trabajo reales en condiciones realistas y traducir los resultados en un modelo claro de costes y precios, no solo un prototipo funcional. La experiencia de Avahi ayudando a clientes de AWS a validar y poner en producción cargas de trabajo de aprendizaje automático la hizo muy adecuada para liderar esta evaluación y entregar una base que DefenX pudiera usar para escalar su oferta con confianza.
Avahi realizó una evaluación estructurada del modelo de detección de armas basado en YOLOv11 de DefenX en Amazon SageMaker AI, realizando pruebas de referencia del rendimiento y la latencia de inferencia en múltiples tipos de instancias GPU. El equipo también evaluó AWS Inferentia2, un chip de inferencia de IA diseñado específicamente para ese fin, como una alternativa potencialmente de menor coste, probándolo contra los mismos objetivos de rendimiento en tiempo real.
A través de estas pruebas, Avahi midió el rendimiento y el coste en múltiples precisiones de peso y tamaños de lote, luego sometió a pruebas de estrés las configuraciones principales hasta el doble de la carga de cámaras objetivo de DefenX. Los resultados mostraron que una instancia GPU de SageMaker ejecutándose con una configuración de menor precisión (FP16) con un tamaño de lote mayor ofrecía la mejor combinación de rendimiento y coste, mejorando el rendimiento en más del 30% respecto a la línea base de precisión estándar. Inferentia2 mostró una latencia competitiva pero no pudo igualar el rendimiento de la configuración GPU seleccionada sin una flota de instancias mucho más grande y compleja, por lo que Avahi recomendó la configuración basada en GPU para producción.
Con la configuración objetivo seleccionada, Avahi construyó e implementó una canalización de inferencia en vivo de extremo a extremo: Amazon Kinesis ingiere los datos de las cámaras y los transmite a un endpoint de inferencia de SageMaker AI ejecutando la configuración seleccionada, con Amazon CloudWatch proporcionando monitoreo en tiempo real del rendimiento, la latencia y las tasas de error. Avahi luego validó la canalización con una validación continua mínima de 24 horas bajo carga sostenida, confirmando que podía ejecutarse de forma fiable sin intervención manual.
Finalmente, Avahi construyó un modelo de coste total de propiedad que desglosó los costes de AWS por escuela e identificó el punto en el cual una implementación alojada en la nube se vuelve menos costosa que el hardware local existente de DefenX a medida que se agregan más escuelas, junto con un modelo de ingresos recurrentes mensuales y anuales que DefenX puede usar para fijar el precio de una versión gestionada y alojada en la nube de su servicio.
Se realizaron pruebas de referencia del rendimiento de inferencia, la latencia y el coste en múltiples tipos de instancias GPU de Amazon SageMaker y precisiones de peso
Se evaluó AWS Inferentia2 como un chip alternativo de inferencia de IA
Se seleccionó e implementó la configuración de producción con la mejor relación rendimiento-coste
Se construyó una canalización de inferencia en vivo de extremo a extremo utilizando Amazon Kinesis para la ingesta de datos de cámaras y Amazon SageMaker AI para inferencia en tiempo real
Se implementaron paneles de Amazon CloudWatch para el monitoreo de la canalización
Se completó una ejecución de validación continua de varios días bajo carga sostenida
Se entregó un modelo de coste total de propiedad con proyecciones de coste por escuela
Se entregó un modelo de ingresos recurrentes mensuales y anuales para respaldar los precios de DefenX alojados en la nube
La arquitectura en la nube validada le da a DefenX un camino claro y respaldado por datos para ofrecer su tecnología de detección de armas como un servicio alojado en la nube, sin poseer ni mantener hardware en cada escuela.
La configuración de producción seleccionada entregó 400-500 inferencias/segundo de rendimiento sostenido, una mejora respecto a la línea base de precisión estándar
La ejecución de validación continua procesó 1.892.656 fotogramas y 247.173 invocaciones de endpoint con una tasa de error del 0,000%
El modelo de costes establece un precio mínimo con un margen bruto del 70% y modela ingresos recurrentes anuales de 25.000 $ por escuela para la oferta alojada en la nube de DefenX
Exploremos juntos sus oportunidades de IA de alto impacto en una sesión gratuita
