Tasa de error en 1,9 millones de fotogramas procesados
Aumento del rendimiento respecto a la configuración base de precisión estándar
Ingresos recurrentes anuales modelados por escuela atendida
DefenX
Nueva York, NY
Tecnología de seguridad escolar
Amazon SageMaker AI, Amazon Kinesis Data Streams, Amazon CloudWatch, Amazon S3, Amazon ECR
DefenX es una empresa de tecnología de seguridad escolar que utiliza visión artificial para detectar armas en tiempo real a través de las redes de cámaras de los colegios. Para escalar más allá del hardware instalado localmente en cada centro, DefenX necesitaba saber si su carga de trabajo de detección podía ejecutarse de forma fiable y asequible en la nube. Avahi validó la carga de trabajo de inferencia de DefenX en Amazon Web Services, identificó la configuración de computación más rentable y creó una canalización de inferencia en la nube en vivo que procesa los datos de las cámaras de extremo a extremo. La colaboración proporcionó a DefenX una arquitectura probada, una canalización validada continuamente y los modelos de costes e ingresos necesarios para fijar el precio de una versión de su servicio alojada en la nube.
DefenX desarrolla tecnología de visión artificial que detecta armas en tiempo real desde las redes de cámaras escolares, ayudando al personal de los centros a responder más rápido ante posibles amenazas. Su modelo de detección se ejecuta sobre la arquitectura de detección de objetos YOLOv11.
DefenX ejecutaba su canalización de detección en hardware GPU local instalado en cada escuela. Escalar ese enfoque a más centros implicaba adquirir y mantener nuevo hardware en cada ubicación, lo que limitaba la rapidez de crecimiento de DefenX y dificultaba la oferta de un servicio sencillo y gestionado centralmente.
Para ofrecer una versión de su producto alojada en la nube, DefenX necesitaba validar si su carga de trabajo de detección en tiempo real (aproximadamente entre 400 y 500 inferencias por segundo por escuela) podía ejecutarse de forma fiable en la nube y a qué coste. Sin esa validación, DefenX no podía fijar con confianza el precio de una oferta gestionada basada en la nube para sus clientes escolares, y corría el riesgo de sobredimensionar la infraestructura o subestimar el coste de ejecutar el servicio a escala.
Como empresa que planea ofrecer su tecnología de detección como un servicio gestionado en numerosas escuelas, DefenX necesitaba una infraestructura que pudiera escalar hacia arriba o hacia abajo sin poseer servidores físicos, además de acceso a una gama de opciones de GPU y aceleradores de IA para encontrar la forma más rentable de ejecutar su modelo. La amplitud de la infraestructura de aprendizaje automático gestionada de AWS, que incluye múltiples familias de instancias de GPU y un chip de inferencia de IA diseñado específicamente, permitió a DefenX probar y validar dicha infraestructura de forma empírica antes de comprometerse con una arquitectura de producción.
DefenX necesitaba un socio que pudiera avanzar rápidamente a través de una evaluación técnica estructurada, realizar pruebas de rendimiento de cargas de trabajo reales en condiciones realistas y traducir los resultados en un modelo claro de costes y precios, no solo en un prototipo funcional. La experiencia de Avahi ayudando a los clientes de AWS a validar y poner en producción cargas de trabajo de aprendizaje automático la convertía en la opción ideal para liderar esta evaluación y entregar una base que DefenX pudiera utilizar para escalar su oferta con confianza.
Avahi realizó una evaluación estructurada del modelo de detección de armas basado en YOLOv11 de DefenX en Amazon SageMaker AI, analizando el rendimiento de la inferencia y la latencia en múltiples tipos de instancias de GPU. El equipo también evaluó AWS Inferentia2, un chip de inferencia de IA diseñado específicamente, como una alternativa potencialmente de menor coste, probándolo frente a los mismos objetivos de rendimiento en tiempo real.
A lo largo de estas pruebas, Avahi midió el rendimiento y el coste con múltiples precisiones de pesos y tamaños de lote, y luego sometió a pruebas de esfuerzo a las configuraciones principales con hasta el doble de la carga de cámaras objetivo de DefenX. Los resultados mostraron que una instancia de GPU de SageMaker ejecutándose con una configuración de menor precisión (FP16) y un tamaño de lote mayor ofrecía la mejor combinación de rendimiento y coste, mejorando el rendimiento en más de un 30 % respecto a la base de precisión estándar. Inferentia2 mostró una latencia competitiva, pero no pudo igualar el rendimiento de la configuración de GPU seleccionada sin una flota de instancias mucho más grande y compleja, por lo que Avahi recomendó la configuración basada en GPU para la producción.
Con la configuración objetivo seleccionada, Avahi creó y desplegó una canalización de inferencia en vivo de extremo a extremo: Amazon Kinesis ingiere los datos de las cámaras y los transmite a un punto de enlace de inferencia de SageMaker AI que ejecuta la configuración seleccionada, mientras que Amazon CloudWatch proporciona una monitorización en tiempo real del rendimiento, la latencia y las tasas de error. A continuación, Avahi validó la canalización con una validación continua mínima de 24 horas bajo carga sostenida, confirmando que podía ejecutarse de forma fiable sin intervención manual.
Finalmente, Avahi creó un modelo de coste total de propiedad que desglosó los costes de AWS por escuela e identificó el punto en el que un despliegue alojado en la nube resulta menos costoso que el hardware local actual de DefenX a medida que se añaden más escuelas, junto con un modelo de ingresos recurrentes mensuales y anuales que DefenX puede utilizar para fijar el precio de una versión gestionada y alojada en la nube de su servicio.
Evaluación comparativa del rendimiento de inferencia, la latencia y el coste en múltiples tipos de instancias de GPU y precisiones de pesos de Amazon SageMaker
Evaluación de AWS Inferentia2 como chip de inferencia de IA alternativo
Selección y despliegue de la configuración de producción con la mejor relación rendimiento-coste
Creación de una canalización de inferencia en vivo de extremo a extremo utilizando Amazon Kinesis para la ingesta de datos de cámaras y Amazon SageMaker AI para la inferencia en tiempo real
Implementación de paneles de Amazon CloudWatch para la monitorización de la canalización
Finalización de una ejecución de validación continua de varios días bajo carga sostenida
Entrega de un modelo de coste total de propiedad con proyecciones de costes por escuela
Entrega de un modelo de ingresos recurrentes mensuales y anuales para respaldar los precios de la oferta alojada en la nube de DefenX
La arquitectura en la nube validada proporciona a DefenX un camino claro y respaldado por datos para ofrecer su tecnología de detección de armas como un servicio alojado en la nube, sin necesidad de poseer ni mantener hardware en cada escuela.
La configuración de producción seleccionada ofreció un rendimiento sostenido de 400-500 inferencias/segundo, una mejora respecto a la base de precisión estándar
La ejecución de validación continua procesó 1.892.656 fotogramas y 247.173 invocaciones de puntos de enlace con una tasa de error del 0,000 %
El modelo de costes establece un precio mínimo con un margen bruto del 70 % y modela unos ingresos recurrentes anuales de 25.000 $ por escuela para la oferta alojada en la nube de DefenX
DefenX
Nueva York, NY
Tecnología de seguridad escolar
Amazon SageMaker AI, Amazon Kinesis Data Streams, Amazon CloudWatch, Amazon S3, Amazon ECR
DefenX es una empresa de tecnología de seguridad escolar que utiliza visión artificial para detectar armas en tiempo real a través de las redes de cámaras de los colegios. Para escalar más allá del hardware instalado localmente en cada centro, DefenX necesitaba saber si su carga de trabajo de detección podía ejecutarse de forma fiable y asequible en la nube. Avahi validó la carga de trabajo de inferencia de DefenX en Amazon Web Services, identificó la configuración de computación más rentable y creó una canalización de inferencia en la nube en vivo que procesa los datos de las cámaras de extremo a extremo. La colaboración proporcionó a DefenX una arquitectura probada, una canalización validada continuamente y los modelos de costes e ingresos necesarios para fijar el precio de una versión de su servicio alojada en la nube.
DefenX desarrolla tecnología de visión artificial que detecta armas en tiempo real desde las redes de cámaras escolares, ayudando al personal de los centros a responder más rápido ante posibles amenazas. Su modelo de detección se ejecuta sobre la arquitectura de detección de objetos YOLOv11.
DefenX ejecutaba su canalización de detección en hardware GPU local instalado en cada escuela. Escalar ese enfoque a más centros implicaba adquirir y mantener nuevo hardware en cada ubicación, lo que limitaba la rapidez de crecimiento de DefenX y dificultaba la oferta de un servicio sencillo y gestionado centralmente.
Para ofrecer una versión de su producto alojada en la nube, DefenX necesitaba validar si su carga de trabajo de detección en tiempo real (aproximadamente entre 400 y 500 inferencias por segundo por escuela) podía ejecutarse de forma fiable en la nube y a qué coste. Sin esa validación, DefenX no podía fijar con confianza el precio de una oferta gestionada basada en la nube para sus clientes escolares, y corría el riesgo de sobredimensionar la infraestructura o subestimar el coste de ejecutar el servicio a escala.
Como empresa que planea ofrecer su tecnología de detección como un servicio gestionado en numerosas escuelas, DefenX necesitaba una infraestructura que pudiera escalar hacia arriba o hacia abajo sin poseer servidores físicos, además de acceso a una gama de opciones de GPU y aceleradores de IA para encontrar la forma más rentable de ejecutar su modelo. La amplitud de la infraestructura de aprendizaje automático gestionada de AWS, que incluye múltiples familias de instancias de GPU y un chip de inferencia de IA diseñado específicamente, permitió a DefenX probar y validar dicha infraestructura de forma empírica antes de comprometerse con una arquitectura de producción.
DefenX necesitaba un socio que pudiera avanzar rápidamente a través de una evaluación técnica estructurada, realizar pruebas de rendimiento de cargas de trabajo reales en condiciones realistas y traducir los resultados en un modelo claro de costes y precios, no solo en un prototipo funcional. La experiencia de Avahi ayudando a los clientes de AWS a validar y poner en producción cargas de trabajo de aprendizaje automático la convertía en la opción ideal para liderar esta evaluación y entregar una base que DefenX pudiera utilizar para escalar su oferta con confianza.
Avahi realizó una evaluación estructurada del modelo de detección de armas basado en YOLOv11 de DefenX en Amazon SageMaker AI, analizando el rendimiento de la inferencia y la latencia en múltiples tipos de instancias de GPU. El equipo también evaluó AWS Inferentia2, un chip de inferencia de IA diseñado específicamente, como una alternativa potencialmente de menor coste, probándolo frente a los mismos objetivos de rendimiento en tiempo real.
A lo largo de estas pruebas, Avahi midió el rendimiento y el coste con múltiples precisiones de pesos y tamaños de lote, y luego sometió a pruebas de esfuerzo a las configuraciones principales con hasta el doble de la carga de cámaras objetivo de DefenX. Los resultados mostraron que una instancia de GPU de SageMaker ejecutándose con una configuración de menor precisión (FP16) y un tamaño de lote mayor ofrecía la mejor combinación de rendimiento y coste, mejorando el rendimiento en más de un 30 % respecto a la base de precisión estándar. Inferentia2 mostró una latencia competitiva, pero no pudo igualar el rendimiento de la configuración de GPU seleccionada sin una flota de instancias mucho más grande y compleja, por lo que Avahi recomendó la configuración basada en GPU para la producción.
Con la configuración objetivo seleccionada, Avahi creó y desplegó una canalización de inferencia en vivo de extremo a extremo: Amazon Kinesis ingiere los datos de las cámaras y los transmite a un punto de enlace de inferencia de SageMaker AI que ejecuta la configuración seleccionada, mientras que Amazon CloudWatch proporciona una monitorización en tiempo real del rendimiento, la latencia y las tasas de error. A continuación, Avahi validó la canalización con una validación continua mínima de 24 horas bajo carga sostenida, confirmando que podía ejecutarse de forma fiable sin intervención manual.
Finalmente, Avahi creó un modelo de coste total de propiedad que desglosó los costes de AWS por escuela e identificó el punto en el que un despliegue alojado en la nube resulta menos costoso que el hardware local actual de DefenX a medida que se añaden más escuelas, junto con un modelo de ingresos recurrentes mensuales y anuales que DefenX puede utilizar para fijar el precio de una versión gestionada y alojada en la nube de su servicio.
Evaluación comparativa del rendimiento de inferencia, la latencia y el coste en múltiples tipos de instancias de GPU y precisiones de pesos de Amazon SageMaker
Evaluación de AWS Inferentia2 como chip de inferencia de IA alternativo
Selección y despliegue de la configuración de producción con la mejor relación rendimiento-coste
Creación de una canalización de inferencia en vivo de extremo a extremo utilizando Amazon Kinesis para la ingesta de datos de cámaras y Amazon SageMaker AI para la inferencia en tiempo real
Implementación de paneles de Amazon CloudWatch para la monitorización de la canalización
Finalización de una ejecución de validación continua de varios días bajo carga sostenida
Entrega de un modelo de coste total de propiedad con proyecciones de costes por escuela
Entrega de un modelo de ingresos recurrentes mensuales y anuales para respaldar los precios de la oferta alojada en la nube de DefenX
La arquitectura en la nube validada proporciona a DefenX un camino claro y respaldado por datos para ofrecer su tecnología de detección de armas como un servicio alojado en la nube, sin necesidad de poseer ni mantener hardware en cada escuela.
La configuración de producción seleccionada ofreció un rendimiento sostenido de 400-500 inferencias/segundo, una mejora respecto a la base de precisión estándar
La ejecución de validación continua procesó 1.892.656 fotogramas y 247.173 invocaciones de puntos de enlace con una tasa de error del 0,000 %
El modelo de costes establece un precio mínimo con un margen bruto del 70 % y modela unos ingresos recurrentes anuales de 25.000 $ por escuela para la oferta alojada en la nube de DefenX
Exploremos juntos sus oportunidades de IA de alto impacto en una sesión gratuita
