Groopview acelera la interacción en directo con un avatar de IA Dual-Nova en AWS

Cliente

Groopview, inc.

Ubicación

Filadelfia, PA

Industria

Redes sociales / transmisión en directo

Servicios y tecnología

Amazon Bedrock (Nova Pro, Nova Lite), Amazon API Gateway, AWS Lambda, Amazon S3, Amazon RDS, Amazon EC2 g6e, Amazon CloudWatch, AWS IAM, AWS Secrets Manager, AWS Systems Manager Parameter Store

Resumen del proyecto

Groopview, una start-up de transmisión social en tiempo real, quería un avatar de IA que pudiera entender texto e imágenes en medio de sesiones grupales de ritmo rápido. Avahi construyó una API para “Dualy”, para una solución de AWS basada en eventos que orquesta dos modelos de Amazon Nova: Nova Pro para un razonamiento preciso y Nova Lite para respuestas rápidas, para hacer coincidir cada consulta de usuario con el mejor servicio y responder casi en tiempo real. El resultado es una experiencia escalable y de baja latencia que impulsa la interacción de la audiencia y desbloquea nuevas fuentes de ingresos.

Acerca del cliente

Groopview, Inc., con sede en Filadelfia, opera una plataforma móvil donde los creadores transmiten vistas simultáneas de cámaras frontales y traseras, permitiendo conversaciones auténticas «en el momento» en deportes, entretenimiento y eventos en vivo.

El problema

A medida que la base de usuarios de Groopview crecía, los anfitriones tenían dificultades para responder a todas las preguntas, proporcionar información contextual y moderar los chats con la rapidez suficiente para mantener a los espectadores interesados. Necesitaban un coanfitrión de IA que pudiera:
• Procesar entradas multimedia (texto, imágenes) en tiempo real,
• Obtener respuestas de APIs externas, y
• Proporcionar un control de interrupción en menos de un segundo para los anfitriones.
No resolver estos desafíos suponía un riesgo de mayor abandono y limitaba la monetización.

Por qué AWS

Groopview seleccionó AWS por su pila de IA generativa totalmente gestionada y su infraestructura global de baja latencia. Amazon Bedrock proporcionó acceso llave en mano a la familia Nova de LLM, lo que le dio a Groopview tanto velocidad (Nova Lite) como profundidad de razonamiento (Nova Pro) bajo una sola API.

Por qué Groopview eligió Avahi

Como socio de nivel Premier de AWS con experiencia de acceso temprano en modelos Nova, Avahi combinó arquitecturas de referencia, bibliotecas de aceleradores y prácticas recomendadas basadas en eventos para ofrecer una solución de calidad de producción en solo seis semanas. Su capacidad para orquestar múltiples LLM para el control de costes y latencia diferenció a Avahi.

Solución

Avahi implementó una arquitectura multicapa sin servidor:

  • Ingreso y Control – Amazon API Gateway dirige los flujos de texto e imágenes a AWS Lambda para su preprocesamiento.
  • Orquestación de IA – Dentro de Amazon Bedrock, el marco de agentes de Avahi orquesta de manera inteligente las llamadas a una colección de APIs externas, garantizando baja latencia mientras preserva la continuidad contextual:
    • Nova Lite + Nova Pro para consultas simples (<3 s de latencia promedio).
    • Nova Lite + Nova Pro para consultas complejas (~7 s).
    • Lambda fusiona las salidas del modelo, añade citas y transmite las respuestas de vuelta a la aplicación.
  • Capa de Datos – Los metadatos de sesión se almacenan en un Amazon RDS; los secretos residen en AWS Secrets Manager.
  • Escalabilidad y Observabilidad – Las instancias Amazon EC2 g6e respaldadas por GPU se escalan automáticamente para inferencias en ráfagas; Amazon CloudWatch proporciona métricas y alertas unificadas.

Resultados clave

  • Orquestación de Nova de doble modelo (Nova Pro + Nova Lite)
  • Avatar de IA en tiempo real con canales de texto y visión
  • Lógica de gestión de contexto
  • Canalización ETL basada en eventos (Lambda → S3 → RDS)
  • IaC, manuales de ejecución de CI/CD, paneles de control y alertas de CloudWatch

Impacto del proyecto

Groopview lanzó Dualy según lo programado y experimentó un aumento en la retención de sesiones y la satisfacción de los creadores. El diseño de doble Nova redujo la latencia de consultas complejas en más del 80 por ciento en comparación con Claude Sonnet, manteniendo una alta precisión y reduciendo el coste de cómputo por interacción.

Métricas

  • ~2,5 s de respuesta promedio para consultas simples (Nova Lite y Nova Pro)
  • ~7 s de respuesta promedio para consultas complejas (Nova Pro y Nova Pro) frente a ~45 s en Claude Sonnet – 80% más rápido
  • 2 modos de interacción totalmente compatibles: texto y visión
  • Entrega de extremo a extremo en 6 semanas desde el inicio hasta la producción

Recomendamos encarecidamente a Avahi como un socio tecnológico fiable e innovador. Su experiencia en tecnologías de vanguardia fue fundamental para construir nuestra prueba de concepto (PoC) y desarrollar nuestro producto mínimo viable (MVP). Avahi siempre ofreció soluciones de alta calidad a tiempo, manteniendo un enfoque colaborativo y receptivo. Fueron más allá de las expectativas al identificar oportunidades de mejora, garantizando la escalabilidad y el cumplimiento de nuestros productos centrados en la aplicación de la ley. Avahi es la elección clara si necesita un socio tecnológico con conocimiento de la industria, profesionalidad y un compromiso con la innovación.

Brandon Puhlman

Fundador, bravo foxtrot

¿Listo para transformar su negocio con la IA?

Reserve su taller gratuito de IA de activación

Exploremos juntos sus oportunidades de IA de alto impacto en una sesión gratuita de medio día

Vea nuestros casos prácticos

Vea cómo hemos ofrecido resultados medibles para empresas como la suya