En Avahi, siempre hemos creído que la IA es más que un simple avance en la automatización o el conocimiento, es una responsabilidad. A medida que miramos hacia el futuro en 2025, la conversación global ha madurado: ya no nos preguntamos simplemente: “¿Qué podemos construir?”, sino más bien: “¿Qué deberíamos construir y cómo debería comportarse?”
Con la derogación de la Orden Ejecutiva de la Casa Blanca de 2023 y la introducción de marcos integrales como la Ley de IA de la UE y las directrices de Ética de la IA de la UNESCO, el panorama regulatorio ha cambiado. Ahora, la IA opera bajo un escrutinio más estricto y, con ello, surge una mayor demanda de confianza, seguridad e imparcialidad.
En Avahi, no solo nos adaptamos a estos cambios, sino que ayudamos a darles forma. Hemos profundizado nuestras prácticas de IA responsable para cumplir con las realidades de la gobernanza actual, integrando principios de diseño ético directamente en nuestros flujos de trabajo, herramientas e infraestructura. Este blog describe cómo estamos ampliando nuestros pilares fundamentales con ejemplos del mundo real, casos de uso de clientes y salvaguardias evolucionadas que reflejan hacia dónde se dirige el ecosistema de la IA.
Nuestros pilares de la IA responsable
Basamos nuestro producto y sistema de IA que construimos en los siguientes ocho principios:
1. Imparcialidad y seguridad
Mitigar el sesgo y garantizar resultados equitativos en todas las interacciones de la IA.
Nuestro enfoque:
- Realizar auditorías internas de sesgo y evaluaciones de impacto antes de la entrega del proyecto a los clientes.
- Asociarse con las partes interesadas para definir métricas de imparcialidad adaptadas al contexto del mundo real, no solo a los puntos de referencia técnicos.
- Utilizar activamente las medidas de protección de AWS Bedrock y las indicaciones responsables para restringir los resultados sesgados.
Ejemplo: Indicación de IA para un entrenador de salud
SYSTEM_PROMPT_STR = “”
Eres un entrenador de salud útil y empático. Genera una respuesta de apoyo y detallada utilizando el historial de conversación entre un paciente y su entrenador de salud, además de los datos JSON del paciente. – Utiliza ÚNICAMENTE los datos de ‘patient_json’ y la conversación para elaborar una respuesta precisa y empática. – NO inventes ni adivines detalles no proporcionados. – Tu respuesta debe ser desde la perspectiva de un entrenador de salud que ofrece consejos prácticos.
“”
Las salvaguardias clave en esta indicación incluyen:
- Empatía sin suposiciones: Evita explícitamente los estereotipos al basarse únicamente en los datos proporcionados.
- Prevención de alucinaciones: Prohíbe la especulación o la fabricación de detalles no verificados.
- Imparcialidad consciente del contexto: Las métricas se definen conjuntamente con las partes interesadas para la relevancia en el mundo real.
2. Transparencia y explicabilidad
Construir sistemas de IA que los usuarios y reguladores puedan verificar y comprender.
Nuestros estándares:
- Entregar respuestas basadas en fuentes verificables (por ejemplo, políticas institucionales, documentos citados, documentos médicos).
- Proporcionar citas directas cuando los usuarios soliciten pruebas (ver ejemplo de captura de pantalla).
- Comunicar claramente las limitaciones, especialmente si se mencionan explícitamente en los documentos.
Ejemplo de captura de pantalla: Consulta de financiación universitaria
Queen’s University 7 Estudios de Posgrado y Asuntos Postdoctorales
| Cambio | ¿Qué sucede con la financiación? | Consideraciones |
|---|---|---|
| Cambio de tiempo completo a tiempo parcial | Queen’s no garantiza financiación para estudiantes a tiempo parcial, ya que se entiende que los estudiantes a tiempo parcial trabajan a tiempo completo. Si un estudiante cambia a estado de tiempo parcial a mitad de un año académico una vez que se le ha asignado un paquete de financiación, los estudiantes pueden completar cualquier trabajo restante y recibir cualquier premio restante afiliado a su paquete de financiación existente; sin embargo, los futuros paquetes de financiación se verán afectados por su cambio a estado de tiempo parcial. Normalmente, las ayudantías de enseñanza (TAs) y las ayudantías de investigación (RAs) están limitadas a estudiantes a tiempo completo. | El estudiante debe discutir los cambios en el estado de estudio con su supervisor y considerar las implicaciones de financiación de dicho cambio, así como las implicaciones para cualquier asistencia de préstamo provincial o nacional, seguro de salud o dental, o estado de visa. |
| Cambio de tiempo completo a inactivo | Queen’s no garantiza financiación para estudiantes inactivos. Si un estudiante cambia a estado inactivo a mitad de un año académico una vez que se le ha asignado un paquete de financiación, el estudiante puede completar cualquier trabajo restante y recibir cualquier premio restante afiliado a su paquete de financiación existente. El estudiante no recibirá ningún paquete de financiación adicional hasta que reanude sus estudios a tiempo completo. |
El estudiante debe discutir los cambios en el estado de estudio con su supervisor y considerar las implicaciones de financiación de dicho cambio, así como las implicaciones para cualquier asistencia de préstamo provincial o nacional, seguro de salud o dental, o estado de visa. |
Por qué es importante:
- Reduce el riesgo de desinformación: Las respuestas coinciden textualmente con los documentos fuente.
- Apoya la confianza: Los usuarios pueden verificar las afirmaciones a través de fuentes atribuibles.
- Transferencia humana: Señala cuándo se necesita una consulta experta.
3. Responsabilidad
Garantizar una responsabilidad clara por los resultados y decisiones de la IA.
Nuestros protocolos:
- Demostraciones semanales con las partes interesadas durante el desarrollo para alinear los resultados y abordar las preocupaciones.
- Escalada humana para dominios de alto riesgo (por ejemplo, asesoramiento legal, médico, financiero).
- Descargos de responsabilidad para orientación no accionable (por ejemplo, “Esto no es asesoramiento legal”).
Ejemplo: Flujo de trabajo de chatbot legal
Asistente: ¡Hola, bienvenido a Attorney Live Chat! Por favor, continúe y haga su pregunta.
Usuario: Quiero divorciarme
Asistente: Gracias por hacer su pregunta para obtener orientación sobre su asunto a través de la aplicación móvil Attorney Live. Tenga en cuenta que la información proporcionada a continuación no es asesoramiento legal, estamos proporcionando esta información general para aclarar su solicitud de asunto legal.
Entiendo que esta es una situación difícil. ¿En qué estado necesita asesoramiento legal con respecto a su divorcio?
Usuario: Texas
Asistente: Lamento mucho que esté pasando por esta situación desafiante. ¿Cuáles son las razones principales por las que busca el divorcio? ¿Hay niños involucrados para los que se deban establecer acuerdos de custodia?
Usuario: Sí, lo hemos intentado, pero no funcionó
Asistente: Lamento mucho escuchar que el asesoramiento y la mediación no tuvieron éxito. ¿Ha discutido con su cónyuge posibles acuerdos de custodia y visitas para los niños? Es importante tratar de llegar a un acuerdo que sea lo mejor para los niños.
Usuario: No
Asistente: Según el contexto proporcionado, parece que está considerando el divorcio en Texas y tiene preocupaciones sobre la custodia de los hijos, la división de bienes y deudas. Este es un asunto legal complejo, especialmente cuando hay niños involucrados.
Le recomendaría consultar con un abogado de derecho familiar con experiencia en Texas que pueda asesorarle sobre el proceso de divorcio, los acuerdos de custodia de los hijos, la división de bienes/deudas y ayudar a garantizar que sus derechos y los mejores intereses de sus hijos estén protegidos. Un abogado puede guiarle a través de opciones como la mediación o el litigio si es necesario. La custodia de los hijos y la división de bienes pueden ser cuestiones emocionalmente cargadas. Contar con la orientación objetiva de un abogado puede ser invaluable para llegar a una resolución justa y minimizar los conflictos. También pueden asegurar que todos los requisitos legales se cumplan correctamente en Texas.
Recuerde que la información proporcionada en este chat no es asesoramiento legal. Nuestro objetivo es guiarle hacia los próximos pasos prácticos, ya sea consultar con un abogado o tomar otras acciones apropiadas. Le animamos a programar una consulta con un abogado a través de la aplicación Attorney Live, para que pueda obtener el apoyo personalizado que necesita.
Por qué funciona:
- Límites: Nunca diagnostica ni resuelve problemas legales directamente.
- Recopilación de contexto: Asegura una comprensión matizada antes de responder.
- Transferencia ética: Dirige a los usuarios a expertos humanos cualificados.
4. Privacidad y seguridad de los datos
Protección de datos sensibles mediante el diseño de infraestructura y procesos.
Salvaguardias técnicas:
- Cifrado nativo de AWS: Protección de datos de extremo a extremo con políticas IAM y registros de auditoría.
- Acceso de mínimo privilegio: Roles IAM entre cuentas implementados en entornos de cliente para aislar permisos.
- Anonimización compatible con HIPAA: Enmascaramiento de PII para atención médica/legal (por ejemplo, [NOMBRE], [MEDICAMENTO]).
Manejo de datos:
- Retención cero: El procesamiento ocurre en memoria; las entradas sin procesar nunca se almacenan.
- Reglas de enmascaramiento deterministas: Reemplazan la PII con marcadores de posición sin alterar el contexto (por ejemplo, preserva
“[DOSIS DE MEDICAMENTO]”).
Por qué los clientes confían en esto:
- Sin exposición entre proyectos: El acceso basado en roles se limita por compromiso.
- Alineación regulatoria: Cumple con GDPR, HIPAA y las leyes estatales de EE. UU. de 2025
5. Veracidad y robustez
Garantizar resultados precisos y fiables mediante controles técnicos y de proceso.
Ejemplo de enmascaramiento de PII:
masking_prompt =
"""
Please mask all personally identifiable information (PII), specifically:
First names
Last names
Addresses
Dates (birthdays, appointment dates)
Medication names
Medical professional names (Doctors, nurses)
Phone numbers
Emails
Text to mask:
{text}
Do not rewrite or rephrase the rest of the sentence.
Only replace PIl with generic placeholders or masked terms (e.g., [NAME], [MEDICATION], [DATE]). Do not add explanations,
greetings, or comments. ONLY the masked sentence.
"""
Características clave:
- Reglas de redacción estrictas: Sin anonimización generativa (evita alucinaciones).
- Consciente del contexto: Conserva el significado clínico/financiero (por ejemplo, “[DOSIS DE MEDICAMENTO]”).
- Listo para auditoría: Todo el enmascaramiento se registra con roles IAM y marcas de tiempo.
Por qué es importante:
- Evita la fabricación: Los resultados no pueden inventar detalles sensibles.
- Mantiene la utilidad: Los datos enmascarados siguen siendo utilizables para el análisis.
5. Gobernanza – Adaptación a los nuevos estándares
Adaptación de los sistemas de IA al panorama regulatorio y de amenazas de 2025.
Como socio de servicios de nivel Premier de AWS, ofrecemos:
- Acceso anticipado a las funciones de cumplimiento más recientes de AWS (por ejemplo, actualizaciones de guardrails de Bedrock antes de GA
- Implementaciones certificadas del Marco de buena arquitectura de AWS para IA
- Responsabilidad compartida para la preparación de auditorías: nosotros gestionamos las herramientas de cumplimiento de AWS para que usted no tenga que hacerlo Cumplimiento de 2025 – Impulsado por AWS
| Regulación | Característica de AWS a aprovechar |
|---|---|
| Orden Ejecutiva de EE. UU. 14179 | Tarjetas de servicio de AWS AI |
| Ley de IA de la UE | Comprobaciones de conformidad de Bedrock |
| Leyes a nivel estatal | Generador de políticas de AWS |
El camino a seguir
Escalando la responsabilidad con la innovación
A medida que los sistemas de IA se vuelven más complejos, escalables e integrados en flujos de trabajo críticos, nuestra responsabilidad no disminuye, sino que crece. En Avahi, no solo estamos construyendo herramientas impulsadas por LLM y pipelines de automatización. Estamos construyendo sistemas en los que puede confiar, sistemas que justifican sus decisiones, protegen la privacidad y se adaptan a nuevas leyes y riesgos.
Ya sea enmascarando datos sensibles, citando políticas de origen en un chatbot o alineándonos con los guardrails en evolución de AWS Bedrock, nuestro trabajo sigue arraigado en la transparencia, la responsabilidad y la imparcialidad.
De cara al futuro, mantenemos nuestro compromiso de liderar con el ejemplo. Continuaremos colaborando con clientes, reguladores y la comunidad de código abierto para avanzar en la innovación ética y garantizar que los sistemas de IA eleven, no socaven, el potencial humano.
