Gobernanza de la IA

 

Asunto

La presente Declaración de gobernanza de la IA describe los principios, compromisos y mecanismos de gobernanza aplicados por MR SURICATE el uso de tecnologías de inteligencia artificial (IA) en su plataforma SaaS. 

Este documento tiene carácter informativo y no constituye un compromiso contractual independiente. Los compromisos aplicables se definen en el Contrato, el DPA y el SLA. 

 

Ámbito de las funciones de IA

Las tecnologías de IA integradas en la plataforma MR SURICATE aplicarse en: 

• Asistencia en la creación de escenarios de prueba 
• Sugerencias para optimizar scripts 
• Detección de anomalías técnicas 
• Análisis automatizado de resultados 
• Ayuda con la documentación técnica 
• Coordinación de los agentes 

Las funciones de IA están diseñadas como herramientas de asistencia. No sustituyen la intervención humana ni la validación por parte del usuario. 

 

Principios rectores

MR SURICATE por diseñar mecanismos de IA robustos y resilientes con el fin de limitar los errores de funcionamiento o los comportamientos inesperados. MR SURICATE los siguientes principios:

Supervisión humana

Las decisiones operativas siguen estando bajo el control de los usuarios. 

Las sugerencias generadas por IA requieren validación humana.

Proporcionalidad

El uso de mecanismos de inteligencia artificial es proporcionado a la finalidad técnica del servicio.

Transparencia

MR SURICATE por documentar: 

• Casos de uso de las funciones de IA 
• Sus limitaciones conocidas 
• Buenas prácticas de uso

Seguridad

Los componentes de IA cumplen con las normas de seguridad aplicables a la plataforma: 

• Alojamiento en un entorno seguro 
• Controles de acceso estrictos 
• Registro de las acciones administrativas
• Segmentación lógica de los entornos 

Protección de datos

El uso de mecanismos de inteligencia artificial cumple con los requisitos del RGPD. 

MR SURICATE por limitar la divulgación de datos personales siempre que sea posible, en particular dando prioridad a: 

• Datos técnicos 
• Datos seudonimizados 
• Entornos de prueba adecuados

 

Gestión de riesgos

Los riesgos relacionados con las tecnologías de IA se incluyen en el análisis de riesgos del SMSI. Estos riesgos pueden referirse a: 

• Fiabilidad de las sugerencias 
• Errores de interpretación 
• Posibles sesgos 
• Dependencia de terceros proveedores 

Los riesgos identificados son objeto de seguimiento en el marco de la mejora continua. 

Cuando sea pertinente, MR SURICATE analizar los resultados de los mecanismos de IA para identificar posibles sesgos técnicos o comportamientos inesperados.

 

Clasificación de riesgos de IA (AI Act Alignment)

MR SURICATE sus casos de uso de IA a la luz del Reglamento europeo sobre inteligencia artificial (AI Act). 

Tipo de sistemas

Las funciones de IA están destinadas a la asistencia técnica en el ámbito de las pruebas automatizadas. 
No toman decisiones jurídicas ni automatizadas que afecten directamente a personas físicas.

Categoría de riesgo

Teniendo en cuenta su finalidad actual, los sistemas de IA implementados por MR SURICATE consideran: 
Sistemas de IA de riesgo limitado 
o 
Herramientas de asistencia técnica que no constituyen sistemas de alto riesgo en el sentido de la Ley de IA.

Ausencia de casos de uso de alto riesgo

Las funciones de IA no se utilizan para: 

• Evaluación de personas físicas 
• Puntuación de comportamiento 
• Toma de decisiones automatizada con efectos jurídicos 
• Biometría 
• Vigilancia a gran escala 

Por lo tanto, no entran dentro de las categorías de IA de alto riesgo.

Seguimiento normativo

MR SURICATE un seguimiento normativo continuo con el fin de adaptar sus mecanismos de gobernanza en caso de cambios funcionales o normativos.

 

Gobernanza del ciclo de vida de modelos y datos

MR SURICATE principios de gobernanza que abarcan todo el ciclo de vida de los componentes de IA y los datos asociados. 

Selección e integración de modelos

Los modelos de IA pueden ser: 

• Desarrollados internamente 
• Proporcionados por socios tecnológicos externos 

Antes de la integración, se lleva a cabo una evaluación que abarca: 

• Las garantías de seguridad 
• Los compromisos contractuales 
• Los mecanismos de protección de datos 
• El cumplimiento normativo aplicable 

Entornos de ejecución

Los componentes de IA se ejecutan en entornos seguros que cumplen con: 

• Las normas de seguridad de la plataforma 
• Los estrictos controles de acceso 
• Los mecanismos de registro 
• Los requisitos de aislamiento lógico

Gobernanza de datos

MR SURICATE de: 

• Limitar el uso de datos personales 
• Dar prioridad a los datos técnicos o anonimizados 
• Aplicar las mismas normas de seguridad que para el conjunto del sistema 
• Los datos no se utilizan para el entrenamiento externo sin una base jurídica adecuada. 

Los datos de los clientes utilizados en el marco de la plataforma no se emplean para entrenar modelos de inteligencia artificial públicos o de terceros sin un acuerdo contractual explícito. 

Registro y trazabilidad

Las acciones administrativas relacionadas con las funciones de IA se registran de acuerdo con la política de registro de la plataforma. 

La trazabilidad tiene como objetivo: 

• Identificar los accesos 
• Identificar los cambios 
• Permitir un análisis en caso de incidente

Gestión de versiones y cambios

Las novedades en los mecanismos de IA son: 

• Probadas antes de su implementación 
• Documentadas 
• Integradas en el proceso de gestión del cambio 
• Las actualizaciones se realizan en el marco de la mejora continua.

Supervisión del rendimiento

MR SURICATE supervisar: 

• La pertinencia de las sugerencias 
• Las anomalías técnicas 
• Opiniones de los usuarios 

Este control tiene como objetivo la mejora continua y no constituye una garantía de exactitud absoluta.

Gestión de dependencias de terceros

Cuando se utilizan servicios de terceros: 

• Se evalúa a los proveedores 
• Los compromisos contractuales están regulados 
• Las transferencias de datos cumplen con los requisitos normativos 

 

Cumplimiento normativo

MR SURICATE la evolución de los marcos normativos aplicables, en particular: 

• Reglamento (UE) 2016/679 (RGPD) 
• Reglamento europeo sobre inteligencia artificial (AI Act) 
• Buenas prácticas en materia de IA responsable 

Los mecanismos de IA actuales están concebidos como herramientas de asistencia técnica y no constituyen sistemas de IA de alto riesgo. 

 

Responsabilidad

Las funciones de IA se proporcionan en el marco de una obligación de medios. 
MR SURICATE garantiza ni la exactitud absoluta ni la ausencia de errores en las sugerencias generadas. El usuario sigue siendo responsable de la validación de las acciones llevadas a cabo.

 

Mejora continua

La gestión de los mecanismos de IA se supervisa en el marco del SMSI de MR SURICATE puede ser objeto de revisiones periódicas de seguridad y cumplimiento. 

Las medidas descritas pueden sufrir modificaciones en el marco de: 

• La mejora continua 
• La evolución tecnológica 
• Sobre la adaptación normativa 

Siempre que se mantenga un nivel equivalente de seguridad y cumplimiento.

 

Contacte con

Para cualquier pregunta relacionada con la gobernanza de la IA: suricate