Governance der KI

 

Betreff

Das vorliegende KI-Governance-Statement beschreibt die Grundsätze, Verpflichtungen und Governance-Mechanismen, die MR SURICATE den Einsatz von Technologien der künstlichen Intelligenz (KI) innerhalb seiner SaaS-Plattform umsetzt. 

Dieses Dokument dient lediglich zu Informationszwecken und stellt keine eigenständige vertragliche Verpflichtung dar. Die geltenden Verpflichtungen sind im Vertrag, im DPA und im SLA festgelegt. 

 

Umfang der KI-Funktionen

Die in die MR SURICATE -Plattform MR SURICATE integrierten KI-Technologien MR SURICATE in folgenden Bereichen zum Einsatz kommen: 

• Unterstützung bei der Erstellung von Testszenarien 
• Vorschlag zur Optimierung von Skripten 
• Erkennung technischer Störungen 
• Automatisierte Ergebnisauswertung 
• Unterstützung bei der technischen Dokumentation 
• Agentenkoordination 

KI-Funktionen sind als Hilfsmittel konzipiert. Sie ersetzen weder menschliches Eingreifen noch die Überprüfung durch den Benutzer. 

 

Leitlinien

MR SURICATE , KI-Mechanismen robust und widerstandsfähig zu gestalten, um Fehlfunktionen oder unerwartetes Verhalten zu minimieren. MR SURICATE die folgenden Grundsätze MR SURICATE :

Menschliche Aufsicht

Die operativen Entscheidungen liegen weiterhin in der Hand der Nutzer. 

Von der KI generierte Vorschläge müssen von Menschen überprüft werden.

Verhältnismäßigkeit

Der Einsatz von KI-Mechanismen steht in einem angemessenen Verhältnis zum technischen Zweck des Dienstes.

Transparenz

MR SURICATE , Folgendes zu dokumentieren: 

• Anwendungsfälle für KI-Funktionen 
• Ihre bekannten Grenzen 
• Bewährte Verfahren für die Anwendung

Sicherheit

Die KI-Komponenten entsprechen den für die Plattform geltenden Sicherheitsstandards: 

• Hosting in einer sicheren Umgebung 
• Strenge Zugangskontrollen 
• Protokollierung von Verwaltungsvorgängen
• Logische Segmentierung der Umgebungen 

Datenschutz

Der Einsatz von KI-Mechanismen entspricht den Anforderungen der DSGVO. 

MR SURICATE darauf, die Weitergabe personenbezogener Daten so weit wie möglich zu beschränken, insbesondere durch folgende Maßnahmen: 

• Technische Daten 
• Pseudonymisierte Daten 
• Geeignete Testumgebungen

 

Risikomanagement

Die mit KI-Technologien verbundenen Risiken werden in die Risikoanalyse des SMSI einbezogen. Diese Risiken können folgende Bereiche betreffen: 

• Zuverlässigkeit der Vorschläge 
• Fehlinterpretationen 
• Mögliche Verzerrungen 
• Abhängigkeiten von Drittanbietern 

Die identifizierten Risiken werden im Rahmen der kontinuierlichen Verbesserung überwacht. 

Gegebenenfalls MR SURICATE die Ergebnisse der KI-Mechanismen analysieren, um mögliche technische Verzerrungen oder unerwartete Verhaltensweisen zu erkennen.

 

Einstufung der KI-Risiken (AI Act Alignment)

MR SURICATE seine KI-Anwendungsfälle im Hinblick auf die europäische Verordnung über künstliche Intelligenz (AI Act). 

Art der Systeme

Die KI-Funktionen dienen der technischen Unterstützung im Bereich der automatisierten Tests. 
Sie treffen keine rechtlichen oder automatisierten Entscheidungen, die natürliche Personen unmittelbar betreffen.

Risikoklasse

Im Hinblick auf ihren derzeitigen Verwendungszweck MR SURICATE die von MR SURICATE eingesetzten KI-Systeme wie folgt eingestuft: 
KI-Systeme mit begrenztem Risiko 
oder 
Technische Hilfsmittel, die keine Hochrisikosysteme im Sinne des KI-Gesetzes darstellen.

Keine risikoreichen Anwendungsfälle

KI-Funktionen werden nicht verwendet für: 

• Besteuerung natürlicher Personen 
• Verhaltensbasierte Bewertung 
• Automatisierte Entscheidungsfindung mit Rechtswirkung 
• Biometrie 
• Umfassende Überwachung 

Folglich fallen sie nicht unter die Kategorien der KI mit hohem Risiko.

Beobachtung der Rechtsvorschriften

MR SURICATE kontinuierlich die regulatorischen Entwicklungen, um seine Governance-Mechanismen bei funktionalen oder regulatorischen Änderungen anzupassen.

 

Steuerung des Modell- und Datenlebenszyklus

MR SURICATE Governance-Grundsätze MR SURICATE , die den gesamten Lebenszyklus von KI-Komponenten und den damit verbundenen Daten abdecken. 

Auswahl und Integration der Modelle

KI-Modelle können sein: 

• Eigenentwickelt 
• Von externen Technologiepartnern bereitgestellt 

Vor der Integration wird eine Bewertung durchgeführt, die folgende Punkte umfasst: 

• Sicherheitsgarantien 
• Vertragliche Verpflichtungen 
• Datenschutzmechanismen 
• Die geltenden gesetzlichen Vorschriften 

Ausführungsumgebungen

KI-Komponenten werden in sicheren Umgebungen ausgeführt, die folgende Anforderungen erfüllen: 

• Die Sicherheitsstandards der Plattform 
• Strenge Zugangskontrollen 
• Protokollierungsmechanismen 
• Anforderungen an die logische Isolation

Daten-Governance

MR SURICATE dafür, dass: 

• Die Verwendung personenbezogener Daten einschränken 
• Technische oder anonymisierte Daten bevorzugen 
• Es gelten dieselben Sicherheitsvorschriften wie für das gesamte System 
• Die Daten werden ohne entsprechende Rechtsgrundlage nicht für externes Training verwendet. 

Die im Rahmen der Plattform verwendeten Kundendaten werden ohne ausdrückliche vertragliche Vereinbarung nicht zum Trainieren öffentlicher oder fremder KI-Modelle verwendet. 

Protokollierung und Rückverfolgbarkeit

Verwaltungsvorgänge im Zusammenhang mit KI-Funktionen werden gemäß der Protokollierungsrichtlinie der Plattform protokolliert. 

Die Rückverfolgbarkeit zielt darauf ab: 

• Zugänge identifizieren 
• Änderungen identifizieren 
• Eine Analyse im Falle eines Vorfalls ermöglichen

Versions- und Änderungsmanagement

Die Entwicklungen bei KI-Mechanismen sind: 

• Vor der Bereitstellung getestet 
• Dokumentiert 
• In den Prozess des Veränderungsmanagements integriert 
• Die Aktualisierungen erfolgen im Rahmen der kontinuierlichen Verbesserung.

Leistungsüberwachung

MR SURICATE Folgendes überwachen: 

• Die Relevanz der Vorschläge 
• Technische Störungen 
• Nutzerfeedback 

Diese Überwachung dient der kontinuierlichen Verbesserung und stellt keine Garantie für absolute Genauigkeit dar.

Verwaltung von Abhängigkeiten von Drittanbietern

Bei Nutzung von Diensten Dritter: 

• Die Lieferanten werden bewertet 
• Vertragliche Verpflichtungen sind geregelt 
• Die Datenübermittlungen entsprechen den gesetzlichen Anforderungen 

 

Einhaltung gesetzlicher Vorschriften

MR SURICATE die Entwicklung der geltenden rechtlichen Rahmenbedingungen, insbesondere: 

• Verordnung (EU) 2016/679 (DSGVO) 
• Europäische Verordnung über künstliche Intelligenz (AI Act) 
• Bewährte Verfahren für verantwortungsvolle KI 

Die derzeitigen KI-Mechanismen sind als technische Hilfsmittel konzipiert und stellen keine KI-Systeme mit hohem Risiko dar. 

 

Verantwortung

Die KI-Funktionen werden im Rahmen einer Mittelverpflichtung bereitgestellt. 
MR SURICATE übernimmtMR SURICATE Gewähr für die absolute Richtigkeit oder Fehlerfreiheit der generierten Vorschläge. Der Nutzer bleibt für die Überprüfung der durchgeführten Maßnahmen verantwortlich.

 

Kontinuierliche Verbesserung

Die Steuerung der KI-Mechanismen wird im Rahmen des SMSI von MR SURICATE überwacht MR SURICATE kann Gegenstand regelmäßiger Sicherheits- und Konformitätsprüfungen sein. 

Die beschriebenen Maßnahmen können sich im Rahmen folgender Punkte ändern: 

• Von der kontinuierlichen Verbesserung 
• Über den technologischen Wandel 
• Zur Anpassung der Rechtsvorschriften 

Vorbehaltlich der Aufrechterhaltung eines gleichwertigen Sicherheits- und Compliance-Niveaus.

 

Kontakt

Bei Fragen zur KI-Governance: suricate