Technischer Überblick über das KI-System

Übersicht

Dieser Artikel bietet technische Transparenz darüber, wie die KI-Systeme von ISMS Copilot entwickelt, getestet und betrieben werden. Diese Details zeigen unser Engagement für verantwortungsvolle KI-Entwicklung durch überprüfbare Implementierungspraktiken.

Zielgruppe

Dieser Artikel richtet sich an:

• Sicherheits- und Compliance-Teams, die KI-Governance-Kontrollen evaluieren
• Auditoren, die die Implementierung von KI-Systemen anhand von Richtlinien bewerten
• Risikomanager, die technische Transparenz für KI-Systeme benötigen
• Technische Nutzer, die die KI-Architektur verstehen möchten

ISO 42001-Implementierung

Das KI-System von ISMS Copilot ist gemäß den Anforderungen der ISO 42001:2023 (Managementsystem für künstliche Intelligenz) konzipiert und betrieben. Unsere technische Implementierung entspricht spezifischen ISO 42001-Kontrollen:

Architekturausrichtung:

• A.4.2 (Kontextfestlegung): Dynamisches Framework-Wissensinjektionssystem dokumentiert im KI-System-Designdokument (AI-SDD-001)
• A.5 (Auswirkungsbewertung): Umfassende KI-Auswirkungsbewertung (1.9 Geringes Risiko, EU-KI-Verordnung: Eingeschränktes Risiko)
• A.6 (Verantwortungsvolle Entwicklung): Sicherer Entwicklungszyklus mit Regressionstests, SAST/DAST-Scans, Prompt-Injection-Tests
• A.7 (Datenmanagement): Vereinbarungen zur Null-Datenspeicherung, Arbeitsbereichsisolierung, nutzergesteuerte Speicherfristen
• A.8 (Nutzerinteraktion): Transparenzhinweise, „Human-in-the-Loop“-Design, Überprüfungs-Haftungsausschlüsse in der gesamten Plattform
• A.9 (Verantwortungsvolle Nutzung): Zweckbindung, Jailbreak-Prävention, Inhalts-Schutzmechanismen

Dynamische Framework-Wissensarchitektur

ISMS Copilot verwendet dynamische Framework-Wissensinjektion, um KI-Antworten in verifiziertem Compliance-Wissen zu verankern. Ab Version 2.5 (Februar 2025) ersetzt dies die vorherige RAG-Architektur (Retrieval-Augmented Generation) durch einen zuverlässigeren, token-effizienten Ansatz.

Funktionsweise der Framework-Wissensinjektion

Architekturkomponenten:

• Framework-Erkennungsschicht: Regex-basierte Mustererkennung erkennt Framework-Erwähnungen in Nutzeranfragen (ISO 27001, SOC 2, GDPR, HIPAA, CCPA, NIS 2, DORA, ISO 42001, ISO 27701, EU-KI-Verordnung)
• Wissensinjektionsschicht: Lädt dynamisch nur relevantes Framework-Wissen in den KI-Kontext basierend auf erkannten Frameworks
• Generierungsschicht: Große Sprachmodelle (LLMs) von Enterprise-KI-Anbietern erhalten Framework-Wissen, bevor Antworten generiert werden
• Validierungsmechanismus: Framework-Wissen, das der KI zur Verfügung gestellt wird, stellt sicher, dass Antworten auf tatsächlichen Compliance-Anforderungen basieren und nicht auf probabilistischen Vermutungen

Warum dynamische Injektion für Compliance wichtig ist:

• Eliminiert Halluzinationen: Die KI erhält verifiziertes Framework-Wissen, bevor sie antwortet, und verhindert so erfundene Kontrollnummern und Anforderungen
• Token-Effizienz: Es werden nur relevante Frameworks geladen (~1-2K Token) im Vergleich zum Senden des gesamten Wissens (~10K Token) bei jeder Anfrage
• Zuverlässige Erkennung: Regex-Mustererkennung (nicht KI-basiert) stellt sicher, dass Framework-Erwähnungen nie übersehen werden
• Erweiterbare Architektur: Neue Frameworks können mit einer einzigen Objektdefinition hinzugefügt werden, ohne dass ein erneutes Training des Modells erforderlich ist
• Mehrere Frameworks gleichzeitig: Verarbeitet Anfragen, die mehrere Frameworks gleichzeitig erwähnen (z. B. „Vergleiche ISO 27001 mit SOC 2“)

Technische Implementierung

Erkennungsprozess:

1. Nutzer stellt eine Anfrage (z. B. „Was ist ISO 27001 Anhang A.5.9?“)
2. Die Framework-Erkennung durchsucht die Anfrage nach Musterübereinstimmungen (ISO 27001, GDPR, SOC 2 usw.)
3. Übereinstimmende Frameworks lösen die Wissensinjektion aus
4. Relevantes Framework-Wissen wird dem KI-System-Prompt vor der Generierung hinzugefügt

Unterstützte Frameworks (v2.5):

• ISO 27001:2022, Managementsystem für Informationssicherheit
• ISO 42001:2023, Managementsystem für künstliche Intelligenz
• ISO 27701:2025, Managementsystem für Datenschutzinformationen
• SOC 2, Service Organization Control (Trust Services Criteria)
• HIPAA, Health Insurance Portability and Accountability Act
• GDPR, Datenschutz-Grundverordnung
• CCPA, California Consumer Privacy Act
• NIS 2, Richtlinie zur Netz- und Informationssicherheit
• DORA, Digital Operational Resilience Act
• EU-KI-Verordnung, Verordnung zur künstlichen Intelligenz der Europäischen Union

Entwicklung von RAG zu dynamischer Injektion

Vorheriger Ansatz (vor v2.5): RAG-Architektur

• Semantische Suche rief relevante Dokumentationsausschnitte ab
• Die Qualität der Abfrage variierte je nach Formulierung der Anfrage
• Alle ~10K Token des Wissens wurden bei vielen Anfragen gesendet
• Fokus lag hauptsächlich auf ISO 27001

Aktueller Ansatz (v2.5+): Dynamische Framework-Injektion

• Regex-basierte Erkennung gewährleistet zuverlässige Framework-Identifikation
• Es werden nur relevante Frameworks geladen (token-effizient)
• Unterstützt 90+ Frameworks gleichzeitig
• Erweiterbares Design für schnelle Framework-Ergänzungen

KI-Anbieter & Datenschutz

Wir verwenden Enterprise-KI-Anbieter mit strengen Datenschutzvereinbarungen.

Aktuelle Anbieter

Backend-KI-Modelle:

• xAI Grok, Aktueller Standardpfad für viele bezahlte Fast-/Think-/Beyond-Sitzungen, wenn Advanced Data Protection deaktiviert ist (Zero-Retention-Routing; siehe Trust Center für die aktuelle Tabelle)
• Anthropic Claude, Backup-/Alternativpfad je nach Plan und Verfügbarkeit
• OpenAI / andere OpenRouter-Klasse-Modelle, Economy-Routing für Free/Essential und einige spezialisierte Aufgaben
• Mistral AI, EU-Pfad, wenn Advanced Data Protection aktiviert ist

Das Routing ist plan- und einstellungsabhängig und nicht für jeden Nutzer eine einzelne feste Marke. Automatisches Failover kann den Datenverkehr verschieben, wenn ein Anbieter nicht verfügbar ist. Wenn Advanced Data Protection aktiviert ist, folgt die KI-Verarbeitung der in den ADP-Dokumenten beschriebenen EU-Mistral-Topologie. Alle Routen verwenden dieselbe spezialisierte Compliance-Wissensinjektion. Für Due-Diligence-Zwecke sollten Sie immer das Trust Center gegenüber dieser narrativen Zusammenfassung bevorzugen, falls sie sich unterscheiden.

Zero-Data-Retention-Vereinbarungen

Alle KI-Anbieter arbeiten unter Zero-Data-Retention (ZDR)-Vereinbarungen:

ZDR-Vereinbarungsbedingungen:

• Keine Speicherung von Nutzerdaten über die Anfrageverarbeitung hinaus
• Kein Modelltraining mit Kundendaten
• DSGVO-konforme Datenübertragungen mit Standardvertragsklauseln (SCCs)
• Durchsetzung von Enterprise-Sicherheitsstandards

Weitere Informationen zu Datenverarbeitern und Datenflüssen finden Sie in unserem Verzeichnis der Verarbeitungstätigkeiten.

Entwicklungsanforderungen

Jede Komponente des KI-Systems wird gemäß dokumentierten Anforderungen entwickelt, die das erwartete Verhalten, Sicherheitsbeschränkungen und Leistungsschwellen definieren.

Funktionale Anforderungen

Umfangsdefinition:

• Die KI bietet Compliance-Unterstützung, keine Rechtsberatung
• Aufgabengrenzen: Richtlinienerstellung, Gap-Analyse, Prüfungsvorbereitung, Dokumentenprüfung
• Einschränkungen: Kein Internetzugang, keine Codeausführung, keine Verarbeitung personenbezogener Daten über die Plattformnutzung hinaus

Leistungsanforderungen

Qualitätsziele:

• Antwortgenauigkeit basierend auf abgerufenen Quellen mit Zitaten
• Kontextfenster ausreichend für Compliance-Analysen über mehrere Dokumente
• Antwortzeit optimiert für interaktive Nutzung (Ziel: unter 10 Sekunden)
• Ratenbegrenzungen pro Nutzerstufe definiert, um Systemstabilität zu gewährleisten

Sicherheitsanforderungen

Halluzinationsminderung:

• Quellenverankerung: Antworten müssen auf abgerufene Dokumentation verweisen
• Abrufvalidierung: Antworten werden mit dem Quelleninhalt abgeglichen
• Vertrauensbewertung: Unsicherheit wird anerkannt, wenn Quellen mehrdeutig sind
• Nutzerüberprüfungs-Haftungsausschlüsse: Alle Ausgaben erfordern eine menschliche Überprüfung

Inhaltsfilterung:

• Erkennung und Blockierung unangemessener Inhalte
• Umfangsgrenzen: KI lehnt Anfragen außerhalb des Umfangs ab (z. B. nicht verwandte Themen, medizinische/rechtliche Beratung)
• Schutz vor Jailbreaks und Prompt-Injection

Weitere Informationen zu Sicherheitsvorkehrungen finden Sie in der Übersicht zu KI-Sicherheit & verantwortungsvoller Nutzung.

Datenverarbeitungsanforderungen

Datenschutz durch Design:

• Keine Nutzung von Nutzerdaten für Modelltraining (ZDR-Vereinbarungen durchgesetzt)
• Datenminimierung: Nur notwendige Daten werden für Abruf und Generierung verarbeitet
• Temporäre Verarbeitung: Keine langfristige Speicherung von Prompts/Antworten über Nutzer-Sitzungsprotokolle hinaus
• Speicherkontrollen: Nutzerkonfigurierbare Datenspeicherfristen (1 Tag bis 7 Jahre oder dauerhaft speichern)
• Übertragungskontrollen: DSGVO-konforme Datenübertragungen mit SCCs

Umfassende Informationen zu Datenverarbeitungspraktiken finden Sie in unserer Datenschutzrichtlinie.

Verifizierungs- und Validierungstests

KI-Systeme durchlaufen vor der Bereitstellung strenge Tests. Kein System wird live geschaltet, ohne die anforderungsbasierte Validierung zu bestehen.

Regressionstests

Automatisierte Tests werden bei jeder Codeänderung durchgeführt, um sicherzustellen, dass die bestehende Funktionalität intakt bleibt.

Testabdeckung:

• Abrufgenauigkeit: Präzision und Recall gegenüber Ground-Truth-Datensätzen
• Antwortverankerung: Überprüfung, ob Ausgaben abgerufene Quellen zitieren
• Halluzinationserkennung: Vergleich mit bekannten falschen Antworten
• Leistungsbenchmarks: Validierung von Antwortzeit und Kontexthandhabung

Sicherheitstests

KI-Systeme durchlaufen dieselben Sicherheitsvalidierungen wie alle anderen Plattformkomponenten.

Test-Pipeline:

• SAST (Statische Anwendungssicherheitstests): Scannen von Schwachstellen auf Code-Ebene mit Semgrep-Integration
• DAST (Dynamische Anwendungssicherheitstests): Sicherheitsvalidierung zur Laufzeit
• Penetrationstests: Jährliche Sicherheitsbewertungen durch Dritte
• Prompt-Injection-Tests: Validierung gegen adversarische Eingaben, die versuchen, Sicherheitsbeschränkungen zu umgehen

Benutzerakzeptanztests

Die Validierung mit Compliance-Experten in realen Szenarien stellt sicher:

• Ausgaben entsprechen professionellen Qualitätsstandards
• Antworten sind für Compliance-Anwendungsfälle angemessen
• Einschränkungen werden klar kommuniziert
• Feedback-Mechanismen sind zugänglich und effektiv

Bereitstellungsvalidierungs-Checkliste

KI-Systeme werden erst nach Erfüllung der dokumentierten Anforderungen bereitgestellt:

Bereitstellungen, die die Validierung nicht bestehen, werden zurückgesetzt, bis die Anforderungen erfüllt sind.

Überwachung & kontinuierliche Verbesserung

Nach der Bereitstellung überwachen wir das Verhalten der KI-Systeme, um Leistungsabfall, neu auftretende Probleme oder Missbrauch zu erkennen.

Überwachungsmetriken

Was wir verfolgen:

• Halluzinationsrate: Verfolgt durch Benutzerberichte und automatisierte Erkennung
• Antwortgenauigkeit: Stichprobenvalidierung gegen Compliance-Grundwahrheiten
• Nutzungsmuster: Erkennung von außerhalb des Geltungsbereichs liegenden oder unangemessenen Verwendungen
• Leistungsmetriken: Antwortzeit, Abrufgenauigkeit, Fehlerraten
• Benutzerfeedback: Berichte über negative Auswirkungen, Support-Tickets, Feature-Anfragen

Kontinuierlicher Verbesserungszyklus

Überwachungsdaten fließen in iterative Verbesserungen ein:

Feedback-Schleifen:

• Benutzerfeedback und Berichte über negative Auswirkungen → Modellaktualisierungen und Abrufoptimierung
• Ergebnisse von Sicherheitstests → Sicherheitsverbesserungen und Kontrollaktualisierungen
• Regulatorische Änderungen und Best Practices → Dokumentations- und Framework-Aktualisierungen
• Leistungsüberwachung → Genauigkeitsverbesserungen und Antwortoptimierung

Incident-Response

Wir informieren Benutzer über KI-bezogene Vorfälle, um Transparenz und Vertrauen zu wahren.

Benachrichtigungskanäle:

• E-Mail-Benachrichtigungen bei kritischen Vorfällen, die die KI-Funktionalität beeinträchtigen
• Slack-Benachrichtigungen für abonnierte Teams
• Aktualisierungen auf der Statusseite mit Vorfallszeitplänen und Lösungen
• NIS2-konforme Frühwarnbenachrichtigungen (24-Stunden-Berichtspflicht bei erheblichen Cybersicherheitsvorfällen)

Bekannte Einschränkungen

KI-Systeme haben inhärente Einschränkungen, die Benutzer verstehen müssen, um sie verantwortungsvoll zu nutzen.

Technische Einschränkungen

Aktuelle Beschränkungen:

• Probabilistische Natur: KI generiert Antworten basierend auf statistischen Mustern, nicht auf deterministischer Logik
• Kein Internetzugang: KI kann keine Echtzeitinformationen abrufen oder auf externe Websites zugreifen
• Keine Codeausführung: KI kann keine Berechnungen durchführen, Skripte ausführen oder technische Implementierungen validieren
• Wissensstand: Das Wissen des KI-Modells ist auf die Trainingsdaten bis zum jeweiligen Cutoff-Datum begrenzt (variiert je nach Anbieter)
• Kontextgrenzen: Das maximale Kontextfenster begrenzt die Menge an Informationen, die in einer einzelnen Anfrage verarbeitet werden kann
• Domänengrenzen: KI ist für Compliance/Sicherheit trainiert; die Leistung in anderen Domänen ist nicht garantiert

Weitere Informationen zu Einschränkungen und Workarounds finden Sie auf unserer Seite Bekannte Probleme.

Verantwortung der Benutzer zur Überprüfung

ISMS Copilot ist darauf ausgelegt, zu unterstützen, nicht professionelle Urteilsfähigkeit zu ersetzen:

• Vergleichen Sie KI-Vorschläge mit offiziellen Standards
• Validieren Sie kritische Informationen vor der Vorlage bei Auditoren
• Nutzen Sie die KI als Assistenten eines Beraters, nicht als Ersatz für Expertise
• Üben Sie professionelles Urteilsvermögen bei der Anwendung von KI-Empfehlungen aus

Weitere Informationen finden Sie unter Verantwortungsvolle Nutzung von ISMS Copilot.

Meldungen & Feedback

Benutzerfeedback ist entscheidend für die Verbesserung von KI-Systemen. Wir bieten mehrere Mechanismen zur Meldung von Problemen, Ungenauigkeiten oder unerwartetem Verhalten.

So melden Sie Probleme

Negative Auswirkungen oder Halluzinationen:

1. Navigieren Sie zum Benutzermenü (oben rechts) > Hilfe-Center > Support kontaktieren
2. Fügen Sie Prompt, Antwort und Screenshots in Ihren Bericht ein
3. Erwarten Sie eine Antwort innerhalb von 48 Stunden

Meldungen innerhalb der Plattform:

• Verwenden Sie die Schaltfläche "Problem melden", die in der gesamten Plattform verfügbar ist, um spezifische KI-Antworten zu kennzeichnen

Was nach Ihrer Meldung passiert

1. Sofortige Prüfung (innerhalb von 48 Stunden): Das Support-Team bewertet Schweregrad und Auswirkungen
2. Untersuchung: Das technische Team analysiert das Problem, reproduziert es und identifiziert die Ursache
3. Antwort: Sie erhalten ein Update zu den Erkenntnissen und geplanten Maßnahmen
4. Behebung: Probleme werden durch Modellaktualisierungen, Abrufoptimierung, Code-Korrekturen oder Dokumentationsverbesserungen behoben
5. Kontinuierliche Verbesserung: Erkenntnisse fließen in Test- und Überwachungsprozesse ein

Weitere Informationen finden Sie im Überblick zu KI-Sicherheit & verantwortungsvoller Nutzung.

Dokumentationsaktualisierungen

Technische Spezifikationen werden aktualisiert, wenn:

• KI-Anbieter wechseln (neue Modelle, veraltete APIs)
• Die Architektur sich weiterentwickelt (neue Komponenten, Validierungsmethoden)
• Anforderungen überarbeitet werden (neue Sicherheitsbeschränkungen, Leistungsziele)
• Testverfahren erweitert werden (neue Validierungstechniken, Sicherheitstools)

Aktualisierungen werden über Release Notes und diese Dokumentationsseite kommuniziert. Abonnieren Sie unsere Statusseite, um Benachrichtigungen über Änderungen zu erhalten.

Nächste Schritte

• Erfahren Sie, wie ISMS Copilot ISO 42001 implementiert
• Lernen Sie mehr über KI-Sicherheitsvorkehrungen und verantwortungsvolle Nutzungspraktiken
• Verstehen Sie KI-Halluzinationen und wie Sie diese vermeiden können
• Befolgen Sie Best Practices für die verantwortungsvolle Nutzung von ISMS Copilot
• Lesen Sie unsere umfassenden Sicherheitsrichtlinien

Hilfe erhalten

Bei technischen Fragen zu KI-System-Spezifikationen oder zur Anforderung zusätzlicher Dokumentation:

• Kontaktieren Sie den Support über das Hilfe-Center-Menü
• Melden Sie Sicherheitsbedenken sofort zur Untersuchung
• Besuchen Sie das Trust Center für detaillierte Informationen zur KI-Governance
• Prüfen Sie die Statusseite auf bekannte Probleme