Overzicht AI-veiligheid & Verantwoord Gebruik

Overzicht

ISMS Copilot implementeert uitgebreide AI-veiligheidsmaatregelen om betrouwbare en verantwoorde AI-ondersteuning te bieden voor compliance-professionals. Dit artikel legt de waarborgen, veiligheidsbeperkingen en verantwoorde AI-praktijken uit die in het platform zijn ingebouwd.

Voor wie dit is

Dit artikel is bedoeld voor:

• Compliance-professionals die AI-veiligheidsmaatregelen evalueren

• Risicomanagers die AI-governancecontroles beoordelen

• Security-teams die zich zorgen maken over AI-misbruik

• Iedereen die wil begrijpen hoe ISMS Copilot verantwoord AI-gebruik garandeert

AI-veiligheidsprincipes

Het AI-veiligheidskader van ISMS Copilot is gebouwd op vier kernprincipes:

1. Doelbinding

De AI-assistent is uitsluitend ontworpen voor informatiebeveiliging en compliance-werk:

• Gericht op ISMS-frameworks (ISO 27001, SOC 2, GDPR, NIST, etc.)

• Stuurt off-topic vragen beleefd terug naar compliance-gerelateerde onderwerpen

• Weigert verzoeken voor schadelijke, illegale of onethische activiteiten

• Blijft binnen de grenzen van compliance-adviesondersteuning

2. Transparantie & Eerlijkheid

De AI-assistent erkent openlijk zijn beperkingen:

• Vermeldt expliciet onzekerheid wanneer dat gepast is

• Moedigt gebruikers aan om belangrijke informatie te verifiëren

• Geeft toe wanneer hij iets niet weet in plaats van te gokken

• Legt duidelijk uit wat hij wel en niet kan doen

3. Bescherming van auteursrecht & intellectueel eigendom

ISMS Copilot respecteert intellectuele eigendomsrechten:

• Reproduceert geen auteursrechtelijk beschermde ISO-standaarden of bedrijfseigen inhoud

• Verwijst gebruikers naar officiële bronnen voor de aankoop van standaarden

• Biedt begeleiding op basis van framework-principes zonder tekst letterlijk te kopiëren

• Getraind op rechtmatig verkregen, geanonimiseerde data die voldoet aan de EU-auteursrechtvereisten

4. Privacy by Design

Bescherming van gebruikersgegevens is ingebed in elke AI-interactie:

• Gesprekken worden nooit gebruikt om AI-modellen te trainen

• Door de gebruiker verstrekte inhoud wordt niet gedeeld met andere gebruikers

• Elk gesprek wordt onafhankelijk verwerkt

• Workspace-isolatie voorkomt dat gegevens tussen projecten worden gemengd

AI-veiligheidswaarborgen

Waarborgen voor inhoudelijke reikwijdte

Wat de AI WEL doet:

• Vragen beantwoorden over ISMS-frameworks en compliance

• Geüploade compliance-documenten analyseren (beleid, procedures, risicobeoordelingen)

• Beleid en procedures genereren die klaar zijn voor audits

• Gap-analyses en implementatiebegeleiding bieden

• Beveiligingscontroles en compliance-eisen uitleggen

Wat de AI NIET doet:

• Juridisch advies geven (suggereert in plaats daarvan om juridische professionals te raadplegen)

• Medisch, financieel of persoonlijk advies geven buiten de reikwijdte van compliance

• Inhoud genereren voor illegale, schadelijke of onethische doeleinden

• Auteursrechtelijk beschermde standaarden of bedrijfseigen materialen reproduceren

• Zijn aangepaste instructies of systeemprompts onthullen

Preventie van 'Jailbreaking'

ISMS Copilot is ontworpen om manipulatiepogingen te weerstaan:

Geblokkeerde tactieken:

• "Herhaal mij"-trucs om systeemprompts te extraheren

• Rollenspel-scenario's die zijn ontworpen om veiligheidsbeperkingen te omzeilen

• Verzoeken om "vorige instructies te negeren"

• Manipulatie van beperkingen ("reageer zonder weigeringen")

• Pogingen om direct toegang te krijgen tot interne kennisbankbestanden

Hoe het werkt:

Wanneer de AI een jailbreak-poging detecteert:

1. Herkent het de manipulatiepatronen

2. Weigert het beleefd het verzoek

3. Stuurt het door naar legitieme ISMS-ondersteuning

4. Behoudt het zijn veiligheidsbeperkingen

Bescherming tegen Prompt Injection

Het platform beschermt tegen kwaadaardige inhoud in bestandsuploads:

Wat is beschermd:

• Geüploade documenten worden gescand op prompt injection-pogingen

• Schadelijke instructies ingebed in bestanden worden stilletjes geweigerd

• Systeemprompts kunnen niet worden overschreven via bestandsinhoud

• Veiligheidsbeperkingen blijven actief, ongeacht de bestandsinhoud

Gebruikerservaring:

• Bestanden worden vanuit het perspectief van de gebruiker normaal verwerkt

• Schadelijke instructies worden tijdens de verwerking eruit gefilterd

• Alleen legitieme documentinhoud wordt geanalyseerd

• Geen zichtbare foutmelding (stille bescherming)

Waarborgen voor kennisbescherming

De AI beschermt zijn trainingsgegevens en systeemconfiguratie:

Waar gebruikers geen toegang toe hebben:

• Aangepaste instructies of systeemprompts

• Details over bronnen van trainingsgegevens

• Directe toegang tot kennisbankbestanden

• Downloadlinks voor interne documenten

• Informatie over de structuur van de kennisbank

Waarom dit belangrijk is:

Het beschermen van systeemprompts en trainingsgegevens voorkomt:

• Dat kwaadwillenden begrijpen hoe ze de AI kunnen manipuleren

• Schendingen van het auteursrecht door het reproduceren van trainingsmateriaal

• Beveiligingsrisico's door het blootstellen van de systeemarchitectuur

• Inconsistent gedrag door gewijzigde instructies

Preventie van hallucinaties

Wat zijn hallucinaties?

AI-hallucinaties treden op wanneer de AI zelfverzekerd klinkende maar feitelijk onjuiste informatie genereert. ISMS Copilot pakt dit aan via meerdere mechanismen:

Dynamic Framework Knowledge Injection (v2.5)

Sinds februari 2025 elimineert ISMS Copilot v2.5 hallucinaties voor framework-specifieke vragen vrijwel volledig via dynamische kennisinjectie:

• Detecteert vermeldingen van frameworks in uw vragen met behulp van regex-patroonmatching (ISO 27001, GDPR, SOC 2, HIPAA, CCPA, NIS 2, DORA, ISO 42001, ISO 27701, EU AI Act)

• Injecteert geverifieerde framework-kennis in de AI-context voordat antwoorden worden gegenereerd

• AI antwoordt op basis van verstrekte framework-kennis, niet op basis van probabilistisch geheugen

• Detectie die niet op AI is gebaseerd, garandeert 100% betrouwbaarheid wanneer frameworks worden genoemd

• Ondersteunt 10 frameworks met toegewezen kennisinjectie

Training op praktijkkennis

Naast framework-kennisinjectie is ISMS Copilot getraind op gespecialiseerde compliance-kennis:

• Eigen bibliotheek met compliance-kennis van honderden echte adviesprojecten

• Gebaseerd op praktische implementatie-ervaring, niet op theoretische informatie

• Gericht op frameworks, standaarden en bewezen praktijken

• Regelmatig bijgewerkt met actuele compliance-eisen

Erkenning van onzekerheid

De AI is geïnstrueerd om eerlijk te zijn over beperkingen:

• Vermeldt expliciet wanneer informatie onzeker is

• Vraagt gebruikers om kritieke informatie te verifiëren

• Vermijdt het verzinnen van feiten wanneer kennis onvolledig is

• Suggereert het raadplegen van officiële standaarden of juridische professionals wanneer dat passend is

Voorbeeld van een antwoord:

"Hoewel ik algemene richtlijnen kan geven over ISO 27001-beheersmaatregel A.8.1, kan ik nog steeds fouten maken. Voor auditdoeleinden dient u deze informatie te verifiëren aan de hand van de officiële ISO 27001:2022-standaard."

Verantwoordelijkheid voor verificatie door de gebruiker

ISMS Copilot benadrukt dat gebruikers het volgende moeten doen:

• AI-suggesties kruislings controleren met officiële standaarden

• Kritieke informatie valideren voordat deze aan auditors wordt voorgelegd

• De AI gebruiken als een assistent voor de consultant, niet als vervanging voor expertise

• Professioneel oordeel toepassen bij het overnemen van AI-aanbevelingen

Rate Limiting & Bronbescherming

Limieten voor berichtensnelheid

ISMS Copilot implementeert rate limiting om misbruik te voorkomen en eerlijke toegang te garanderen:

Gratis abonnement:

• 10 berichten per voortschrijdend venster van 4 uur

• Teller wordt 4 uur na het eerste bericht gereset

• Gehandhaafd op zowel de frontend als de backend

Betaalde abonnementen (Plus, Standard, Pro, Business):

• Meer credits per sessie (50 tot 400, afhankelijk van het abonnement)

• Geen beperkingen door rate limiting

• Prioritaire verwerking

Wanneer de limiet is bereikt:

U ziet de foutmelding: "Dagelijkse berichtenlimiet bereikt. Upgrade voor meer credits per sessie."

Limieten voor bestandsuploads

Bestandsuploads hebben veiligheidsbeperkingen om systeembronnen te beschermen:

Bestandsgrootte:

• Maximaal: 10 MB per bestand

• Foutmelding: "Bestand 'document.pdf' is te groot (15.23 MB). De maximaal toegestane grootte is 10 MB."

Ondersteunde bestandstypen:

• TXT, CSV, JSON (tekstbestanden)

• PDF (documenten)

• DOC, DOCX (Microsoft Word)

• XLS, XLSX (Microsoft Excel)

Uploadbeperkingen:

• Eén bestand tegelijk (batch-upload niet ondersteund)

• Geen dubbele bestanden uploaden voor hetzelfde bericht

• Niet-ondersteunde bestandstypen worden geweigerd met een foutmelding

Tijdelijke Chat-modus

Wat is een tijdelijke chat?

De tijdelijke chat-modus biedt privacyvriendelijke gesprekken met een specifieke gegevensverwerking:

Hoe het werkt:

1. Selecteer "Tijdelijke Chat" in het welkomstscherm

2. U ziet de melding: "Deze chat verschijnt niet in de geschiedenis. Voor veiligheidsdoeleinden kunnen we een kopie van deze chat tot 30 dagen bewaren."

3. Stuur berichten en upload bestanden zoals gewoonlijk

4. Gesprekken worden niet toegevoegd aan uw gespreksgeschiedenis

5. Gegevens kunnen tot 30 dagen worden bewaard voor veiligheidscontrole

Wanneer tijdelijke chat te gebruiken:

• Snelle eenmalige vragen die niet bewaard hoeven te worden

• Gevoelige discussies die u niet in de permanente geschiedenis wilt hebben

• Testvragen voordat u ze in een workspace gebruikt

• Verkennend onderzoek naar compliance-onderwerpen

Controles op gegevensretentie

Retentie door de gebruiker gecontroleerd

U beslist hoe lang uw gespreksgegevens worden bewaard:

1. Klik op het pictogram van het gebruikersmenu (rechtsboven)

2. Selecteer Instellingen

3. Kies in het veld Gegevensbewaarperiode:

   • Minimum: 1 dag (beveiligd werk voor de korte termijn)

   • Maximum: 24.955 dagen / 7 jaar (lange-termijn documentatie)

   • Of klik op Voor altijd bewaren voor onbepaalde retentie

4. Klik op Instellingen opslaan

Verwacht resultaat: Het dialoogvenster met instellingen sluit en de bewaarperiode is opgeslagen.

Automatische gegevensverwijdering

ISMS Copilot verwijdert automatisch oude gegevens:

• Verwijderingsopdracht wordt dagelijks uitgevoerd

• Verwijdert berichten die ouder zijn dan uw bewaarperiode

• Verwijdert bijbehorende geüploade bestanden

• Permanent en kan niet worden hersteld

Veiligheidsfuncties voor Workspaces

Data-isolatie

Workspaces bieden beveiligingsgrenzen voor verschillende projecten:

Hoe isolatie werkt:

• Elke workspace heeft een aparte gespreksgeschiedenis

• Geüploade bestanden zijn gekoppeld aan specifieke workspaces

• Aangepaste instructies zijn workspace-specifiek

• Het verwijderen van een workspace verwijdert alle bijbehorende gegevens

• De AI deelt geen informatie tussen workspaces

Veiligheid van aangepaste instructies

Workspaces staan aangepaste instructies toe met veiligheidsbeperkingen:

Wat aangepaste instructies kunnen doen:

• Focus op specifieke compliance-frameworks opgeven

• Toon of detailniveau voor antwoorden instellen

• Projectspecifieke context definiëren (sector, omvang organisatie)

• AI sturen naar specifieke compliance-doelen

Veiligheidsbeperkingen:

• Aangepaste instructies moeten compliance-gerelateerd zijn

• Kunnen kern-veiligheidswaarborgen niet overschrijven

• Kunnen de AI niet instrueren om auteursrechtbescherming te negeren

• Kunnen beperkingen van de inhoudelijke reikwijdte niet omzeilen

Geen training op gebruikersgegevens

Privacygarantie

ISMS Copilot verbindt zich ertoe uw gegevens nooit te gebruiken voor AI-training:

Wat dit betekent:

• Uw gesprekken worden nooit teruggevoerd in het AI-model

• Geüploade documenten blijven vertrouwelijk en privé

• Klantinformatie draagt nooit bij aan modelverbetering

• Elk gesprek wordt onafhankelijk verwerkt zonder te 'leren'

Hoe dit u beschermt:

• De vertrouwelijkheid van klanten blijft gewaarborgd

• Eigen informatie blijft privé

• Gevoelige compliance-gegevens worden niet gedeeld met andere gebruikers

• Geen risico dat de AI per ongeluk uw informatie aan anderen onthult

Transparantie in gegevensverwerking

ISMS Copilot is transparant over hoe uw gegevens worden gebruikt:

Hoe uw gegevens WEL worden gebruikt:

• Het verwerken van uw vragen om antwoorden te genereren

• Het analyseren van geüploade documenten voor gap-analyses

• Het bijhouden van de gesprekscontext binnen een workspace

• Het opslaan van gegevens volgens uw retentie-instellingen

• Veiligheidsmonitoring tot 30 dagen (om misbruik te voorkomen)

Hoe uw gegevens NIET worden gebruikt:

• Trainen of finetunen van AI-modellen

• Delen met andere gebruikers of klanten

• Marketing- of advertentiedoeleinden

• Verkoop aan derden

• Openbaarmaking of casestudy's (zonder expliciete toestemming)

Authenticatie & Toegangscontrole

Vereisten voor gebruikersauthenticatie

Alle AI-interacties vereisen authenticatie:

• Geen berichten verzenden zonder in te loggen

• JWT-token valideert elk API-verzoek

• Sessies verlopen na een periode van inactiviteit

• Row-level security zorgt ervoor dat gebruikers alleen hun eigen gegevens zien

Bescherming tussen gebruikers

Isolatie op databaseniveau voorkomt ongeoorloofde toegang:

• Gebruikers hebben geen toegang tot de gesprekken van anderen

• Pogingen om toegang te krijgen tot de gegevens van een andere gebruiker leveren lege resultaten op

• Alle query's filteren automatisch op het geauthenticeerde gebruikers-ID

• Zelfs beheerders volgen het principe van de minste privileges

Best Practices voor Verantwoorde AI

Voor gebruikers

De beste resultaten behalen:

• Stel specifieke, framework-gerelateerde vragen (bijv. "Hoe implementeer ik ISO 27001-beheersmaatregel A.8.1?")

• Geef context over uw organisatie en compliance-doelen

• Upload relevante documenten voor nauwkeurige gap-analyses

• Controleer en verfijn AI-gegenereerde inhoud voor gebruik

Verificatiepraktijken:

• AI-suggesties kruislings controleren met officiële standaarden

• Kritieke informatie valideren met compliance-experts

• AI-gegenereerd beleid testen in uw organisatorische context

• AI gebruiken als assistent, niet als vervanging voor expertise

Voor organisaties

Governance-praktijken:

• Documenteer het gebruik van ISMS Copilot in uw AI-governancebeleid

• Train personeel over passend gebruik en de beperkingen

• Stel gegevensbewaarperioden in die aansluiten bij uw beleid

• Beoordeel AI-gegenereerde inhoud voor officiële indiening

• Behoud menselijk toezicht op kritieke compliance-beslissingen

Risicobeheer:

• Neem AI-tools op in Data Protection Impact Assessments (DPIA)

• Documenteer verwerkersovereenkomsten met ISMS Copilot

• Stel passende bewaarperiodes in voor gevoelige gegevens

• Gebruik workspaces om gegevens van verschillende klanten of projecten te isoleren

AI Governance in de praktijk

Naast veiligheidsbeperkingen beheren wij onze AI-systemen met governance over de volledige levenscyclus. Zo vertalen onze beleidsregels zich naar tastbare praktijken:

Ontwikkelingsproces

Eisen & Testen:

• Elke AI-functie heeft gedocumenteerde eisen die functionele mogelijkheden, drempelwaarden voor prestaties, veiligheidsbeperkingen en standaarden voor gegevensverwerking dekken

• Regressietesten worden uitgevoerd bij elke codewijziging om de nauwkeurigheid van het ophalen, de onderbouwing van antwoorden en hallucinatie-detectie te valideren

• Beveiligingstesten omvatten SAST/DAST-scans, jaarlijkse penetratietesten en prompt injection-testen

• Implementatie vindt pas plaats nadat 100% van de regressietesten is geslaagd en alle kritieke kwetsbaarheden zijn verholpen

Architectuurdetails (v2.5, februari 2025):

• Dynamic framework knowledge injection architectuur (vervangt de eerdere RAG-aanpak)

• Op regex gebaseerde framework-detectie garandeert betrouwbare identificatie van ISO 27001, SOC 2, GDPR, HIPAA, CCPA, NIS 2, DORA, ISO 42001, ISO 27701, EU AI Act

• Token-efficiënt: alleen relevante framework-kennis wordt geladen (tegenover het verzenden van alle ~10K tokens bij elk verzoek)

• Geverifieerde framework-kennis verstrekt aan AI vóór generatie van antwoord

• Configureerbare AI-providers (Mistral, xAI, OpenAI) met overeenkomsten voor nul-retentie van gegevens

Monitoring & Continue Verbetering

Wat we monitoren:

• Hallucinatie-ratio's worden bijgehouden via gebruikersrapporten en geautomatiseerde detectie tegen bekende feiten

• De nauwkeurigheid van antwoorden wordt steekproefsgewijs gecontroleerd en gevalideerd tegen officiële compliance-standaarden

• Gebruikspatronen worden geanalyseerd om misbruik of onbedoelde toepassingen op te sporen

• Prestatie-indicatoren (responstijd, precisie van ophalen, foutenpercentages) worden continu gemeten

• Feedback van gebruikers wordt regelmatig beoordeeld om opkomende risico's te identificeren

Hoe monitoring verbetering stimuleert:

• Gebruikersfeedback informeert modelupdates en het verfijnen van zoekresultaten

• Resultaten van beveiligingstesten leiden tot veiligheidsverbeteringen

• Wijzigingen in de regelgeving en updates van best practices worden weerspiegeld in documentatie

• Prestatiegegevens sturen iteratieve verbeteringen in nauwkeurigheid en snelheid aan

Incidentrespons

Hoe we over problemen communiceren:

• E-mailmeldingen voor kritieke incidenten die de AI-functionaliteit beïnvloeden

• Slack-notificaties voor teams die de integratie hebben ingesteld

• Statuspagina updates met tijdlijnen van incidenten en oplossingen

• NIS2-conforme vroegtijdige waarschuwingen (24-uurs rapportage voor significante cybersecurity-incidenten)

Melden van veiligheidsproblemen

Wanneer te melden

Neem contact op met de support van ISMS Copilot als u het volgende tegenkomt:

• AI-antwoorden die de veiligheidsbeperkingen schenden

• Mogelijke hallucinaties of feitelijk onjuiste informatie

• Auteursrechtschendingen in de AI-output

• Ongepaste inhoud of gedrag

• Beveiligingskwetsbaarheden in het AI-systeem

• Privacy-inbreuken of datalekken

Hoe te melden

1. Klik op het gebruikersmenu-icoon (rechtsboven)

2. Selecteer Help Center → Contact Support

3. Beschrijf het veiligheidsprobleem met:

   • De exacte vraag of prompt die u hebt gebruikt

   • Het antwoord van de AI (indien mogelijk met screenshot)

   • Waarom u denkt dat het een veiligheidsrisico is

   • Datum en tijd van de interactie

4. Support onderzoekt de melding en reageert binnen 48 uur

Wat er gebeurt nadat u een melding heeft gedaan

Uw melding activeert ons governanceproces:

1. Onmiddellijke beoordeling (binnen 48 uur): Support-team beoordeelt ernst en impact

2. Onderzoek: Technisch team analyseert de kwestie, reproduceert het probleem en identificeert de oorzaak

3. Reactie: U ontvangt een update over de bevindingen en geplande acties

4. Remediëring: Problemen worden aangepakt via modelupdates, verfijning van zoekresultaten, codefixes of verbeteringen in documentatie

5. Continue verbetering: Geleerde lessen worden geïntegreerd in de test- en monitoringsprocessen

Beperkingen & bekende restricties

Huidige AI-beperkingen

• Kan niet op internet surfen voor actuele informatie (gebruikt getrainde kennisbank)

• Heeft geen realtime toegang tot externe databases of API's

• Kan geen code uitvoeren of beveiligingstools draaien

• Kan niet namens u bellen of e-mailen

• Kan geen 100% nauwkeurigheid garanderen (verifieer altijd kritieke informatie)

Grenzen van de reikwijdte

• Gericht op ISMS en compliance (geen AI voor algemene doeleinden)

• Kan geen juridisch, medisch of financieel advies geven buiten de context van compliance

• Kan officiële standaarden of het oordeel van een auditor niet vervangen

• Kan geen succes bij een audit garanderen (kwaliteit van implementatie is bepalend)

Wat nu?

• Leer meer over gegevensbeveiliging en versleutelingsmaatregelen

• Begrijp uw privacyrechten onder de GDPR

• Stel workspaces in voor data-isolatie

• Bezoek het Trust Center voor gedetailleerde documentatie over AI-governance

Hulp krijgen

Voor vragen over AI-veiligheid en verantwoord gebruik:

• Raadpleeg het Trust Center voor gedetailleerde informatie over AI-governance

• Neem contact op met support via het Help Center-menu

• Meld veiligheidszorgen onmiddellijk voor onderzoek

• Check de Statuspagina voor bekende problemen