AI verandert cybersecurity aan beide kanten. Aanvallers gebruiken het, verdedigers ook, en uw eigen AI-toepassingen zijn een nieuw doelwit. We helpen met regie op AI en de AI Act, met de beveiliging van AI-toepassingen en agents, en met AI in uw SOC.
Plaats in het kompasKies een ander gebied in het kompas.
Waar we in thuis zijn.
Per onderwerp wat het is, in vaktaal en in gewone taal. De verdieping staat op Cyberwiki of Cyberwetten, de naslagsites van SecurityPilot.
AI-governance
Beleid, rollen en een beoordelingsproces voor nieuwe AI, aansluitend op uw ISMS en privacyorganisatie.
In gewone taalAfspraken over welke AI mag worden gebruikt, waarvoor en met welke gegevens, en wie een nieuwe toepassing beoordeelt voordat die in gebruik gaat.
Inventarisatie, classificatie en de plichten voor wie AI gebruikt of levert.
In gewone taalDe Europese AI-verordening deelt AI in naar risico: hoe hoger het risico, hoe meer eisen. Voor bijna iedereen geldt al dat medewerkers voldoende kennis van AI moeten hebben.
Het belangrijkste nieuwe aanvalspad: instructies verstopt in de data die een model leest.
In gewone taalEen AI-assistent leest e-mails, documenten of websites. Een aanvaller kan daarin verborgen instructies zetten, die de assistent vervolgens uitvoert, zoals gegevens doorsturen.
Agents die tools en data mogen gebruiken, met rechten en grenzen die passen bij het risico.
In gewone taalAI die niet alleen antwoord geeft, maar ook zelf handelt: mails versturen, bestanden aanpassen, systemen bedienen. MCP is een veelgebruikte manier om AI daaraan te koppelen. Hoe meer een agent mag, hoe belangrijker de grenzen.
Privégegevens, onbetrouwbare input en een weg naar buiten: herkennen en doorbreken.
In gewone taalEen AI-toepassing wordt gevaarlijk als drie dingen samenkomen: toegang tot vertrouwelijke gegevens, input van buiten die niet te vertrouwen is, en een manier om gegevens naar buiten te sturen. Haal er één weg en het risico daalt sterk.
AI-toepassingen getest zoals een aanvaller dat zou doen.
In gewone taalWe proberen uw AI-toepassing dingen te laten doen die niet de bedoeling zijn: vertrouwelijke informatie prijsgeven, regels omzeilen of verkeerde acties uitvoeren.
AI die analisten sneller maakt bij triage, onderzoek en threat hunting.
In gewone taalAI die de eerste beoordeling van alarmen doet en informatie verzamelt, zodat analisten hun tijd besteden aan wat echt aandacht nodig heeft.
Procedures die bestand zijn tegen een nagemaakte stem of video van de directeur.
In gewone taalEen nagemaakte stem van de directeur die om een spoedbetaling vraagt, is met AI eenvoudig te maken. Een vaste controle, zoals terugbellen op een bekend nummer, houdt zo’n verzoek tegen.