A(I)larmfase 2 voor CISO’s en CEO’s!

Een heftige titel, maar we willen er iets serieus mee onder de aandacht brengen. Uit een recente gebeurtenis in de media blijkt namelijk dat ‘je eigen veilige AI-omgeving’ niet per se een beter alternatief is dan het gebruiken van ChatGPT of Google Gemini. Waarom er sprake is van A(I)larmfase 2? Lees vooral door, want er zijn twee alarmbellen die zomaar kunnen afgaan en waarbij de impact groot is. 

1: Publieke AI of eigen AI-omgeving kunnen allebei onveilig zijn!
Herken je deze situatie? Op verzoek van het management werd een eigen AI-engine ontwikkeld. Met als belangrijkste reden dat dit veiliger zou zijn dan alle data delen met een publieke AI-omgeving. Het voelt als een goede beslissing. Alles lijkt onder controle…

Dat dachten ze bij McKinsey* waarschijnlijk ook. Toch lagen er recent 46,5 miljoen chatberichten, 728.000 bestanden en personeelsgegevens van 57.000 gebruikersaccounts op straat. De reden? Het AI-platform ‘Lilli’ van deze gerenommeerde consultancy organisatie bleek intern niet het juiste advies te zijn geweest, zou je sarcastisch kunnen zeggen. Maar er is iets wat nog veel erger was:

2: AI valt AI aan
Dat managers in de boardroom, waaronder de CISO, angstig zijn voor cybercriminelen is bekend. Alleen moet je er tegenwoordig rekening mee houden dat aanvallen niet alleen van mensen komen: dit is de tweede alarmbel. Het verandert onze kijk op cybersecurity en maakt het complexer. In het geval van McKinsey was het een AI-agent, zelfstandige opererende software, die deze aanval uitvoerde. Aangetoond met dit voorbeeld is dat kunstmatige intelligentie zich ook tegen je kan gaan keren.

Het was namelijk geen menselijke hacker, maar een zelfstandig opererende software-agent die de aanval uitvoerde. Zonder inloggegevens of voorkennis wist de agent door de digitale verdediging van McKinsey heen te dringen. We zijn bovendien in A(I)larmfase 2 belandt omdat een AI-agent veel sneller onbeveiligde eindpunten kan ontdekken dan mensen. “AI-agenten kunnen continu, op topsnelheid en zonder menselijke tussenkomst kwetsbaarheden opsporen en uitbuiten”, lazen we in het artikel van Dutch IT Channel. Ook bij jou. Dus hoe zit het met jouw kroonjuwelen in je zelfgebouwde of voor jou gebouwde AI-oplossing?

En nu..?
Dat is het onzekere gevoel wat overblijft. Want 100% veilig zijn is inmiddels een utopie te noemen, in een wereld die steeds vaker door AI geregeerd wordt. Het hebben van een betaalde variant van een AI-oplossing mag ook geen reden meer zijn om te denken dat je veilig bent. Toch kun je zelf preventieve maatregelen nemen. Denk aan:

• Het formuleren van een AI-beleid: dat is het fundament wat nodig is om medewerkers te laten begrijpen welke AI-applicaties gebruikt mogen worden en welke data daarbij mag worden gebruikt.
• Een Risk Assesment, waarmee de strategische kwetsbaarheden en de mogelijke impact daarvan in kaart worden gebracht.
• Het anonimiseren van privacygevoelige data. Als een AI-assistent toch met de data aan de haal gaat, dan heeft dit geen effect op individuen, zoals je klanten of medewerkers. De data zijn namelijk niet herleidbaar naar personen.
• Gecontroleerde dataclassificatie en risicoanalyse door de CISO. Ons advies is om bij het gebruiken van privacy- of zakelijk gevoelige informatie altijd de CISO eerst groen licht te laten geven. Hij/zij zal moeten checken of er binnen de AI-applicatie geen onbeveiligde eindpunten of andere kwetsbaarheden zijn die mogelijk over het hoofd gezien zijn.

Onze eindconclusie
AI kan zowel waarde als schade opleveren. Het lijkt er vaak op alsof AI vooral omarmt wordt als ‘holy grale’. Zoiets als een boot die je niet mag missen, want anders…Juist daarin kan het gevaar schuilen. Neem er vooral de tijd voor en laat je niet afleiden door allerlei AI-goeroes die zeggen er verstand van te hebben: je cybersecurity kan erdoor onder druk komen te staan. 

Bron: OneXillium, Foto: OneXillium