AI en IT beveiliging: Gaan ze samen? Als het gaat om IT-beveiliging biedt kunstmatige intelligentie kansen, maar ook risico’s, legt columnist Siegfried Müller van MB connect line uit.
ChatGTP negeren was de afgelopen weken bijna onmogelijk, althans voor mij. Had jij dat ook? ChatGPT werd niet alleen op en neer ontleed in de relevante social media kanalen en in vrijwel elk medium – ongeacht of het de vakpers of de algemene pers betrof – maar ook op de meest intensieve manier besproken.
Naar mijn mening was het bijzonder opmerkelijk dat niet alleen in Duitsland de mening niet unaniem positief is, maar dat er ook in de VS of andere niet-Europese landen een controversieel debat over bestaat. Ongeacht de uitkomst van deze controverse zie ik er zeker iets positiefs in: ChatGPT heeft AI in de aandacht van een breder publiek gebracht en daarmee een diepere discussie over kansen en risico’s op gang gebracht. Ook al kan dit niet tot ad hoc resultaten leiden – want het is al vaker gebleken dat technologie en het (verstandig) gebruik of de effecten of invloed ervan op de samenleving altijd vanuit de meest uiteenlopende perspectieven over een langere periode moeten worden bekeken.
Daar zijn een aantal voorbeelden van – soms meer banale voorbeelden in verband met AI, zoals dat algoritmen gebruikt zouden kunnen worden om betrouwbaar hits te produceren: een paar maanden geleden werd nog gezegd dat AI gebruikt zou kunnen worden om nieuwe muzieknummers zo te genereren dat ze precies overeenkwamen met de smaak van de massa – gewoon omdat ze opnieuw waren samengesteld uit succesvolle composities.
Nu hebben onderzoekers van de Universiteit van York ontdekt dat computergegenereerde stukken in kwaliteit niet kunnen concurreren met muziekwerken die door mensen zijn gecomponeerd. Want – zo blijkt uit de analyseresultaten van de wetenschappers (kort samengevat) – muziekstukken die door mensen zijn gecomponeerd, worden aanzienlijk hoger gewaardeerd en zijn stilistisch succesvoller.
AI oplossingen bieden ook mogelijkheden voor aanvallen
Nog afgezien van het feit dat de kwestie van de inbreuk op het auteursrecht hier toch nog uitvoerig moet worden opgehelderd – en wel vanuit de meest uiteenlopende aspecten. Want een ongeoorloofde handeling in deze zin kan bijvoorbeeld niet worden uitgesloten door fouten in de algoritmen – die al een rol kunnen spelen bij de selectie van de trainingsgegevens.
Als we het al hebben over de zwakke punten van AI, dan mogen de IT/cyberbeveiligingsaspecten natuurlijk niet ontbreken. Enerzijds heeft dit betrekking op de kwetsbaarheid van de AI modellen en anderzijds op de aanvalsmogelijkheden die uit een AI oplossing voortvloeien. Maar – en dat mag in dit verband niet onvermeld blijven – het gebruik van AI technologieën dient ook ter bescherming tegen criminele aanvallers. Maar eerst dit.
Nieuwe veiligheidsproblemen door AI
(IT) beveiliging speelt al een rol bij de ontwikkeling van AI oplossingen. Zoals de meeste IT systemen hebben AI modellen conceptuele kwetsbaarheden. Deze kunnen door criminele actoren worden gebruikt om AI modellen te manipuleren teneinde de resultaten volgens hun ideeën te beïnvloeden.
Hiervoor zijn verschillende mogelijkheden beschikbaar: Het is bijvoorbeeld mogelijk om het besluitvormingsproces van een AI model te beïnvloeden door de trainingsgegevens te veranderen – met andere woorden, om op die manier beoogde verkeerde beslissingen op te roepen. Daarnaast kan door het veranderen van een input de positie in de eigenschappenruimte worden verschoven, zodat deze individueel verkeerd wordt geclassificeerd. Verder is het mogelijk om bij interactie met een AI model input-output paren te verzamelen om inzicht te krijgen in zowel de werking als de gebruikte trainingsgegevens.
De primaire focus moet echter duidelijk liggen op het feit dat de AI zelf meer dan gunstig is voor het arsenaal van de aanvallers. Met behulp van de expertise van de deskundigen die inmiddels zeer goed thuis zijn op dit gebied, kunnen standaardaanvallen met ransomware nog verder worden geoptimaliseerd door middel van automatisering. Dit betekent onder meer dat afpersingssoftware snel en efficiënter kan worden aangepast om de verdedigingsmechanismen van bedrijven te omzeilen.
Met andere woorden, het duurt niet langer dagen of weken, maar slechts minuten totdat aangepaste varianten van kwaadaardige code beschikbaar zijn en een nieuwe aanvalspoging kan worden ondernomen.
Phishing aanvallen kunnen ook effectiever worden uitgevoerd met behulp van AI – ChatGPT garandeert in dit opzicht extreem goed geschreven e-mails en de technologische mogelijkheden rond deep fakes zijn uitstekend geschikt voor spear phishing aanvallen, die vooral tot doel hebben grote geldbedragen of gegevens buit te maken.
Dat laatste is overigens een mogelijkheid van cyberfraude die door veel bedrijven helaas (nog) niet serieus genoeg wordt genomen – zo blijkt uit een onderzoek van YouGov: Bijna de helft van de respondenten (45 procent) gaf aan te weten wat een deep fake was, maar slechts zeven procent herkende een gevaar voor het eigen bedrijf. Naar mijn mening toont dit aan dat het bewustzijn van de potentiële dreiging als gevolg van AI in het algemeen moet worden verhoogd.
Nieuwe beveiligingsoplossingen met AI
Maar het spreekt voor zich dat wanneer we AI in de context van cyberveiligheid beschouwen, het geenszins toelaatbaar is om alleen over de negatieve aspecten te praten. Integendeel. De technologie zal niet alleen helpen om cyberveiligheid naar een nieuw niveau te tillen, maar zal ook dringend nodig zijn om de (veel te weinige) cyberveiligheidsexperts te ondersteunen en te ontlasten.
Nu al zijn de mogelijke toepassingen subsidiair: Met behulp van AI kan bijvoorbeeld het detectiepercentage van aanvallen worden verhoogd – door het evalueren van gegevens die zijn verzameld met moderne sensoren in de netwerken en in de eindapparaten kunnen bedreigingen en aanvallen beter worden geïdentificeerd. In de toekomst kan AI ook helpen bij het prioriteren van kritieke gebeurtenissen. Het idee hierbij is dat uit de vele beveiligingsgerelateerde gebeurtenissen die door een SIEM of andere systemen worden gegenereerd, de gebeurtenissen worden geprioriteerd die op dat moment voor het bedrijf de hoogste prioriteit hebben. Dienovereenkomstig ontlast dit de cyberbeveiligingsdeskundigen, omdat ze zich zo kunnen richten op bepaalde incidenten met voorrang in plaats van ze allemaal tegelijk te moeten behandelen.
Maar AI wordt niet alleen steeds nuttiger bij het opsporen en evalueren van aanvallen – op het gebied van (gedeeltelijke) autonomie ter verdediging tegen aanvallen zal de technologie helpen om zeer snel te kunnen reageren en zo de veerkracht te vergroten.
Natuurlijk is mijn lijst hier niet volledig – er zijn veel meer segmenten waarin AI zeer goede diensten levert voor meer IT beveiliging: bijvoorbeeld bij de detectie van malware, spam, nepnieuws en deep fake, maar ook in het kader van veilige softwareontwikkeling, IT forensics of threat intelligence.
Conclusie
Ik denk dat we er niet omheen kunnen – het is noodzakelijk om de kansen en risico’s van het gebruik van AI in kaart te brengen. Misschien vraagt u zich nu af of dit ook al relevant kan zijn in de context van de productiesector? Ik kan deze vraag beantwoorden met een “Ja, steeds meer” en ook hier zijn er al interessante oplossingen, bijvoorbeeld de volgende toepassing voor aanvalsdetectie:
Machine Learning wordt gebruikt om de bevestigde normale toestand van productieapparatuur vast te leggen. Dit maakt het mogelijk anomalieën op te sporen die door aanvallen worden veroorzaakt, volgens algemeen geldende normen die gebaseerd zijn op aanbevelingen van gevestigde instellingen – zoals het BSI. Samengevat is de methode gebaseerd op het identificeren van veranderingen in het communicatiepatroon van de fabriek als gevolg van een aanval. Aangezien elke communicatie die buiten het aangeleerde verkeersprofiel valt als een anomalie wordt geëvalueerd en bijgevolg een alarm veroorzaakt, is het mogelijk nieuwe en onbekende aanvallen op te sporen.
Ik vind deze aanpak niet alleen zeer overtuigend, maar ook dringend noodzakelijk, aangezien het aantal aanvallen zal blijven toenemen. Niet in de laatste plaats vanwege de mogelijkheden die AI biedt.
De column werd in zijn oorspronkelijke Duitse versie gepubliceerd op produktion.de.
