Ali Al-Kaswan

A Dual Perspective on Large Language Models for Code and Security

Artificiële Intelligentie (AI) die computercode kan lezen en schrijven, de zogeheten Large Language Models (LLMs), worden een vast onderdeel van de manier waarop software wordt gemaakt. Doordat deze systemen goed kunnen redeneren over zowel code als natuurlijke taal, zijn ze niet alleen nuttig voor het dagelijkse programmeerwerk, maar ook relevant voor digitaal beveiligingswerk, waar het draait om begrijpen hoe software zich gedraagt of hoe ze kan worden aangevallen. Tegelijkertijd brengen juist de eigenschappen die deze AI-systemen nuttig maken voor beveiligingswerk hun eigen risico’s met zich mee: een model dat is getraind op enorme hoeveelheden code kan per ongeluk vertrouwelijke informatie uit die trainingsdata prijsgeven, code met beveiligingslekken voortbrengen, of zelfs iemand helpen bij het uitvoeren van een hack.

In dit proefschrift onderzoeken we deze tweezijdige relatie tussen AI-taalmodellen en softwarebeveiliging. Het eerste deel kijkt naar hoe deze AI-systemen kunnen worden afgesteld en op een gedegen manier getest voor realistische taken. We vervangen kunstmatige testproblemen met situaties die beter aansluiten bij hoe softwarebeveiliging in de praktijk daadwerkelijk verloopt. Zo leren we een AI-model om gecompileerde, “black box-software uit te leggen zonder toegang tot de oorspronkelijke code, testen we of een AI-systeem zelfstandig een gesimuleerde hackuitdaging kan doorlopen, en gaan we na of AI-programmeerassistenten kunnen worden verleid tot het meewerken aan schadelijke verzoeken.

Het tweede deel draait de vraag om en onderzoekt de risico’s die het gebruik van deze AI-systemen zelf met zich meebrengt. Zo laten we zien dat AI-modellen fragmenten van de code waarop ze zijn getraind kunnen onthouden en later prijsgeven, inclusief gevoelige details die nooit naar buiten hadden mogen komen, en tonen we aan dat deze modellen zich ook foutieve code kunnen “herinneren” die ze tijdens de training zijn tegengekomen en die vervolgens herhalen, zelfs wanneer ze het eigenlijk beter zouden moeten weten.

In dit hele werk ligt de nadruk op het testen van deze AI-systemen op manieren die het gebruik in de echte wereld weerspiegelen, en op het open en verantwoord delen van de data, tools en testmethoden die zijn ontwikkeld, zodat andere onderzoekers deze bevindingen kunnen controleren en erop kunnen voortbouwen.

Met deze resultaten bieden we een tweeledig perspectief: LLMs als hulpmiddelen die beveiligingswerk werkelijk kunnen ondersteunen, en als systemen die zelf zorgvuldig moeten worden geëvalueerd en beveiligd. Met deze bevindingen draagt dit proefschrift bij aan een realistisch begrip van zowel de kansen als de risico’s die deze AI-systemen met zich meebrengen voor softwarebeveiliging.

Lees verder
Publicatiedatum 16 december 2026
Universiteit Overig
Auteur Ali Al-Kaswan
ISBN nummer 978-94-6518-516-3

Bekijk ook deze projecten

Lotte Kleinendorst

Lotte Kleinendorst

Overig Lees meer
Afke Groen

Afke Groen

Overig Lees meer
Pranav Mehta

Pranav Mehta

Overig Lees meer