{"id":28655,"date":"2026-11-16T13:11:41","date_gmt":"2026-11-16T12:11:41","guid":{"rendered":"https:\/\/www.proefschriftmaken.nl\/portfolio\/ali-al-kaswan\/"},"modified":"2026-11-16T13:24:51","modified_gmt":"2026-11-16T12:24:51","slug":"ali-al-kaswan","status":"publish","type":"us_portfolio","link":"https:\/\/www.proefschriftmaken.nl\/en\/portfolio\/ali-al-kaswan\/","title":{"rendered":"Ali Al-Kaswan"},"content":{"rendered":"","protected":false},"featured_media":28656,"template":"","meta":{"_acf_changed":false},"university_us_portfolio":[],"class_list":["post-28655","us_portfolio","type-us_portfolio","status-publish","has-post-thumbnail","hentry"],"acf":{"main_text":"","naam_van_het_proefschift":"A Dual Perspective on Large Language Models for Code and Security","samenvatting":"Artifici\u00eble Intelligentie (AI) die computercode kan lezen en schrijven, de zogeheten Large Language Models (LLMs), worden een vast onderdeel van de manier waarop software wordt gemaakt. Doordat deze systemen goed kunnen redeneren over zowel code als natuurlijke taal, zijn ze niet alleen nuttig voor het dagelijkse programmeerwerk, maar ook relevant voor digitaal beveiligingswerk, waar het draait om begrijpen hoe software zich gedraagt of hoe ze kan worden aangevallen. Tegelijkertijd brengen juist de eigenschappen die deze AI-systemen nuttig maken voor beveiligingswerk hun eigen risico\u2019s met zich mee: een model dat is getraind op enorme hoeveelheden code kan per ongeluk vertrouwelijke informatie uit die trainingsdata prijsgeven, code met beveiligingslekken voortbrengen, of zelfs iemand helpen bij het uitvoeren van een hack.\n\nIn dit proefschrift onderzoeken we deze tweezijdige relatie tussen AI-taalmodellen en softwarebeveiliging. Het eerste deel kijkt naar hoe deze AI-systemen kunnen worden afgesteld en op een gedegen manier getest voor realistische taken. We vervangen kunstmatige testproblemen met situaties die beter aansluiten bij hoe softwarebeveiliging in de praktijk daadwerkelijk verloopt. Zo leren we een AI-model om gecompileerde, \u201cblack box-software uit te leggen zonder toegang tot de oorspronkelijke code, testen we of een AI-systeem zelfstandig een gesimuleerde hackuitdaging kan doorlopen, en gaan we na of AI-programmeerassistenten kunnen worden verleid tot het meewerken aan schadelijke verzoeken.\n\nHet tweede deel draait de vraag om en onderzoekt de risico\u2019s die het gebruik van deze AI-systemen zelf met zich meebrengt. Zo laten we zien dat AI-modellen fragmenten van de code waarop ze zijn getraind kunnen onthouden en later prijsgeven, inclusief gevoelige details die nooit naar buiten hadden mogen komen, en tonen we aan dat deze modellen zich ook foutieve code kunnen \u201cherinneren\u201d die ze tijdens de training zijn tegengekomen en die vervolgens herhalen, zelfs wanneer ze het eigenlijk beter zouden moeten weten.\n\nIn dit hele werk ligt de nadruk op het testen van deze AI-systemen op manieren die het gebruik in de echte wereld weerspiegelen, en op het open en verantwoord delen van de data, tools en testmethoden die zijn ontwikkeld, zodat andere onderzoekers deze bevindingen kunnen controleren en erop kunnen voortbouwen.\n\nMet deze resultaten bieden we een tweeledig perspectief: LLMs als hulpmiddelen die beveiligingswerk werkelijk kunnen ondersteunen, en als systemen die zelf zorgvuldig moeten worden ge\u00ebvalueerd en beveiligd. Met deze bevindingen draagt dit proefschrift bij aan een realistisch begrip van zowel de kansen als de risico\u2019s die deze AI-systemen met zich meebrengen voor softwarebeveiliging.","summary":"Artificial Intelligence (AI) systems that can read and write computer code, so-called Large Language Models (LLMs), are becoming a routine part of how software is built. Because these systems are good at reasoning about both code and natural language, they are not just useful for everyday programming, they are also relevant to security work, where understanding how a piece of software behaves, or how it might be attacked, is central. At the same time, the very properties that make these AI systems useful also create risks of their own: a model trained on huge amounts of code can accidentally leak private information from that training data, produce code with security flaws, or even help someone carry out a harmful task.\n\nIn this dissertation we study this two-sided relationship between AI language models and software security. The first part looks at how these AI systems can be adapted and properly tested for realistic security tasks, going beyond simple, artificial test problems toward settings that better resemble how security work is actually done in practice. This includes teaching an AI model to explain compiled, \u201cblack box\u201d software without access to the original code, testing an AI system\u2019s ability to work through a simulated hacking challenge on its own, and checking whether AI coding assistants can be led into helping with harmful requests.\n\nThe second part turns the question around, examining the risks that come with using these AI systems themselves. This includes showing that AI models can memorise and later leak fragments of the code they were trained on, including sensitive details that should never have been exposed, and demonstrating that these models can also \u201cremember\u201d and repeat buggy code they encountered during training, even when they would otherwise know better.\n\nThroughout this work, the emphasis lies on testing these AI systems in ways that reflect real-world use, and on openly and responsibly sharing the datasets, tools, and testing methods that were developed, so that other researchers can verify and build on these findings.\n\nWith these results, we offer a dual perspective: Large Language Models as tools that can genuinely support security work, and as systems that must themselves be carefully evaluated and secured. With these findings, this dissertation contributes to a more grounded, realistic understanding of both the opportunities and the risks that these AI systems bring to software security.","auteur":"Ali Al-Kaswan","auteur_slug":"ali-al-kaswan","publicatiedatum":"16 december 2026","taal":"EN","url_flipbook":"https:\/\/ebook.proefschriftmaken.nl\/ebook\/alialkaswan?iframe=true","url_download_pdf":"https:\/\/ebook.proefschriftmaken.nl\/download\/a666573f-0d8c-4402-be75-4fb844c09358\/highres","url_epub":"","ordernummer":"19792","isbn":"978-94-6518-516-3","doi_nummer":"","naam_universiteit":"Overig","afbeeldingen":28656,"video_url":"","podcast_url":"","naam_student:":"","binnenwerk":"","universiteit":"Overig","cover":"","afwerking":"","cover_afwerking":"","design":""},"_links":{"self":[{"href":"https:\/\/www.proefschriftmaken.nl\/en\/wp-json\/wp\/v2\/us_portfolio\/28655","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.proefschriftmaken.nl\/en\/wp-json\/wp\/v2\/us_portfolio"}],"about":[{"href":"https:\/\/www.proefschriftmaken.nl\/en\/wp-json\/wp\/v2\/types\/us_portfolio"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.proefschriftmaken.nl\/en\/wp-json\/wp\/v2\/media\/28656"}],"wp:attachment":[{"href":"https:\/\/www.proefschriftmaken.nl\/en\/wp-json\/wp\/v2\/media?parent=28655"}],"wp:term":[{"taxonomy":"university_us_portfolio","embeddable":true,"href":"https:\/\/www.proefschriftmaken.nl\/en\/wp-json\/wp\/v2\/university_us_portfolio?post=28655"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}