Fontys-student deelt onderzoek naar betrouwbare AI bij NASA

Hoe weet je of kunstmatige intelligentie precies doet wat je vraagt? Die vraag wordt steeds belangrijker nu AI vaker wordt gebruikt in bijvoorbeeld zelfrijdende auto’s en medische apparatuur. Panagiotis Kalogeropoulos (Panos), masterstudent aan Fontys Hogeschool in Eindhoven, ontwikkelde een methode om de betrouwbaarheid van AI te testen. Op 4 mei presenteerde hij zijn onderzoek tijdens een workshop van het NASA Formal Methods Symposium in Los Angeles.
“Bedrijven met zeer dure en/of gevaarlijke apparatuur willen de voordelen van kunstmatige intelligentie benutten, zonder mensenlevens of de veiligheid van de apparatuur toe te vertrouwen aan een LLM dat niet betrouwbaar is,” zegt Kalogeropoulos. “Je kunt niet vertrouwen op een ‘black box’. Je moet kunnen controleren of AI doet wat je denkt dat het doet.”
Het probleem waar de Fontys-student aan werkt, raakt steeds meer organisaties. De opkomst van AI verandert fundamenteel de manier waarop we werken, ook in omgevingen met hoge risico’s. Organisaties in die omgevingen willen ook de voordelen van Generatieve AI benutten, en het is cruciaal om onderzoek te versnellen naar het genereren van duurzame, veilige en betrouwbare output van LLM’s.
Controlemethode voor veilige AI
Samen met docent en onderzoeker Herman Jurjus ontwikkelde Kalogeropoulos een methode om de output van AI te controleren voordat systemen operationeel worden. Het onderzoek werd uitgevoerd binnen de onderzoeksgroep Fontys High Tech Embedded Systems.
Hoe werkt de methode?
De methode van Kalogeropoulos werkt als een dubbele veiligheidscheck. Voordat een AI-systeem een opdracht uitvoert, controleert zijn framework twee dingen: heeft de AI de instructie goed begrepen, en is de actie veilig uit te voeren? Dit werkt zo: de AI maakt eerst code aan op basis van de menselijke instructie. Het systeem evalueert vervolgens deze gegenereerde code en komt tot een risico-evaluatie vanuit verschillende stakeholdersperspectieven. Aan de hand van die risico-evaluatie kunnen mensen het gebruik van de code goedkeuren of afkeuren.
Tegelijkertijd beoordeelt een panel van meerdere AI-systemen vanuit verschillende perspectieven of de voorgestelde actie gevaarlijk is en kent aan elk potentieel faalscenario een ricofactor toe, bijvoorbeeld of een robot ergens tegenaan kan botsen. Alleen wanneer beide checks onder een bepaalde risicodrempel blijven, mag de actie doorgaan. Bij twijfel of gevaar blokkeert het systeem de actie en vraagt het om menselijke controle. Zo kunnen organisaties AI-systemen inzetten zonder blind te vertrouwen op een ‘black box’.
NASA Formal Methods Symposium 2026
Zijn onderzoekspaper werd geaccepteerd voor de RE×AI-workshop, specifiek gericht op betrouwbare AI in veiligheidskritische toepassingen. De workshop maakte deel uit van het NASA Formal Methods Symposium 2026, georganiseerd door NASA Jet Propulsion Laboratory en de University of Southern California. “Ik was vereerd,” zegt Kalogeropoulos over de acceptatie. “Dit is een workshop van een NASA-conferentie, waar de beste onderzoekers ter wereld samenkomen. Ik had geen verwachtingen, maar ben blij dat mijn onderzoek een plek heeft tussen hun werk.”
Van gimmick naar betrouwbaar hulpmiddel
De student begon zes maanden voor het symposium met zijn onderzoek, in september 2025, als onderdeel van zijn masteropleiding Applied IT. Wat hem dreef was de overtuiging dat AI meer moet zijn dan een technologische snufje. “Als een nieuwe technologie niet te vertrouwen is met de informatie die het geeft, is het niet meer dan een gimmick,” stelt hij. “AI kan, en moet, veel meer zijn dan dat.” De methode kan nuttig zijn voor organisaties die de overstap naar veilige, betrouwbare AI willen maken. “Bedrijven kunnen dit gebruiken als een makkelijke manier om veilige AI in hun werk te gebruiken.”
Positieve ontvangst en nieuwe samenwerkingen
Na zijn presentatie ontving Kalogeropoulos constructieve feedback van zowel NASA-medewerkers als onderzoekers uit de industrie. “Veel vragen waren technisch, zoals specifieke vragen over mijn experimentele methoden, maar veel waren meer gericht op de algemene toepasbaarheid van het framework in verschillende contexten,” legt hij uit. De dag na zijn presentatie had hij gesprekken met senior onderzoekers uit de industrie die werken aan LLM-evaluatie en automatisch testen op wereldschaal. “Ze overwogen serieus om mijn onderzoek in de echte wereld te gebruiken. Dat maakte me erg blij,” zegt Kalogeropoulos.
Tijdens het symposium legde hij ook waardevolle contacten voor potentiële stages, werkgelegenheid en onderzoekssamenwerking rond formele methoden.
Memorabel moment
Het meest memorabele moment voor Kalogeropoulos was een lezing over de geschiedenis van NASA’s Formal Methods-groep. Deze groep bestaat al sinds de jaren 90 en waren onderdeel van verschillende belangrijke missies. “Als luchtvaartliefhebber was ik enthousiast toen ik ontdekte dat de Formal Methods-groep het Traffic Alert and Collision Avoidance System (TCAS) versie 2 formeel had geverifieerd, dat nu in gebruik is bij vrijwel elk vliegtuig dat momenteel wereldwijd in de lucht is.”
‘AI blijft veilig’
De student is niet bang voor de risico’s van AI, integendeel. “Achter AI staan teams van slimme, toegewijde onderzoekers. Hun taak is ervoor te zorgen dat AI veilig is en blijft, zodat de samenleving alle voordelen kan plukken.” Na zijn afstuderen wil Kalogeropoulos graag verder in het vakgebied van formele methoden en duurzame AI. Zijn advies aan andere studenten die onderzoek willen doen? “Accepteer dat je veel zult falen. Ik heb heel veel dingen geprobeerd. Sommige werkten en andere niet. Als je houdt van wat je doet, en je blijft proberen, dan kun je niet anders dan slagen.”