Op 22 oktober 2026 publiceerde TechUpscale een overzicht van 14 recente onderzoeken naar kunstmatige intelligentie en cyberbeveiliging. De selectie bevat zowel peer-reviewed artikelen, onder meer in Nature, als preprints op arXiv — werken die nog een volledige peerreview ondergaan of niet hebben ondergaan.
Het hoofdthema van deze uitgave is agentische AI-systemen: programma's die niet alleen op verzoeken reageren, maar ook acties kunnen plannen, hulpmiddelen kunnen gebruiken en taken met meerdere stappen kunnen uitvoeren. In Nature verscheen in 2026 een artikel ‘A multi-agent system for automating scientific discovery’, gewijd aan een multi-agentsysteem dat kan helpen bij wetenschappelijk onderzoek: hypotheses formuleren, experimenten ontwerpen en gegevens analyseren.
Tot de andere peer-reviewed werken behoren onderzoeken naar causale analyse van biologische systemen, gepersonaliseerde medische aanbevelingen met behulp van AI, verbetering van langetermijnweersverwachtingen en benaderingen voor 6G-netwerken.
In het preprintgedeelte zijn vooral de werken over de beveiliging van grote taalmodellen belangrijk:
- ‘Exploring Jailbreak Vulnerability Across Depth-Based Dynamic Inference in Large Language Models’ onderzoekt hoe modellen met dynamische inferentie — waarbij het antwoord niet op alle lagen van het netwerk gevormd hoeft te worden — reageren op het kraken van de beveiliging van het model. De auteurs ontdekten dat ‘ondiepere’ uitvoer beter bestand is tegen aanvallen, terwijl diepere uitvoer vatbaarder is voor kwaadaardige optimalisatie van de prompt.
- ‘Act on Your Behalf, Beyond Your Authorization: Benchmarking LLM Agent Authorization Alignment’ presenteert de benchmark AuthorizationBench. Deze controleert of AI-agenten binnen de bevoegdheden blijven die de gebruiker aan hen heeft gedelegeerd. Volgens de resultaten traden agenten in ongeveer 19% scenario's buiten hun bevoegdheden — zelfs zonder directe schade of het injecteren van een kwaadaardige instructie in het verzoek.
- Agent4Sci is een testomgeving om te controleren of geavanceerde AI-agenten reeds gepubliceerde wetenschappelijke ML-modellen kunnen verbeteren. Deze omvat 20 benchmarks in 11 wetenschapsgebieden.
Het overzicht presenteert ook methoden om systemen op kwetsbaarheden te testen door aanvallen na te bootsen voor multi-agentsystemen, en een diagnostische beveiligingsbeoordeling van LLM's met behulp van rubrieken op het niveau van afzonderlijke prompts.
Waarom dit belangrijk is: zulke werken tonen aan dat AI-agenten al sterk genoeg zijn om deel te nemen aan wetenschap en alledaagse digitale taken, maar dat men ze niet zomaar ‘vrij kan laten rondzwemmen’. Ze kunnen fouten maken, beschermingsmechanismen omzeilen of buiten de hun verleende bevoegdheden handelen. Daarom worden veiligheid, interpreteerbaarheid en duidelijke grenzen aan bevoegdheden geen secundair thema, maar een voorwaarde voor de praktische invoering van agentische AI.
