Medewerkers bouwen binnen bedrijven steeds vaker zelf apps, agents en automatiseringen met AI, vaak sneller dan securityteams ze kunnen bijhouden. Securitybedrijf Tines noemt dat fenomeen “wild code”: niet per se ongeautoriseerde software, maar nieuwe mogelijkheden die medewerkers zelf creëren en die binnen de kortste keren een operationele afhankelijkheid worden voordat security ervan weet.
Het risico zit volgens Tines in een aantal terugkerende patronen: workflows die met bredere rechten draaien dan nodig, gevoelige data die onnodig in modelverzoeken of logs belandt, agents die zonder passende goedkeuring records of rechten wijzigen, toegang die blijft bestaan nadat de bouwer van functie wisselt of vertrekt, en onderzoeken die vastlopen omdat onduidelijk is welke identiteit iets heeft uitgevoerd. Trainingen, sandboxes en stuurgroepen helpen wel, maar bieden geen afdwingbare controle op het moment dat een workflow daadwerkelijk draait.
In plaats daarvan adviseert Tines drie structurele maatregelen:
- Governance vóór én na livegang: leg vast welke databronnen, acties en toegang een workflow mag gebruiken voordat systemen worden gekoppeld, houd die controles actief zodra de workflow in productie draait, en eis menselijke goedkeuring bij belangrijke acties. Een instructie in een prompt is geen vervanging voor een echte toegangscontrole.
- Maak de goedgekeurde route de makkelijkste: bied medewerkers een bouwomgeving met al goedgekeurde koppelingen, zodat ze niet zelf om governance heen hoeven te werken. AI zelf mag niet bepalen welke data een workflow mag blootstellen.
- Bouw onderzoek en ingrijpen vooraf in: leg eigenaarschap, uitvoeringsidentiteit en wijzigingen traceerbaar vast zonder onnodig gevoelige data in logs te zetten, en bepaal vooraf wie een workflow kan pauzeren en hoe toegang wordt ingetrokken.
Voor Nederlandse IT- en securityafdelingen is de kernvraag simpel: is er een actueel overzicht van interne AI-workflows, hun eigenaren en de rechten die ze gebruiken? Dat overzicht, en een manier om een workflow per direct te kunnen pauzeren, is een concreter startpunt dan nog een beleidsnotitie.
Bron: The Hacker News
Wat betekent dit voor jouw bedrijf?
Weet u precies welke interne AI-workflows er bij uw organisatie draaien, wie ze heeft gebouwd, en kunt u er vandaag nog een in enkele minuten uitzetten als dat nodig blijkt? Zo niet, is dat een concreter startpunt dan opnieuw een beleidsnotitie.
Blijf op de hoogte
Meld je aan voor de nieuwsbrief: spoedalerts bij kritieke dreigingen en een wekelijks overzicht. Geen mail achterlaten? Volg ons dan via RSS.