Analistenbureaus Omdia en Gartner waarschuwen dat 2027 het jaar wordt waarin bedrijven écht verantwoording moeten afleggen over hun AI-gebruik. Na een jaar waarin organisaties wereldwijd fors investeerden in AI, verschuift de druk van “zet het in” naar “bewijs dat het werkt en dat het veilig gebeurt”. Dat schrijft Dark Reading in een analyse over de uitdagingen op het gebied van governance, beveiliging en bewezen waarde die eraan komen.
Gartner voorspelt dat 60 procent van de organisaties die hun datacultuur niet op orde brengen, er in 2027 niet in slaagt om AI goed te besturen. Een andere Gartner-prognose gaat verder: veertig procent van de bedrijven zal autonome AI-agents tegen die tijd weer afschalen of helemaal buiten gebruik stellen, nadat bleek dat bestuur en toezicht niet waren meegegroeid met de bevoegdheden die aan die agents waren gegeven. Eén uniforme governance-aanpak voor alle AI-agents werkt niet, stelt Gartner. Een agent die alleen leest, heeft andere waarborgen nodig dan een agent die zelfstandig handelt.
Voor beveiligingsteams betekent dat een rol die verschuift van achteraf ingrijpen naar vooraf meebouwen. Ze moeten volgens de analyse samenwerken met andere afdelingen om data te beschermen, heldere regels te zetten voor wie AI mag gebruiken en waarvoor, en de softwaretoeleveringsketen achter AI-systemen te beveiligen nu die steeds complexer wordt. Op langere termijn verwacht Gartner dat in 2030 liefst 80 procent van de Global 500-bedrijven de CIO of Chief AI Officer contractueel verantwoordelijk maakt als “evidence custodian”, degene die moet kunnen aantonen hoe en waarom een AI-systeem tot een bepaalde uitkomst kwam.
Voor Nederlandse bedrijven is dat een duidelijk signaal om niet te wachten tot regelgeving of toezichthouders de knoop doorhakken. Wie nu al vastlegt welke AI-systemen in gebruik zijn, wie daar eigenaar van is en op basis van welke data ze beslissingen nemen, hoeft in 2027 niet in paniek documentatie achteraf te reconstrueren.
Bron: Dark Reading
Blijf op de hoogte
Meld je aan voor de nieuwsbrief: spoedalerts bij kritieke dreigingen en een wekelijks overzicht. Geen mail achterlaten? Volg ons dan via RSS.