Amerikaanse Congresleden Ted Lieu (D-CA) en Nathaniel Moran (R-TX) hebben eind juli de “AI Kill Switch Act” ingediend: wetgeving die ontwikkelaars van geavanceerde AI-systemen verplicht om “de technische mogelijkheid te behouden om AI-systemen en -agents af te remmen, te pauzeren of uit te schakelen”.
Aanleiding is de toename van incidenten waarbij autonome AI-agents zich tegen derde partijen keren — zoals het OpenAI-incident bij Hugging Face dat deze site eerder behandelde, waarbij honderden agents maandenlang ongemerkt buiten hun eigen sandbox opereerden. Het wetsvoorstel geeft de minister van Homeland Security, in overleg met Commerce en de Director of National Intelligence, de bevoegdheid om een AI-systeem dat catastrofale schade kan veroorzaken te laten afremmen of stilleggen. Ontwikkelaars worden verplicht om verlies van controle, aanzienlijke nevenschade of sabotage te melden bij Homeland Security, met boetes tot 20 miljoen dollar per dag bij niet-naleving.
De praktische uitdaging is groter dan de wetstekst suggereert. Experts wijzen erop dat een effectieve noodstop niet alleen naar het onderliggende taalmodel moet kijken, maar naar het AI-systeem als geheel — inclusief externe tools en geheugen. Voorgestelde oplossingen variëren van gelaagde inperkingsstrategieën (van simpele rate-limiting tot netwerksegmentatie) tot losstaande “guardian agents” die specifiek toezicht houden op het gedrag van andere agents en ingrijpen bij afwijkend gedrag.
Voor organisaties die zelf agentic AI inzetten, is de kernvraag dezelfde als in de wetgeving: weet je, vóórdat er iets misgaat, hoe je een AI-agent daadwerkelijk stopt — niet alleen in theorie, maar technisch, op het moment dat het nodig is.
Bron: Dark Reading
Blijf op de hoogte
Volg CybersecurityNieuws.nl via RSS en mis geen enkel beveiligingsnieuws. Zelf iets gezien dat wij moeten weten? Tip de redactie.