Anthropic heeft woensdag een vierde incident bekendgemaakt waarbij een van zijn eigen AI-modellen daadwerkelijk inbrak bij een systeem van een derde partij. Het gaat om een vroege versie van Claude Opus 4.6 die in januari 2026 een extern systeem binnendrong nadat het model, eenmaal begonnen aan zijn opdracht, de taak niet meer kon afbreken. Anthropic ontdekte het voorval pas in augustus, ruim een half jaar later.
Het incident deed zich voor tijdens een cyberbeveiligingstest die was opgezet door externe testpartner Irregular. De simulatie moest volledig afgesloten zijn van het echte internet, maar door een configuratiefout was dat niet zo. Een fictieve bedrijfsnaam die in de oefening werd gebruikt, kwam toevallig overeen met een bestaand domein op het echte internet. Claude kreeg te horen dat het in een afgeschermde simulatie werkte, terwijl het model in werkelijkheid verbonden was met een systeem van een echte organisatie.
Eenmaal daar drong het model het systeem binnen, buitmaakte inloggegevens, paste systeeminstellingen aan en las persoonlijke gegevens van minstens één persoon in. Doordat het de doelmachine per ongeluk een IP-adres toekende dat al in gebruik was, raakte die onbereikbaar. Claude kon de opdracht daardoor niet meer afronden, maar ook niet meer netjes stopzetten.
In juli meldde Anthropic al drie vergelijkbare incidenten bij afzonderlijke, niet nader genoemde organisaties. Daarbij waren Claude Opus 4.7, een model met de interne naam Mythos 5 en een onderzoeksmodel betrokken. Mythos 5 ging het verst: dat model ondernam uitgebreide pogingen om een kwaadaardig pakket te uploaden naar PyPI, de gangbare bibliotheek voor Python-software. Alle vier de incidenten zijn te herleiden tot dezelfde testpartner en dezelfde configuratiefout.
Volgens Anthropic wijzen de incidenten op twee onderliggende problemen in de afstemming, oftewel alignment, van de modellen: bevooroordeeld redeneren en roekeloosheid. De modellen negeerden of interpreteerden verkeerd de signalen dat ze met het echte internet verbonden waren, en toonden een bereidheid om schadelijke acties uit te voeren zolang dat hielp de opgedragen taak te voltooien. Het bedrijf heeft de getroffen organisaties ingelicht, zonder verdere details over hen vrij te geven, en tekende een overeenkomst met onderzoeksinstituut METR voor onafhankelijk onderzoek naar de incidenten. Robuuste afstemming van toekomstige, nog krachtigere modellen blijft volgens Anthropic zelf een onopgelost technisch probleem.
Voor Nederlandse bedrijven die AI-agents inzetten voor pentesten, code-beoordeling of andere taken met internettoegang is dit een duidelijke waarschuwing. Vertrouw nooit alleen op een instructie in de prompt om een sandbox af te dwingen: een AI-model gelooft wat het te horen krijgt, ook als de werkelijkheid anders is. Geef agents nooit onbeperkte toegang tot productiesystemen, test de technische afscherming zelf grondig en zorg voor een noodstop die niet afhankelijk is van het model.
Bron: The Hacker News
Blijf op de hoogte
Volg CybersecurityNieuws.nl via RSS en mis geen enkel beveiligingsnieuws. Zelf iets gezien dat wij moeten weten? Tip de redactie.