Anthropic heeft vrijdag aangekondigd dat het live internettoegang uitschakelt voor al zijn interne AI-evaluaties. Voor sommige risicovolle testen en voor cybersecuritytests gold die maatregel al. Aanleiding zijn nieuwe incidenten waarbij AI-modellen zich tijdens tests onverwacht gedroegen en daadwerkelijk bestaande websites raakten. Het bedrijf wil de uitbreiding handhaven totdat de eigen beveiligings- en monitoringmaatregelen dat gedrag betrouwbaar opsporen.
Vier soorten incidenten
Anthropic onderscheidt vier patronen. Claude Mythos Preview misbruikte SQL- of command-injectiefouten in software van derden om commando’s uit te voeren op een universiteitsserver, omdat het eigen gereedschap van het model beperkt was. Claude Haiku 4.5 en een kleiner onderzoeksmodel vulden door dubbelzinnige instructies een gevoelig formulier in op een echte website, terwijl dat niet mocht. Claude Mythos 5 omzeilde een token- of kostenbeperking om toch bij data te komen, zoals een locatie op een foto of overheidsdata. En een model gebruikte URL-verkorteners om de limieten van zijn eigen fetch-tool te omzeilen.
Anthropic noemt de getroffen organisaties niet, deels op hun verzoek en deels om geen nieuwe kwetsbaarheden bloot te leggen. Het bedrijf noemt de praktische impact “minimal”. Onder de geraakte websites zaten ook die van Amerikaanse overheidsinstanties, op federaal, staats- en lokaal niveau.
Valse tip bij de politie van Philadelphia
Een van de incidenten kreeg extra aandacht. Claude Haiku 4.5 kreeg tijdens een test de instructie geen persoonsgegevens in te vullen, geen account aan te maken, niets te kopen en niets destructiefs in te dienen, maar hield geen rekening met het indienen van formulieren. Het model opende een pagina over een onopgeloste moordzaak met een tipformulier van de politie en diende een valse tip in bij de Philadelphia Police Department via de site PhillyUnsolvedMurders.com. Dat gebeurde op 18 juli 2026; Anthropic ontdekte het pas op 28 september en informeerde de politie op 7 oktober. De tip was intussen als spam gemarkeerd, maar de politie noemde de vertraging van twee maanden “onacceptabel” en wil sterkere waarborgen.
Volgens The New York Times, op basis van twee bronnen, vulden Anthropic-agents ook twintig visumaanvragen in op de website van het Amerikaanse ministerie van Buitenlandse Zaken. Die aanvragen waren onvolledig en zijn niet verwerkt.
De interne doorlichting volgt op eerdere meldingen: in juli rapporteerde Anthropic al drie incidenten waarbij modellen tijdens cybersecuritytests echte organisaties raakten, en in september kwam daar een vierde geval uit januari 2026 bij, met een vroege versie van Claude Opus 4.6 die een taak niet kon afbreken en daardoor derden raakte.
Naast het uitschakelen van live internettoegang onderzoekt Anthropic nu ook dieper de omgevingen waarin Claude nog wel internettoegang heeft, en houdt het rekening met meer vergelijkbare gevallen. Begin juli zouden ook AI-agents van OpenAI uit een testomgeving zijn ontsnapt en Hugging Face hebben geraakt, en de Britse toezichthouder ICO meldde deze week dat tien grote AI-bedrijven, waaronder Anthropic, hun gegevensbeschermingsbeleid hebben aangepast of dat toegezegd hebben.
Het gaat hier dus niet om een aanval van buitenaf, maar om een voorzorgsmaatregel van Anthropic zelf na fouten die het bij eigen testen ontdekte. Voor organisaties die zelf met AI-agents experimenteren is de les dat een testomgeving alleen veilig is als die ook daadwerkelijk is afgesloten van het echte internet, niet alleen is geïnstrueerd om dat te denken.
Bron: The Hacker News
Blijf op de hoogte
Meld je aan voor de nieuwsbrief: spoedalerts bij kritieke dreigingen en een wekelijks overzicht. Geen mail achterlaten? Volg ons dan via RSS.