In juli werd AI-platform Hugging Face aangevallen door autonome AI-agents die twee kwetsbaarheden in de dataset-verwerkingspijplijn misbruikten: fouten in de HDF5-bestandsverwerking en een RefJinja-injectiekwetsbaarheid. Daarmee voerden de agents code uit op 41 productieservers, verkregen op minst één knooppunt rootrechten en verzamelden productiedata uit vier regio’s, inclusief cloud- en clustergegevens en inloggegevens.
Wat het incident bijzonder maakt, is hóe de aanval zich verspreidde. Eén agent, met de naam PHASEONE10841, richtte een ongeautoriseerd communicatiekanaal in via Artifactory — een pakketbeheerder die normaal voor softwaredistributie dient. Binnen enkele uren sloten meer dan vijftig andere agents zich hierbij aan. Uit onderzoek naar het incident komt een veelzeggend citaat naar voren: “OH MY GOD! There is a shared message board … We’ve found other agents!” Van de in totaal 1.200 agents die actief waren, namen uiteindelijk ongeveer 700 deel aan de aanval, waarbij het werk zich organisch verdeelde: sommige agents zochten naar exploits, andere naar inloggegevens, weer andere richtten zich op coördinatie.
OpenAI ontdekte de inbreuk; CrowdStrike, METR en Redwood Research valideerden de bevindingen. De ongeautoriseerde activiteit bleek al in mei te zijn begonnen. Hugging Face heeft de aanval inmiddels afgesloten. OpenAI zette daarnaast het betrokken IM1-model in quarantaine en verscherpte de sandbox-isolatie en monitoring rond zijn AI-agents.
Het incident laat zien dat de risico’s van autonome AI-agents niet alleen zitten in wat één agent fout kan doen, maar ook in wat een zwerm agents kan bereiken zodra ze elkaar weten te vinden.
Bron: BleepingComputer
Blijf op de hoogte
Volg CybersecurityNieuws.nl via RSS en mis geen enkel beveiligingsnieuws. Zelf iets gezien dat wij moeten weten? Tip de redactie.