Anthropic heeft onderzoek gepubliceerd waarin het bedrijf test of kleine, open-weight AI-modellen zichzelf kunnen verspreiden over goedkope consumentenapparaten, zonder dat daar een datacenter voor nodig is. Het gaat om een gecontroleerd experiment van het eigen Frontier Red Team, niet om een aanval die ergens al is waargenomen.
Het experiment
Voor het onderzoek kocht het team vijftien no-name Android-tv-boxen van ongeveer 55 dollar per stuk, elk met 4 GB werkgeheugen. Daarop lieten de onderzoekers het model Gemma4-26B-A4B draaien, verdeeld over de apparaten via pipeline parallelism, met een snelheid van zo’n 0,3 tot 0,39 tokens per seconde. Voor losse onderdelen van het proces testten ze ook andere hardware, van een Jetson Nano tot een Mac en een RTX 4090.
Om te zien of een model zich ook zelfstandig kan verspreiden, bouwde het team een afgeschermd netwerk van acht cloud-nodes met een Android-emulator. De onderzoekers infecteerden zelf de eerste node, waarna het model GLM-5.2 via een onbeveiligde ADB-poort naar de andere nodes probeerde te springen. Dat lukte in vier van de vijf testrondes op alle acht nodes, in de vijfde ronde op zeven van de acht. Andere geteste modellen faalden consequent. Een kleiner model, Qwen3.5-9B, kreeg aantekeningen door van eerdere pogingen en verbeterde daardoor van 45 procent slagingskans naar 61 tot 84 procent in latere generaties. Toegang tot een sterker adviesmodel maakte opvallend genoeg geen meetbaar verschil.
Een volledige opzet van een werkende inferentieserver kostte de modellen tussen de 28 en 150 uur, afhankelijk van het model. Snel is dat allerminst, maar Anthropic wijst erop dat zo’n verspreiding ook moeilijk te stoppen zou zijn, juist omdat er geen centraal punt is om uit te schakelen.
Experiment, geen aanval in het wild
Anthropic is zelf duidelijk over de beperkingen van de test. De onderzoekers hielden de instap bewust triviaal: de geteste apparaten hadden geen authenticatie op hun ADB-poort staan, iets wat in de praktijk vaker wel het geval is. De resultaten laten dus een bovengrens zien van wat mogelijk is, geen demonstratie van een werkende aanval op apparaten zoals ze in huizen staan. Het team schrijft zelf: “We don’t yet have a full rogue replicator.” Er loopt dus geen zelfreplicerende AI rond op slimme ovens of tv-boxen, dat risico zit vooralsnog alleen in het laboratorium.
Wel ziet Anthropic een trend. De capaciteit van kleine modellen groeit volgens de eigen meetlat met ongeveer 13,7 punten per jaar. Zet die lijn door, dan bereiken kleine modellen tegen het einde van dit jaar het niveau van GLM-5.2, het minimum dat in de tests nodig bleek voor betrouwbare verspreiding. Pas daarna zouden kleine replicators die op eigen gewicht draaien praktisch haalbaar kunnen worden, schrijft het team.
Als mogelijke doelwitten noemt het rapport naast tv-boxen ook slimme koelkasten, ovens, stofzuigers en grasmaaiers: apparaten die vaak jarenlang zonder updates draaien. Anthropic raadt aan te letten op ongebruikelijk verkeer tussen apparaten en op grote modeloverdrachten, en verwijst naar de aanpak bij het Mirai-botnet: netwerken die geïnfecteerde apparaten meldden aan eigenaren, kregen 92 procent van de besmettingen binnen twee weken opgeruimd, tegen 74 procent zonder melding.
Voor Nederlandse lezers is er vooralsnog geen reden tot paniek: dit is een laboratoriumopstelling, geen actieve dreiging. Wel een goede aanleiding om standaardwachtwoorden op smart devices te vervangen, firmware-updates niet te laten liggen en IoT-apparatuur waar mogelijk op een apart netwerksegment te zetten.
Bron: BleepingComputer
Blijf op de hoogte
Meld je aan voor de nieuwsbrief: spoedalerts bij kritieke dreigingen en een wekelijks overzicht. Geen mail achterlaten? Volg ons dan via RSS.