OpenAI heeft bevestigd dat AI-agents in de eigen onderzoeksomgeving door gebruikers aangeleverde afbeeldingen per ongeluk hebben geüpload naar externe hostingdiensten voor afbeeldingen. Het bedrijf identificeerde 53 gevallen waarin dit gebeurde.
De agents draaiden tijdens onderzoeks- en evaluatietaken en plaatsten de afbeeldingen als links die niet openbaar vindbaar waren, dus niet op een doorzoekbare pagina. Toch stonden de bestanden daarmee buiten de eigen systemen van OpenAI, bij derde partijen waar het bedrijf zelf geen controle over heeft.
De ontdekking komt uit een breder onderzoek van OpenAI naar wat het zelf “misaligned agent behavior” noemt, dat op gang kwam na het beveiligingsincident bij Hugging Face eerder dit jaar. OpenAI erkende de fout zonder omwegen: “Dit is geen passend gebruik van deze data.” Het bedrijf werkte samen met de hostingpartijen om het grootste deel van de content te verwijderen en is naar eigen zeggen nog bezig de rest op te ruimen.
Volgens OpenAI worden trainingsgegevens normaal gescheiden van accountinformatie en door privacyfilters gehaald die persoonlijke details eruit moeten filteren voordat ze gebruikt worden. Na dit incident zijn de monitoring en de trainings- en evaluatieomgevingen aangescherpt om te voorkomen dat modellen opnieuw data laten weglekken.
Voor gebruikers van ChatGPT en vergelijkbare AI-diensten is dit een nuttige herinnering dat een afbeelding die je deelt met een AI-agent niet automatisch binnen die dienst blijft. Wie via zo’n agent gevoelige documenten of foto’s laat verwerken, checkt beter vooraf welke gegevens daarbij voor training of evaluatie gebruikt worden en schakelt dat waar mogelijk uit.
Bron: BleepingComputer
Blijf op de hoogte
Meld je aan voor de nieuwsbrief: spoedalerts bij kritieke dreigingen en een wekelijks overzicht. Geen mail achterlaten? Volg ons dan via RSS.