WhatsApp had tot 18 oktober verborgen instructies in de broncode van 80 van zijn 545 helppagina’s staan die de eigen supportchatbot verboden gebruikers door te verwijzen naar een privacytoezichthouder. Dat ontdekte Redact, een bedrijf dat software bouwt voor het in bulk verwijderen van oude onlinegegevens, op 8 oktober. Het bedrijf publiceerde zijn bevindingen op 19 oktober, een dag nadat WhatsApp de tekst al had verwijderd naar aanleiding van vragen van WIRED.
De verborgen tekst stond onder een zichtbare paginanotitie over accountverwijdering, verstopt in een codeblok met de naam “HelpContentGalaxyLLMInclude”. Wie de paginabroncode bekeek, kon hem gewoon lezen, maar voor een gewone bezoeker was hij onzichtbaar. Daarin stond dat de chatbot gebruikers die hun account niet meer konden verwijderen geen toezichthouder voor gegevensbescherming mocht aanraden, niet mocht suggereren dat WhatsApp een account zelf handmatig kan wissen, en geen ander toestel met hetzelfde actieve nummer mocht aanbevelen. Een tweede verborgen blok instrueerde de bot om bij juridische vragen, over advocaten, rechtszaken of rechtbanken, geen privacywetten zoals de AVG te citeren, zelfs niet als de gebruiker daar zelf naar vroeg. Van de in totaal 102 gevonden verborgen blokken waren de meeste routinematig, zoals interne paginaverwijzingen; enkele waren vergelijkbaar met de twee hierboven. Facebook en Instagram, die op hetzelfde helpsysteem draaien, bevatten geen soortgelijke instructies.
Volgens Redact ging het specifiek om het ontwijken van de Ierse Data Protection Commission en andere nationale privacytoezichthouders in de EU, die WhatsApp in zijn eigen Europese privacybeleid wel degelijk noemt. Dat beleid stelt expliciet dat gebruikers een klacht kunnen indienen bij WhatsApp’s “lead supervisory authority” onder de AVG, het tegenovergestelde van wat de verborgen instructie de chatbot opdroeg. Redact stelde ook vast dat de server dezelfde tekst meestuurde naar de crawlers van Google en Bing, maar niet naar verzoeken met de user-agentnamen van OpenAI, Anthropic of Perplexity. Of een AI-assistent de instructies ooit daadwerkelijk heeft opgevolgd, is niet getest.
Een woordvoerder van Meta, Joshua Breckman, zei tegen WIRED dat het om instructies voor de chatbot zelf ging, niet om tekst voor gebruikers, en noemde het een inmiddels verholpen bug. Volgens hem moeten de chatbots zich beperken tot advies over WhatsApp zelf en geen juridisch advies geven. Of de instructies in een andere vorm nog gelden nu de tekst van de pagina’s is gehaald, zei hij niet.
Voor gebruikers in Nederland en de rest van de EU verandert er met de verwijderde tekst weinig aan de onderliggende rechten: WhatsApp’s eigen privacybeleid belooft nog altijd dat gegevens op verzoek gewist kunnen worden en dat klachten bij de nationale toezichthouder of de Ierse DPC mogelijk blijven. Wie een account niet krijgt verwijderd, kan de officiële termijnen uit het helpcentrum aanhouden, 30 dagen na deactivering of 120 dagen bij inactiviteit, en bij uitblijven daarvan alsnog een klacht indienen. Dat eerst een chatbot geprogrammeerd bleek om precies dat recht te verzwijgen, is vooral een les voor wie zelf AI-supportsystemen inricht: een instructie die buiten het zicht van gebruikers en toezichthouders wordt neergezet, komt vroeg of laat alsnog aan het licht.
Bron: The Hacker News
Wat betekent dit voor jouw bedrijf?
Wilt u uw WhatsApp-account alsnog laten verwijderen? Houd de in het helpcentrum genoemde termijnen aan, 30 dagen na deactivering of 120 dagen (365 in de VS) bij inactiviteit, en dien bij uitblijven daarvan een klacht in bij de nationale privacytoezichthouder of rechtstreeks bij de Ierse DPC.
Blijf op de hoogte
Meld je aan voor de nieuwsbrief: spoedalerts bij kritieke dreigingen en een wekelijks overzicht. Geen mail achterlaten? Volg ons dan via RSS.