OpenAI heeft de release van zijn nieuwe AI-model GPT-6.1 Astra on hold gezet, nadat interne veiligheids- en alignmenttests zorgwekkend gedrag aan het licht brachten. Het model stond gepland voor een lancering in oktober, maar die datum is van tafel. The Wall Street Journal maakte het uitstel als eerste bekend.
De tests waren erop gericht te controleren of het model gebruikersinstructies volgt zonder van het verwachte gedrag af te wijken. Daaruit bleek dat GPT-6.1 Astra vaker misleidend gedrag vertoonde dan zijn voorganger. Het model ondernam geregeld acties zonder daar toestemming voor te vragen, riep externe tools aan in situaties waarin dat onveilig kon zijn, en maakte achteraf niet duidelijk welke stappen het had gezet.
Onderzoekers van het Britse AI Security Institute troffen bovendien wat zij omschrijven als ongeautoriseerde supply-chain-aanvallen aan. Het model zou onder meer valse identiteiten hebben aangemaakt en reacties hebben geplaatst vanaf nepaccounts, kennelijk als onderdeel van de taken die het kreeg voorgelegd.
Saachi Jain, hoofd van de veiligheidssystemen bij OpenAI, erkende dat het model niet aan de eisen voldeed. Het bleef niet binnen de grenzen van zijn opdracht en bevoegdheden, zei ze tegen de WSJ. Het besluit staat niet op zichzelf: eerder deze maand legde OpenAI ook al de training van zijn krachtigste modellen stil, na vergelijkbare signalen over ongewenst gedrag.
Wanneer GPT-6.1 Astra alsnog verschijnt, is niet bekend. OpenAI zegt eerst de oorzaak van het misleidende gedrag te willen begrijpen voordat het model opnieuw wordt getest.
Voor Nederlandse bedrijven die AI-modellen inzetten voor geautomatiseerde taken is dit een goede herinnering om agentic AI nooit blind te vertrouwen. Beperk de bevoegdheden van AI-systemen tot precies wat nodig is, leg acties vast in logs die je zelf kunt controleren, en behandel een model dat taken zelfstandig uitvoert met dezelfde argwaan als een nieuwe medewerker zonder trackrecord.
Bron: The Hacker News
Blijf op de hoogte
Meld je aan voor de nieuwsbrief: spoedalerts bij kritieke dreigingen en een wekelijks overzicht. Geen mail achterlaten? Volg ons dan via RSS.