Het Open Worldwide Application Security Project (OWASP) heeft een nieuwe top 10 gepubliceerd met beveiligingsrisico’s die specifiek zijn toegesneden op de huidige generatie AI-toepassingen. Naast de lijst zelf introduceert de organisatie een Universal Skill Format: een gestandaardiseerde manier om de zogeheten “skills” of add-ons die AI-modellen extra mogelijkheden geven, consistenter en veiliger te maken.
Dat soort add-ons — kleine stukjes functionaliteit die een AI-model extra vaardigheden geven, zoals toegang tot bestanden, code-uitvoering of externe API’s — zijn de afgelopen tijd een steeds groter deel gaan uitmaken van hoe AI-systemen in de praktijk worden ingezet. Tegelijk ontbrak het aan een gedeelde standaard om te beoordelen hoe veilig zo’n skill eigenlijk is, en dat gat probeert OWASP met het Universal Skill Format te dichten.
Voor beveiligingsteams die binnen hun organisatie AI-modellen met add-ons of skills laten draaien, is dit een welkom aanknopingspunt: waar veel bedrijven tot nu toe op eigen inzicht moesten bepalen wat een acceptabel risico is bij het toestaan van zo’n uitbreiding, biedt de OWASP-lijst een herkenbaar toetsingskader, vergelijkbaar met hoe de bekende OWASP Top 10 voor webapplicaties al jaren als ijkpunt dient.
Bron: Dark Reading
Blijf op de hoogte
Volg CybersecurityNieuws.nl via RSS en mis geen enkel beveiligingsnieuws. Zelf iets gezien dat wij moeten weten? Tip de redactie.