Microsoft Azure AI Content Safety introduceert geavanceerde methoden voor het detecteren van schadelijke inhoud

Vandaag heeft Microsoft belangrijke aankondigingen gedaan met betrekking tot generatieve AI-veiligheidsfuncties. Een van deze is een nieuwe tool binnen het Azure AI Content Safety -framework, gericht op het detecteren en corrigeren van door AI gegenereerde hallucinerende content. Daarnaast heeft Microsoft onthuld dat zijn Azure OpenAI Service onzichtbare watermerken zal gaan implementeren in afbeeldingen die zijn gegenereerd via het DALL-E 3-model.

Bovendien blijft Microsoft zich richten op AI-veiligheid met de openbare preview van zijn innovatieve Multimodal API binnen de Azure AI Content Safety-service. Deze API is ontworpen om schadelijke of ongepaste content te identificeren, ongeacht of deze afkomstig is van menselijke makers of AI-tools.

Volgens een blogpost van Microsoft:

De multimodale API ondersteunt zowel tekst- als afbeeldingsinvoer. Het is ontworpen voor multi-class en multi-severity detectie, waardoor het content kan classificeren in verschillende categorieën en een ernstscore aan elk kan toewijzen. Voor elke categorie biedt het systeem een ​​ernstniveau variërend van 0, 2, 4 tot 6. Een hoger getal betekent een grotere ernst van de content.

Deze onlangs gelanceerde Multimodal API kan schadelijke content in zowel tekst als afbeeldingen identificeren, inclusief emoji’s, die mogelijk onveilige of ongepaste onderwerpen bevatten. Dit omvat expliciete content, haatdragende taal, geweld, zelfbeschadiging en seksuele content. Microsoft benadrukt dat de API dergelijke content kan detecteren, zelfs wanneer deze voorkomt in een combinatie van tekst en afbeeldingen, die anders onschadelijk zouden kunnen zijn wanneer ze afzonderlijk worden geanalyseerd.

Microsoft benadrukte in zijn verklaring:

Door deze doelen te bereiken, bevordert de multimodale detectiefunctie een veiligere en respectvollere gebruikerservaring, waardoor creatieve en toch verantwoorde contentgeneratie mogelijk wordt.

Microsoft gaf bovendien aan dat de nieuwe Multimodal API snel schadelijke inhoud kan detecteren, zodat deze niet wordt verspreid naar gebruikers van verschillende applicaties of services.

Bron