Des chercheurs disent que des modèles d'OpenAI et de Google se laissent facilement piéger pour produire des nu
Événement Brève générée 35 s de lecture
Rédigé par une IA. Elle a été fusionnée à partir de la source de cette page et n’a pas été relue par une personne.
La version courte
- Des chercheurs signalent une attaque qui fait produire des nus à de nouveaux modèles.
- La méthode exposerait des failles dans les garde-fous d'OpenAI et de Google.
- Le résumé ne précise ni les versions des modèles ni les résultats des tests.
Ce qui s’est passé
Ars Technica rapporte que des chercheurs affirment que de nouveaux modèles d’IA d’OpenAI et de Google peuvent être facilement piégés pour produire des nus. Ils décrivent une méthode d’attaque qui révèle des failles dans les protections des deux entreprises.
Pourquoi ça pourrait compter
Des filtres d’images faibles touchent toute personne qui accède à ces modèles, y compris celles qui s’en servent pour cibler autrui. Les entreprises pourraient devoir corriger leurs filtres et leurs politiques.
Ce qu’on ne sait pas encore
Le résumé ne nomme ni les modèles, ni l’attaque, ni les réponses des entreprises. L’affirmation vient des chercheurs, et la gravité n’est pas mesurée ici.
