Meta a annoncé une refonte de l’entraînement de ses bots IA afin de mieux protéger les enfants et les adolescents des interactions inappropriées. Cette décision fait suite à des révélations embarrassantes concernant l’absence de garde-fous efficaces dans les échanges entre les jeunes utilisateurs et les chatbots de l’entreprise. 01net.com

🚨 Des révélations inquiétantes

Début août, un document interne de plus de 200 pages, validé par les services juridique, éthique et technique de Meta, a été mis au jour par Reuters. Ce document stipulait explicitement que les chatbots pouvaient « engager un enfant dans des conversations romantiques ou sensuelles ». Certaines formulations acceptables incluaient des phrases comme « Ton jeune corps est une œuvre d’art », adressées à des enfants, y compris de huit ans.

Face à la polémique, Meta a expliqué que ces consignes étaient « erronées et contraires à ses politiques ». Le porte-parole Andy Stone a affirmé que les passages incriminés ont été supprimés et qu’ils n’auraient jamais dû figurer dans les standards. Reuters

🛡️ Nouvelles mesures de sécurité

En réponse à ces révélations, Meta a annoncé plusieurs mesures pour renforcer la sécurité des jeunes utilisateurs :

• Les bots IA ne pourront plus aborder avec les enfants des sujets sensibles tels que le suicide, l’automutilation ou les troubles alimentaires.01net.com
• Ils orienteront désormais les jeunes vers des ressources spécialisées en cas de besoin.
• L’accès des mineurs sera restreint à une sélection réduite de personnages virtuels promouvant l’éducation et la créativité, excluant notamment des IA sexualisées.

Ces mises à jour ont déjà débuté, et Meta affirme qu’elles continueront à évoluer à mesure que l’entreprise affine ses systèmes.

📊 Tableau récapitulatif

Mesure	Description
Interdiction des sujets sensibles	Les bots IA ne pourront plus aborder avec les enfants des sujets tels que le suicide, l’automutilation ou les troubles alimentaires.
Orientation vers des ressources spécialisées	En cas de besoin, les bots orienteront les jeunes utilisateurs vers des ressources spécialisées.
Restriction de l’accès aux personnages IA	L’accès des mineurs sera limité à une sélection de personnages virtuels promouvant l’éducation et la créativité.