Selon un enquête de l’agence de presse Reuter, Meta a autorisé ses robots conversationnels à flirter avec des enfants, ainsi qu’à tenir des propos racistes. Le réseau social a reconnu les faits, mais a affirmé que cette fonctionnalité avait été supprimée.
Meta Platforms, la maison mère de Facebook, WhatsApp et Instagram, a explicitement autorisé Meta AI et ses autres robots conversationnels (chatbots) à avoir des conversations «sensuelles» avec des enfants. C’est ce que rapporte l’agence de presse Reuters, qui a consulté un document de politique interne de Meta et enquêté sur le sujet.
Ce document de Meta, de plus de 200 pages, décrit les règles de comportement des chatbots. Ces normes ne reflètent pas nécessairement les résultats «idéaux, ni même préférables» de l’IA générative, indique le document. Mais elles ont permis des comportements provocateurs de la part des robots, a constaté Reuters. Qui a découvert que ces robots dotés d’intelligence artificielle étaient autorisés à «avoir des conversations romantiques ou sensuelles avec un enfant», à générer des informations médicales inexactes et à aider les utilisateurs à argumenter que les Noirs sont «plus stupides que les Blancs». Les directives imposent toutefois une limite aux propos sexy: «Il est inacceptable de décrire un enfant de moins de 13 ans en des termes qui indiquent qu’il est sexuellement désirable».
Meta a confirmé l’authenticité du document. Cependant, après avoir reçu des questions de l’agence de presse plus tôt ce mois-ci, le géant des réseaux sociaux a déclaré avoir depuis supprimé les passages concernant le flirt avec des enfants. L’entreprise examine en détail le document, a ajouté un porte-parole, et de telles conversations avec des enfants n’auraient jamais dû être autorisées, a-t-il reconnu.