TikTok a annoncé le jeudi 9 mai, qu’il indiquerait automatiquement sur sa plateforme tout contenu généré par l’intelligence artificielle (IA). Cette annonce vise à prévenir la possible confusion ou tromperie des utilisateurs par les contenus IA. Selon le communiqué de l’entreprise, l’IA offre d’énormes possibilités créatives, mais peut aussi semer la confusion ou induire en erreur les utilisateurs s’ils ne sont pas conscients que le contenu est produit par IA.
Avec le développement d’interfaces IA génératives permettant la création de textes, d’images et de vidéos sur commande, l’authenticité du contenu est devenue une préoccupation majeure sur internet. Ce phénomène pourrait exacerber le problème des deepfakes, qui sont des images, des fichiers audio ou des vidéos représentant des situations qui ne se sont jamais produites en réalité.
Un étiquetage spécifique sera appliqué aux images générées par IA lorsqu’elles sont téléchargées à partir de certaines plateformes, a déclaré le réseau social, sans fournir plus de détails. Selon le Financial Times, cela inclura notamment le contenu réalisé avec l’outil Firefly d’Adobe et de Dall-E (OpenAI).
Adam Presser, responsable des opérations chez TikTok, a souligné l’importance de la transparence pour les utilisateurs dans une déclaration à l’Agence France-Presse (AFP). Dans le même sens, Dana Rao, responsable juridique d’Adobe, a déclaré à l’AFP qu’à une époque où le contenu numérique peut être manipulé, il est vital d’offrir aux utilisateurs des moyens de distinguer ce qui est vrai.
OpenAI, Adobe et Microsoft ont déjà implémenté un système de marquage automatique pour les contenus créés par l’IA. De son côté, Google a initié le déploiement d’un outil analogue en mars. Meta, un autre leader dans le secteur de l’IA générateur, a dévoilé début avril qu’il incorporera la mention « Made with AI » (« fabriqué avec l’intelligence artificielle ») aux contenus identifiés comme étant produits grâce à l’IA.
De plus, TikTok a annoncé son intégration à la Coalition pour la provenance et l’authenticité des contenus (C2PA), à laquelle Google, OpenAI, Adobe et Microsoft sont déjà membres. Le réseau social a aussi précisé qu’il adhérera à une autre organisation similaire, l’Initiative pour l’authenticité des contenus (CAI), dirigée par Adobe. TikTok a souligné qu’en septembre, elle a déjà initié la labellisation des contenus modifiés grâce à son outil d’IA propre, TikTok AI. Le groupe envisage en outre de publier des vidéos éducatives pour expliciter sa méthode.