La modération est l'une des clés pour gérer ta communauté, mais elle peut être chronophage. L’AI Moderation Assistant détecte et priorise automatiquement les contenus sensibles.
Comment y accéder ?
Pour utiliser l’AI Moderation Assistant, le canal de modération doit déjà être activé sur ta communauté et tu dois avoir la permission nécessaire pour y accéder.
Rends-toi dans ton canal de modération > AI Moderation Assistant (entre Tous les posts et Questions / Réponses).
Présentation de l’AI Moderation Assistant
L’AI Moderation Assistant analyse les posts, images et commentaires publiés sur la communauté, en mettant en avant les risques potentiels. Son objectif est d’aider les modérateurs à :
- Réduire le temps consacré aux tâches de modération quotidiennes en détectant et signalant plus rapidement les contenus sensibles
- Prioriser les contenus avec le niveau de risque le plus élevé
- Limiter l’exposition des utilisateurs à des contenus préjudiciables
- Éviter les escalades et les bad buzz potentiels
Cependant, il n'est pas possible de savoir quel élément (texte ou image) a déclenché une alerte de modération.
Comprendre son fonctionnement
Lorsqu’un post ou un commentaire est publié, l’AI Moderation Assistant analyse automatiquement son contenu, en prenant en compte :
- Le contenu texte d'une publication ou d'un commentaire comme le titre, la description et les champs texte personnalisés
- Les images associées au post
Pour chaque catégorie de modération, l’AI Moderation Assistant attribue un pourcentage de confiance.
Ce pourcentage indique la probabilité que le contenu appartienne à une catégorie sensible donnée.
Par exemple, un score de 92% pour un discours haineux signifie que l’IA estime qu’il existe une forte probabilité que le contenu contienne ce type de discours.
Si au moins une catégorie dépasse 80%, le post est marqué comme urgent.
Comment les posts sont-ils identifiés ?
Un post est identifié par l’AI Moderation Assistant lorsque au moins une catégorie de modération atteint un score de confiance de 40% ou plus. Dans ce cas, le post apparaît dans l’onglet AI Moderation Assistant et un rapport de modération AI est enregistré.
Cela signifie que si aucune catégorie n’atteint 40%, le post n’est pas considéré comme identifié par l'IA et aucun rapport IA n’est créé.
Lorsqu’un post est modifié, l’AI Moderation Assistant l’analyse à nouveau. Voici les règles appliquées :
- Si la nouvelle analyse n’est plus identifiée par l’IA, le rapport IA précédent est supprimé.
- Si la modification n’impacte pas les champs texte ou les images, aucune nouvelle analyse n’est déclenchée.
- Si une vidéo ou un fichier PDF est ajouté, aucune nouvelle analyse n'est déclenchée.
Examiner les contenus identifiés
Pour chaque contenu identifié, les modérateurs peuvent rapidement comprendre pourquoi il a été signalé.
L’onglet AI Moderation Assistant les liste tous, en affichant la catégorie sensible identifiée.
Dans cet onglet, les modérateurs peuvent :
- Filtrer par thématiques (catégories sensibles) et trier les contenus (par score de confiance IA le plus élevé, les plus récents ou les plus anciens)
- Voir chaque post identifié par l’AI Moderation Assistant, avec les informations suivantes :
- Les catégories sensibles identifiées
- Le nom d’utilisateur du membre
- Le canal dans lequel le contenu a été publié
- La date et l’heure de publication
- Le contenu identifié par l’AI Moderation Assistant
- Effectuer une action :
- Ignorer : ignorer le contenu identifié par l'IA et le retirer de l’onglet AI Moderation Assistant s’il n’est pas sensible après vérification.
- Supprimer : supprimer définitivement le post ou le commentaire de la communauté afin de garantir un espace sûr pour les membres.
FAQ
Non, l’AI Moderation Assistant ne prend aucune action de modération de lui-même. Il identifie les contenus potentiellement sensibles pour aider les modérateurs à prioriser leurs vérifications. Les décisions finales restent toujours manuelles.
Seuls les posts ayant au moins une catégorie de modération atteignant un score de confiance de 40% ou plus sont affichés. Les contenus en dessous de ce seuil sont considérés comme peu risqués et ne sont pas affichés.
Le post est réanalysé si la modification impacte le contenu texte ou les images. Si la nouvelle analyse n’est plus signalée, le rapport IA précédent est supprimé et le post disparaît de l’onglet AI Moderation Assistant.
Si le message ou le commentaire est identifié par l'IA mais ignoré, le membre ne recevra pas de notification. Si son message ou son commentaire est supprimé, il en sera informé.