Un thème de longue date de divers gouvernements britanniques est que les géants de la technologie doivent faire plus pour lutter contre l'extrémisme sur leurs plateformes. Les géants de la technologie, pour la plupart, ont haussé les épaules, en sachant que pendant qu'ils pourrait filtrer efficacement le contenu dans les pays où des lois strictes étaient déjà en place, leur penchant général pour les directeurs d'Internet gratuits signifiait qu'ils pourrait confortablement dévisager le gouvernement s'il menaçait d'interdire ou d'amendes.
Il semble donc que plutôt que de passer par la même vieille chanson et la même danse de menaces vides suivies d'inaction (Cameron parlait dur sur WhatsApp il y a plus de trois ans), le gouvernement a pris l'initiative et a trouvé sa propre solution: un outil de blocage de l'extrémisme qui serait capable de détecter 94 % de l'activité en ligne de l'État islamique (ISIS) avec une précision de 99,995 %.
L'outil, développé par l'ASI Data Science de Londres, a été formé à l'aide de milliers d'heures de données publiées par ISIS, avec l'aide de 600 000 £ de financement gouvernemental. Si l'outil a des doutes sur quelque chose, le message est signalé pour que les modérateurs humains le vérifient.
LIRE SUIVANT: Les députés dénoncent les médias sociaux comme "la pierre angulaire de Daech"
Bien que principalement destiné aux petites entreprises sans leurs propres solutions au problème, le gouvernement n'a pas exclu l'adoption d'une loi pour forcer les entreprises à utiliser le logiciel. "Nous n'excluons pas de prendre des mesures législatives si nous devons le faire", a déclaré le ministre de l'Intérieur Amber Rudd a déclaré au Bbc. "Mais je reste convaincu que la meilleure façon de prendre des mesures concrètes, d'avoir les meilleurs résultats, est d'avoir un forum dirigé par l'industrie comme celui que nous avons."
C'est le Forum mondial de l'Internet pour contrer le terrorisme, qui regroupe plusieurs gouvernements, aux côtés de Facebook, Google et Twitter.
Problèmes possibles
Un taux de réussite de 99,995 % pourrait changer la donne dans la lutte contre le terrorisme, mais le mot clé ici est « pourrait ». Cette solution - en supposant qu'elle fonctionne aussi bien dans la nature que dans la lab, et que les terroristes ne se contentent pas de trouver des moyens de le contourner - vise à lutter contre la radicalisation et la propagande en ligne, mais ne fait rien pour traiter la question considérablement plus épineuse de chiffrement.
Voir liés
En d'autres termes, si les gens se radicalisent hors ligne, il existe encore de nombreux canaux privés en ligne pour que les terroristes potentiels complotent, loin des contrôles de l'IA - et il n'y a pas vraiment de solution simple pour ce, peu importe à quel point les ministres mal informés pourraient souhaiter qu'il y ait. Et cela ne tient même pas compte du potentiel des algorithmes de boîte noire non vérifiés pour signaler les faux positifs, sans aucune intervention humaine.
Pourtant, une action proactive contre le terrorisme est sans aucun doute une étape positive - et il est positif de voir des gouvernements prendre l'initiative là où la Silicon Valley a été quelque peu prudente dans le passé. Bien que YouTube, par exemple, ait été très efficace pour éliminer la pornographie téléchargée sur le système, le contenu extrémiste a été autorisé à glisser à travers le net pendant des années - et vous ne pouvez pas vous empêcher de penser que les lourdes sanctions infligées aux premiers ont peut-être contribué à façonner la pensée de l'entreprise dans le Premiers jours.
Cela peut sembler un peu lourd, mais à ce stade, tout ce qui pousse les géants de la technologie à faire passer leurs responsabilités sociales plus haut dans l'agenda doit être accueilli avec prudence.
Image: Pierre utilisé sous Creative Common
