Les utilisateurs turcs de Facebook n’en ont pas cru leurs yeux la semaine passée. En effet, nombre d’entre eux ont vu apparaître le message « Votre message n’a pas pu être envoyé parce que vous avez un petit pénis » sur leur écran. Certains en ont ri, tandis que d’autres n’étaient « pas amusés ».

Que s’est-il passé ? Une série de mots et de phrases sont régulièrement modifiés sur Facebook, comme « Like » et « Your message could not be sent because the user is offline ». Ces phrases sont traduites dans un grand nombre de langues. Les utilisateurs d’un pays spécifique peuvent effectuer des suggestions pour obtenir la meilleure traduction via le service Facebook Translate. Si une proposition reçoit suffisamment de voix, Facebook Translate l’affiche. Ainsi, la traduction de « Like » a été modifiée par le mot turc pour « Fuck ».

Un message sur le forum de discussion turc « Inci Sözlük » décrit le plan pour contourner le programme de traduction de Facebook : en utilisant un processus automatisé d’externalisation ouverte (« crowdsourcing »), de nombreuses suggestions pour de « meilleures » traductions ont été faites en une seule fois. Facebook Translate a repris ces suggestions sans hésiter. Depuis lors, Facebook a retiré les fausses traductions et le programme de traduction a été mis hors service pour de nombreuses langues.

Rik Ferguson, Senior Security Advisor chez Trend Micro, déclare : « Nous voyons ici un système de crowdsourcing totalement automatisé, sans filtre et sans intervention humaine. Il s’agissait d’une blague fort amusante, et c’est une chance que ce soient des farceurs et non des criminels qui aient découvert cette faille dans Facebook Translate. Les cybercriminels auraient très bien pu remplacer les mots par des liens pointant vers des sites web contaminés. Une fois de plus, c’est la preuve que le contenu généré par les utilisateurs doit être vérifié en interne avant d’être publié. »