L’ex-directeur de la sécurité de Twitter dénonce les failles d’un modèle vérolé

@CCO

BUSINESS CASE

L’ex-directeur de la sécurité de Twitter dénonce les failles d’un modèle vérolé

Par  Anne Catherine Husson Traore | Publié le 30/08/2022

Après l'affaire Cambridge Analytica qui a montré comment les données personnelles de FaceBook étaient utilisées pour déstabiliser les élections démocratiques, le scandale "Mudge", du nom de l'ancien directeur de sécurité de Twitter devenu lanceur d'alerte, déstabilisera-t-il le réseau social à l’oiseau bleu, déjà aux prises avec Elon Musk ? L’absence d’éthique des dirigeants d’entreprise dont le modèle économique repose sur la croissance exponentielle des utilisateurs sera-t-elle au cœur des prochains débats ? Les autorités fédérales enquêtent mais cette nouvelle affaire montre que les réseaux sociaux misent sur le volume de leurs utilisateurs en facilitant la diffusion massive de "Fake News" sans tenir compte des dommages collatéraux de leurs pratiques.

L’affaire a éclaté le 23 août par deux grands médias américains. Le Washington Post et CNN ont révélé qu’un rapport de 200 pages rédigé par un ancien employé de Twitter avait été transmis aux régulateurs américains et aux commissions parlementaires pour dénoncer les graves manquements à la sécurité du réseau social. La crédibilité des accusations du lanceur d’alerte est extrêmement forte puisqu’il s’agit de l’ancien directeur de la sécurité du réseau social, limogé en janvier 2022 : Peiter Zatko, surnommé "Mudge" par les experts de la sécurité informatique. 

Ses révélations sont sulfureuses non seulement parce que Twitter est déjà empêtré dans le vrai/faux rachat par Elon Musk, dont le procès doit avoir lieu à l’automne, mais aussi parce que les dirigeants de l’entreprise auraient caché à son conseil d’administration l’ampleur des problèmes susceptibles de dévaloriser l’entreprise. Les faux comptes qui permettent la diffusion massive de désinformation, sont l’argument utilisé par Elon Musk pour justifier le retrait de son offre d’achat sur Twitter. Ils sont bien un problème sérieux et grave de l’entreprise, confirme Peiter Zatko. 

La croissance du nombre d’utilisateurs pour seul objectif

Cet ancien directeur de la sécurité informatique, référence dans ce domaine depuis 30 ans, est l’un des pères fondateurs du "hacking éthique". Il s’est placé sous le régime des lanceurs d’alerte pour dénoncer la pauvreté des moyens mobilisés pour lutter contre la fraude aux faux comptes, les spams et la désinformation. Il affirme que les dirigeants sont financièrement intéressés à un seul objectif : la croissance du nombre d’utilisateurs. Il les accuse d’avoir menti en prétendant avoir mis en place des procédures alors que, selon lui, il n’existait que "des programmes informatiques simples, dépassés, sans supervision, associés à des équipes humaines surchargées, inefficaces et trop peu nombreuses".

L’avocat de "Mudge", John Tye qui dirige l’ONG Whistleblower Aid dont le slogan est "Dénoncer les manquements à la loi des entreprises en respectant la loi", a été interviewé par Le Monde. Il souligne les risques pris par Peter Zatko. "C’est quelqu’un de particulièrement courageux. Ces dix dernières années, la plupart des lanceurs et lanceuses d’alerte étaient célibataires, sans enfants, sans crédit… Une fois que vous avez une famille et une carrière, c’est très difficile de se dresser contre les structures de pouvoir. Peter Zatko a deux jeunes enfants et il s’inquiète bien sûr pour sa carrière, sa sécurité financière… Mais je suis convaincu que notre modèle de révélations par le biais des canaux légaux fonctionne et permet aux personnes témoins de graves violations de la loi d’agir plus facilement en transmettant aux régulateurs et aux forces de l’ordre les documents en leur possession", explique-t-il. L’association bataille pour que les plateformes tentaculaires retrouvent des pratiques éthiques et mettent fin à leurs préoccupantes dérives.

Affaires en série dans les Big Tech

L’affaire "Mudge" qui commence à peine, va avoir un relai médiatique important dans le cadre du procès qui oppose Elon Musk à Twitter à l’automne. Elle ajoute un nom sur la liste des repentis de "Big Tech" qui ont constaté, puis dénoncé l’absence d’éthique quasi institutionnalisée qui peut y régner. Peter Zatko est en compagnie de Mark MacGann, l’ex-lobbyiste d’Uber qui a révélé au monde entier en juillet dernier comment l’entreprise faisait pression sur les régulateurs. Il rejoint aussi Frances Haugen qui a confié la SEC et aux autorités compétentes des documents prouvant que, pour préserver ses profits, Facebook (devenu Meta) ignorait sciemment les contenus toxiques sur Instagram pour les adolescents, la désinformation massive qui mine les démocraties et facilite le climato-scepticisme.  

Sur cette liste, on trouve aussi une autre lanceuse d’alerte moins connue mais tout aussi importante : Timnit Gebru. Cette experte en intelligence artificielle a dénoncé les pratiques de Google dont elle dirigeait l’équipe éthique. Elle a été débarquée en décembre 2020 après voir publié un article de recherche soulignant les risques que présentent les langages d’intelligence artificielle les plus utilisés parce qu’ils intègrent des biais qui ne sont pas détectés, qui laissent peu de place aux enjeux environnementaux et favorisent un modèle dominant, plutôt mâle et blanc. Si Google conteste les affirmations de Timnit Gebru, l’entreprise a été attaquée par plus de 15 000 femmes qui y ont travaillé pour pratiques sexistes. Leur plainte a pris fin en juin dernier par une transaction de 118 millions de dollars, mais l’entreprise a accepté de faire analyser par des experts externes ses pratiques de recrutement et de rémunération. Un début d’un changement d’ère que la multiplication des instructions en cours auprès des régulateurs pourrait accélérer.■


Popup de la lettre d'information! Le snippet pop up de la lettre d'information est effectif sur cette page. Cliquez C'est ici pour éditer le contenu du dialogue