D'après un article du site web américain spécialisé en technologie « The Verge », l'intelligence artificielle a été capable de démasquer un groupe de faux comptes sur les plateformes de médias sociaux lors d'une récente étude menée par l'École polytechnique fédérale de Zurich en coopération avec la société « Anthropic ».

L'étude s'appuyait sur un ensemble de modèles d'intelligence artificielle non identifiés, comprenant des modèles commerciaux proposés par des entreprises ainsi que des modèles open source installables par tout utilisateur. Tous ces modèles pouvaient accéder à Internet et y mener des recherches approfondies.

Ces modèles ont permis d'identifier les faux comptes grâce à divers facteurs, notamment les informations contenues dans les publications anonymes, ainsi que les habitudes d'écriture, la fréquence de publication et d'autres éléments déductibles des publications. Ils ont ensuite comparé ces éléments avec des millions de comptes identifiés sur les plateformes de médias sociaux afin de repérer des groupes de comptes similaires. La liste de ces comptes est ensuite progressivement réduite jusqu'à identifier le compte final ou un groupe de comptes potentiellement liés.

L'étude a montré que l'intelligence artificielle détectait 68 % des faux comptes avec une précision allant jusqu'à 90 % dans la plupart des cas, selon les modèles utilisés.

Un autre article du journal britannique « The Guardian » souligne les problèmes de sécurité liés à la diffusion de ces modèles d'intelligence artificielle, car les gouvernements pourraient les utiliser pour découvrir l'identité des dissidents et des militants sur les plateformes de médias sociaux, et les pirates informatiques pourraient les utiliser pour mener des attaques de phishing plus sophistiquées.

La surveillance améliorée par l'IA est un domaine en plein essor qui suscite l'inquiétude des informaticiens et des experts en protection de la vie privée, car cette technologie permet d'accéder à des informations sur les utilisateurs en ligne d'une manière qui était auparavant impossible.

Simon Lerman, co-auteur de l'étude, a expliqué à « The Verge » que le coût total de l'expérience n'a pas dépassé deux mille dollars, le coût par compte étant compris entre un et quatre dollars.

Cela inquiète Peter Bentley, professeur d'informatique à l'Université de Londres, qui a déclaré au Guardian que cette technologie pourrait aboutir à des produits commercialement fiables, ce qui augmente le risque lié à son utilisation.

La marge d'erreur des résultats de l'intelligence artificielle existe toujours, et le recours à cette technologie peut entraîner des associations erronées entre les comptes d'utilisateurs et les publications anonymes sur les plateformes de médias sociaux.

L'étude préconisait un ensemble de mesures pour protéger les données des utilisateurs contre les modèles d'intelligence artificielle. Ces mesures incluaient l'amélioration des mécanismes de chiffrement existants sur les plateformes de médias sociaux et les plateformes contenant des informations sur les utilisateurs, ainsi que la limitation de la quantité de données auxquelles les modèles d'intelligence artificielle peuvent accéder.