TikTok au Sénat: quand l’algorithme nous cerne en une heure
TikTok. Depuis le lundi 13 mars, la commission d’enquête au Sénat concernant TikTok a débuté. L’objectif est de comprendre comment l’application fonctionne, où vont ses données et quelle est la stratégie d’influence la concernant. Pour mener à bien ce travail, un Bureau a été constitué d’une douzaine de sénateurs. Mickaël Vallet, sénateur socialiste de Charente-Maritime, dirige les discussions. Il est accompagné de Claude Malhuret, sénateur de l’Allier, en tant que rapporteur. Ils sont entourés d’une dizaine de vice-présidentes et de vice-présidents lors des échanges avec les spécialistes.
« L’actualité aux États-Unis, au Canada, et en Europe, confortent notre initiative au Sénat. Nous ne sommes pas en mesure d’affirmer que TikTok n’est pas un instrument potentiel de désinformation ou de manipulation au profit de régimes non démocratiques, ni que son utilisation est sûre au regard de la nécessaire protection des données. La commission d’enquête permettra de faire toute la lumière sur ces questions et fera des recommandations », indique Claude Malhuret sur le site du Sénat.
Les auditions de la commission d’enquête sont diffusées en direct et sont disponibles en replay sur YouTube. Nous avons pris le temps de les regarder en intégralité pour vous faire un résumé de ce qu’il s’est dit. Le premier a avoir été interrogé par les sénateurs est Marc Faddoul, chercheur en intelligence artificielle et directeur de Al Forensics. Son entretien date du 13 mars.
Comment fonctionne l’algorithme de TikTok?
Marc Faddoul est principalement venu parler de l’algorithme de TikTok. Il a cependant dès le début fait quelques nuances, en précisant que celui de l’application de ByteDance, comme tous les autres, reste « opaque ». La plateforme chinoise se distingue par plusieurs détails. Le premier est qu’il n’est possible que de consommer un contenu à la fois. « Le design de l’expérience utilisateur est entièrement centré sur l’algorithme de recommandation, avec une vidéo à la fois. […] Si on pense au premier fil Facebook par exemple, qui était le premier endroit où l’on avait un fil de recommandation algorithmique, ce qui va définir ce qui est consommé par les consommateurs à une grande échelle, on avait, sur un écran d’ordinateur, 5 ou 6 posts visibles à n’importe quel moment, ce qui donnait tout de même, une certaine liberté de choix pour l’utilisateur », explique Marc Faddoul. Avec TikTok, l’utilisateur est totalement dépendant de ce que lui est soumis. Il a la possibilité de passer la vidéo présentée si celle-ci ne lui plaît pas.
Cette particularité fait en réalité tout le succès de l’algorithme. Il a une rapidité à identifier ce que l’utilisateur apprécie, alors qu’il faut beaucoup plus de temps à Meta ou encore à YouTube pour en tirer les mêmes conclusions. Avoir une vidéo à la fois sur TikTok « a deux conséquences. Celle de diminuer la charge cognitive pour l’utilisateur. C’est-à-dire que d’un coup, on n’a plus besoin de se demander ce que l’on va regarder. On a juste à swiper. On a sans doute une inspiration de Tinder où c’est vraiment j’aime/j’aime pas, mais on ne réfléchit pas trop et ça va très vite », clarifie le chercheur avant de poursuivre.
« L’autre conséquence est que ça va permettre à l’algorithme d’avoir une quantité de données d’entraînement qui va être bien supérieure aux autres plateformes et d’une qualité aussi bien supérieure, car pour chacune de ces vidéos qui vont être évaluées par l’utilisateur toutes les 5 ou 10 secondes en la regardant en entier, ou en passant à la suivante, on va avoir un point de données d’entraînement pour savoir si la vidéo en question correspond à son intérêt ou pas. Là où en une heure de visionnage de vidéos sur YouTube, on va regarder, peut-être, une dizaine de vidéos, donc fournir une dizaine de points d’entraînement à la plateforme. Sur TikTok, en une heure, on va donner plusieurs centaines, voire un millier de points de données d’entraînement qui vont ensuite permettre de déterminer les intérêt niche de l’utilisateur », poursuit le chercheur. Sur plusieurs heures, « l’algorithme est capable de créer un profil d’intérêt et presque un profil psychologique de l’utilisateur extrêmement fin et précis », rajoute-t-il.
Le contenu des créateurs, la géolocalisation et la modération sur TikTok expliqués au Sénat
Marc Faddoul ne s’est pas arrêté à ces détails techniques. Le chercheur a également analysé le rapport des contenus diffusés par nos connaissances par des personnes que l’on ne connaît pas. Encore une fois, TikTok se différencie ici largement de ses concurrents. « Sur TikTok, on va essentiellement voir des contenus de créateurs que l’on ne connaît pas, qui vont être suggérés par rapport à l’interaction que l’on a eu avec la plateforme », explique-t-il simplement. La soumission de ces contenus va aider l’algorithme à mieux cerner les vidéos mises en avant par la suite.
Un autre détail a toute son importance: la localisation de l’utilisateur. « L’algorithme est extrêmement sensible à la géolocalisation de l’utilisateur à deux niveaux. Il y a la géolocalisation vraiment GPS qui va sortir du contenu très local. En fonction de l’État où l’on est aux États-Unis, on ne va pas voir le même contenu, ou de la région en France. Il y a aussi la nationalité qui intervient et c’est une question qui est très difficile à définir, car la nationalité sur Internet ne fait pas directement sens », détaille le chercheur.
Enfin, selon Marc Faddoul, aujourd’hui nous nous soucions principalement des outils de modération mis en place par les réseaux sociaux. Ce sont davantage les algorithmes auxquels il faut prêter une attention particulière. « Le rôle de la modération est minimal en comparaison au rôle joué par les algorithmes de recommandation. La réelle question n’est pas de savoir quel post ou quelle vidéo va être supprimée, mais de savoir quel post ou quel vidéo va être promue a des millions d’utilisateurs », dit-il dès le début de sa présentation.
En conclusion, Marc Faddoul précise que l’algorithme développé par un homme est difficilement prévisible par son créateur. Ici, la puissance de TikTok est le fait que celui imaginé en interne évolue très rapidement pour cerner au mieux les attentions des utilisateurs. « TikTok est une boîte jeune et d’après les rapports que j’en ai de l’intérieur, elle reste débordée par sa propre croissance et ses réticences à investir suffisamment dans la modération et la sécurité de ses utilisateurs. »
