Modèle économique des réseaux sociaux

Attention

Ce chapitre est en cours d'écriture. Il est donc déconseillé de le lire. Il sera probablement sujet à des changements.

Algo de recomendation de contenu et design (ex les pubs sur instagram ressemblent et sont mixées avec le contenu), model economique

Attention

Ce chapitre comporte de nombreux points d'incertitude, les hypothèses qui sont développées ici sont difficiles à vérifier, parce que la plupart des réseaux sociaux commerciaux ont une politique peu transparente quant à leur fonctionnement exact.

Ce chapitre ne traite que des réseaux sociaux commerciaux dans leur ensemble. Il se peut donc que certains réseaux ne correspondent pas à cette description.

Une histoire d'argent

Les plus grands réseaux sociaux en terme de nombre d'utilisateurs sont gérés par des entreprises dans le but de faire du profit. Ce sont ceux que l'on utilise au quotidien.

Maintenir les infrastructures matérielles et logicielles pour assurer le fonctionnement d'un service concernant des milliers d'utilisateurs demande beaucoup de main d'oeuvre et de ressources financières.

Que les grands réseaux sociaux soient en majorité gérés par des entreprises à la recherche de profit n'est donc pas étonnant, et pas forcément un problème. Toutefois, il convient de rester vigilant, parce que cette recherche de profit peut rentrer en conflit avec les intérêts des utilisateurs, entre autres en terme de santé, et donc créer des dérives.

Ces dérives sont d'autant plus problématiques au vu du manque de transparence des réseaux sociaux, qui les rends extrêmement difficiles à détecter et à évaluer.

L'utilisateur, un produit ?

Les réseaux sociaux proposent pour la plupart une expérience entièrement gratuite à l'utilisateur, et trouvent leur financement auprès d'un autre acteur, comme par exemple des entreprises qui veulent diffuser de la publicité.

D'une certaine manière, l'utilisateur lambda (comme vous et moi) est un produit, qui est vendu à des clients : les publicitaires.

Les réseaux sociaux cherchent donc à :

Bien connaître chaque utilisateur pour mieux cibler les publicités
Garder les utilisateurs le plus possible sur la plateforme pour montrer plus de publicités
Rendre l'utilisateur disposé à regarder des publicités, a minima quand celle-ci sont présentées à lui.

Une expérience plaisante ?

Pour garder l'utilisateur sur la plateforme, les réseaux sociaux sont indirectement encouragés à proposer une expérience agréable à l'utilisateur, sans quoi celui-ci s'en va. Mais, si ils arrivent à garder l'attention des utilisateurs en proposant une expérience peu agréable, voir néfaste, rien ne garantis qu'ils choisissent le bien-être et le plaisir de l'utilisateur.

Tournons-nous du côté du monde du jeu vidéo, et observons un brevet déposé par Activision¹.

Le brevet parle d'une méthode pour inciter les joueurs à faire des achats d'éléments virtuels pièce à pièce dans un jeu en ligne, appelés microtransactions.

For instance, the system may match a more expert/marquee player with a junior player to encourage the junior player to make game-related purchases of items possessed/used by the marquee player. A junior player may wish to emulate the marquee player by obtaining weapons or other items used by the marquee player.

Traduit en français, ça donne quelque chose comme :

Par exemple, le système peut matcher un joueur plus expérimenté ou "star" avec un joueur débutant pour encourager le joueur débutant à acheter en jeu des items possédés ou utilisés par le joueur "star". Un joueur débutant pourrait vouloir égaler le joueur "star" en obtenant une arme ou d'autres objets utilisés par le joueur "star".

Le terme matcher renvoit au matchmaking, qui désigne dans un jeu vidéo en ligne le fait de sélectionner, pour une partie de jeu, des joueurs en fonctions de critères. En général, un système de matchmaking essaie de créer des parties équilibrées, c'est à dire où les joueurs ont un niveau (habileté, progression, ...) relativement similaire.

Dans le brevet, l'objectif système de matchmaking est différent : il vise à inciter un joueur débutant à faire des achats.

Problème d'IA

TODO on controle pas toujours ce qui se passe

Une autre possibilité de dérive se trouve dans le recours à l'intelligence artificielle.

Les recommendations de contenu sur les réseaux sociaux passent parfois, en partie, par des algorithmes issus de l'apprentissage automatique.

Principe général de l'apprentissage automatique

Attention, grosses simplifications ici !

On crée un "cerveau" artificiel, appelé réseau de neurones (neural network en anglais), qui est structuré sur la base du cerveau humain
On lui soumet une données, et on lui demande de prendre des décisions. Par exemple, "voici une photo, est-ce un chat ?".
En fonction de sa réponse, on renvoie au réseau de neurone un retour positif ou négatif : une évaluation. Il modifie alors sa structure de manière à intégrer la donnée qu'on lui a soumis, il apprends de ses succès et de ses erreurs.
On répète l'opération un très grand nombre de fois, jusqu'à qu'il ait suffisamment de bonne réponses.
Si on a suffisamment de données, on peut arriver à créer des réseaux de neurones capables de prendre des décision très précises, qui dépassent même les capacités humaines dans de nombreux domaines.

Le problème de l'apprentissage automatique, c'est qu'il est généralement très difficile, voir impossible, de savoir exactement comment le réseau de neurone prends ses décisions. L'IA va donc simplement chercher à prendre la meilleure décision selon les critères qu'on lui donne à travers l'évaluation.

Par exemple, si on évalue les décisions uniquement le temps passé par un utilisateur sur la plateforme, alors rien ne nous garantis que l'IA ne va pas utiliser "sans le savoir" des méthodes peu éthiques pour proposer à l'utilisateur un contenu qui lui fait passer du temps sur la plateforme.

Ca peut par exemple être de proposer à un utilisateur uniquement des publications alignées avec ses idéologies politiques, ce qui peut conduire à un "enfermement algorithmique", et renforcer l'utilisateur dans ses convictions plutôt que de lui donner des point de vue diversifiés.

Plus problématique encore, on peut imaginer une IA reconnaître une tendance à l'addiction chez un utilisateur, et exploiter cette tendance pour le maintenir sur la plateforme.

Il est donc crucial de contrôler minutieusement les décisions prises par une IA. La santé et la culture des utilisateurs peut rentrer en conflit avec la recherche de profit dans ce cas. Directement, parce que le profit maximal est contraire à la santé (il vise à exploiter autant que possible les "failles" des utilisateurs pour maximiser l'impact des annonces). Indirectement, parce que la course à la meilleure IA de recommendation de contenu etc peut conduire à réduire les précautions dans la création de ces IA.

https://patents.google.com/patent/US20160005270A1/en ↩