/misc
Navigation

À tout moment, Facebook fait quelque 10 expériences sur vous

Gens vivant sous Facebook

Coup d'oeil sur cet article

Les activités informatisées d’ingénierie sociale – modification de nos comportements – deviennent si courantes et puissantes qu’il faut les rendre transparentes.

Plusieurs d’entre vous se souviennent surement des manchettes à l’effet que « Facebook a manipulé en secret les émotions de 700 000 utilisateurs pour étudier “la contagion émotionnelle” dans le cadre d’une étude. » J’en avais traité moi-même pour rectifier les faits et les mettre en perspective.

Cette nouvelle avait éclaté le samedi 28 juin 2014. Or la veille même, une équipe de l’émission Radiolab de la National Public Radio se trouvait chez Facebook, y apprenant que la réalité était encore plus choquante. Cette découverte est racontée dans l’épisode intitulé « The Trust Engineers » (les ingénieurs de confiance).

Le vendredi 27 juin donc, RadioLab assistait à une réunion organisée par l’Équipe d’ingénierie de confiance de Facebook au siège social de Menlo Park en Californie. Cette équipe tient tous les vendredis une réunion pour discuter des résultats de diverses expériences récemment effectuées. On y invite aussi des chercheurs de l’extérieur de l’entreprise.

Les chercheurs universitaires étaient estomaqués par la dimension des groupes sur lesquels Facebook réalisait ses expériences : entre 100 000 et plusieurs millions de personnes. Alors qu’en université, on dispose souvent à peine des moyens d’expérimenter avec aussi peu qu’une vingtaine de volontaires.

Avec 1,3 milliard d’usagers dont on peut observer les comportements en temps réel, Facebook apparaissait soudain aux chercheurs présents comme une sorte d’Eldorado de la recherche sociale. Dorénavant, c’est de plus en plus en ligne que des recherches sociales seraient réalisées.

De l’étonnement à l’indignation

Un de ces universitaires présents a alors demandé : « J’utilise Facebook. Quelle est la probabilité que j’aie été le cobaye de l’une de ces expériences? »

Réponse : « 100 %! »

En fait, à chaque fois que vous vous branchez sur Facebook vous êtes, à votre insu, soumis à environ une dizaine d’expériences de comportement.

Le fait que toutes ces expériences se réalisent à l’insu des « cobayes » a causé tout un choc parmi les invités. En effet, de nombreux abus dans le passé ont amené le monde de la recherche à s’interdire de réaliser des expériences sur des êtres humains à leur insu. Il faut plutôt recruter des volontaires qui vont librement consentir à participer à une expérience sur la base d’une connaissance éclairée sur sa nature et ses objectifs. Si ce n’est pas totalement avant l’expérience, au moins totalement lorsque celle-ci est complétée.

Or voilà que des chercheurs, sensibles à ces questions d’éthique de la recherche, apprenaient qu’à leur insu, ils avaient été les sujets de centaines d’expériences. Voilà qu’une entreprise menait chaque jour des centaines d’expériences sur plus d’un milliard d’êtres humains à l’insu de ceusses-ci.

Du plus anodin au plus grave

Beaucoup d’expériences de Facebook sont apparemment anodines. Par exemple, l’Équipe d’ingénierie de confiance tente d’inciter les usagers incommodés par une photo à entrer eux-mêmes en contact avec la personne qui l’a publiée. Plusieurs de leurs expériences ont donc consisté à mesurer l’effet de dizaines de propositions de messages différents. Ainsi, les usagers incommodés ont-ils tendance à plus entrer en contact si l’introduction de message proposé inclut ou non le nom de la personne? Ou des expressions comme « s’il te plait »?

Reste que lorsque des ingénieurs sociaux sont capables de doubler ou tripler les nombres d’usagers qui contactent la personne ayant publié une photo qui les a incommodés, c’est déjà exercer un pouvoir considérable.

Sauf que les expériences de Facebook vont bien au-delà. Kate Crawford, chercheuse chez Microsoft, donne l’exemple d’une petite expérience réalisée lors des élections de mi-mandat de 2010 aux États-Unis.

Facebook voulait vérifier si elle pouvait influer le taux de participation au vote. Il s’agissait d’offrir le jour même du vote à certains usagers de Facebook une indication de l’endroit où se trouve leur bureau de vote, des photos de leurs propres « amis » ayant déclaré avoir déjà voté ainsi qu’un bouton pour publier eux-mêmes « J’ai voté ».

Le résultat : une augmentation de 2 % de la participation chez les usagers Facebook ainsi exposés, soit 340 000 votes de plus (que chez les usagers non exposés). Dans beaucoup de courses serrées, ce maigre 2 % peut représenter la différence entre la victoire et la défaite pour certains candidats.

Ce n’était qu’une expérience. En raffinant la méthode, Facebook pourrait inciter des nombres encore plus grands d’usagers à voter. Or compte tenu des différences démographiques entre les gens qui sont et ne sont pas sur Facebook et compte tenu des innombrables autres ficelles que Facebook peut manipuler, cette entreprise se retrouve avec un pouvoir considérable sur l’avenir politique de pays entiers.

Pouvoir opaque à civiliser

Kate Crawford conclut donc que nous sommes en présence d’un immense déséquilibre politique où une corporation concentre soudain un pouvoir immense, inégalé et surtout, opaque.

Je suis d’accord. Nous dénonçons avec raison les pouvoirs excessifs et mal encadrés de la NSA et de notre propre Centre de la sécurité des télécommunications Canada. Pourtant dans leur cas, on parle essentiellement de surveillance : de capture et stockage de copies des informations que nous communiquons. Or les Facebook ne font pas seulement que surveiller nos communications, ils les façonnent. Et à travers ces communications, ils façonnent nos comportements.

Il faut donc réclamer plus de transparence et d’encadrement des activités d’ingénierie sociale des Facebook. Cela d’autant plus que des entreprises comme Facebook n’ont pas le choix de recourir à l’ingénierie sociale pour survivre.

En effet, si on décrit volontiers Facebook comme une entreprise multimilliardaire, cela demeure un géant aux pieds d’argile. Si l’entreprise déclare avoir quelque 890 millions d’usagers actifs chaque jour (décembre 2014), individuellement ceusses-ci ne lui rapportent qu’un maigre 1,17 $ US par mois malgré toutes ces heures d’utilisations (y compris en incluant les revenus des services des filiales comme Instagram).

Pour survivre, les Facebook ont donc besoin d’améliorer le prix de ses publicités, donc leur ciblage. Pour survivre, les Facebook ont besoin de maintenir et développer encore leur pouvoir d’attraction sur leurs usagers. Cela exige de multiplier les expériences sur ces personnes.

Or pour survivre, les Facebook ont aussi besoin de conserver la confiance de leurs usagers. Voilà qui ouvre la voie à une franche discussion sur l’ingénierie sociale entre ces entreprises, les autorités règlementaires et nous usagers et citoyens : comment rendre cette ingénierie transparente et imputable, comment en fixer les limites acceptables et à quelles conditions.

Alors que nos vies commencent à peine de s’informatiser, il devient urgent d’engager cette discussion.