La sauce secrète des moteurs de recherche donne aux entreprises technologiques une abondance de déni plausible.

Dans l’aviation, la boîte noire est une source de connaissances: un réceptacle de données cruciales qui pourraient aider les enquêteurs à comprendre la catastrophe. En technologie, une boîte noire est l’absence de connaissances: un terme fourre-tout décrivant un système algorithmique avec des mécanismes que ses créateurs ne peuvent pas – ou ne veulent pas – expliquer. Les algorithmes, dans ce récit, sont inconnaissables, incontrôlables et indépendants de la surveillance humaine, même s’ils promeuvent des contenus extrémistes, prennent des décisions affectant notre santé ou agissent en violation potentielle de la loi antitrust.

Dans des rapports d’enquête et des tribunaux internationaux, Amazon, Google et d’autres plateformes technologiques ont été accusés d’avoir peaufiné leurs algorithmes de recherche pour augmenter leurs propres profits et contourner les réglementations antitrust. Chaque entreprise nie avoir interféré avec son algorithme de recherche respectif et, en raison de la mécanique trouble du fonctionnement de la recherche, il est presque impossible de prouver les allégations.

Amazon aurait ajusté son algorithme de recherche pour donner la priorité aux produits de marque privée, ce qui entreprise un bénéfice plus élevé, par rapport aux articles des concurrents, a rapporté lundi le Wall Street Journal. Selon le Journal, Amazon a retravaillé son outil de recherche afin que, lorsque les résultats sont classés par pertinence, les articles qui sont plus rentables pour Amazon apparaissent avant les articles qui pourraient être plus populaires ou pertinents, mais qui lui rapporteraient moins d’argent. Certains de ces produits incluent la ligne «Amazon Basics», avec des produits tels que des serviettes en papier, des piles et des vêtements. Les activités de marque privée d’Amazon ne représentent que 1% de ses ventes au détail globales, mais les ingénieurs ont déclaré avoir été poussés par l’équipe de vente de marques privées à mettre en valeur ces produits dans la recherche. Les ingénieurs anonymes qui ont informé le Journal du changement ont déclaré avoir protesté, mais ont été ignorés.

Les algorithmes et la rentabilité

Amazon admet prendre en compte la rentabilité lors de l’affichage des produits, mais il nie avoir retravaillé son outil de recherche pour privilégier ses propres produits par rapport à la concurrence. Dans une déclaration envoyée par e-mail au Atlantic, un porte-parole d’Amazon a écrit: «Le fait est que nous n’avons pas changé les critères que nous utilisons pour classer les résultats de recherche afin d’inclure la rentabilité. Nous proposons les produits que les clients voudront, qu’il s’agisse de nos propres marques ou des produits proposés par nos partenaires commerciaux. Comme n’importe quel magasin le ferait, nous considérons la rentabilité des produits que nous répertorions et présentons sur le site, mais il ne s’agit que d’une mesure et en aucun cas d’un facteur clé de ce que nous montrons aux clients. »

Le refus soigneusement formulé d’Amazon montre à quel point il est difficile de prouver qu’un algorithme de recherche fait preuve de favoritisme ou de discrimination. Amazon n’a pas besoin d’inclure une métrique de rentabilité dans sa formule pour augmenter la rentabilité de son entreprise. Le rapport du Journal allègue que les algorithmes de recherche d’Amazon prennent plutôt en compte les proxys pour la rentabilité. L’entreprise gagne plus d’argent avec certains produits que d’autres, et si les produits les plus lucratifs ont quelque chose en commun (peut-être où ils sont vendus ou comment ils sont emballé), le suivi de cette variable pourrait théoriquement évoluer avec la rentabilité. Les ingénieurs ont déclaré au Journal que le comité de révision d’Amazon n’approuverait aucune modification de l’algorithme à moins qu’elle n’augmente également la rentabilité.

Amazon est incroyablement doué pour gagner de l’argent, c’est pourquoi la possibilité qu’il privilégie ses propres produits dans son outil de recherche sonne l’alarme. Amazon contrôle le marketing, la fabrication et la distribution de ses produits de marque privée ainsi que le marché sur lequel ils sont vendus. Truquer l’algorithme de recherche, si les allégations sont vraies, ne ferait qu’aggraver ses avantages.

Les marchés en ligne ont récemment fait l’objet d’un nouvel examen de la part des régulateurs fédéraux, aux États-Unis et à l’étranger, dans le cadre d’une conversation plus large sur la démolition des entreprises technologiques et l’imposition de frais plus élevés pour les comportements anticoncurrentiels. En 2017, l’Union européenne a infligé une amende de 2,7 milliards de dollars à la société mère de Google, Alphabet, pour avoir prétendument poussé des sites de comparaison indépendants vers le deuxième ou troisième page de résultats de recherche tout en affichant son propre widget tout en haut des résultats. Les marchands paient Google lorsque les utilisateurs cliquent sur ces annonces. Et plus tôt ce mois-ci, le New York Times a rapporté qu’Apple avait retravaillé son algorithme de l’App Store pour privilégier injustement ses propres applications, suggérant Apple Music sur Spotify lorsque les utilisateurs recherchaient «musique», par exemple. (Apple a nié cela au Times et, dans une déclaration envoyée par courrier électronique à The Atlantic, a réitéré que son algorithme prend en compte une foule de facteurs.)

Algorithmes: des millions d’informations à traiter

Les algorithmes interprètent potentiellement des millions de points de données, et le chemin exact de l’entrée à la conclusion peut être difficile à clarifier. Mais les effets sont clairs. Il s’agit d’une asymétrie très puissante: tout le monde peut remarquer un changement dans les résultats de recherche, mais il est extrêmement difficile de prouver ce qui l’a causé. Cela donne aux concepteurs d’algorithmes un immense déni.

En 2016, par exemple, Bloomberg a signalé qu’Amazon Prime était beaucoup moins susceptible d’offrir un service le jour même à des personnes principalement noires et Banlieues latino-américaines de Boston et de New York. L’algorithme qui détermine les quartiers éligibles, a expliqué Amazon, a été conçu pour déterminer le coût de fourniture de Prime, en fonction de la distance entre une zone et des entrepôts, du nombre de membres Prime, etc. Cette explication, a rapporté Bloomberg, était un bouclier pour le choix des concepteurs humains d’ignorer la corrélation entre la race et la pauvreté et le logement, et comment cette inégalité est reproduite dans les produits d’Amazon.

En raison de leur opacité, les algorithmes peuvent privilégier ou discriminer sans que leurs créateurs ne les conçoivent pour le faire, ni même en soient conscients. Les algorithmes fournissent à ceux qui sont au pouvoir ce que l’on appelle «l’ignorance stratégique» – essentiellement, une excuse qui se présente quand il est commode pour les puissants de ne pas savoir quelque chose. Le mouvement antitrust est fondé sur la tentative de localiser les humains quelque part dans les énormes systèmes corporatisés de Big Tech. Essayez comme les entreprises de minimiser leur responsabilité personnelle, ce sont des humains qui construisent, entraînent et déploient des algorithmes. Les préjugés et subjectivités humains sont encodés à chaque étape du processus.

SEO Inside – agence de référencement naturel