Malgré l’inquiétude croissante suscitée par l’intrusion des algorithmes dans la vie quotidienne, les gens pourraient être plus disposés à faire confiance à un programme informatique qu’à leurs semblables, surtout si une tâche devient trop difficile, selon de nouvelles recherches menées par des spécialistes des données de l’université de Géorgie.

Les algorithmes rationnalisent la vie quotidienne

Qu’il s’agisse de choisir la prochaine chanson de votre playlist ou de choisir la bonne taille de pantalon, les gens se fient davantage aux conseils des algorithmes pour prendre des décisions quotidiennes et rationaliser leur vie.

« Les algorithmes sont capables d’effectuer un très grand nombre de tâches, et le nombre de tâches qu’ils sont capables d’effectuer augmente pratiquement chaque jour », a déclaré Eric Bogert, un étudiant en doctorat au département des systèmes d’information de gestion du Terry College of Business. « Il semble qu’il y ait une tendance à s’appuyer davantage sur les algorithmes à mesure qu’une tâche devient plus difficile et cet effet est plus fort que la tendance à s’appuyer sur les conseils d’autres personnes. »

M. Bogert a travaillé avec le professeur de systèmes d’information de gestion Rick Watson et le professeur adjoint Aaron Schecter sur l’article intitulé « Humans rely more on algorithms than social influence as a task becomes more difficult », qui a été publié le 13 avril dans la revue Scientific Reports de Nature.

Leur étude, qui a porté sur 1 500 personnes évaluant des photographies, s’inscrit dans un ensemble plus vaste de travaux analysant comment et quand les gens utilisent des algorithmes pour traiter des informations et prendre des décisions.

Les algorithmes prennent les décisions

Pour cette étude, l’équipe a demandé à des volontaires de compter le nombre de personnes présentes sur la photographie d’une foule et leur a fourni des suggestions générées par un groupe d’autres personnes et des suggestions générées par un algorithme.

À mesure que le nombre de personnes sur la photo augmentait, il devenait plus difficile de compter et les gens étaient plus susceptibles de suivre la suggestion générée par un algorithme plutôt que de compter eux-mêmes ou de suivre la « sagesse de la foule », a déclaré Schecter.

Schecter a expliqué que le choix du comptage comme tâche d’essai était important car le nombre de personnes sur la photo rend la tâche objectivement plus difficile à mesure qu’il augmente. Il s’agit également du type de tâche pour lequel les profanes s’attendent à ce que les ordinateurs soient performants.

La sagesse de la foule

« Il s’agit d’une tâche pour laquelle les gens pensent qu’un ordinateur sera bon, même si elle est plus sujette à des biais que le comptage d’objets », a déclaré Schecter. « L’un des problèmes courants de l’IA est lorsqu’elle est utilisée pour accorder un crédit ou approuver une personne pour un prêt. Bien qu’il s’agisse d’une décision subjective, il y a beaucoup de chiffres en jeu – comme le revenu et le score de crédit – et les gens pensent que c’est un bon travail pour un algorithme. Mais nous savons que la dépendance conduit à des pratiques discriminatoires dans de nombreux cas en raison de facteurs sociaux qui ne sont pas pris en compte. »

Les algorithmes de reconnaissance faciale et d’embauche ont également fait l’objet d’un examen minutieux ces dernières années parce que leur utilisation a révélé des biais culturels dans la façon dont ils ont été construits, ce qui peut entraîner des inexactitudes lors de la correspondance entre les visages et les identités ou de la sélection de candidats qualifiés, a déclaré Schecter.

Ces biais ne sont peut-être pas présents dans une tâche simple comme le comptage, mais leur présence dans d’autres algorithmes de confiance est une raison pour laquelle il est important de comprendre comment les gens se fient aux algorithmes pour prendre des décisions, a-t-il ajouté.

Cette étude s’inscrit dans le cadre du programme de recherche plus vaste de Schecter sur la collaboration homme-machine, qui est financé par une subvention de 300 000 dollars de l’U.S. Army Research Office.

« L’objectif final est d’étudier des groupes d’humains et de machines qui prennent des décisions et de voir comment nous pouvons les amener à se faire confiance et comment cela modifie leur comportement », a déclaré Schecter. « Comme il y a très peu de recherches dans ce domaine, nous commençons par les principes fondamentaux. »

Schecter, Watson et Bogert étudient actuellement la façon dont les gens se fient aux algorithmes lorsqu’ils portent des jugements créatifs et moraux, comme la rédaction de passages descriptifs et la mise en liberté sous caution de prisonniers.

SEO Inside est une agence SEO à Lille.