714

Tendance

C’est la faute de l’algorithme !

Digital
Écrit par Pénélope Nicolleau

Alors que les marques recourent de plus en plus aux algorithmes pour le marketing, le pricing ou le recrutement, les ratés des algorithmes se multiplient. Fatalité ou négligence ?

C’est la faute de l’algorithme

L'IA

Au début de l’année, Facebook avait déjà fait l’objet de critiques parce qu’il offrait la possibilité de montrer exclusivement une pub aux utilisateurs blancs. En Australie, un document fuité révélait la possibilité offerte aux annonceurs de viser spécifiquement les adolescents dépressifs à partir de termes de leurs statuts, tel que « anxious », « worthless » ou « a failure ».

Facebook n’est du reste pas la seule plateforme mise en cause : Buzzfeed a ainsi révélé que Google et Twitter offraient des options similaires.

A chacune de ces révélations, la séquence est la même : présenter de plates excuses, résoudre manuellement le problème, promettre de faire mieux à l’avenir… Avec toujours le même refrain : c’est la faute à l’algorithme.

Le blues de l’algorithme

La belle affaire ! Comme le note Nick Statt :

Nick Statt

Ce choix résulte inévitablement en des ratés qui écornent l’image des marques : Uber est ainsi régulièrement vilipendé pour ses augmentations de prix aux moments les plus inappropriés, comme lors de l’attaque terroriste de Londres en juin dernier. Difficile pour la marque de VTC de feindre la surprise : l’explosion d’une bombe à New York en septembre 2016 avait engendré les mêmes effets et les mêmes critiques.

Et comme pour Facebook, ces bugs ne relèvent pas un problème, une faille du système de réservation : ils en révèlent la nature-même. Dans le cas des réservations d’avion, à chaque pic de demande correspond une hausse, parfois spectaculaire, des prix. C’est la même mécanique qui a amené les personnes souhaitant quitter la Floride lors du passage de l’ouragan Irma à se voir proposer des vols à plus de $6000. Plus encore, il révèle un choix conscient : privilégier le profit à court-terme aux gains de long terme qu’apporte une expérience de marque, fût-ce au prix de quelques scandales.

Il est vain d’attendre des algorithmes qu’ils développent d’eux-mêmes une morale

En réalité tous ces cas ont un élément en commun : ce n’est pas l’utilisation d’un algorithme qui est en cause mais son usage irraisonné, fondé sur des données mal choisies et sans aucun garde-fou.

Et Uber n’est pas la seule marque à ne pouvoir se cacher derrière l’excuse de l’ignorance ou à blâmer le grand méchant algorithme. Il existe aujourd’hui une littérature abondante montrant les effets néfastes d’algorithmes mal programmés et opérés sans surveillance.

Dans le domaine du recrutement, plusieurs études ont montré que le recours aux algorithmes accentuaient la discrimination envers les femmes et les minorités ; le même constat s’opère dans l’utilisation des algorithmes pour choisir si un détenu doit avoir le droit à une liberté conditionnelle, ou pour déterminer le prix à payer pour une assurance auto.

Maîtriser son expérience de marque, c’est savoir ce qu’en font les algorithmes

Une conclusion en résulte : veiller à son expérience de marque, c’est maîtriser dans le détail le fonctionnement des algorithmes utilisés : aucune marque soucieuse de son expérience n’accepterait que ses fournisseurs ou ses commerciaux qu’ils ne puissent pas détailler leurs process : pourquoi en irait-il autrement pour les algorithmes ?

Le cabinet Deloitte liste à cet égard trois risques principaux :

1. La qualité des données dont l’algorithme se nourrit

Outre les risques classiques (données erronées ou obsolètes par exemple), il est tentant de se cantonner à l’usage des données existantes, telles que le profil des clients actuels ou celui des candidats finalement recrutés. Le risque de cette logique est de perpétuer l’ensemble des biais et discriminations qui existent dans l’entreprise et de confondre pratiques actuelles et bonnes pratiques.

Une étude sur les publicités de Google a par exemple montré que les annonces pour le recrutement de cadres dirigeants étaient davantage montrées aux hommes qu’aux femmes – un résultat fondé sur des données passées qui aboutissait, de fait, à créer une discrimination.

2. La conception de l’algorithme proprement dit.

C’est le cœur du problème et une dimension particulièrement complexe dans un système où les marques utilisent de plus en plus les algorithmes de prestataires extérieurs et start-ups.

Sans leur demander de livrer les clés de leur algorithme, il incombe néanmoins à leurs clients d’en avoir une compréhension suffisante pour en imaginer les rythmes, et de fixer les principes et limites régissant leur fonctionnement.

En faite…

Cela implique notamment de penser et d’auditer régulièrement les potentiels effets pervers de l’algorithme : peut-il y avoir des situations où l’algorithme déraille ? Et certains utilisateurs malveillants peuvent-ils le faire dérailler à leur profit ?

• Pour les algorithmes de personnalisation, cela implique de penser les cas où cette personnalisation peut être erronée, inadaptée ou intrusive.
• Pour les algorithmes d’achat d’espace ou de pricing, d’imaginer les conditions extérieures (catastrophe naturelle par exemple) qui peuvent changer radicalement l’offre et la demande. C’est aussi fixer des limites qui auraient pu empêcher, par exemple, deux éditeurs de proposer un livre à la vente pour 23 millions d’Euros (+4 € de livraison)
• Pour les algorithmes de scoring ou de recrutement, d’envisager les cas qui pourraient amener à des pratiques discriminatoires et de connaître les biais qui ont été testés.

La compréhension des résultats

Mais il existe aussi un facteur humain non-négligeable : l’ubiquité des algorithmes s’est rarement accompagnée de la formation pour les comprendre, les manier et en détecter les biais.

Cette problématique touche particulièrement les algorithmes dits prédictifs où le potentiel d’erreurs humaines abonde : conclusions dérivées d’échantillons très faibles, corrélations et causalités illusoires… Il existe même un site détaillant des corrélations statistiques absurdes (montrant par exemple que le taux de divorce dans le Maine suit la même courbe que la consommation de margarine) pour mettre en garde contre l’usage naïf qui en est souvent fait.

Mais le risque est plus grand encore sur les algorithmes de machine learning, dont le fonctionnement réel échappe parfois même à ceux qui les ont développés. Flickr et Google en ont fait l’amère expérience en découvrant que leurs algorithmes de reconnaissance visuelle confondaient les personnes noires avec des singes ou des chiens, sans que rien ne le laisse présager. Lorsque l’erreur fut découverte, elle put être corrigée, mais le dommage était fait.

Que faut il en conclure ?

Car c’est bien là le risque qui guette les marques : en confiant de vastes pans de leur fonctionnement quotidien à des algorithmes qu’elles ne maîtrisent pas – soit par court-termisme, soit par ignorance – les marques courent le risque de perdre la maîtrise de l’expérience qu’elles offrent à leurs prospects, leurs clients ou leurs candidats à l’embauche.

Et de répéter indéfiniment le processus de Facebook et Google : faire face au scandale, blâmer l’algorithme et promettre une fois de plus de faire mieux à l’avenir.

Ugly is Beautiful ! Ce que le laid raconte de nous
Tendance

Ugly is Beautiful ! Ce que le laid raconte de nous

Plus de raisons de le cacher, le moche s’assume et s’affiche fièrement des podiums à nos réseaux sociaux.

Lire l'article
longines
Tendance

Seenk saute le pas avec Global Champions et Longines Global Champions Tour.

Global Champions a confié à Seenk la conception et la cohérence de son image de marque luxe et sportive.
À des fins audiovisuelles et à destination des diffuseurs TV et digitaux, pour ses événements Longines Global Champions Tour et Global Champions League.
Ces événements équestres mondiaux de sauts d’obstacles, qui ont débuté fin mars à Mexico, se dérouleront dans pas moins de 17 destinations d’exception et 12 pays :
Mexico, Miami, Shanghaï, Madrid, Hamburg, Ramatuelle, Cannes, Cascais, Monaco, Paris, Chantilly, Berlin, Londres, Valskenwaard, Rome, Doha, Prague…Autant de lieux sublimes qui réuni les meilleurs compétiteurs mondiaux.

Découvrez l’ensemble de la compétition sur la plateforme global champions

Lire l'article

Cet article vous a plu ?

Abonnez vous et recevez les actualités dans votre boite mail


Je m'abonne