Manifeste pour une IA comprise et responsable

Manifeste pour une IA comprise et responsable

Jean-Paul Aimetti vient de publier, avec Gilbert Saporta et Olivier Coppet, un Manifeste pour une IA comprise et responsable … vaste sujet ! Rencontre avec l’auteur.

MarketingIsDead : Aujourd’hui, tout le monde se veut « responsable » ; en nous restreignant à un domaine qui nous est cher comme anciens présidents de l’Adetem, quelle est ta vision d’une AI Responsable … en Marketing, bien sûr ?

Jean-Paul Aimetti : Plusieurs aphorismes de notre Manifeste traitent d’une IA responsable en Marketing, en remarquant que ces réflexions s’appliquaient déjà à l’utilisation de modèles ou à la communication numérique avant la déferlante de l’IA, mais les risques se sont aggravés avec la puissance de l’IA.

Pour n’en citer que quelques-unes de ces réflexions :

• La nécessité de transparence sur les algorithmes utilisés en marketing.

Bien que les concepteurs de tels algorithmes évoquent la complexité de leurs modèles pour ne pas décrire leur fonctionnement, il est toujours possible de lever le voile sur les critères majeurs ayant conduit à une décision défavorable à un client (qui est en droit de comprendre, par exemple, pourquoi un prêt bancaire lui a été refusé ou son tarif d’assurance à excessivement augmenté).

• Dans la relation client, l’IA ne doit pas masquer l’incompétence.
  • Pour répondre à un client mécontent, un correspondant client qui arguait hier « C’est la faute à l’informatique » risque d’être tenté de déclarer aujourd’hui « C’est la faute à l’IA » ; au final la responsabilité incombe aux concepteurs et aux utilisateurs des algorithmes et non à une machine.
  • Avant d’investir massivement dans des chatbots censés répondre à tout, certaines grandes entreprises devraient améliorer leurs systèmes d’information ainsi que la formation et l’organisation de leurs collaborateurs.(Cf les affres de clients d’opérateurs téléphoniques pour tenter de résoudre certaines pannes).
• Dans tout contact client, l’humain ne doit pas disparaitre avec l’omniprésence de l’IA

Un recours à une relation humaine personnalisée doit toujours être possible, en particulier pour les personnes âgées, handicapées ou ne maitrisant pas le numérique.

• L’IA se nourrissant de données de plus en plus intrusives, le marketing doit, plus que jamais multiplier les mesures de protection des données personnelles.

Qui plus est, le suivi permanent des individus pour influencer leurs comportements et demain leurs pensées peut être détourné par des acteurs ou des états mal intentionnés.

• Concernant la communication des sociétés de conseil, les promesses de résultats spectaculaires dus à l’IA se multiplient en surfant sur l’ignorance de nombre de décideurs.

Comment croire, par exemple, que le « deep learning » est la recette magique pour innover ou augmenter considérablement ses ventes ?

MarketingIsDead : Votre ouvrage se compose d’aphorismes … ce qui n’est pas sans rappeler le récent manifeste du Conseil Scientifique de l’Adetem : 36 évidences pour demain, merci le Marketing : notre monde se déconnecterait-il tellement du réel qu’il convient par moments de remettre les points sur les « i » et repartir aux bases ?

Jean-Paul Aimetti : Il est en effet vital de « garder les pieds sur terre » dans un monde où les humains sont progressivement remplacés par leurs images numérisées, virtuelles, réductrices et falsifiables. Une telle tendance, accélérée par l’émergence du métavers, peut, au final, conduire à un déni de la réalité.

MarketingIsDead : Je cite un de vos aphorismes : « Certaines entreprises peuvent être tentées d’afficher une IA éthique uniquement pour mieux vendre » : après le greenwashing, une forme nouvelle de « IA éthique washing » ?

Jean-Paul Aimetti : Depuis plusieurs années, un nombre croissant d’entreprises mettent en avant des valeurs de responsabilité sociétale et environnementale, en s’efforçant d’apporter des justifications plus ou moins sincères à cette orientation.

Ces justifications risquent d’être de plus en plus difficiles à vérifier, si les décisions de certaines entreprises sont fondées sur des algorithmes d’IA d’une grande opacité.