L’intelligence artificielle promet aux commer\u00e7ants une r\u00e9volution en mati\u00e8re d’efficacit\u00e9 et de service client. Mais ses failles apparaissent \u00e9galement de plus en plus clairement. Inti De Ceukelaire, pirate \u00e9thique : \u00ab Il faut d’abord savoir comment se comporte un chien avant de le laisser approcher de vos enfants. \u00bb<\/p>\n\n\n\n
D\u2019abord Ahold Delhaize<\/strong>, puis le d\u00e9givrage des frigos fran\u00e7ais<\/a>, sans oublier la cyberpanique chez H&M<\/strong><\/a>: la semaine derni\u00e8re ressemblait \u00e0 s\u2019y m\u00e9prendre \u00e0 \u00ab la semaine des cyberattaques \u00bb. \u00ab \u00c7a va encore souvent \u00eatre la semaine des piratages \u00bb, ironise le hacker \u00e9thique Inti De Ceukelaire. Pourquoi les hackers s\u2019en prennent-ils autant aux d\u00e9taillants ? \u00ab C\u2019est l\u00e0 qu\u2019il y a de l\u2019argent \u00e0 gagner : ils sont tr\u00e8s visibles et d\u00e9tiennent de grandes quantit\u00e9s de donn\u00e9es clients et d\u2019informations de paiement. \u00bb<\/p>\n\n\n\n Le maillon faible de la cybers\u00e9curit\u00e9 des entreprises ? Pendant des ann\u00e9es, c\u2019\u00e9tait l\u2019humain. Mais selon Inti De Ceukelaire, cette vuln\u00e9rabilit\u00e9 se d\u00e9place d\u00e9sormais vers l\u2019intelligence artificielle. Avec l\u2019\u00e9mergence des agents IA et des syst\u00e8mes automatis\u00e9s de service client, de nouvelles possibilit\u00e9s s\u2019ouvrent aux pirates informatiques ainsi qu\u2019aux consommateurs qui souhaitent tirer profit de cette technologie.<\/p>\n\n\n\n De Ceukelaire a lui-m\u00eame d\u00e9j\u00e0 r\u00e9ussi \u00e0 manipuler des chatbots pour acc\u00e9der \u00e0 des fichiers internes, des comptes et des donn\u00e9es priv\u00e9es. Les applications commerciales s\u2019av\u00e8rent elles aussi vuln\u00e9rables. Il a r\u00e9ussi \u00e0 amener des responsables commerciaux, via des syst\u00e8mes d\u2019IA, \u00e0 promettre des remises qu\u2019ils n\u2019auraient peut-\u00eatre jamais voulu accorder. Et que se passe-t-il lorsqu\u2019un chatbot accorde noir sur blanc une remise \u00e0 un client ? Qui en est responsable ?<\/p>\n\n\n\n La relation entre les d\u00e9taillants et les consommateurs \u00e9volue \u00e9galement. \u00c0 mesure que les clients font appel \u00e0 des assistants IA pour rechercher des produits, comparer les prix et effectuer des achats, les boutiques en ligne risquent de voir leur trafic direct diminuer. Cela pose un d\u00e9fi fascinant aux sp\u00e9cialistes du marketing. La publicit\u00e9 vise en fin de compte \u00e0 influencer les comportements. Mais que se passe-t-il si ce n\u2019est plus un \u00eatre humain, mais un agent IA qui prend la d\u00e9cision d\u2019achat ? Cet ordinateur peut-il lui aussi \u00eatre convaincu par des techniques publicitaires ?<\/p>\n\n\n\n Le hacker \u00e9thique explore cette question sous l\u2019angle de la psychologie. Il teste l\u2019efficacit\u00e9 des techniques de manipulation classiques sur des mod\u00e8les linguistiques. Ceux-ci s\u2019av\u00e8rent parfois \u00e9tonnamment pr\u00e9visibles et influen\u00e7ables, mais ils ne fonctionnent pas comme le cerveau humain. C\u2019est justement ce dernier point que nous oublions (trop) vite.<\/p>\n\n\n\n De Ceukelaire utilise lui-m\u00eame intensivement l\u2019IA et y voit d\u2019\u00e9normes possibilit\u00e9s pour les entreprises. Il s\u2019irrite toutefois de la rapidit\u00e9 avec laquelle les organisations adoptent ces applications sans bien comprendre leur fonctionnement. Les d\u00e9taillants automatisent leur service client et exp\u00e9rimentent des agents IA autonomes, souvent par crainte de se faire distancer par la concurrence. Mais toutes les applications n\u2019apportent pas r\u00e9ellement de gains d\u2019efficacit\u00e9. \u00ab Tout ne doit pas n\u00e9cessairement relever de l\u2019IA \u00bb, souligne-t-il. <\/p>\n\n\n\n De plus, le contr\u00f4le humain risque de dispara\u00eetre. Le principe du \u00ab human in the loop \u00bb, selon lequel un humain supervise et peut intervenir, s\u2019affaiblit selon lui. \u00ab Que se passe-t-il si une IA commet une erreur ? Qui va payer pour cette erreur ? \u00bb Prenons l\u2019exemple d\u2019un agent IA qui commande une centaine de produits, mais indique la mauvaise couleur. Qui en porte la responsabilit\u00e9 lorsque le client et la boutique en ligne ont chacun une commande diff\u00e9rente en t\u00eate ? Selon De Ceukelaire, de tels litiges peuvent cr\u00e9er une toute nouvelle probl\u00e9matique.<\/p>\n\n\n\n Lors de la RetailDetail Night, le 19 novembre, De Ceukelaire d\u00e9montrera \u00e0 quel point les syst\u00e8mes d\u2019IA sont faciles \u00e0 manipuler. Peut-on convaincre un agent IA d\u2019annuler une contravention de stationnement ? Comment n\u00e9gocier le prix d\u2019une voiture avec un ordinateur ? Et jusqu\u2019o\u00f9 peut-on amener un chatbot \u00e0 s\u2019\u00e9carter de ses instructions initiales ? <\/p>\n\n\n\n Avec son spectacle interactif, il souhaite mettre fin tant \u00e0 l\u2019enthousiasme excessif qu\u2019au catastrophisme qui entourent l\u2019IA. Cette technologie peut apporter beaucoup aux d\u00e9taillants, mais aussi causer des dommages consid\u00e9rables s\u2019ils s\u2019y fient aveugl\u00e9ment. \u00ab C\u2019est comme accueillir un chien chez soi : il peut \u00eatre le meilleur ami de l\u2019homme, mais avant de le laisser avec de jeunes enfants, on veut tout de m\u00eame savoir comment l\u2019animal r\u00e9agit. \u00bb <\/p>\n\n\n\n Son message principal ? Les entreprises ne doivent pas \u00e9viter l\u2019IA, mais elles doivent bien comprendre ce qu\u2019elles mettent exactement en place. Surtout lorsqu\u2019elles laissent les syst\u00e8mes n\u00e9gocier, vendre et prendre des d\u00e9cisions de mani\u00e8re autonome. Car lorsqu\u2019on confie des responsabilit\u00e9s \u00e0 l\u2019IA, il faut aussi savoir \u00e0 quel point il est facile de tromper cette technologie. <\/p>\n\n\n\n Vous souhaitez savoir \u00e0 quel point vos applications d\u2019IA sont r\u00e9ellement s\u00fbres ? D\u00e9couvrez-le lors de la RetailDetail Night au Trademart de Bruxelles et r\u00e9servez d\u00e8s maintenant votre billet.<\/strong> <\/p>\n\n\n\nL\u2019IA est-elle sensible \u00e0 la publicit\u00e9 ?<\/h2>\n\n\n\n
\u00ab Tout ne doit pas n\u00e9cessairement relever de l\u2019IA \u00bb <\/h2>\n\n\n\n
Entre engouement et catastrophisme<\/h2>\n\n\n\n