België - NL
Nederland - NL
España - ES
France - FR
Europe - EN
Artificiële intelligentie belooft retailers een revolutie in efficiëntie en klantenservice. Maar ook de kwetsbaarheden worden steeds duidelijker. Ethisch hacker Inti De Ceukelaire: “Je moet eerst weten hoe een hond zich gedraagt voordat je hem bij je kinderen laat.”
“Nog vaak weken vol cyberhacks”
Eerst Ahold Delhaize, dan op hol geslagen Franse koelkasten en nog cyberpaniek bij H&M: vorige week leek wel ‘de week van de cyberhack’. “Het wordt nog vaak de week van de hacks”, grinnikt ethisch hacker Inti De Ceukelaire. Waarom hackers het zo op retailers hebben gemunt? “Daar valt geld te rapen: ze zijn zeer zichtbaar en hebben grote hoeveelheden klantgegevens en betalingsinformatie.”
De zwakste schakel in de cybersecurity van bedrijven? Dat was jarenlang de mens. Maar volgens Inti De Ceukelaire verschuift die kwetsbaarheid nu naar artificiële intelligentie. Met de opkomst van AI-agents en geautomatiseerde klantenservicesystemen ontstaan nieuwe mogelijkheden voor hackers én consumenten die hun voordeel willen halen uit de technologie.
De Ceukelaire slaagde er zelf al in chatbots te manipuleren om toegang te krijgen tot interne bestanden, accounts en privégegevens. Ook commerciële toepassingen blijken kwetsbaar. Hij wist salesmanagers via AI-systemen kortingen te laten beloven die ze wellicht nooit hadden willen geven. En wat gebeurt er wanneer een chatbot een klant zwart op wit een korting toezegt? Wie is daarvoor verantwoordelijk?
Is AI vatbaar voor reclame?
Ook de relatie tussen retailers en consumenten verandert. Naarmate klanten AI-assistenten inschakelen om producten te zoeken, prijzen te vergelijken en aankopen te doen, krijgen webshops mogelijk minder rechtstreeks bezoek. Voor marketeers ontstaat zo een fascinerende uitdaging. Reclame draait uiteindelijk om het beïnvloeden van gedrag. Maar wat als niet langer een mens, maar een AI-agent de aankoopbeslissing neemt? Valt die computer dan ook te overtuigen met reclametechnieken?
De ethisch hacker onderzoekt die vraag vanuit de psychologie. Hij test hoe klassieke manipulatietechnieken op taalmodellen werken. Die blijken soms verrassend voorspelbaar en beïnvloedbaar, maar ze werken niet zoals menselijke hersenen. Juist dat laatste vergeten we (te) gauw.
“Niet alles hoeft AI te zijn”
De Ceukelaire gebruikt zelf intensief AI en ziet enorme mogelijkheden voor bedrijven. Toch ergert hij zich aan de snelheid waarmee organisaties toepassingen omarmen zonder goed te begrijpen hoe ze functioneren. Retailers automatiseren hun klantenservice en experimenteren met autonome AI-agents, vaak uit angst om achter te blijven bij de concurrentie. Maar niet elke toepassing levert daadwerkelijk efficiëntiewinst op. “Niet alles hoeft AI te zijn”, benadrukt hij.
Bovendien dreigt de menselijke controle te verdwijnen. Het principe human in the loop, waarbij een mens toezicht houdt en kan ingrijpen, verwatert volgens hem. “Wat als een AI een fout maakt, wie gaat er voor die fout betalen?” Denk aan een AI-agent die honderd producten bestelt, maar de verkeerde kleur doorgeeft. Wie draagt de verantwoordelijkheid wanneer de klant en de webshop elk een andere bestelling voor ogen hebben? Dergelijke geschillen kunnen volgens De Ceukelaire een heel nieuwe problematiek creëren.
Tussen hype en doemdenken
Op de RetailDetail Night, op 19 november, demonstreert De Ceukelaire hoe gemakkelijk AI-systemen zich laten manipuleren. Kun je een AI-agent overtuigen om een parkeerboete te schrappen? Hoe onderhandel je met een computer over de prijs van een auto? En hoe ver kun je een chatbot laten afwijken van zijn oorspronkelijke instructies?
Met zijn interactieve show wil hij zowel het overdreven enthousiasme als het doemdenken rond AI doorprikken. De technologie kan retailers veel opleveren, maar ook aanzienlijke schade veroorzaken wanneer ze haar blindelings vertrouwen. “Het is alsof je een hond in huis haalt: het kan ‘s mens beste vriend zijn, maar voordat je hem bij kleine kinderen laat, wil je toch weten hoe het dier reageert.”
Zijn belangrijkste boodschap? Bedrijven hoeven AI niet te vermijden, maar moeten wel begrijpen wat ze precies in huis halen. Zeker wanneer ze systemen zelfstandig laten onderhandelen, verkopen en beslissen. Want wie AI verantwoordelijkheid geeft, moet ook weten hoe gemakkelijk iemand die technologie kan misleiden.
Wil je weten hoe veilig jouw AI-toepassingen werkelijk zijn? Ontdek het tijdens de RetailDetail Night bij Trademart Brussel en reserveer nu je ticket.
