Artifici\u00eble intelligentie belooft retailers een revolutie in effici\u00ebntie en klantenservice. Maar ook de kwetsbaarheden worden steeds duidelijker. Ethisch hacker Inti De Ceukelaire: \u201cJe moet eerst weten hoe een hond zich gedraagt voordat je hem bij je kinderen laat.\u201d<\/p>\n\n\n\n
Eerst Ahold Delhaize<\/strong>, dan op hol geslagen Franse koelkasten<\/a> en nog cyberpaniek bij H&M<\/strong><\/a>: vorige week leek wel ‘de week van de cyberhack’. \u201cHet wordt nog vaak de week van de hacks\u201d, grinnikt ethisch hacker Inti De Ceukelaire. Waarom hackers het zo op retailers hebben gemunt? \u201cDaar valt geld te rapen: ze zijn zeer zichtbaar en hebben grote hoeveelheden klantgegevens en betalingsinformatie.\u201d<\/p>\n\n\n\n De zwakste schakel in de cybersecurity van bedrijven? Dat was jarenlang de mens. Maar volgens Inti De Ceukelaire verschuift die kwetsbaarheid nu naar artifici\u00eble intelligentie. Met de opkomst van AI-agents en geautomatiseerde klantenservicesystemen ontstaan nieuwe mogelijkheden voor hackers \u00e9n consumenten die hun voordeel willen halen uit de technologie.<\/p>\n\n\n\n De Ceukelaire slaagde er zelf al in chatbots te manipuleren om toegang te krijgen tot interne bestanden, accounts en priv\u00e9gegevens. Ook commerci\u00eble toepassingen blijken kwetsbaar. Hij wist salesmanagers via AI-systemen kortingen te laten beloven die ze wellicht nooit hadden willen geven. En wat gebeurt er wanneer een chatbot een klant zwart op wit een korting toezegt? Wie is daarvoor verantwoordelijk?<\/p>\n\n\n\n Ook de relatie tussen retailers en consumenten verandert. Naarmate klanten AI-assistenten inschakelen om producten te zoeken, prijzen te vergelijken en aankopen te doen, krijgen webshops mogelijk minder rechtstreeks bezoek. Voor marketeers ontstaat zo een fascinerende uitdaging. Reclame draait uiteindelijk om het be\u00efnvloeden van gedrag. Maar wat als niet langer een mens, maar een AI-agent de aankoopbeslissing neemt? Valt die computer dan ook te overtuigen met reclametechnieken?<\/p>\n\n\n\n De ethisch hacker onderzoekt die vraag vanuit de psychologie. Hij test hoe klassieke manipulatietechnieken op taalmodellen werken. Die blijken soms verrassend voorspelbaar en be\u00efnvloedbaar, maar ze werken niet zoals menselijke hersenen. Juist dat laatste vergeten we (te) gauw.<\/p>\n\n\n\n De Ceukelaire gebruikt zelf intensief AI en ziet enorme mogelijkheden voor bedrijven. Toch ergert hij zich aan de snelheid waarmee organisaties toepassingen omarmen zonder goed te begrijpen hoe ze functioneren. Retailers automatiseren hun klantenservice en experimenteren met autonome AI-agents, vaak uit angst om achter te blijven bij de concurrentie. Maar niet elke toepassing levert daadwerkelijk effici\u00ebntiewinst op. \u201cNiet alles hoeft AI te zijn\u201d, benadrukt hij. <\/p>\n\n\n\n Bovendien dreigt de menselijke controle te verdwijnen. Het principe human in the loop<\/em>, waarbij een mens toezicht houdt en kan ingrijpen, verwatert volgens hem. \u201cWat als een AI een fout maakt, wie gaat er voor die fout betalen?\u201d Denk aan een AI-agent die honderd producten bestelt, maar de verkeerde kleur doorgeeft. Wie draagt de verantwoordelijkheid wanneer de klant en de webshop elk een andere bestelling voor ogen hebben? Dergelijke geschillen kunnen volgens De Ceukelaire een heel nieuwe problematiek cre\u00ebren. <\/p>\n\n\n\n Op de RetailDetail Night, op 19 november, demonstreert De Ceukelaire hoe gemakkelijk AI-systemen zich laten manipuleren. Kun je een AI-agent overtuigen om een parkeerboete te schrappen? Hoe onderhandel je met een computer over de prijs van een auto? En hoe ver kun je een chatbot laten afwijken van zijn oorspronkelijke instructies? <\/p>\n\n\n\n Met zijn interactieve show wil hij zowel het overdreven enthousiasme als het doemdenken rond AI doorprikken. De technologie kan retailers veel opleveren, maar ook aanzienlijke schade veroorzaken wanneer ze haar blindelings vertrouwen. \u201cHet is alsof je een hond in huis haalt: het kan \u2018s mens beste vriend zijn, maar voordat je hem bij kleine kinderen laat, wil je toch weten hoe het dier reageert.\u201d <\/p>\n\n\n\n Zijn belangrijkste boodschap? Bedrijven hoeven AI niet te vermijden, maar moeten wel begrijpen wat ze precies in huis halen. Zeker wanneer ze systemen zelfstandig laten onderhandelen, verkopen en beslissen. Want wie AI verantwoordelijkheid geeft, moet ook weten hoe gemakkelijk iemand die technologie kan misleiden. <\/p>\n\n\n\n Wil je weten hoe veilig jouw AI-toepassingen werkelijk zijn? Ontdek het tijdens de RetailDetail Night bij Trademart Brussel en reserveer nu je ticket.<\/strong> <\/p>\n\n\n\nIs AI vatbaar voor reclame?<\/h2>\n\n\n\n
\u201cNiet alles hoeft AI te zijn\u201d <\/h2>\n\n\n\n
Tussen hype en doemdenken<\/h2>\n\n\n\n