AI-gestuurde klantenservicerobots die menselijk gedrag nabootsen, kunnen invloed hebben op hoe consumenten zichzelf zien en zich uiten. Dat blijkt uit onderzoek van de University of Birmingham, Aarhus University en Linnaeus University. De onderzoekers ontwikkelden een model dat beschrijft hoe interacties tussen consumenten en sociale robots het zelfbeeld kunnen beïnvloeden. Het onderzoek, gepubliceerd in AI & Society, kijkt naar robots die worden ingezet in onder meer winkels, horeca, toerisme en gezondheidszorg.
Sociale robots kunnen tijdens gesprekken gebruikmaken van gebaren, spraak, zelflerende technologie, persoonlijke communicatie en nagebootste emotionele signalen. Volgens de onderzoekers kan daardoor een wisselwerking ontstaan: robots nemen menselijk gedrag over, terwijl gebruikers op hun beurt elementen uit de communicatie van robots gaan kopiëren.
“Sociale robots voor klantenservice zijn ontworpen om gebaren, spraak en emotionele signalen na te bootsen en zo cognitieve en emotionele reacties bij klanten op te roepen”, zegt Inci Toral-Manson, universitair hoofddocent marketing aan de University of Birmingham. “Ons onderzoek laat zien hoe de omgang met deze vermenselijkte robots tot wederzijdse beïnvloeding kan leiden. Robots worden menselijker en mensen gaan zich meer als robots gedragen. Dat noemen we ‘robotoid humanness’.”
Gedrag past zich over en weer aan
Het model houdt onder meer rekening met de omgeving waarin de dienstverlening plaatsvindt, verwachtingen van consumenten, het uiterlijk en de manier van spreken van de robot en het gedrag van zowel consument als robot. Door herhaaldelijk op elkaar te reageren, kunnen beide partijen elkaars gedrag steeds meer gaan spiegelen.
AI en machine learning kunnen dit proces versterken doordat de robot zijn gedrag aanpast op basis van de reacties van de gebruiker. Volgende interacties kunnen daardoor steeds persoonlijker worden.
“De consument doet iets, de robot reageert en bij herhaalde blootstelling maakt de consument die interactie uiteindelijk onderdeel van zijn eigen gedrag”, zegt Selcen Ozturkcan, universitair hoofddocent bedrijfskunde aan Linnaeus University. “Machine learning en AI kunnen dit proces versterken door het gedrag van de robot aan te passen op basis van input van de gebruiker. Daardoor kan de robot mensen steeds persoonlijker en menselijker nabootsen.”
Risico op afhankelijkheid van bevestiging
Volgens de onderzoekers kunnen bij langdurige interacties feedbacklussen ontstaan waarin het gedrag van robots en de reacties van consumenten elkaar steeds verder versterken. Mogelijke gevolgen zijn onder meer bevestigingsvooroordelen en veranderingen in het zelfbeeld. Hoe sterk deze effecten zijn, kan afhangen van bijvoorbeeld de vertrouwdheid met technologie, culturele achtergrond en persoonlijkheid.
Ook de manier waarop robots positieve en negatieve feedback geven, verdient volgens de onderzoekers aandacht. Herhaalde positieve bevestiging kan het zelfvertrouwen beïnvloeden, terwijl negatieve signalen het gevoel van eigenwaarde kunnen verminderen. Daardoor bestaat volgens hen het risico dat gebruikers voor bevestiging afhankelijk worden van robots.
“Robots en AI zijn inmiddels gemeengoed in de klantenservice. Daarom is het belangrijk dat we begrijpen hoe mensen ermee omgaan, zodat bedrijven deze technologie zo effectief mogelijk en tegelijkertijd op een verantwoorde manier kunnen inzetten”, zegt Jean-Paul Jde Cros Peronard, universitair hoofddocent aan Aarhus University.
Volgens de onderzoekers kan meer inzicht in het nabootsen en spiegelen van gedrag organisaties helpen om de gevolgen van sociale robots voor consumenten beter te beoordelen. Dat wordt relevanter naarmate dergelijke systemen vaker rechtstreeks met klanten in contact komen.
