Chatbots die natuurlijk en vloeiend communiceren, worden door gebruikers als even intelligent en prettig ervaren wanneer ze onjuiste informatie geven als chatbots die zakelijke, minder vloeiende maar feitelijk correcte antwoorden produceren. Dat blijkt uit onderzoek van communicatiewetenschappers van de Radboud Universiteit. In het experiment merkte 80 procent van de deelnemers de bewust aangebrachte feitelijke fouten niet op.
Communicatiewetenschapper Marianna de Sá Siqueira en haar collega’s onderzochten in hoeverre taalgebruik en feitelijke juistheid van invloed zijn op de beoordeling van chatbots. Daarbij keken zij naar de mate waarin gebruikers een AI-systeem als intelligent en bruikbaar ervaren.
De onderzoekers legden deelnemers vier varianten voor van een gesprek met een chatbot over The Lord of the Rings. Twee varianten gebruikten vloeiende zinnen en menselijk taalgebruik, terwijl de andere twee korte, zakelijke antwoorden gaven. Binnen beide groepen verstrekte één chatbot correcte informatie en bevatte de andere subtiele feitelijke onjuistheden.
De chatbot die vloeiend communiceerde en correcte antwoorden gaf, kreeg de meest positieve beoordelingen. Een chatbot die natuurlijk taalgebruik combineerde met onjuiste informatie, werd echter als even intelligent en prettig beoordeeld als een chatbot die feitelijk correcte antwoorden gaf maar minder vloeiend communiceerde.
Daarnaast bleek dat 80 procent van de deelnemers de aangebrachte fouten niet herkende. De deelnemers waren vooraf geselecteerd op basiskennis van The Lord of the Rings.
Volgens Barbara Müller, universitair hoofddocent en mede-auteur van het onderzoek, speelt de manier waarop informatie wordt gepresenteerd een rol bij de beoordeling van de betrouwbaarheid ervan. “Als een tekst mooi en natuurlijk klinkt, schrijven mensen daar automatisch intelligentie aan toe. Je denkt dan onbewust al snel: dit zit wel goed, ik hoef het niet meer te controleren.”
De bevindingen hebben betrekking op de wisselwerking tussen taalgebruik, feitelijke juistheid en de perceptie van AI-systemen. Taalmodellen zoals ChatGPT en Claude genereren antwoorden op basis van statistische patronen in taal, waarbij de geproduceerde informatie niet altijd feitelijk correct is.
Hoogleraar en mede-auteur Tibor Bosse wijst erop dat de ontwikkeling van chatbots heeft geleid tot systemen die steeds natuurlijker communiceren. Volgens hem kan die ontwikkeling ertoe bijdragen dat gebruikers antwoorden accepteren zonder de inhoud te controleren.
Bosse pleit daarom voor een duidelijkere vermelding van onzekerheid bij antwoorden van AI-systemen. Een algemene waarschuwing vooraf dat gegenereerde informatie fouten kan bevatten, vindt hij onvoldoende.
“Als we gebruikers echt willen beschermen tegen chatbots die onzin uitkramen, moet je bijvoorbeeld techbedrijven verplichten om die onzekerheid zichtbaar te maken. Als een chatbot zélf twijfel aangeeft, voorkom je dat mensen onzin voor waarheid aannemen”, aldus Bosse.
