‘Veel managers liggen wakker van autonome AI-beslissingen’

Een groeiend aantal organisaties zet AI in om zelfstandig beslissingen te nemen, maar de managers die daarvoor verantwoordelijk zijn, ervaren dat als een ongemakkelijke spagaat. 59 procent ligt ‘s nachts wakker van het idee dat AI een fout maakt waarvoor zij verantwoordelijk worden gehouden. De grootste angstscenario’s die hen bezighouden zijn een cyberaanval waarbij hackers de AI manipuleren (22%), een onomkeerbare AI-beslissing (18%) en een AI die regels anders interpreteert dan bedoeld (16%). Dit blijkt uit onderzoek van Dynamic People onder 317 IT- en businessbeslissers binnen middelgrote en grote organisaties in Nederland.

Die verantwoordelijkheid voelt voor velen als een oneerlijke last. Maar liefst acht op de tien (79%) vindt het oneerlijk om op te draaien voor beslissingen die een autonoom systeem, zoals een ERP-systeem, heeft genomen. Toch is het beeld niet zwart-wit: hoewel bijna negen op de tien (89%) wil begrijpen waaróm AI een bepaalde beslissing neemt, zegt 68 procent ook dat een goede uitkomst voor hen voldoende is. Zolang het goed gaat, hoeven ze het niet per se uit te kunnen leggen aan de directie.

De nachtelijke zorgen staan in opvallend contrast met hoe beslissingsbevoegden AI daadwerkelijk beoordelen. Twee derde (67%) denkt dat AI betere beslissingen neemt dan de meeste managers, en die hogere verwachting vertaalt zich in een strenger oordeel. De helft accepteert een fout van een junior medewerker sneller dan een vergelijkbare fout van een AI-systeem. En dat vertrouwen in AI als autoriteit lijkt alleen maar te groeien: meer dan de helft (56%) gelooft dat “omdat de AI het zegt” over vijf jaar een volwaardige zakelijke onderbouwing is.”