Amsterdam - Een groeiend aantal organisaties zet
AI in om zelfstandig beslissingen te nemen, maar de managers die daarvoor
verantwoordelijk zijn, ervaren dat als een ongemakkelijke spagaat. 59
procent ligt 's nachts wakker van het idee dat AI een fout maakt waarvoor
zij verantwoordelijk worden gehouden. De grootste angstscenario's die hen
bezighouden zijn een cyberaanval waarbij hackers de AI manipuleren (22%),
een onomkeerbare AI-beslissing (18%) en een AI die regels anders
interpreteert dan bedoeld (16%). Dit blijkt uit
onderzoek van
Dynamic People onder 317 IT- en businessbeslissers
binnen middelgrote en grote organisaties in Nederland.
Verantwoordelijkheid zonder controle
Die verantwoordelijkheid voelt voor velen als een oneerlijke last. Maar
liefst acht op de tien (79%) vindt het oneerlijk om op te draaien voor
beslissingen die een autonoom systeem, zoals een ERP-systeem, heeft
genomen. Toch is het beeld niet zwart-wit: hoewel bijna negen op de tien
(89%) wil begrijpen waaróm AI een bepaalde beslissing neemt, zegt 68
procent ook dat een goede uitkomst voor hen voldoende is. Zolang het goed
gaat, hoeven ze het niet per se uit te kunnen leggen aan de
directie.
Meer vertrouwen in AI dan in de eigen collega
De nachtelijke zorgen staan in opvallend contrast met hoe
beslissingsbevoegden AI daadwerkelijk beoordelen. Twee derde (67%) denkt
dat AI betere beslissingen neemt dan de meeste managers, en die hogere
verwachting vertaalt zich in een strenger oordeel. De helft accepteert
een fout van een junior medewerker sneller dan een vergelijkbare fout van
een AI-systeem. En dat vertrouwen in AI als autoriteit lijkt alleen maar
te groeien: meer dan de helft (56%) gelooft dat "omdat de AI het
zegt" over vijf jaar een volwaardige zakelijke onderbouwing
is."
Jan-Douwe Jildera, CEO bij Dynamic People: “Dat managers wakker liggen
van beslissingen die door AI genomen worden, is een teken aan de wand.
Het vertrouwen in AI als beslisser groeit snel, maar de organisatie
groeit daar nog niet in mee. Organisaties moeten nu nadenken over
governance: wie bepaalt wat het systeem mag beslissen, wie houdt toezicht
en wie is aanspreekbaar als het een keer misgaat. Dat zijn geen
technische vragen, maar organisatorische. En moeten ze beantwoord worden
voordat het systeem live gaat, niet erna. Wie die kaders nu op orde heeft,
kan met meer vertrouwen de stap zetten naar een toekomst waarin AI een
volwaardige rol speelt."