Rijswijk - Als AI een fout maakt in de zorg, dan is dat volgens 41 procent van de zorgprofessionals de verantwoordelijkheid van de behandelend professional. Dit blijkt uit
onderzoek van IT-dienstverlener en specialist in gegevensuitwisseling
SureSync, onder 211 professionals betrokken bij IT, data en compliance binnen de Nederlandse zorg. Zorgprofessionals zijn verdeeld over wie verantwoordelijk is wanneer AI een fout maakt. Een iets kleinere groep van 36 procent wijst namelijk naar de zorgorganisatie en veertien procent naar de leverancier van de AI-toepassing.
Vertrouwen in AI blijft beperkt
Hoewel AI steeds verder geïntegreerd wordt in de zorg, is de kans op fouten aanzienlijk. Slechts drie procent van de zorgprofessionals vindt AI-toepassingen in de zorg momenteel zeer betrouwbaar. 35 procent vindt ze enigszins betrouwbaar, en één op de vijf (22%) is sceptisch. Die voorzichtigheid vertaalt zich in hoge eisen van zorgprofessionals aan de inzet van AI. Ruim vier op de vijf (81%) vindt dat AI binnen de eigen organisatie pas mag worden ingezet als zij honderd procent zeker zijn dat data veilig en verantwoord wordt gebruikt.
Toch zien zorgprofessionals AI ook als een kans. Meer dan de helft (56%) vindt dat AI de zorg veiliger maakt dan wanneer professionals alleen op het eigen oordeel vertrouwen.
Regelgeving als rem
Om die belofte waar te maken, moet de inzet van AI in de zorg zich nog verder ontwikkelen. Volgens 55 procent van de zorgprofessionals remt de huidige wet- en regelgeving die innovatie eerder af dan dat het helpt. De zorgsector werkt per definitie in een context van strikte privacy-eisen, medische aansprakelijkheid en patiëntveiligheid: kaders die er niet voor niets zijn. Dat zet zorgorganisaties in een lastige positie. Ze willen vooruit, zien de potentie en voelen tegelijk de remmende werking van regels die geschreven zijn voor een werkelijkheid waarin AI nog geen rol speelde.
Sander Odijk, managing director bij SureSync: "Het is opvallend dat de verantwoordelijkheid bij AI-fouten vooral bij de behandelend professional wordt gelegd. Dat laat zien hoe nieuw dit vraagstuk nog is: de zorgsector werkt al met AI, terwijl juridische en morele kaders nog achterlopen. Tegelijkertijd biedt AI juist de extra controlelaag waar de sector behoefte aan heeft in een werkomgeving met hoge tijdsdruk, waar menselijke fouten direct impact hebben op patiënten. Dat zorgprofessionals hoge eisen stellen aan veilig en verantwoord datagebruik laat zien dat de bereidheid om AI zorgvuldig in te zetten groot is. Om die potentie te benutten, zijn duidelijke verantwoordelijkheden, heldere richtlijnen en een human-in-the-loop-principe nodig waarbij de professional het laatste woord houdt."
---
Noot voor de redactie
Over het onderzoek
Dit onderzoek is uitgevoerd door onderzoeksbureau Markteffect, in opdracht van SureSync. In totaal namen 211 respondenten deel, bestaande uit de doelgroep: mensen die werkzaam zijn in de zorg en die betrokken zijn (beïnvloeders en beslissers) op het gebied van IT, Finance, Data, Compliance en Legal.