Meer dan de helft van de zorgmedewerkers gebruikt inmiddels kunstmatige intelligentie (AI) op de werkvloer. Dat blijkt uit recent onderzoek waar NU.nl over berichtte. Tegelijkertijd geeft een groot deel van de zorgprofessionals aan behoefte te hebben aan duidelijke richtlijnen en kaders voor het gebruik van AI. De technologie ontwikkelt zich snel, maar veel organisaties zijn nog zoekende naar de juiste manier om ermee om te gaan.
Die behoefte is ook herkenbaar binnen de Regionale Samenwerking AI, waarin Calidus, Esdégé-Reigersdaal, ’s Heeren Loo, Prinsenstichting, Odion, De Waerden, Raphaelstichting en Philadelphia samenwerken. Vanuit deze samenwerking ontstond de wens om kennis over AI, ethiek en de Europese AI Act te verdiepen en ervaringen met elkaar uit te wisselen.
Met ondersteuning van Zorgring werd daarom een regionale kennissessie georganiseerd. Vertegenwoordigers van de deelnemende organisaties gingen met elkaar in gesprek over een vraag die steeds urgenter wordt: hoe benutten we de kansen van AI, zonder de belangen van cliënten, medewerkers en organisaties uit het oog te verliezen? Vanuit deze kennissessie zijn belangrijke gemeenschappelijke delers gekomen.
De behoefte aan richtlijnen is herkenbaar
De uitkomsten uit het onderzoek dat door NU.nl werd aangehaald, waren voor veel aanwezigen herkenbaar. Zorgmedewerkers experimenteren steeds vaker met AI-toepassingen voor bijvoorbeeld verslaglegging, informatieverwerking en administratieve ondersteuning. Maar wie bepaalt eigenlijk welke toepassingen zijn toegestaan? Welke gegevens mogen worden gebruikt? En wie draagt verantwoordelijkheid als er iets misgaat?
Tijdens de bijeenkomst werd duidelijk dat AI niet langer een onderwerp is voor alleen de ICT-afdeling. De impact raakt de hele organisatie.
De AI Act draait om mensen, niet om technologie
Een belangrijk inzicht uit de sessie was dat de Europese AI Act uitgaat van fundamentele grondrechten. Niet de technologie staat centraal, maar de bescherming van mensen.
Dat betekent dat organisaties vooraf moeten nadenken over vragen als:
- Welke risico’s brengt een AI-toepassing met zich mee?
- Welke invloed heeft deze technologie op cliënten en medewerkers?
- Hoe zorgen we voor transparantie en toezicht?
- Welke maatregelen zijn nodig om privacy en veiligheid te waarborgen?
Volgens de deelnemers bestaat er daarbij zelden een kant-en-klaar antwoord. Juist daarom zijn ethische afwegingen essentieel.
Verantwoord AI-gebruik vraagt om blijvende aandacht
Waar veel organisaties AI nog benaderen als een project, benadrukten de deelnemers dat AI in werkelijkheid een doorlopende cyclus is.
Compliance stopt niet op het moment dat een toepassing live gaat. Organisaties moeten AI-systemen blijven monitoren, evalueren en waar nodig bijsturen. Logging, risicobeoordelingen en impactanalyses blijven gedurende de gehele levensduur van een toepassing noodzakelijk.
Daarmee sluit de bijeenkomst direct aan op de oproep uit het NU.nl-artikel: duidelijke richtlijnen zijn niet alleen wenselijk, maar noodzakelijk om AI verantwoord in de zorg te kunnen inzetten.
Kritisch kijken naar leveranciers
Ook leveranciers kwamen uitgebreid aan bod. Veel AI-functionaliteiten worden inmiddels geïntegreerd in bestaande softwarepakketten. Daardoor ontstaat het risico dat organisaties gebruikmaken van AI zonder precies te weten hoe een oplossing werkt of welke gegevens worden verwerkt.
De deelnemers bespraken daarom het belang van zorgvuldige leveranciersselectie, periodieke toetsing en het uitvoeren van bijvoorbeeld een Fundamental Rights Impact Assessment (FRIA).
Verantwoord gebruik van AI begint immers niet bij de technologie zelf, maar bij de keuzes die organisaties maken.
AI vraagt om gezamenlijke verantwoordelijkheid
Een ander belangrijk inzicht was dat verantwoordelijkheid voor AI niet bij één functionaris kan worden neergelegd. Bestuurders, Functionarissen Gegevensbescherming (FG), Chief Information Security Officers (CISO’s), informatiebeveiligingsspecialisten, privacy officers en kwaliteitsmedewerkers hebben allemaal een rol.
Succesvolle implementatie vraagt daarom om een organisatiebrede aanpak en bestuurlijk eigenaarschap.
Ook duurzaamheid verdient aandacht
Naast veiligheid, privacy en ethiek werd tijdens de bijeenkomst ook stilgestaan bij de impact van AI op duurzaamheid. AI-systemen vragen veel rekenkracht en verbruiken aanzienlijk meer energie dan traditionele software.
De vraag hoe organisaties hiermee omgaan, is uiteindelijk een bestuurlijke afweging. Welke maatschappelijke waarde levert een toepassing op en hoe verhoudt die zich tot de benodigde middelen?
Samen leren als regio
De ontwikkelingen rond AI gaan snel. Juist daarom is kennisdeling belangrijk. Door ervaringen uit te wisselen en gezamenlijk te leren, kunnen zorgorganisaties sneller inspelen op nieuwe wetgeving, risico’s beperken en kansen benutten.
Tijdens de bijeenkomst werd duidelijk dat veel organisaties tegen vergelijkbare uitdagingen aanlopen. Hoe verhouden de AI Act, AVG, WGBO, MDR en andere wet- en regelgeving zich tot elkaar? Hoe richt je verantwoord gebruik van AI in? En hoe neem je medewerkers mee in de veranderingen die daarbij horen?
Succesvol werken met AI gaat namelijk niet alleen over technologie. Het vraagt ook nieuwe vaardigheden, ander gedrag en draagvlak binnen de organisatie. Vanuit Zorgring ondersteunen we zorgorganisaties bij deze vraagstukken. We helpen organisaties om grip te krijgen op wet- en regelgeving, verantwoord AI-gebruik vorm te geven en medewerkers mee te nemen in de implementatie.
Ook verantwoord aan de slag met AI?
Wil je binnen jouw organisatie aan de slag met AI, AI-geletterdheid of de AI Act, maar weet je niet goed waar te beginnen? Neem dan contact op met Ellen van Duivenbooden via projecten@zorgring.nl.