“De AI-pilot werkt. Maar wie beheert dit straks?”
Een geslaagde AI-pilot is nog geen toepassing die klaar is voor structureel gebruik. Ik help zorgorganisaties om eigenaarschap, risicoafweging, monitoring en beheer passend te organiseren.
Waar het misgaat
Tijdens een pilot is vaak duidelijk wie waarvoor verantwoordelijk is. Er is een projectteam, er wordt getest en de resultaten worden besproken.
Bij structureel gebruik verandert dat. De toepassing wordt onderdeel van het dagelijkse werk en moet ook beheerd worden wanneer het projectteam niet meer betrokken is.
Dan ontstaan andere vragen. Wie is eigenaar van de toepassing? Wie beoordeelt of de uitkomsten betrouwbaar en bruikbaar blijven? Wat gebeurt er bij een incident, een wijziging of een aanpassing door de leverancier?
Ook moet duidelijk zijn wie verantwoordelijk is voor de gegevens die worden gebruikt en welke afspraken er zijn over het gebruik van de uitkomsten.
Niet iedere AI-toepassing kent dezelfde risicos. Een toepassing die administratief werk ondersteunt, vraagt andere beheersmaatregelen dan een toepassing die invloed heeft op klinische besluitvorming.
De benodigde inrichting hangt daarom af van het gebruik, de risicos, de afhankelijkheden en de verplichtingen die voor de toepassing gelden.
Wat ik doe
Ik begin met de toepassing zelf en de manier waarop deze binnen de organisatie wordt gebruikt.
Welk probleem lost de toepassing op? Wie gebruikt de uitkomsten? Welke gegevens zijn nodig? Welke gevolgen kan een fout hebben? En welke partijen zijn betrokken bij de werking en het beheer?
Vervolgens kijk ik naar de bestaande beheerorganisatie, de afspraken met leveranciers en de manier waarop risicos en verantwoordelijkheden nu zijn belegd.
Samen met de betrokkenen werk ik uit wie eigenaar is, welke controles nodig zijn, hoe incidenten en wijzigingen worden behandeld en wanneer de toepassing opnieuw beoordeeld moet worden.
Daarbij betrek ik waar nodig zorgprofessionals, functioneel beheer, informatiebeveiliging, privacy en andere inhoudelijk deskundigen.
Ik bouw of valideer zelf geen AI-modellen. Mijn rol is om de organisatorische inrichting, verantwoordelijkheden en beheersafspraken op orde te helpen brengen.
Hoe een opdracht eruit kan zien
De aanpak hangt af van de toepassing en de fase waarin deze zich bevindt. Soms is een pilot bijna afgerond en moet het structurele beheer nog worden georganiseerd. Soms wordt AI al gebruikt, maar zijn de verantwoordelijkheden en controles onvoldoende duidelijk.
Analyse en risicoafweging
Ik breng in kaart hoe de toepassing wordt gebruikt, welke partijen betrokken zijn en welke afspraken al bestaan.
Daarbij kijken we naar de mogelijke gevolgen van fouten, afhankelijkheden van leveranciers, datakwaliteit, informatiebeveiliging en relevante wet- en regelgeving.
De uitkomst is een overzicht van de belangrijkste aandachtspunten, risicos en keuzes die nodig zijn voordat de toepassing structureel kan worden gebruikt of verder wordt uitgebreid.
Inrichting van eigenaarschap en beheer
Als duidelijk is welke beheersmaatregelen nodig zijn, help ik om deze te vertalen naar rollen, processen en werkafspraken.
Denk aan het beleggen van eigenaarschap, afspraken over incidenten en wijzigingen, verantwoordelijkheden voor gegevens en de samenwerking met leveranciers.
Ook bepalen we wie de werking van de toepassing volgt, welke signalen aanleiding geven tot onderzoek en wie kan besluiten om het gebruik aan te passen of tijdelijk te stoppen.
De inrichting sluit zoveel mogelijk aan op bestaande processen voor beheer, risicomanagement en informatiebeveiliging. Er hoeft geen aparte organisatie voor AI te worden ingericht als dat niet nodig is.
Invoering, monitoring en borging
Nieuwe afspraken moeten ook onderdeel worden van de dagelijkse werkwijze.
Ik kan helpen bij de invoering, de overdracht naar de betrokken beheer- en proceseigenaren en het organiseren van periodieke evaluaties.
Daarbij maken we concreet welke controles worden uitgevoerd, wie de resultaten beoordeelt en hoe afwijkingen worden opgevolgd.
De inhoudelijke beoordeling van modelprestaties en klinische geschiktheid blijft bij de daarvoor aangewezen deskundigen. Ik help om te zorgen dat die beoordeling is georganiseerd en dat duidelijk is wat er met de uitkomsten gebeurt.
Deze onderdelen vormen geen
verplicht traject.
We sluiten aan bij wat
de organisatie al heeft
en spreken vooraf af
welk resultaat nodig is.
Van AI-pilot naar structureel gebruik?
Misschien werkt de toepassing al goed in een pilot, maar is nog niet duidelijk wie straks verantwoordelijk is voor het beheer.
In een verkennend gesprek kijken we naar de toepassing, de huidige situatie en waar ik iets kan toevoegen.