De EU AI Act: Een nieuwe realiteit

Per 1 augustus 2024 is de EU AI Act in werking getreden – de eerste uitgebreide AI-wet ter wereld. Deze wetgeving stelt belangrijke regels voor het gebruik van kunstmatige intelligentie binnen de EU en heeft direct invloed op zorgverleners in de eerste lijn en paramedische praktijken.

🔗 Verwijzing naar de Wet

Officiële naam: Verordening (EU) 2024/1689 betreffende kunstmatige intelligentie (AI Act)

Status: In werking getreden op 1 augustus 2024, gefaseerde implementatie tot augustus 2027

Officiële documenten:

• Volledige tekst beschikbaar via EUR-Lex
• Commissierichtlijnen voor verboden praktijken
• Nederlandse implementatie via rijksoverheid.nl

📊 Belangrijke Feiten

Geografisch bereik: Alle AI-systemen die binnen de EU worden gebruikt, ongeacht waar ze zijn ontwikkeld

Doelgroepen: AI-ontwikkelaars, leveranciers, importeurs en gebruikers (waaronder zorgorganisaties)

Relatie met andere wetten: Werkt samen met AVG, MDR (medische hulpmiddelen), en nationale zorgwetgeving

Hoofddoelstellingen

De EU AI Act heeft drie hoofddoelen: het bevorderen van veilige en betrouwbare AI-ontwikkeling, het beschermen van grondrechten van EU-burgers, en het stimuleren van AI-innovatie in Europa.

Risicogebaseerde Aanpak

De wet hanteert vier risicocategorieën:

• Onaanvaardbaar risico: Volledig verboden (zoals sociale scoring)
• Hoog risico: Strenge vereisten voor veiligheid en transparantie
• Beperkt risico: Transparantieverplichtingen (bijvoorbeeld chatbots)
• Minimaal/laag risico: Geen nieuwe eisen

🎯 Praktische Toepassing

De wet geldt voor alle AI-systemen die in de EU worden gebruikt, ongeacht waar ze zijn ontwikkeld. Organisaties moeten hun AI-toepassingen inventariseren en per risicocategorie de juiste maatregelen treffen.

Directe Actiepunten:

• Inventariseer alle huidige AI-toepassingen
• Classificeer per risicocategorie
• Implementeer vereiste waarborgen
• Train personeel in AI-geletterdheid
• Stel governance-processen op

🏥 Eerste Lijn & Paramedische Zorg

Verboden AI-toepassingen:

• AI-systemen die patiënten manipuleren of dwang uitoefenen
• Sociale scoring van patiënten
• Emotieherkenning (behalve voor medische diagnose)
• AI die gevaarlijke gezondheidsadviezen geeft

Hoog-risico AI in de zorg:

• Diagnostische AI-tools
• Behandeladvies systemen
• AI voor kritieke medische beslissingen
• Patiëntmonitoring systemen

📋 Praktische Verplichtingen

Voor gebruikers (zorgverleners):

• Menselijk toezicht op AI-beslissingen
• Controleren van leverancier-compliance
• Implementatie volgens gebruiksinstructies
• Incidentenrapportage bij AI-fouten
• Training en AI-geletterdheid personeel

Transparantie-eisen:

• Duidelijke melding bij AI-gebruik aan patiënten
• Documentatie van AI-beslissingen
• Geen “schaduwdossiers” in AI-systemen

👨⚕️ Huisartsen & Praktijkondersteuners

• AI-diagnostiek: hoog-risico classificatie
• Chatbots voor patiëntcontact: transparantie vereist
• Automatische triagesystemen: menselijk toezicht verplicht
• AI-gestuurde behandelprotocollen: strenge validatie-eisen

🏃♂️ Fysiotherapie & Paramedische Zorg

• Bewegingsanalyse-AI: mogelijk hoog-risico
• Oefenprogramma-generatoren: transparantie en veiligheid
• Patiënt-monitoring apps: documentatie-eisen
• AI-coaching tools: verbod op manipulatieve technieken

⚖️ Juridische Aandachtspunten

Aansprakelijkheid:

• Zorgverlener blijft eindverantwoordelijk
• Leverancier verantwoordelijk voor product-defecten
• Zorginstelling verantwoordelijk voor juist gebruik

Privacy & AVG:

• AI Act werkt samen met AVG-verplichtingen
• Toestemming vereist voor AI-dataverwerking
• Beroepsgeheim blijft van toepassing

Exclusieve Podcast: AI Act en de Zorg

Beluister onze diepgaande podcast over de praktische gevolgen van de AI Act voor zorgverleners. Gemaakt met NotebookLM AI-technologie voor maximale toegankelijkheid.

💬 ChatGPT voor brieven aan huisartsen

Risicocategorie: Minimaal risico

Waarom toegestaan: ChatGPT wordt gebruikt als schrijfhulp, niet voor medische beslissingen. De zorgverlener behoudt volledige controle over de inhoud.

Voorwaarden:

• Altijd menselijke controle en eindredactie
• Geen patiëntgegevens invoeren in ChatGPT
• Transparantie over AI-gebruik bij relevantie

🤖 Autonome chatbot met medisch advies

Risicocategorie: Hoog risico / Mogelijk verboden

Waarom niet toegestaan: Autonome medische adviezen zonder menselijk toezicht zijn verboden. Risico op onjuiste diagnoses en behandeladvies.

Wel toegestaan als:

• Alleen algemene informatie (geen specifiek advies)
• Duidelijke disclaimers over AI-gebruik
• Verwijzing naar menselijke zorgverlener
• Menselijk toezicht op alle interacties

🏃♂️ Physitrack: AI oefening-selectie

Risicocategorie: Afhankelijk van implementatie – hoog risico of beperkt risico

Selectiecriteria: Cruciaal verschil tussen voorselectie en definitieve selectie:

Vereiste waarborgen bij hoog-risico gebruik:

• CE-markering voor medische hulpmiddelen
• Fysiotherapeut controleert en keurt selectie goed
• Documentatie van AI-beslissingen
• Risicomanagement en post-market monitoring
• Training van gebruikers

📝 Fysio.ai: Intakegesprek transcriptie

Risicocategorie: Beperkt risico

Waarom toegestaan: Transcriptie is ondersteunend, geen medische besluitvorming. Vergelijkbaar met spraak-naar-tekst.

Vereiste maatregelen:

• Transparantie: patiënt informeren over AI-gebruik
• Controle transcriptie voordat toevoegen aan EPD
• Privacy-waarborgen (AVG-compliance)
• Geen automatische interpretatie van medische informatie

🔍 Beslissingscriteria Samengevat

• Minimaal risico: AI als hulpmiddel, mens behoudt controle → Meestal toegestaan
• Beperkt risico: Interactie met mensen → Transparantie vereist
• Hoog risico: Medische beslissingen beïnvloeden → Strenge eisen
• Verboden: Autonome medische beslissingen, manipulatie → Niet toegestaan