Inhaltsverzeichnis
Künstliche Intelligenz (KI) kann Apotheken an vielen Stellen unterstützen: von der Lagerplanung über Marketing und Kundenkommunikation bis hin zur Beratung. Welche Möglichkeiten KI bietet und wo ihre Grenzen liegen, haben wir bereits in unserem Beitrag „Künstliche Intelligenz in Apotheken: Chancen und Herausforderungen“ ausführlich beleuchtet.
Doch wer KI in der Apotheke einsetzt, muss inzwischen auch die rechtlichen Vorgaben im Blick haben. Mit dem EU AI Act gelten erstmals europaweit einheitliche Regeln für Künstliche Intelligenz. Je nach Einsatzzweck unterscheiden sich die Anforderungen erheblich. Was bedeutet das konkret für Vor-Ort-Apotheken? Welche KI-Anwendungen gelten als besonders risikoreich und welche Pflichten müssen Apotheken bereits heute beachten?
EU AI Act: Was steckt dahinter?
Mit dem EU AI Act hat die Europäische Union erstmals ein einheitliches Regelwerk für die Entwicklung und Nutzung Künstlicher Intelligenz geschaffen. Im Mittelpunkt eben dieses Regelwerks steht ein risikobasierter Ansatz: Das bedeutet, Je stärker eine Künstliche Intelligenz die Gesundheit, Sicherheit oder Grundrechte von Menschen beeinflussen kann, desto strenger sind die Vorgaben.
Während einige besonders riskante Anwendungen verboten sind, gelten für sogenannte Hochrisiko-KI-Systeme umfangreiche Anforderungen – darunter fallen zahlreiche Anwendungsgebiete für Apotheken.
Für andere Systeme sieht der AI Act vor allem Transparenzpflichten vor. Das gilt zum Beispiel bei KI-Telefonie oder KI-gesteuerten Chatbots, die Sie zum Beispiel auf der Apotheken-Website einsetzen können. Hier muss dem Nutzer klar sein, dass er gerade mit einem KI-System kommuniziert.
Die Verordnung ist bereits seit August 2024 in Kraft und wird jetzt nach und nach schrittweise wirksam.
Zudem müssen Unternehmen bereits seit Februar 2025 unter anderem dafür sorgen, dass MitarbeiterInnen, die mit KI arbeiten, über eine ausreichende KI-Kompetenz verfügen. Die Transparenzpflichten, also zum Beispiel die Pflicht, KI-Chatbots als solche zu kennzeichnen und Teams für KI zu schulen gelten ab dem 2. August 2026. Die strengeren Pflichten für Hochrisiko-KI-Systeme wurden dagegen verschoben, auch um Unternehmen mehr Zeit zu geben: Für Systeme wie die Vorsortierung von Bewerbungen gilt jetzt aktuell der 2. Dezember 2027 als Frist. Für noch komplexere Hochrisikosysteme wie beispielsweise für KI in regulierten Produkten sogar der 2. August 2028. Apotheken haben also mehr Zeit für die Umsetzung – sollten sich aber trotzdem frühzeitig vorbereiten. (Quelle)
In Deutschland übernimmt die Bundesnetzagentur die zentrale Rolle bei Aufsicht, Koordination und Information. Dort entsteht dafür eine eigene Anlaufstelle für Unternehmen mit Fragen zum AI Act.
Was bedeutet der EU AI Act für Apotheken, die KI einsetzen?
Für Vor-Ort-Apotheken, die eine bereits entwickelte KI-Lösung einsetzen, gelten nach dem AI Act in der Regel als BetreiberInnen des Systems. Welche Anforderungen gelten, hängt jedoch nicht allein davon ab, dass eine KI genutzt wird, sondern vor allem von ihrem konkreten Einsatzzweck.
Als Beispiel:
- KI-Anwendungen für Lagerprognosen (je nachdem wie und welchen Zugriff die Systeme auf Ihre Daten haben), administrative Abläufe oder erste Entwürfe für Marketingtexte werden normalerweise nicht als Hochrisiko-KI eingestuft.
- Anders kann es aussehen, wenn ein System Einfluss auf medizinische oder pharmazeutische Entscheidungen nimmt, als Bestandteil eines regulierten Medizinprodukts eingesetzt wird (beispielsweise, wenn medizinische Messwerte auswertet und daraus eine Empfehlung für Diagnose oder Behandlung ableitet wird) oder Lebensläufe von BewerberInnen vorsortiert.
Sie merken, leider lässt sich hier in der Regel selten eine pauschale Antwort geben, denn im Zweifelsfall kommt es fast immer auf den Einsatzzeck und die Einbindung des jeweiligen KI-Systems an.
Ein KI-System zur Unterstützung der pharmazeutischen Beratung ist daher nicht immer automatisch Hochrisiko-KI. Entscheidend sind unter anderem seine Zweckbestimmung, seine Funktionsweise und die rechtliche Einstufung des Anbieters.
Eines gilt jedoch immer: Unabhängig von der Risikoklasse sollten pharmazeutische Informationen immer von qualifizierten pharmazeutischen MitarbeiterInnen geprüft werden, denn KI kann gravierende Fehler machen. Die fachliche Verantwortung bleibt daher immer bei der Vor-Ort-Apotheke und kann nicht an ein KI-System übertragen werden.
Checkliste: So bereiten Sie Ihre Apotheke auf den AI Act vor
Worauf müssen Sie achten, wenn Sie KI in der Apotheke einsetzen?
- KI-Anwendungen erfassen: Dokumentieren Sie, welche KI-Systeme in der Apotheke bereits genutzt werden – auch frei zugängliche Text-, Übersetzungs- oder Bildtools.
- Einsatzzwecke genau prüfen: Halten Sie fest, wofür die KI eingesetzt wird, welche Daten sie verarbeitet und ob ihre Ergebnisse KundInnen, PatientInnen oder MitarbeiterInnen betreffen.
- Anbieter kontrollieren: Lassen Sie sich die Zweckbestimmung, die Risikoeinstufung sowie die Datenschutz- und Sicherheitsmaßnahmen der Lösung erläutern.
- MitarbeiterInnen schulen: Vermitteln Sie Ihrem Team die Möglichkeiten, Grenzen und Risiken der eingesetzten KI-Systeme und dokumentieren Sie die Maßnahmen.
- Gesundheitsdaten schützen: Geben Sie keine Kunden-, Rezept-, Medikations- oder Gesundheitsdaten in öffentliche oder nicht ausdrücklich freigegebene KI-Systeme ein.
- Menschliche Kontrolle sichern: Lassen Sie pharmazeutische, medizinische und rechtlich relevante Inhalte immer durch eine qualifizierte Person überprüfen.
- Transparent kommunizieren: Machen Sie insbesondere bei Chatbots deutlich, dass KundInnen mit einem KI-System interagieren.
- Verantwortlichkeiten festlegen: Regeln Sie intern, wer KI-Systeme freigibt, ihre Ergebnisse kontrolliert und bei Fehlern oder Auffälligkeiten reagiert.
Aktuell geltende Fristen des EU AI Act:
- Seit dem 2. Februar 2025: Unternehmen, die KI-Systeme einsetzen, müssen Maßnahmen ergreifen, um eine ausreichende KI-Kompetenz der MitarbeiterInnen sicherzustellen, die mit diesen Systemen arbeiten.
- Die Transparenzregeln (Hinweis z. B. bei KI-Chatbots oder KI-Inhalten) des AI Act treten ab dem 2. August 2026 in Kraft.
- Regeln für Systeme, die in bestimmten Hochrisikobereichen eingesetzt werden – einschließlich Biometrie, kritischer Infrastruktur, Bildung, Beschäftigung, Migration, Asyl und Grenzkontrolle – gelten ab dem 2. Dezember 2027.
- Für Systeme, die in Produkte integriert sind, wie zum Beispiel Aufzüge oder Spielzeug, gelten die Regeln ab dem 2. August 2028.
