KI-Praxis-Check Pflege – wenn KI technisch funktioniert, aber pflegerisch bestehen muss

Wie diese Initiative entstanden ist

Ausgangspunkt ist die Community-Diskussion zum Beitrag „KI in der Pflege: Das eigentliche Risiko ist nicht der Algorithmus – sondern fehlende Verantwortung“. Dort wurde aus der Governance-Frage sehr schnell eine praktische Frage: Was müsste eine Pflegeorganisation eigentlich prüfen, bevor die erste Pflegefachkraft mit einem KI-System arbeitet?

Sylwia Markgraf brachte dafür den treffenden Arbeitstitel „KI-Praxis-TÜV“ ins Spiel. Dahinter steht bewusst nicht die Idee eines weiteren umfangreichen Regelwerks. Gesucht wird ein kurzer, verständlicher und im Pflegealltag tatsächlich einsetzbarer Check. Die Diskussion hat außerdem eine entscheidende Unterscheidung herausgearbeitet: Ein KI-System kann technisch funktionieren und trotzdem im konkreten Pflegeprozess nicht funktionieren.

Leitgedanke

KI darf die Fachkompetenz der Pflegefachkraft nicht ersetzen. Sie kann Wissen verfügbar machen, Informationen strukturieren, auf Risiken hinweisen, Standards unterstützen und Entscheidungen vorbereiten. Die pflegefachliche Bewertung einer konkreten Versorgungssituation bleibt jedoch eine professionelle Aufgabe.

Deshalb reicht „Human in the Loop“ als formales Prinzip nicht aus. Entscheidend ist, ob Pflegefachkräfte organisatorisch, fachlich und kulturell tatsächlich die Möglichkeit haben, einer KI-Empfehlung zu widersprechen, sie zu korrigieren oder bewusst nicht zu übernehmen. Menschliche Kontrolle darf nicht zu einer bloßen menschlichen Bestätigung algorithmischer Vorschläge werden.

Die ersten Prüfperspektiven

1. Pflegefachlichkeit und Delegationsgrenzen

Für welchen konkreten Pflegeprozess wird die KI eingesetzt? Welche Aufgaben können sinnvoll unterstützt oder delegiert werden? Welche Entscheidungen und Tätigkeiten dürfen nicht an ein KI-System übertragen werden? Bleibt das professionelle pflegerische Urteil handlungsleitend?

2. Kompetenz der Anwender:innen

Reicht eine klassische Produkteinweisung oder braucht es eine Art „KI-Führerschein“? Anwender:innen sollten nicht nur wissen, wie ein System bedient wird, sondern auch, was es kann, was es nicht kann, woran mögliche Fehler erkannt werden und wann einer Empfehlung bewusst widersprochen werden muss.

3. Daten- und Wissensgrenzen der KI

Welche Informationen kennt das System und welche fehlen ihm? Können gerade die fehlenden Informationen für die pflegerische Einschätzung entscheidend sein? Sind Datenqualität, Herkunft, Aktualität und Datenwege nachvollziehbar? Werden Systemgrenzen für die Anwender:innen sichtbar?

4. Verantwortung und Widerspruchsmöglichkeit

Was passiert konkret, wenn die KI falsch liegt? Wer erkennt und meldet einen Fehler? Wer darf Empfehlungen überschreiben oder ablehnen? Entsteht im Alltag ein „Die KI hat es doch vorgeschlagen“-Effekt? Wie werden Fehler ausgewertet und wie lernen Organisation und System daraus?

5. Entlastung und Patientennutzen

Woran erkennen wir, dass KI tatsächlich entlastet? Weniger Klicks, weniger Dokumentationszeit, weniger Doppelarbeit, weniger Unterbrechungen, mehr Zeit für Versorgung oder bessere Ergebnisqualität können relevante Kriterien sein. Mehr automatisch produzierter Text allein ist kein Nutzen.

6. Passung zum realen Pflegeprozess

Passt die KI tatsächlich in den konkreten Arbeitsablauf? Welche zusätzlichen Kontroll-, Korrektur- oder Dokumentationsarbeiten entstehen? Woran erkennen wir, dass ein fachlich oder technisch gutes System im Alltag trotzdem nicht funktioniert? Diese Perspektive soll ausdrücklich den Unterschied zwischen „technisch funktioniert“ und „pflegerisch funktioniert“ sichtbar machen.

Arbeitsauftrag an die Community

Die Initiative startet bewusst als offene Diskussion. Pflegefachkräfte, Pflegeinformatiker:innen, Pflegemanagement, Wissenschaft, Datenschutz, Qualitätsmanagement und weitere Beteiligte sind eingeladen, die Prüffragen zu ergänzen, zu streichen, zu priorisieren und anhand realer Anwendungssituationen zu testen.

Besonders gesucht werden Praxisbeispiele: Wo wird KI bereits eingesetzt? Welche unerwarteten Kontroll- oder Zusatzarbeiten entstehen? Wann hat eine KI-Empfehlung geholfen? Wann musste ihr widersprochen werden? Welche Frage hätte vor der Einführung gestellt werden müssen?

Geplantes Ergebnis

Aus der Diskussion soll eine kompakte erste Version des „KI-Praxis-Check Pflege“ entstehen. Das Ziel ist ausdrücklich kein 80-seitiger Leitfaden, sondern ein Instrument, das vor der Einführung eines KI-Systems und später im laufenden Betrieb tatsächlich zur Hand genommen werden kann.

Der Check soll anschließend mit praktischen Anwendungsfällen erprobt und weiterentwickelt werden. Perspektivisch kann daraus ein gemeinsamer pflegefachlicher Referenzrahmen entstehen, der technische, regulatorische und organisatorische KI-Governance um die entscheidende Frage ergänzt: Funktioniert diese KI im konkreten Pflegeprozess – und stärkt sie professionelles pflegerisches Handeln?