EU-KI-Verordnung fuer Psychologen: Was gilt ab 2026?

EU-KI-Verordnung (AI Act) fuer Psychologen: Hochrisiko-Einstufung, menschliche Aufsicht, Strafen bis 35 Mio. EUR und Checkliste fuer konforme KI-Werkzeuge.

EU-KI-Verordnung fuer Psychologen: Was gilt ab 2026?

Die EU-KI-Verordnung (AI Act) betrifft jeden Psychologen, der KI-Werkzeuge einsetzt. Kuenstliche Intelligenz transformiert die klinische Praxis in der psychischen Gesundheit. Von der automatischen Analyse von Sitzungsnotizen bis zur Erkennung emotionaler Muster bieten KI-Werkzeuge aussergewoehnliche Moeglichkeiten fuer Psychologen. Mit diesem Potenzial geht jedoch eine beispiellose regulatorische Verantwortung einher. Die Europaeische Verordnung ueber kuenstliche Intelligenz — die EU-KI-Verordnung — ist der weltweit erste umfassende Rechtsrahmen fuer KI und hat direkte Auswirkungen auf alle Fachkraefte fuer psychische Gesundheit, die KI-basierte Technologien verwenden oder verwenden moechten.

In diesem umfassenden Leitfaden erklaeren wir alles, was Sie ueber die EU-KI-Verordnung wissen muessen, wie sie mit der DSGVO interagiert und welche konkreten Schritte Sie unternehmen sollten, um die Konformitaet Ihrer klinischen Praxis sicherzustellen.

1. Was ist die EU-KI-Verordnung und wann tritt sie in Kraft

Verordnung (EU) 2024/1689 — allgemein als EU-KI-Verordnung bekannt — wurde im Maerz 2024 vom Europaeischen Parlament formell angenommen und im Juli 2024 im Amtsblatt der Europaeischen Union veroeffentlicht. Sie ist die weltweit erste umfassende Verordnung, die ausschliesslich der kuenstlichen Intelligenz gewidmet ist.

Umsetzungszeitplan

Datum	Meilenstein
August 2024	Verordnung tritt in Kraft
Februar 2025	Verbot unannehmbarer KI-Praktiken (Titel II)
August 2025	Regeln fuer KI-Modelle mit allgemeinem Verwendungszweck (GPAI)
August 2026	Pflichten fuer Hochrisiko-KI-Systeme (Anhang III)
August 2027	Pflichten fuer Hochrisiko-KI-Systeme (Anhang I)

Fuer Psychologen in Portugal ist der relevanteste Meilenstein August 2026, wenn die Pflichten fuer als hochriskant eingestufte KI-Systeme in Kraft treten — eine Kategorie, die viele in der psychischen Gesundheit verwendete Werkzeuge umfasst.

2. Warum Psychologen aufmerksam sein sollten

Das Konzept des "Betreibers"

Die EU-KI-Verordnung fuehrt das Konzept des "Betreibers" ein — jede natuerliche oder juristische Person, die ein KI-System unter ihrer Autoritaet nutzt. Wenn ein Psychologe ein KI-Werkzeug zur Analyse klinischer Notizen, Generierung von Berichten oder Unterstuetzung bei der Diagnose verwendet, gilt er als Betreiber und hat spezifische Pflichten.

Daten zur psychischen Gesundheit sind besonders sensibel

Laut einer Studie der EU-Agentur fuer Grundrechte betrachten 67 % der europaeischen Buerger Daten zur psychischen Gesundheit als die sensibelste Kategorie persoenlicher Informationen.

Spezifische Risiken in der psychischen Gesundheit

Algorithmischer Bias: KI-Systeme, die auf nicht repraesentativen Populationen trainiert wurden, koennen verzerrte Ergebnisse liefern.
Uebermaessiges Vertrauen: Das Risiko des Automatisierungsbias ist in klinischen Kontexten besonders gefaehrlich.
Auswirkungen auf klinische Entscheidungen: Eine falsche KI-Empfehlung kann Diagnosen und Behandlungsplaene beeinflussen.
Verlust der Patientenautonomie: Die Verwendung von KI ohne angemessene Transparenz kann die informierte Einwilligung und die therapeutische Beziehung gefaehrden.

3. Risikoklassifizierung fuer KI-Systeme in der psychischen Gesundheit

Die EU-KI-Verordnung verfolgt einen risikobasierten Ansatz mit vier Kategorien:

Unannehmbares Risiko (Verboten)

Seit Februar 2025 vollstaendig verbotene Praktiken: Social-Scoring-Systeme, unterschwellige schaedigende Manipulation, Ausnutzung von Schwachstellen bestimmter Gruppen.

Hohes Risiko

Dies ist die relevanteste Kategorie fuer die psychische Gesundheit. Gemaess Anhang III gelten KI-Systeme in folgenden Bereichen als hochriskant: Zugang zu wesentlichen Dienstleistungen (einschliesslich Gesundheitsversorgung), Medizinprodukte, Beschaeftigung und Arbeitnehmerverwaltung.

Beispiele in der klinischen Praxis: KI-Werkzeuge zur Diagnoseunterstuetzung, Systeme zur Behandlungsplanempfehlung, Triage-Algorithmen, praediktive Risikoanalysewerkzeuge.

Begrenztes Risiko

Systeme mit Transparenzpflichten: Chatbots, die mit Patienten interagieren (muessen sich als KI identifizieren), Systeme, die Inhalte generieren.

Minimales Risiko

Keine zusaetzlichen spezifischen Pflichten: E-Mail-Spamfilter, einfache Terminplanungsassistenten, grundlegende Transkriptionswerkzeuge.

4. Artikel 14: Menschliche Aufsicht — Was sich in der Praxis aendert

Artikel 14 ist wohl der relevanteste fuer Psychologen. Er legt fest, dass Hochrisiko-KI-Systeme so gestaltet sein muessen, dass sie eine wirksame menschliche Aufsicht ermoeglichen.

Was dies in der klinischen Praxis bedeutet

KI als Assistent, niemals als Entscheidungstraeger

Die EU-KI-Verordnung verstaerkt, was gute klinische Praxis bereits verlangt: Die klinische Entscheidung liegt immer bei der Fachkraft. KI darf diagnostische Hypothesen vorschlagen, relevante Muster identifizieren oder Interventionen vorschlagen, aber die endgueltige Entscheidung liegt stets beim Psychologen.

Recht auf Uebersteuerung

Psychologen muessen die Moeglichkeit haben, jeden Vorschlag des KI-Systems abzulehnen oder zu aendern.

In der Praxis setzt die Mena.ai-Plattform dieses Prinzip durch ein System um, bei dem KI-generierte Analysen als bearbeitbare Vorschlaege praesentiert werden. Der Therapeut ueberprueft, aendert und genehmigt jede Analyse, bevor sie in die klinische Akte aufgenommen wird.

Kompetenz und Schulung

Artikel 14 verlangt, dass fuer die Aufsicht verantwortliche Personen ueber die notwendige Kompetenz, Schulung und Autoritaet verfuegen.

Feedback-System: Artikel 14 in der Praxis

Mena.ai implementiert ein Feedback-System pro Nachricht, das es dem Therapeuten ermoeglicht, jede KI-Ausgabe mit Daumen hoch/runter zu bewerten und so zur kontinuierlichen Systemverbesserung beizutragen, waehrend gleichzeitig die Anforderungen an die menschliche Aufsicht erfuellt werden.

5. DSGVO + EU-KI-Verordnung: Doppelter Schutz fuer Patientendaten

Die EU-KI-Verordnung ersetzt die DSGVO nicht — sie ergaenzt sie. Psychologen in Portugal muessen beide Verordnungen gleichzeitig einhalten.

Wo sich die Verordnungen ueberschneiden

Aspekt	DSGVO	EU-KI-Verordnung
Personenbezogene Daten	Umfassender Schutz	Fokus auf KI-Nutzung
Einwilligung	Fuer die Verarbeitung erforderlich	Erforderlich + Transparenz ueber KI
Transparenz	Ueber Datenverarbeitung informieren	Ueber KI-Einsatz informieren
Rechte	Auskunft, Berichtigung, Loeschung	Erklaerbarkeit, Anfechtung
Folgenabschaetzung	DSFA fuer Hochrisikoverarbeitung	Konformitaetsbewertung
Aufsicht	DSB in bestimmten Faellen obligatorisch	Menschliche Aufsicht obligatorisch

Erweiterte Einwilligung

Wenn Sie bereits informierte Einwilligung fuer die Datenverarbeitung (DSGVO) einholen, muessen Sie Patienten nun auch spezifisch ueber den Einsatz von KI-Werkzeugen in Ihrer Praxis, welche Daten von KI verarbeitet werden und wie KI klinische Entscheidungen beeinflusst (oder nicht beeinflusst) informieren.

Verschluesselung und Sicherheit

Mena.ai's klinisches Management implementiert Verschluesselung auf Feldebene mit organisationsspezifischen Schluesseln, die sicherstellt, dass selbst bei unbefugtem Datenbankzugriff klinische Daten unlesbar bleiben.

6. Wie Mena.ai diese Anforderungen bereits erfuellt

Menschliche Aufsicht (Artikel 14)

Mena.ai's KI-gestuetzte Analyse folgt einem "Human-in-the-Loop"-Modell:

KI als Assistent: KI analysiert Transkripte und Sitzungsnotizen, schlaegt klinische Erkenntnisse vor, trifft aber nie autonome Entscheidungen.
Obligatorische Ueberpruefung: Jede generierte Analyse muss vom Therapeuten ueberprueft und genehmigt werden.
Vollstaendige Bearbeitung: Der Therapeut kann jeden KI-Vorschlag aendern, ergaenzen oder ablehnen.
Integriertes Feedback: Bewertungssystem pro Nachricht (Daumen hoch/runter) fuer kontinuierliche Verbesserung.

Datenschutz (DSGVO + EU-KI-Verordnung)

Verschluesselung auf Feldebene: Klinische Daten mit unternehmensspezifischen Schluesseln verschluesselt.
Daten in der EU: Gesamte Infrastruktur in der Europaeischen Union gehostet.
Datenminimierung: KI verarbeitet nur die strikt notwendigen Daten.
Kein Training mit Patientendaten: Patientendaten werden niemals zum Training oder zur Verbesserung von KI-Modellen verwendet.

7. Praktische Checkliste fuer Psychologen bei der Auswahl konformer KI-Werkzeuge

Transparenz und Information

Erklaert der Anbieter klar, wie die KI funktioniert?
Ist zugaengliche technische Dokumentation verfuegbar?
Ist klar, welche Daten verarbeitet werden und wie?

Menschliche Aufsicht

Koennen Sie alle KI-Vorschlaege ueberpruefen, bevor sie angewendet werden?
Koennen Sie KI-Ergebnisse aendern oder ablehnen?
Koennen Sie KI jederzeit deaktivieren, ohne Funktionalitaet zu verlieren?
Gibt es einen Feedback-Mechanismus zur Meldung von Problemen?

Datenschutz

Werden Daten in der EU gespeichert?
Gibt es angemessene Verschluesselung (im Ruhezustand und bei der Uebertragung)?
Werden Patientendaten nicht zum Modelltraining verwendet?
Gibt es einen angemessenen Auftragsverarbeitungsvertrag (AVV)?

Sicherheit

Ist Multi-Faktor-Authentifizierung verfuegbar?
Werden Zugriffsereignisse protokolliert und sind auditierbar?
Fuehrt der Anbieter regelmaessige Sicherheitstests durch?

8. Haeufig gestellte Fragen

Gilt die EU-KI-Verordnung fuer mich als einzelnen Psychologen?

Ja. Wenn Sie KI-Werkzeuge in Ihrer klinischen Praxis verwenden, gelten Sie als "Betreiber" unter der Verordnung. Ihre Pflichten umfassen mindestens wirksame menschliche Aufsicht und Transparenz gegenueber Patienten.

Muss ich aufhoeren, KI bis August 2026 zu verwenden?

Nicht unbedingt. Die EU-KI-Verordnung verbietet den Einsatz von KI in der psychischen Gesundheit nicht — sie reguliert ihn. Wichtig ist sicherzustellen, dass die von Ihnen verwendeten Werkzeuge die geltenden Anforderungen erfuellen.

Welche Strafen sind vorgesehen?

Strafen koennen erheblich sein:

Bis zu 35 Millionen Euro oder 7 % des globalen Jahresumsatzes fuer Verstoesse gegen Verbote.
Bis zu 15 Millionen Euro oder 3 % des Umsatzes fuer Verstoesse gegen andere Pflichten.
Bis zu 7,5 Millionen Euro oder 1,5 % des Umsatzes fuer die Bereitstellung falscher Informationen.

Reicht die informierte Einwilligung, die ich bereits verwende, aus?

Wahrscheinlich nicht. Traditionelle informierte Einwilligung deckt klinische Behandlung und, falls fuer die DSGVO aktualisiert, die Verarbeitung personenbezogener Daten ab. Mit der EU-KI-Verordnung muessen Sie spezifische Informationen ueber den KI-Einsatz hinzufuegen.

Kann ich ChatGPT oder andere Allzweck-LLMs mit Patientendaten verwenden?

Dies ist eine kritische Frage. Die Verwendung von Allzweck-LLMs mit Patientendaten wirft ernsthafte Bedenken auf:

Daten koennen fuer Training verwendet werden: Viele Allzweck-LLMs verwenden Eingabedaten zur Verbesserung ihrer Modelle.
Keine spezifische Verschluesselung: Daten werden auf geteilter Infrastruktur verarbeitet.
Fehlende klinische Konformitaet: Diese Systeme wurden nicht fuer den klinischen Einsatz entwickelt.

Die Empfehlung ist, speziell fuer die klinische Praxis entwickelte Plattformen wie Mena.ai zu verwenden, die Daten sicher verarbeiten und sie niemals fuer Modelltraining verwenden.

Fazit

Die EU-KI-Verordnung stellt einen historischen Meilenstein in der Regulierung kuenstlicher Intelligenz dar und hat konkrete Auswirkungen auf alle Psychologen in Portugal, die KI-Werkzeuge verwenden oder verwenden moechten.

Die wesentlichen Punkte zum Merken sind:

Menschliche Aufsicht ist nicht verhandelbar: KI muss immer ein Werkzeug im Dienste des Psychologen sein, niemals ein Ersatz fuer klinisches Urteilsvermoegen.
Transparenz ist obligatorisch: Patienten muessen ueber den KI-Einsatz in Ihrer Praxis informiert werden.
DSGVO und EU-KI-Verordnung arbeiten zusammen: Konformitaet mit einer befreit nicht von der Konformitaet mit der anderen.
Die Wahl des richtigen Werkzeugs ist entscheidend: Die Entscheidung fuer Plattformen, die fuer die klinische Praxis entwickelt wurden, mit eingebauter regulatorischer Konformitaet, vereinfacht die Erfuellung Ihrer Pflichten erheblich.
Die Frist ist August 2026: Es gibt Zeit zur Vorbereitung, aber der Zeitpunkt zum Beginnen ist jetzt.

Mit der Wahl einer Plattform wie Mena.ai, die mit den Prinzipien Privacy by Design, menschlicher Aufsicht und regulatorischer Konformitaet von Beginn an entwickelt wurde, unternehmen Sie einen entscheidenden Schritt zum Schutz Ihrer Patienten, Ihrer Praxis und Ihrer beruflichen Reputation.

Dieser Artikel dient zu Informationszwecken und ersetzt keine spezialisierte Rechtsberatung. Fuer spezifische Fragen zu Ihrer Situation wenden Sie sich an einen auf KI-Regulierung und Datenschutz spezialisierten Rechtsanwalt.