Der AI Act ist die europäische Verordnung über künstliche Intelligenz (Verordnung (EU) 2024/1689). Er gilt unmittelbar in allen EU-Staaten und regelt, welche KI-Systeme erlaubt sind und welche Pflichten Anbieter und Anwender treffen. Für Versicherer und Vermittler ist er relevant, sobald sie KI in Beratung, Risikoprüfung, Schadenbearbeitung oder Kundenkommunikation einsetzen.
Wie ist der AI Act aufgebaut?
Die Verordnung ordnet KI-Systeme nach ihrem Risiko ein. Einige Praktiken sind ganz verboten, etwa manipulative Systeme oder Social Scoring. Hochrisiko-Systeme unterliegen strengen Anforderungen. Für Systeme, die mit Menschen interagieren oder Inhalte erzeugen, gelten Transparenzpflichten. Alles andere bleibt weitgehend unreguliert.
Welche KI gilt im Versicherungsbereich als Hochrisiko?
Ausdrücklich als Hochrisiko eingestuft sind KI-Systeme, die zur Risikobewertung und Preisgestaltung bei natürlichen Personen in der Lebens- und Krankenversicherung eingesetzt werden (Anhang III). Für sie verlangt der AI Act ein Risikomanagement, hochwertige Trainingsdaten, technische Dokumentation, Protokollierung und menschliche Aufsicht. Eine KI, die in der Sachversicherung Schäden vorsortiert, fällt dagegen in der Regel nicht in diese Kategorie.
Was müssen Vermittler beachten?
Für die meisten Maklerbüros und Vertriebe geht es um zwei Punkte. Erstens müssen Unternehmen, die KI einsetzen, seit Februar 2025 dafür sorgen, dass ihre Mitarbeitenden über ausreichende KI-Kompetenz verfügen (Art. 4). Zweitens müssen Kunden erkennen können, wenn sie mit einem Chatbot statt mit einem Menschen kommunizieren.
Ein Beispiel: Ein Maklerbüro beantwortet Kundenanfragen auf der Website mit einem KI-Assistenten. Der Chatbot muss als KI erkennbar sein, und die Mitarbeitenden, die ihn betreuen, sollten geschult sein.
Ab wann gelten welche Pflichten?
Der AI Act ist im August 2024 in Kraft getreten und wird gestaffelt anwendbar. Verbote und die Pflicht zur KI-Kompetenz gelten seit dem 2. Februar 2025, die Regeln für KI-Modelle mit allgemeinem Verwendungszweck seit dem 2. August 2025. Für eigenständige Hochrisiko-Systeme nach Anhang III haben sich Rat und Parlament 2026 im sogenannten Digital-Omnibus auf eine Verschiebung auf den 2. Dezember 2027 verständigt. Maßgeblich ist die im Amtsblatt veröffentlichte Fassung.
Wie verhält sich der AI Act zu DSGVO und IDD?
Er ersetzt diese Regeln nicht, sondern tritt daneben. Wer KI mit Kundendaten betreibt, muss weiterhin die DSGVO einhalten. Die Beratungspflichten aus der IDD und dem VVG gelten unabhängig davon, ob ein Mensch oder eine Software berät.
Was sollten Versicherungsvertriebe jetzt tun?
Sinnvoll ist eine Bestandsaufnahme aller eingesetzten KI-Anwendungen, eine Einordnung in die Risikoklassen und ein Schulungskonzept. Mehr dazu im Ratgeber Der AI Act: Was Versicherungsvertriebe jetzt wissen müssen.