Am 2. August 2026 tritt der EU AI Act in Kraft. Wenn Sie KI für Kundenkontakt, Buchhaltung oder CRM einsetzen, betrifft Sie das. Hier erfahren Sie, was zu tun ist und wie CallMerlin bereits konform ist.
Am 2. August 2026 treten die Transparenzpflichten des EU AI Act (Verordnung EU 2024/1689) in Kraft. Jedes Unternehmen, das KI einsetzt, um mit Menschen in der Europäischen Union zu kommunizieren, muss die Vorgaben erfüllen. Das gilt für Chatbots, Sprachassistenten, KI-gestützten Kundenservice und Tools wie CallMerlin.
Dies ist nicht nur eine Regel für Big Tech. Ob Sie ein Steuerberater sind, der KI für Rechnungsanfragen nutzt, ein Immobilienmakler mit KI-Telefonassistent, ein Gastronomiebetrieb mit Sprachbestellungen oder eine Marketingagentur, die Kundenreports automatisiert: Der AI Act gilt für Sie. In diesem Artikel erklären wir, was das Gesetz verlangt, wie CallMerlin bereits konform ist und welche fünf Schritte Sie heute unternehmen können.
Was ist der EU AI Act?
Der EU AI Act ist das erste umfassende KI-Gesetz der Welt. Es teilt KI-Systeme in vier Risikokategorien ein, jeweils mit eigenen Pflichten.
- Verbotene KI: Social Scoring, manipulative Techniken bei vulnerablen Gruppen, biometrische Echtzeit-Identifizierung im öffentlichen Raum. Keine normale Geschäftsanwendung fällt hierunter.
- Hoch-Risiko KI: KI für Personalentscheidungen, Kreditbewertung, medizinische Triage, Bildungsbewertung oder kritische Infrastruktur. Erfordert Konformitätsbewertungen, technische Dokumentation, menschliche Aufsicht und EU-Datenbankregistrierung.
- Begrenztes Risiko: KI-Systeme, die direkt mit Menschen interagieren, wie Chatbots, Sprachassistenten und KI-Telefonagenten. Müssen Nutzer darüber informieren, dass sie mit KI sprechen. Hier fällt CallMerlin hinein.
- Minimales Risiko: Spamfilter, Empfehlungssysteme, prädiktive Analysen. Keine zusätzlichen Pflichten.
Wo steht CallMerlin?
CallMerlin ist ein KI-Sprachassistent und Chat-Plattform, die direkt mit Menschen über Telefon, Webchat, Desktop-App und Mobile-App kommuniziert. Unter dem EU AI Act fällt dies in die Kategorie KI mit begrenztem Risiko. Die Hauptpflicht ist Transparenz: Nutzer müssen wissen, dass sie mit KI kommunizieren.
CallMerlin führt kein HR-Screening, keine Kreditbewertung und keine medizinische Triage durch, daher gelten die strengen Hoch-Risiko-Anforderungen des Annex III nicht.
Artikel 50: Die Transparenzpflicht
Artikel 50(1) des EU AI Act besagt, dass Anbieter von KI-Systemen, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, sicherstellen müssen, dass diese Personen darüber informiert werden, dass sie mit einem KI-System interagieren. Die Mitteilung muss klar und unterscheidbar sein und spätestens zu Beginn der Interaktion erfolgen.
Für sprachbasierte Systeme bedeutet dies eine explizite gesprochene Ansage zu Beginn des Gesprächs. Für Chat-Systeme eine sichtbare Kennzeichnung in der Oberfläche. Generische Verweise auf einen 'Assistenten' oder technische Beschreibungen wie 'dieses System nutzt LLMs' genügen nicht.
Die drei Pflichten, die für alle gelten
Unabhängig von der Risikokategorie gelten drei Pflichten für jedes Unternehmen, das KI in der EU einsetzt.
- KI-Kompetenz (Artikel 4): Jeder, der mit KI arbeitet oder darüber entscheidet, muss die Grundlagen verstehen. Sie müssen dokumentieren, wer wann geschult wurde.
- KI-Inventar: Sie müssen wissen, welche KI-Systeme in Ihrer Organisation im Einsatz sind. Shadow AI (Mitarbeiter, die ChatGPT, Claude oder andere Tools nutzen, ohne dass die IT davon weiß) erschwert dies.
- Transparenz-Hinweis: Nutzer müssen wissen, wann sie mit KI kommunizieren. Für Chatbots und Sprachassistenten bedeutet das klare Labels oder gesprochene Hinweise.
Wie CallMerlin bereits konform ist
Wir haben Compliance von Anfang an in die Plattform eingebaut. So erfüllt CallMerlin die Anforderungen des EU AI Act.
- KI-Hinweis bei jedem Gespräch: Anrufer hören zu Beginn jedes Gesprächs, dass sie mit einem KI-System sprechen. Dies ist pro Sprache im Dashboard konfigurierbar.
- Sichtbarer KI-Hinweis im Chat: Das Webchat-Widget, die Desktop-App und die Mobile-App kennzeichnen klar, dass der Nutzer mit KI kommuniziert.
- EU-Speicherung für Konto- und Plattformdaten (Niederlande). Für KI können Chat, Sprache und Transkripte an xAI (USA) gehen unter AVV/SCCs; kein EU-only-Anspruch.
- Prüfbare Gesprächsprotokollierung: Jede KI-Interaktion wird mit Zeitstempeln protokolliert, sodass Sie die Compliance jederzeit nachweisen können.
- BYOK (Bring Your Own Keys): Sie nutzen Ihre eigenen API-Keys für verbundene Dienste. Sie bleiben Eigentümer Ihrer Daten.
- Technische Dokumentation: Dokumentation zu den eingesetzten KI-Modellen, Datenquellen und menschlichen Aufsichtsmaßnahmen ist auf Anfrage verfügbar.
Fünf Schritte zur Compliance Ihres Unternehmens
Sie brauchen keine Rechtsabteilung und kein 50-Seiten-Dokument. Befolgen Sie diese fünf Schritte und Sie sind vor der Frist bereit.
- Schritt 1: Inventarisieren. Listen Sie jedes KI-Tool in Ihrer Organisation auf. Vergessen Sie nicht die eingebettete KI in bestehender Software (CRM, Buchhaltung, E-Mail). Fragen Sie jede Abteilung: Welche KI-Tools nutzt ihr?
- Schritt 2: Klassifizieren. Bestimmen Sie die Risikokategorie pro Tool. Die meisten fallen unter minimales oder begrenztes Risiko. Seien Sie streng bei Hoch-Risiko: Alles, was HR-Entscheidungen, Kredit oder medizinische Beratung betrifft, löst den vollen Pflichtenkatalog aus.
- Schritt 3: Schulen Sie Ihr Team. Eine zweistündige Schulung pro Rolle reicht aus. Themen: welche KI-Tools wir nutzen, welche Risiken bestehen (Halluzinationen, Bias, Datenlecks) und was bei Zweifeln zu tun ist. Dokumentieren Sie die Teilnahme.
- Schritt 4: Transparenz umsetzen. Für jedes KI-Tool, das mit Menschen interagiert: Fügen Sie einen klaren Hinweis hinzu. CallMerlin macht das automatisch. Für andere Tools: Fügen Sie sichtbare Labels oder gesprochene Hinweise hinzu.
- Schritt 5: Dokumentieren und überprüfen. Erstellen Sie ein einfaches, lebendes Dokument mit Ihren KI-Systemen, deren Risikokategorie, dem Verantwortlichen und dem letzten Schulungsdatum. Überprüfen Sie alle sechs Monate.
Bußgelder und Risiken
Verstöße gegen die Transparenzpflichten des Artikels 50 können zu Bußgeldern von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes führen, je nachdem, welcher Betrag höher ist. Bei Verstößen gegen die verbotenen KI-Praktiken liegt die Obergrenze bei 35 Millionen Euro oder 7 % des Umsatzes.
Neben Bußgeldern gibt es praktische Risiken. Unternehmenskunden nehmen AI-Act-Compliance zunehmend in Lieferantenbewertungen auf. Eine nachweisbare Compliance-Haltung schafft Vertrauen und reduziert Reibung in Vertriebsprozessen.
Häufig gestellte Fragen
Gilt der EU AI Act auch für Unternehmen außerhalb der EU?
Ja. Wenn Ihr KI-System mit Menschen in der EU interagiert, gilt das Gesetz unabhängig davon, wo Ihr Unternehmen seinen Sitz hat.
Was, wenn ich denke, dass ich keine KI nutze?
In 2026 nahezu unmöglich. KI ist in Outlook, Gmail, Ihrem CRM, Buchhaltungstools und sogar Rechtschreibprüfungen eingebettet. Erst inventarisieren, dann Schlüsse ziehen.
Was ist der Unterschied zwischen dem AI Act und der DSGVO?
Die DSGVO reguliert personenbezogene Daten. Der AI Act reguliert KI-Systeme. Beide können gleichzeitig gelten. Ein KI-System, das Kundendaten verarbeitet, fällt unter beide Regelwerke.
Was passiert, wenn ich die Frist am 2. August 2026 verpasse?
Bußgelder reichen von 1,5 % des weltweiten Umsatzes (Verwaltungsverstöße) bis 7 % (verbotene Praktiken). Die Durchsetzung wird sich voraussichtlich zunächst auf große Unternehmen und klare Hoch-Risiko-Fälle konzentrieren, aber darauf sollten Sie sich nicht verlassen.
Regelt CallMerlin die Compliance für mich?
Für die KI-Interaktionen, die über CallMerlin laufen: ja. Wir kümmern uns um den Transparenzhinweis, EU-Hosting, Gesprächsprotokollierung und Dokumentation. Für andere KI-Tools in Ihrer Organisation müssen Sie die Compliance selbst umsetzen.
Was sollte ich heute tun?
Beginnen Sie mit einer E-Mail an Ihr Team: 'Welche KI-Tools nutzt ihr bei der Arbeit?' Planen Sie dann eine Stunde mit Ihrem IT-Verantwortlichen, um eingebettete KI in bestehender Software zu überprüfen. Und stellen Sie sicher, dass jedes KI-Tool, das mit Kunden spricht, einen klaren Hinweis hat. CallMerlin erledigt das bereits für Sie.
