492.000 Euro Bußgeld wegen KI-Entscheidungen ohne Transparenz – was Manager:innen jetzt wissen müssen

Eine Hamburger Bank musste kürzlich ein Bußgeld von 492.000 Euro zahlen, weil sie Kreditkartenanträge automatisch ablehnte – ausschließlich auf Basis von Algorithmen. Kund:innen wollten die Gründe erfahren, erhielten aber keine Antwort. Das verstößt gegen das Auskunftsrecht in der DSGVO und führte zu einer empfindlichen Strafe. Das ist aber in Zukunft noch nicht alles.
👉 NDR-Bericht lesen: https://www.ndr.de/nachrichten/hamburg/kunden-automatisch-abgelehnt-bank-schwieg-und-muss-bussgeld-zahlen,datenschutz-200.html

Was regelt die DSGVO?

Die Datenschutzgrundverordnung (DSGVO) schützt personenbezogene Daten. Sie verpflichtet Unternehmen, transparent zu machen, wenn automatisierte Entscheidungen getroffen werden – und betroffenen Personen die Gründe dafür zu nennen. Ziel ist, Diskriminierung zu vermeiden und Rechte von Verbraucher:innen zu wahren.

Was regelt der EU-AI-Act?

Der seit 2. Februar 2025 geltende EU-AI-Act geht einen Schritt weiter:

  • Er stuft KI-Systeme in Risikoklassen ein.
  • Er verpflichtet Unternehmen zu Dokumentation, Transparenz und Risikomanagement, je nach Risikoklasse.
  • Besonders relevant: Artikel 4 schreibt jetzt schon eine Pflichtschulung für alle vor, die im Beruf mit KI-Systemen arbeiten – auch bei alltäglichen Tools wie ChatGPT, Copilot, Perplexity oder DeepL.

Damit gilt: Verstöße gegen Transparenzpflichten und diskriminierende Entscheidungen sind nicht mehr allein ein Datenschutzthema, sondern ausdrücklich auch ein KI-Regulierungsthema. DSGVO und EU-AI-Act greifen ineinander. Die Strafen bei Verstoß sind noch empfindlicher als die der DSGVO: Bis zu 35 Mio Euro oder 7 % des jährlichen Umsatzes, je nachdem, welche Zahl höher ist.

Was bedeutet das für Marketing, Agenturen und KMUs?

Gerade in Marketing und Kommunikation, wo KI-Systeme aktuell am häufigsten von allen Business Units verwendet werden (Quelle: McKinsey, State of AI, 12.3.2025), sind die Risiken hoch:

  • Transparenz: Wer entscheidet – Mensch oder Maschine?
  • Diskriminierung: Verzerren Algorithmen Ergebnisse oder Auswahlprozesse?
  • Haftung: Wer trägt die Verantwortung bei Fehlentscheidungen?

Deine Teams brauchen jetzt Wissen und klare Leitlinien, um rechtssicher mit KI zu arbeiten. Hast Du die nötige Pflichtschulung schon durchgeführt? Für Dich selbst und Deine Mitarbeitenden?

Unsere Lösung: Pflichtschulung kompakt und praxisnah

Bei KIRevolution haben wir Schulungen entwickelt, die sich speziell an die Anforderungen von Marketing und Werbung, Kreative/Agenturen, KMUs und Entscheider:innen anpassen. Alle Kurse sind entwickelt mit Andreas Geiling von EnCon, der KI-Kanzlei. Mit dabei: Dein persönliches Teilnahmezertifikat. Unsere Kurse:

  1. Webinar: 2 Stunden live, interaktiv, praxisnah. Mit Übungen, Unterlagen und persönlichem Teilnahmezertifikat. Mit Zeit für Rückfragen. – für Entscheider:innen: Webinar KI-Pflichtschulung
  2. Drei Onlinekurse – wählbar nach Zielgruppe:
    • KI-Pflichtschulung für Agenturen und Kreative: zum Kurs
    • KI-Pflichtschulung für KMUs: zum Kurs
    • KI-Pflichtschulung für Marketing & Vertrieb: zum Kurs

Eine der Schulungen reicht aus – Du wählst einfach den Kurs, der am besten zu Deiner Aufgabe passt.

Fazit

Der Fall der Hamburger Bank zeigt: Automatisierte Entscheidungen ohne Transparenz kosten Unternehmen viel Geld. Mit dem EU-AI-Act steigen die Anforderungen weiter – und es drohen noch deutlich höhere Strafen. Wer jetzt sein Team schult, schützt sein Unternehmen nicht nur vor Risiken, sondern schafft auch Sicherheit im täglichen Arbeiten mit KI.

👉 Hier Webinar buchen: https://kirevolution.com/veranstaltung/webinar-ki-pflichtschulung-gem-art-4-eu-ai-act-fuer-entscheiderinnen-november
👉 Hier passenden Onlinekurs auswählen: https://kirevolution.com/ki-online-kurse

Berlin, 3.10.2025 Prof. Dr. Claudia Bünte

Sie haben sich zahlungspflichtig angemeldet.

Fasst geschafft. Bezahlen Sie nun bitte den offenen Betrag von:

Mittels Rechnung bezahlen
European wholesale study 2020 l Digital Transformation in B2B The role of AI and Pricing Automation
Künstliche Intelligenz im Marketing 2018 – SRH Berlin University/Kaiserscholle
Künstliche Intelligenz im Marketing 2021 – SRH Berlin University/Kaiserscholle