Der EU AI Act: Auswirkungen und Handlungsempfehlungen für Unternehmen und Verbraucher

Der EU AI Act verfolgt vor allem drei zentrale Ziele:

1. Sicherheit und Grundrechte schützen: KI-Systeme dürfen Menschen nicht diskriminieren oder in ihren Grundrechten einschränken.
2. Rechtsklarheit schaffen: Unternehmen sollen Klarheit erhalten, unter welchen Bedingungen KI-Technologien entwickelt und eingesetzt werden dürfen.
3. Innovationen fördern: Trotz Regulierung soll Europa ein attraktiver Standort für KI-Innovationen bleiben.

Im Zentrum steht dabei ein risikobasierter Ansatz. KI-Systeme werden je nach Risikoklasse unterschiedlich streng reguliert.

Der AI-Act unterscheidet grundsätzlich vier Kategorien:

• • Inakzeptable Risiken (z.B. soziale Scoring-Systeme)
  • Hohe Risiken (z.B. Gesichtserkennung, Recruiting-Software)
  • Geringe Risiken (z.B. Chatbots)
  • Minimale Risiken (z.B. KI-gestützte Computerspiele)

Gerade die Einstufung in die Kategorie „hohe Risiken“ birgt erheblichen Aufwand für Unternehmen. In diesem Bereich verlangt die EU strikte Konformitätsbewertungen und umfangreiche Dokumentationspflichten. Beispielsweise müssen Anbieter von Recruiting-Tools ihre Algorithmen umfassend dokumentieren und regelmäßig auf diskriminierende Tendenzen überprüfen.

In der Zusammenarbeit mit unseren Kunden im Bereich Online Marketing Beratung und Content Creation zeigt sich, dass besonders personalisierte Marketing-Technologien wie Predictive Targeting oder Customer Journey Automatisierungen auf dem Prüfstand stehen könnten. Ein konkretes Kundenprojekt zeigte kürzlich, dass eine frühzeitige Risikoanalyse und entsprechende Anpassung der KI-Algorithmen erhebliche Kosten und rechtliche Risiken im Nachgang vermeiden können.
Unsere Empfehlung:

• Frühzeitig KI-basierte Tools auditieren
• Dokumentationspflichten etablieren
• Mitarbeiter auf KI-Compliance schulen

Verbraucher profitieren durch den EU AI Act vor allem von erhöhter Transparenz. KI-Systeme, die etwa im Rahmen von Kreditvergaben oder Versicherungen eingesetzt werden, müssen nachvollziehbar machen, wie Entscheidungen getroffen werden. Dies schützt Verbraucher vor undurchsichtigen und möglicherweise diskriminierenden Algorithmen.

Ein wichtiger Punkt ist dabei auch das Recht auf Information: Verbraucher müssen erkennen können, ob und wie sie mit einem KI-System interagieren. Für Marketingverantwortliche bedeutet dies, Kommunikationsstrategien anzupassen und transparente Nutzererlebnisse zu schaffen.

Besonders im Social Media Management und im Bereich SEA erwarten wir durch den EU AI Act tiefgreifende Veränderungen. Algorithmen, die etwa Nutzerverhalten für Werbezwecke auswerten, müssen nachvollziehbar und fair gestaltet werden.
In einem internen Test haben wir beispielsweise festgestellt, dass die transparente Darstellung von Werbebotschaften („Warum sehe ich diese Anzeige?“) nicht nur regulatorische Vorgaben erfüllt, sondern sogar die Akzeptanz und Engagement-Raten steigern kann.

Hier gilt: Datenschutzfreundliche KI-Lösungen sind nicht nur gesetzliche Pflicht, sondern auch Marketingchance.