Mobile-Menu

Fluch und Segen der KI Warum der AI-Act mehr ist als ein bürokratischer Klotz

Ein Kommentar von Bastian Sens* 5 min Lesedauer

Anbieter zum Thema

Vogel Corporate Solutions GmbH
HRtbeat GmbH

Künstliche Intelligenz verändert in rasantem Tempo unsere Welt. Sie automatisiert, entlastet und liefert in Echtzeit. Doch die Euphorie wird zunehmend begleitet von ernüchternden Erfahrungen: KI kann auch Nutzererlebnisse verschlechtern. Helfen soll der AI-Act.

KI ist eine noch nicht vollständig ausgereifte Technologie, die häufig wie eine Blackbox agiert.(Bild: frei lizenziert / Pexels)
KI ist eine noch nicht vollständig ausgereifte Technologie, die häufig wie eine Blackbox agiert.
(Bild: frei lizenziert / Pexels)

Wer heute im Marketing arbeitet, kommt an KI nicht mehr vorbei. KI verspricht Effizienz, Präzision und neue kreative Möglichkeiten. Darüber hinaus ermöglicht es einen bisher nicht gekannten Grad an Personalisierung. Doch die Euphorie trügt: Künstliche Intelligenz kann auch Nutzererlebnisse verschlechtern, Prozesse intransparent machen – oder gar ganze Geschäftsmodelle gefährden. Der technologische Fortschritt ist zweifellos da, doch gesellschaftlich, wirtschaftlich und kulturell befinden wir uns noch mitten in einer Übergangsphase. Und das birgt Risiken – nicht nur für Plattformen, sondern auch für Unternehmen, die sie nutzen.

Der europäische AI-Act

Die europäische KI-Verordnung (AI-Act) ist seit letztem Jahr verabschiedet und wird in großen Teilen 2026 verbindlich. Während Behörden, Verbände und große Tech-Konzerne schon länger an der Umsetzung arbeiten, herrscht bei vielen kleinen und mittelständischen Unternehmen noch Zurückhaltung – oder gar Desinteresse. Oftmals wurde der AI-Act nämlich nur als ein weiterer bürokratischer Klotz am Bein gesehen: Doch genau diese Sichtweise greift zu kurz. Denn wer sich frühzeitig mit der Umsetzung des AI-Acts beschäftigt, gewinnt nicht nur Rechtssicherheit – sondern kann mittelfristig auch Produktivität, Effizienz und Innovationskraft steigern.

Ein aktuelles Beispiel liefert Pinterest: Die visuelle Such- und Inspirationsplattform setzt verstärkt auf KI, um Inhalte effizient zu kategorisieren, Hassrede zu erkennen, urheberrechtlich geschützte Werke zu markieren oder Spam zu unterbinden. Was auf dem Papier sinnvoll und zukunftsgerichtet klingt – ein moderner „Content Safety Stack“ mit automatisierter Moderation –, hat in der Praxis zahlreiche Kreatoren und Unternehmen auf dem falschen Fuß erwischt. Accounts wurden gelöscht, Pins blockiert oder ganze Seiten unsichtbar gemacht – oft ohne erkennbare Begründung. Was ist passiert? Die KI-Modelle bei Pinterest wurden darauf trainiert, problematische Inhalte automatisiert zu erkennen und Plattformregeln durchzusetzen.

Ohne Vorwarnung gesperrt

Doch wie in vielen KI-Systemen liegt der Teufel im Detail: Die Modelle sind noch nicht präzise genug, um zwischen legitimen und grenzwertigen Inhalten zuverlässig zu unterscheiden – vor allem in einem visuellen Umfeld. Besonders problematisch wird es, wenn Nutzer keine Möglichkeit haben, die Entscheidungen nachzuvollziehen oder effektiv dagegen vorzugehen. Für Unternehmen, die Pinterest als Marketingplattform nutzen, ist das ein unkalkulierbares Risiko. Wer auf Sichtbarkeit und Reichweite angewiesen ist, kann es sich kaum leisten, dass automatisierte Systeme ohne Vorwarnung Inhalte sperren.

Dieser Fall steht exemplarisch für ein zentrales Spannungsfeld der KI-Nutzung: Auf der einen Seite die große Hoffnung auf Automatisierung, Kostenersparnis und Kontrolle – auf der anderen Seite die Realität einer noch nicht vollständig ausgereiften Technologie, die häufig wie eine Blackbox agiert. Ähnliche Phänomene beobachten wir auch bei großen Social-Media-Plattformen wie Meta oder TikTok. Auch hier sorgen KI-basierte Moderationssysteme regelmäßig für Unmut – sei es durch falsch erkannte Verstöße, Einschränkungen der Reichweite oder Verzögerungen im Kundenservice, der durch automatisierte Antworten ersetzt wurde. Dabei geht es nicht um generelle Ablehnung von KI – sondern um die Art und Weise, wie sie implementiert und kommuniziert wird. Der Vertrauensschaden ist enorm. Genau deshalb braucht es klare Spielregeln.

Beim AI-Act handelt es sich um die weltweit erste umfassende gesetzliche Regelung für den Einsatz von Künstlicher Intelligenz. Ziel der Verordnung ist es, Vertrauen in KI zu schaffen, Risiken zu minimieren und zugleich die Innovationskraft Europas zu sichern. Je nach Risikoklasse sind unterschiedliche Anforderungen an Transparenz, Sicherheit und Nachvollziehbarkeit zu erfüllen. Was viele Entscheider übersehen: Der AI-Act verpflichtet nicht nur Entwickler von KI-Systemen, sondern auch deren Betreiber. Wer etwa ein KI-Tool zur automatisierten Bewerbungsvorauswahl, zur Qualitätskontrolle oder zur Entscheidungsunterstützung im Vertrieb einsetzt, kann unter die Regularien fallen – und muss seine Systeme künftig dokumentieren, prüfen und gegebenenfalls nachbessern. Für alle Unternehmen, die in diese Kategorie fallen, besteht seit dem vergangenen Februar sogar eine Schulungspflicht. Sie gilt unabhängig von der Unternehmensgröße oder Branche.

Technologische Intelligenz, menschliche Relevanz

Ein Großteil der Unternehmen befindet sich aktuell in einer gefährlichen Zwischenhaltung. Man weiß, dass da etwas kommt, nimmt es aber nicht ernst genug, um aktiv zu werden. Manche interpretieren den AI-Act gar als Empfehlung, andere hoffen auf lange Übergangsfristen oder setzen auf eine Art freiwillige Selbstverpflichtung. Doch das ist riskant: Verstöße gegen den AI-Act können nicht nur Imageschäden nach sich ziehen, sondern auch Bußgelder von bis zu 35 Millionen Euro oder sieben Prozent des Jahresumsatzes. Dabei wäre gerade jetzt die Zeit, sich mit der Thematik auseinanderzusetzen – nicht nur, um Strafen zu vermeiden, sondern um sich strategisch zu positionieren. Das Marketing der Zukunft soll nämlich nicht nur effizient, sondern muss auch verantwortungsvoll sein.

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Es wird davon abhängen, wie gut Unternehmen die Balance finden zwischen Automatisierung und menschlicher Kontrolle. Zwischen der Verlockung, Prozesse zu beschleunigen, und der Notwendigkeit, Vertrauen zu erhalten. Gute KI ist unsichtbar – weil sie funktioniert. Sie analysiert, aber entscheidet nicht allein. Zukunftsfähiges Marketing ist also geprägt von einer Kombination aus technologischer Intelligenz und menschlicher Relevanz. Künstliche Intelligenz, Automatisierung und Datenanalyse ermöglichen eine bisher unerreichte Präzision. Personalisierung ist dabei kein Zusatz mehr, sondern Standard.

Die Vorteile des AI-Acts

Gleichzeitig verändern sich die Erwartungen der Konsumenten: Sie wollen authentische Marken, klare Haltung, Datenschutz und echte Mehrwerte – keine leeren Werbeversprechen. Deshalb wird Marketing künftig nicht nur effizient, sondern auch ethisch und wertebasiert sein müssen. Vertrauen wird zur zentralen Währung. Netter Nebeneffekt der neuen Gesetzeslage: Der AI-Act bringt Unternehmen dazu, ihre KI-Systeme transparent, sicher und diskriminierungsfrei zu gestalten. Was zunächst wie eine Einschränkung wirkt, entpuppt sich bei genauerem Hinsehen als produktiver Hebel. Denn wer die geforderten Prozesse frühzeitig implementiert – etwa zur Datenqualität, Modellvalidierung oder Feedback-Schleifen – profitiert nicht nur von Compliance, sondern auch von besseren Ergebnissen im Tagesgeschäft. Zusätzlich dazu schöpfen viele Unternehmen in Deutschland das Potenzial der KI noch lange nicht vollständig aus. Weiterbildung in diesem Bereich ist also der Schlüssel für mehr Produktivität – das haben leider noch viele nicht erkannt. Wer sich einen wirtschaftlichen Vorsprung sichern möchte, der kommt sicher nicht mehr an KI vorbei.

Viele Aufgaben können mit KI-Einsatz in einem Bruchteil der Zeit erledigt werden. In modernen Marketingabteilungen dient sie als Beschleuniger, Effizienzmotor und kreativer Sparringspartner. KI übernimmt nicht nur repetitive Aufgaben sie liefert auch tiefergehende Insights, unterstützt die strategische Planung und hilft, Zielgruppen besser zu verstehen. Der AI-Act weist alle Unternehmen also auch darauf hin, wie wichtig und zukünftig essentiell das Thema in der Wirtschaft ist und noch sein wird.

Künstliche Intelligenz ist weder Fluch noch Segen – sie ist ein mächtiges Werkzeug, das mit Bedacht eingesetzt werden muss. Wer KI einfach laufen lässt, riskiert Vertrauensverluste. Wer sie aber erklärt, einbettet und begleitet, kann gewinnen – an Effizienz, Qualität und Glaubwürdigkeit.

*Bastian Sens ist Gründer des eigenen Unternehmens Sensational. Dieses wandelte Sens von einer klassischen Online-Marketing-Agentur zur Academy und bietet seitdem Schulungen, Weiterbildungen und Coachings zu Inhouse-Marketing an.

(ID:50480240)

Weiterführende Inhalte