KI im Unternehmen: Was der AI Act für den Einsatz bedeutet
Staffel 2 · Folge 12 · Originalfolge: 15. Jan. 2025 · 13:38 Minuten
Executive Summary
Ein KI-Werkzeug kann hilfreich sein – und sein Einsatz trotzdem Fragen aufwerfen. In Folge 12 beschäftige ich mich mit dem AI Act, unterschiedlichen Risiken und den Rollen von Anbietern und Unternehmen, die KI einsetzen. Ausgangspunkt sind die Werkzeuge aus den vorherigen Folgen und ein Beispiel aus dem Personalbereich. Der Artikel begleitet die Aufnahme vom Januar 2025; heutige Hinweise stehen getrennt vom damaligen Gespräch.
Ein Werkzeug ausprobieren ist die eine Sache
In den vorherigen Folgen habe ich mit NotebookLM gearbeitet und mich mit KI-generierter Musik beschäftigt. Dann kommt die nächste Frage fast von selbst: Dürfen wir solche Werkzeuge eigentlich überall einsetzen? Oder verändert sich die Antwort, sobald wir mit Menschen, Bewerbungen oder vertraulichen Informationen arbeiten?
Genau darum geht es in dieser Folge. Mich interessiert die Stelle, an der ein persönliches Experiment zum Einsatz im Unternehmen wird. Dort brauchen wir mehr als eine brauchbare Antwort auf dem Bildschirm. Wir müssen wissen, was die KI tun soll und welche Folgen ihr Einsatz haben kann.
Das Risiko hängt vom Einsatz ab
Der AI Act unterscheidet Anwendungen und Verpflichtungen nach ihrem Zweck und ihrem Risiko. Für die Einordnung reicht deshalb der Produktname nicht aus. Eine Schreibhilfe für einen unkritischen Entwurf und eine Anwendung, die über Menschen urteilt, stellen unterschiedliche Fragen.
Im Podcast erläutere ich die Risikoklassen und gehe auf ein Beispiel aus dem Personalmarketing ein. Der wichtige Gedanke bleibt: Wir müssen den tatsächlichen Vorgang betrachten. Welche Informationen werden verarbeitet, wofür wird das Ergebnis verwendet und wer ist davon betroffen?
Wenn KI Menschen bewertet
Gerade im Personalbereich sollte man genau hinschauen. Ob ein System nur bei einer Formulierung hilft oder Bewerbungen bewertet und eine Auswahl beeinflusst, macht einen Unterschied. Nicht jede Verwendung von KI im Personalmarketing ist automatisch ein Hochrisiko-System. Die konkrete Zweckbestimmung muss geprüft werden.
In der Folge frage ich auch nach dem Unterschied zwischen Notizen eines Menschen und Notizen, die ein KI-System erstellt. Für mich steckt dahinter eine größere Frage: Was wird aus einer Beobachtung, wenn wir sie automatisiert erfassen, zusammenfassen und für spätere Entscheidungen verwenden?
Wer ist verantwortlich?
Ab Minute 10 geht es um Anforderungen an Anbieter und Betreiber. Wer ein Modell entwickelt, hat nicht automatisch dieselbe Rolle wie ein Unternehmen, das ein fertiges System für einen bestimmten Zweck einsetzt. Aus der Rollenklärung ergeben sich die nächsten Fragen an Dokumentation und Organisation.
Das lässt sich nicht mit dem Satz erledigen, das eingesetzte Werkzeug sei bereits »konform«. Wir brauchen eine Betrachtung des konkreten Einsatzes, der Zuständigkeiten und der betroffenen Daten. Je nach Fall kommen weitere Regeln hinzu, etwa zum Datenschutz.
Heutige Einordnung: Die Aufnahme ist vom Januar 2025
Die Folge erschien am 15. Januar 2025 und enthält den damaligen Blick auf den Zeitplan. Diese Angaben sind keine aktuelle Fristenübersicht. Die EU hat seither weitere Umsetzungshinweise und Änderungen veröffentlicht; für einen konkreten Einsatz ist deshalb die aktuelle amtliche Fassung maßgeblich.
Die Pflichten zur KI-Kompetenz und die ersten Verbote gelten seit Februar 2025. Für Unternehmen ist damit die Befähigung der Menschen, die KI einsetzen, schon jetzt eine praktische Aufgabe. Welche weiteren Verpflichtungen greifen, hängt vom System und vom Anwendungsfall ab. Die unten verlinkten EU-Quellen helfen bei der aktuellen Einordnung.
Heutiger Praxisbezug: Mit Atlas die richtigen Fragen stellen
Bei Atlas bringen wir heute Strategie und Governance zusammen. Für ein Einführungsvorhaben würde ich zuerst den Zweck festhalten, die beteiligten Rollen benennen und klären, wer Ergebnisse freigibt. Daraus werden Aufgaben, die man bearbeiten und überprüfen kann.
Der Bezug zu Atlas ergänzt die ältere Aufnahme. Er bedeutet weder, dass Atlas im Podcast vorgestellt wurde, noch dass ein Produkt allein die rechtliche Prüfung eines KI-Einsatzes ersetzt.
Wo wird es bei Euch konkret?
Welche KI-Anwendung nutzt Ihr schon – und bei welcher ist noch unklar, wer für das Ergebnis verantwortlich ist? An dieser Stelle beginnt für mich ein sinnvoller Austausch über KI im Unternehmen.
Kapitel der Originalfolge
Die Zeitmarken stammen aus den veröffentlichten Episodenbeschreibungen.
- 00:00 – Intro: Willkommen zur fünften Folge der zweiten Staffel.
- 00:28 – Rückblick auf unsere bisherigen KI-Tools: NotebookLM und KI-generierte Songs.
- 01:01 – Was ist der AI Act? Einführung in die EU-KI-Verordnung.
- 01:58 – Die Risikoklassen im AI Act: Von minimalem bis inakzeptablem Risiko.
- 04:07 – Praxisbeispiel: Wie KI-Tools im Personalmarketing kritisch werden können.
- 07:30 – Der rechtliche Unterschied zwischen Notizen von Menschen vs. Notizen durch KI-Systeme.
- 10:58 – Anforderungen an Anbieter und Betreiber von KI-Systemen.
- 12:37 – Sanktionen bei Verstößen gegen den AI Act.
- 12:52 – Ab wann gelten die Regelungen?
- 13:05 – Fazit: Was bedeutet der AI Act für den praktischen Einsatz von KI?
Autor
Prof. Dr. Alexander Lutz, Professor für Big Data und KI an der FOM München, Doktor der Humangenetik und Anthropologie, ehemaliger Onlinespiele-Designer und natürlich Gründer und Inhaber der Agentur Die NEOs. Neben den Themen der künstlichen Intelligenz und deren Einsatzmöglichkeiten in der Praxis konzentriert sich Alexander auf die Kundenkommunikation. Neue Problemfelder oder technische Innovationen bereitet er so auf, dass der Nutzen für unsere Kunden deutlich wird. Er schläft zeitverantwortlich und agiert schnell, sein Motto: »Tue es, oder tue es nicht. Es gibt kein Versuchen.«
