Der AI Act in der EU ab Februar 2025: Alles, was du wissen musst ✔

Disclaimer

Dieser Artikel dient nur zu Informationszwecken und stellt keine Rechtsberatung dar. Bitte konsultiere einen Rechtsberaterin oder Expert*in, um spezifische rechtliche Fragen zu klären.

Was ist der AI Act?

Der AI Act ist das weltweit erste umfassende Gesetz, das den Einsatz von KI reguliert. Ziel ist es, Risiken zu minimieren, Sicherheit zu gewährleisten und Transparenz zu schaffen. Der Gesetzestext unterscheidet KI-Anwendungen anhand ihres Risikogrades:

1. Unvertretbares Risiko: Technologien wie soziale Bewertungssysteme oder manipulative Praktiken sind verboten.
2. Hohes Risiko: Hierzu zählen Anwendungen in der Medizin, im Bildungsbereich oder bei Bewerbungsverfahren. Diese unterliegen strengen Anforderungen.
3. Geringes Risiko: Bei Anwendungen wie Chatbots ist die Transparenz entscheidend – beispielsweise müssen Nutzer*innen darüber informiert werden, dass sie mit einer KI interagieren.
4. Minimales Risiko: KI-Systeme wie Spam-Filter oder KI-unterstützte Texteditoren sind nicht reguliert.

‍

‍

Darüber hinaus erweitert der AI Act die Definition von KI-Systemen und umfasst maschinelles Lernen, regelbasierte Systeme und statistische Modelle, um eine umfassende Regulierung zu gewährleisten.

‍

Was bedeutet der AI Act konkret für Unternehmen?

Der Compliance Self-Checker: Wie betrifft dich der AI Act?

Nutze den offiziellen Compliance-Checker der EU, um in nur 10 Minuten herauszufinden, wie sich das KI-Gesetz auf dein Unternehmen auswirkt.

👉 Zum Compliance Checker
‍

Ein entscheidender Punkt des AI Acts ist, dass Unternehmen sicherstellen müssen, dass alle Mitarbeitenden, die mit Betrieb und Nutzung von KI-Systemen befasst sind, über ausreichende KI-Kompetenz verfügen. Diese Verpflichtung betrifft Organisationen jeder Größe und Risikoklassifizierung und gilt bis Ende 2025. Zusätzlich müssen Unternehmen und Verwaltungen bis Jahresanfang sicherstellen, dass sie keine verbotenen Anwendungen nutzen oder anbieten. Verbotene Praktiken wie Social Scoring oder Verhaltensmanipulation sind in Artikel 5 des AI Acts definiert.

Unternehmen, die KI-Systeme mit hohem Risiko entwickeln oder nutzen, müssen zudem spezifische Anforderungen wie Cybersicherheit, Dokumentation und menschliche Aufsicht erfüllen. Unternehmen, die KI nutzen oder anbieten, müssen ab Februar 2025 die folgenden Anforderungen erfüllen:

1. Risikobewertung und Dokumentation

Für KI-Systeme mit mittlerem oder hohem Risiko ist eine detaillierte Risikobewertung erforderlich. Unternehmen müssen dokumentieren, wie das System funktioniert und welche Schutzmaßnahmen implementiert sind.

2. Transparenzpflichten

Alle KI-Anwendungen, die direkt mit Nutzerinnen interagieren, müssen dies klar kennzeichnen. Auch müssen Benutzerinnen über die Funktionsweise informiert werden.

3. Datenqualität und Bias-Prüfung

KI-Systeme dürfen keine diskriminierenden Entscheidungen treffen. Unternehmen müssen sicherstellen, dass die Trainingsdaten repräsentativ und qualitätssicher sind.

4. Registrierungspflichten

KI-Systeme mit hohem Risiko müssen in einer EU-Datenbank registriert werden. Dies ermöglicht eine Überwachung durch die zuständigen Behörden.

5. Technische Protokollierung

Um Risiken zu minimieren, müssen KI-Systeme transparent arbeiten und durch technische Protokolle nachvollziehbar sein. Dies ist essenziell für die Überprüfung und den sicheren Betrieb von KI-Anwendungen.

6. Regulatory Sandboxes nutzen

Der AI Act fördert Innovation durch sogenannte "Regulatory Sandboxes". Diese erlauben Unternehmen und Forschungseinrichtungen, KI-Technologien in einem kontrollierten Umfeld zu testen.

‍

Worauf sollten Unternehmen beim Einsatz von KI Tools achten?

Vorab: Nutzung des fonio.ai KI-Telefonassistenten

Wenn du den fonio.ai KI-Telefonassistenten in deinem Unternehmen einsetzt, sind  folgende Punkte zu beachten: Da fonio.ai kein hohes oder unvertretbares Risiko aufweist, ordnen wir uns in der vorletzten Risikostufe 3. Geringes Risiko ein. Ab Februar 2025 bedeutet die Nutzung unseres KI-Assistenten, dass du neben den allgemeinen Vorgaben zur ausreichenden KI-Kompetenz deiner Mitarbeiterinnen vor allem noch eine weitere Pflicht hast: Du musst sicherstellen, dass Nutzerinnen darüber informiert werden, dass sie mit einer KI kommunizieren.

Wir bei fonio.ai empfehlen, diese Info direkt in die Begrüßung deines KI-Telefonassistenten zu integrieren. Zum Beispiel:

"Hallo, hier ist Mia – ich bin die persönliche KI-Telefonassistentin von [Unternehmensname]. Wie kann ich dir helfen?"

Falls du andere KI-Tools einsetzt oder einer erweiterten Sorgfaltspflicht unterliegst, solltest du folgende Punkte prinzipiell beachten:

1. Compliance-Check durchführen

Prüfe, ob deine KI-Systeme den Anforderungen des AI Acts entsprechen. Konzentriere dich dabei auf Risikobewertung, Transparenz und Datenqualität. Den offiziellen Compliance Checker haben wir dir bereits oben verlinkt.

2. Interne und externe Kommunikation anpassen

Informiere Mitarbeitende und Kund*innen darüber, wie KI in deinem Unternehmen eingesetzt wird. Transparenz ist nicht nur gesetzlich vorgeschrieben, sondern schafft auch Vertrauen.

3. Regulatorische Anlaufstellen nutzen (AT & DE)

Für detaillierte Informationen bieten die Websites der jeweiligen Länder wertvolle Ressourcen:

• 🇦🇹 Österreich: Digital Austria
• 🇩🇪 Deutschland: Bundesregierung

4. Technische Dokumentation erstellen

Bereite dich auf mögliche Kontrollen vor, indem du alle relevanten Informationen zu deinen KI-Systemen zusammenstellst. Hierzu gehören Beschreibungen der Funktionsweise, technische Details und Nachweise für die Risikobewertung.

‍

Fazit: Keine Angst vor der Implementierung von KI-Assistenten

Der AI Act regelt den Einsatz von KI in der EU und tritt im Februar 2025 in Kraft. Unternehmen müssen vor allem auf Risikobewertungen, Transparenzpflichten und Datenqualität achten. Kein Grund aber vor dem Einsatz von KI-Assistenten in deinem Unternehmen zurückzuschrecken. Bei der Nutzung unseres KI-Assistenten sind im wesentlichen die üblichen Verpflichtungen zur Kompetenzsicherung der Mitarbeiter sowie die deutliche Kennzeichnung des KI-Agenten gegenüber Kunden zu beachten.

Nutze die hilfreichen Ressourcen der EU, Digital Austria und der deutschen Bundesregierung, um rechtzeitig alle Anforderungen zu erfüllen und sicher in die Zukunft zu starten!
‍

Anbei noch ein paar weitere nützliche Links:

Offizielle Website für den KI-Act: https://artificialintelligenceact.eu/

Offizielle High-Level Summary des KI-Acts: https://artificialintelligenceact.eu/high-level-summary/

Offizieller Compliance Checker: https://artificialintelligenceact.eu/assessment/eu-ai-act-compliance-checker/

‍