Der Entwicklungsstand der KI-Verordnung

Der Entwicklungsstand der KI-Verordnung

Die Europäische Verordnung über künstliche Intelligenz (KI-Verordnung bzw. AI-Act) ist am 01. August 2024 in Kraft getreten, wobei einzelne Regelungen sukzessive wirksam werden. Zu den einzelnen Änderungen finden Sie hier bereits erste Informationen. Die KI-Verordnung differenziert in ihren Verpflichtungen nach der Zuordnung zu Risikogruppen der jeweiligen KI-Systeme.

Pflichten ab Februar 2025

Ab dem 02. Februar 2025 werden die Titel I und II der KI-Verordnung wirksam.  

Der erste Teil enthält allgemeine Bestimmungen, namentlich den Gegenstand des Gesetzes, den Anwendungsbereich, die Definitionen sowie Regelungen der sogenannten KI-Kompetenz.

Anbieter und Betreiber müssen die KI-Kompetenz ihrer Mitarbeitenden sicherstellen. Das beinhaltet umfassende technische Kenntnisse, Erfahrung sowie die Ausbildung und Schulung im Bereich der Künstlichen Intelligenz. Davon umfasst sind auch Unternehmen, die mit KI arbeiten. 

Die KI-Verordnung sieht keine konkreten Maßnahmen vor, um die geforderte KI-Kompetenz zu vermitteln. Allerdings wird das bloße Selbststudium den Anforderungen nicht genügen. Vielmehr sollen Schulungen und Weiterbildungsprogramme dafür sorgen, dass ein einheitlicher Wissens- und damit auch Kompetenzstand erreicht wird. Gegenwärtig wird an Leitlinien zur Umsetzung des AI-Acts gearbeitet, welche beispielsweise die Ernennung eines KI-Beauftragten sowie entsprechende Arbeitsgruppen einbeziehen.

Im zweiten Teil werden in dem einzigen Artikel 5 verbotene Praktiken im Zusammenhang mit Künstlicher Intelligenz statuiert. Das sind zum Beispiel Social Scoring oder Systeme zum Zweck der kognitiven Verhaltensmanipulation. Maßgebend ist, dass bei diesen KI-Praktiken eine Bedrohung in der Form ausgeht, dass sie täuschen oder Personen aufgrund gewisser Merkmale zu einem bestimmten Verhalten manipulieren. Die Verwendung solcher KI-Systeme ist im Allgemeinen eher selten, aber dennoch sollten bereits verwendete Systeme überprüft werden. Auch zunächst harmlos wirkende Funktionen, wie zum Beispiel die Feststellung der Stimmung in Video-Konferenzen kann darunterfallen. Solche Praktiken sind nur in Ausnahmefällen zulässig.


Probleme der neuen Pflichten

Problematisch ist, dass es keine Frist zur Umsetzung von Schulungen gibt. Ab Wirksamwerden müssen die Mitarbeitenden lediglich über ausreichende Kompetenz verfügen. In Verbindung mit der fehlenden Nennung von geeigneten Maßnahmen in der KI-Verordnung selbst führt dies zu einer gewissen Unsicherheit, wie ein hinreichender Stand an KI-Kompetenz überhaupt erreicht werden kann.

In dem Zusammenhang ist auch zu beachten, dass die Kontrolle der Umsetzung der Verpflichtungen den nationalen Behörden obliegen soll. In Deutschland wird voraussichtlich die Bundesnetzagentur die Aufsicht übernehmen, die Einrichtung der Aufsichtsbehörde soll jedoch erst zum 02. August 2025 erfolgen. Mangels bestehender Aufsichtsbehörde ist zunächst unklar, was die Konsequenz einer Nichteinhaltung sein wird. Nicht geklärt ist deshalb, ob ungeschulte Mitarbeitende ab Wirksamwerden nicht mehr mit KI arbeiten dürfen.

Unternehmen sollten jedoch im Auge behalten, dass eine unterlassende Schulung der Mitarbeitenden eine Schadensersatzpflicht auslösen kann, sofern ein Schaden durch die Verwendung Künstlicher Intelligenz entstanden ist, welcher bei ordnungsgemäßer Schulung hätte verhindert werden können. 

Das führt dazu, dass eine entsprechende Schulung eine Sorgfaltspflicht der Unternehmen darstellt und aufgrund der potenziellen Schadensersatzpflicht im Eigeninteresse der Anbieter oder Betreiber liegt.

 

Wirksamwerden weiterer Pflichten

Schrittweise werden weitere Regelungen der KI-Verordnung wirksam.

Ab dem 02. August 2025 treten neben Verwaltungsvorschriften auch Regelungen über KI-Systeme für allgemeine Zwecke in Kraft. Unter „allgemeine Zwecke“ sind vielseitig einsetzbare KI-Systeme zu verstehen. Anbieter von solchen Systemen, die vor diesem Zeitpunkt in den Verkehr gebracht oder in Betrieb genommen wurden, müssen bis zum 02. August 2027 mit den Vorschriften des AI-Acts in Einklang gebracht werden.

Ab diesem Zeitpunkt sollen Behörden in den Mitgliedsstaaten eingerichtet werden, welche Konformitätsbewertungen von Hochrisiko-Systemen vornehmen. Außerdem sollen auch auf Unionsebene Verwaltungsapparate eingerichtet werden, nämlich ein Büro für Künstliche Intelligenz und ein entsprechendes Gremium. Zusätzlich treten die in Kapitel 12 genannten Sanktionen in Kraft.

Die meisten übrigen Bestimmungen werden am 02. August 2026 wirksam, mit Ausnahme des Art. 6 Abs. 1 KI-VO. Das sind umfassende Regelungen für das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI-Systemen innerhalb der Europäischen Union. 

Ab dem 02. August 2027 werden die Vorschriften auf risikobehaftete Systeme ausgeweitet, die bereits durch andere EU-Bestimmungen reguliert werden. Bestandteile von bestimmten IT-Großsystemen, die vor diesem Zeitpunkt in den Verkehr gebracht oder in Betrieb genommen wurden, müssen bis zum 31. Dezember 2030 mit den Vorschriften der KI-Verordnung konform sein. 

Worauf sollten Unternehmen achten?

Unternehmen sollten vor allem auf die Schulung ihrer Mitarbeitenden achten. Sofern ein sicherer und fachkundiger Umgang jeder Person, die mit Künstlicher Intelligenz arbeitet, sichergestellt ist, kann der Angst einer Schadensersatzpflicht vorgegriffen werden. Außerdem ist es sinnvoll, bereits vor Inkrafttreten festzustellen, welche Arten der KI in dem Unternehmen genutzt werden, um künftige Pflichten eingrenzen zu können. Vorab kann eine Information über Schulungs- oder Weiterbildungssysteme sowie die Einteilung nach Wissensstand helfen, um den Bedarf im Unternehmen zu ermitteln. Auch eine etwaige Beteiligung des Betriebsrats muss berücksichtigt werden.

Außerdem sollten Sie bereits jetzt sicherstellen, dass Sie kein verbotenes KI-System im Sinne des Art. 5 Abs. 1 KI-VO verwenden und falls doch, ob eine Ausnahme greift.

Gerne prüfen wir Ihre bereits verwendeten Systeme und unterstützen Sie im Hinblick auf geeignete Maßnahmen für einen mit der KI-Verordnung konformen Umgang mit Künstlicher Intelligenz. 

NOCH FRAGEN?

Wir freuen uns auf Ihre Anfrage zu diesem und weiteren Themen!
KONTAKT AUFNEHMEN

Das Barrierefreiheitsstärkungsgesetz

Das Barrierefreiheitsstärkungsgesetz

Bietet Ihr Unternehmen eine Ware oder eine Dienstleistung innerhalb der Europäischen Union an? Allein das kann bedeuten, dass Sie künftig einige neue Regelungen zu beachten haben. 

Einführung

Am 28. Juni 2025 soll das Barrierefreiheitsstärkungsgesetz (BFSG) in Kraft treten, welches die Richtlinie (EU) 2019/882 über die Barrierefreiheitsanforderungen bei Produkten und Dienstleistungen (European Accessibility Act, kurz: EAA) in das deutsche Recht umsetzt. 

 

Enthalten sind Regelungen, die eine gleichberechtigte und diskriminierungsfreie Teilhabe durch technische Anforderungen sowie barrierefreie Information bei bestimmten Produkten und Dienstleistungen ermöglichen sollen. In den Mitgliedstaaten der Europäischen Union soll so ein einheitlicher Standard geschaffen werden. Eine größere Verfügbarkeit günstiger barrierefreier Produkte und Dienstleistungen führt im Idealfall auch zu einer Stärkung des Europäischen Binnenmarkts.

 

Von den Regelungen betroffen sind jegliche Marktakteure, die Produkte der folgenden Kategorien oder eine der folgenden Dienstleistungen im Europäischen Binnenmarkt anbieten. Gemeint sind damit Hersteller, Importeure, Händler oder Erbringer von Dienstleistungen. 

 

Betroffene Produkte und Dienstleistungen

Von dem Gesetz umfasst sind Produkte oder Dienstlesitungen, die dem Verbraucher gegenüber angeboten werden. Das bedeutet im Umkehrschluss, dass rein private Angebote sowie Angebote im B2B-Bereich (Business to Business) nicht in den Anwendungsbereich fallen.


Zu den betroffenen Produkten gehören folgende Produkte, die nach dem 28.06.2025 in den Verkehr gebracht worden sind:


–  E-Book-Lesegeräte, Computer, Notebooks, Tablets, Smartphones

– Selbstbedienungsterminals, also Zahlungsterminals, Geldautomaten, Fahrausweisautomaten, Check-In-Automaten, Selbstbedienungsterminals zur Bereitstellung von Informationen

–      Hardwaresysteme inklusive Betriebssystemen

– Verbrauchergeräte  mit interaktivem Leistungsumfang, die für Telekommunikationsdienste oder für den Zugang zu audiovisuellen Mediendiensten verwendet werden 

 

Von dem BFSG betroffen sind folgende Dienstleistungen:


  – Dienstleistungen im elektronischen Geschäftsverkehr, was bedeutet, dass grundsätzlich Webshops und Apps betroffen sind

  – Telekommunikations- und Messengerdienste

  – Bankdienstleistungen für Verbraucher 

  – E-Books und hierfür bestimmte Software

  – Elemente von Personenbeförderungsdiensten, damit sind Apps, Webseiten, elektronische Tickets, die Bereitstellung von Verkehrsinformationen und interaktive Selbstbedienungsterminals gemeint 

 

Regelungen im Einzelnen 

Im Vordergrund stehen Maßnahmen, die es den Verbrauchern ermöglichen sollen, Produkte oder Dienstleistungen ohne Einschränkungen in Anspruch nehmen zu können.
 

Das soll dadurch gewährleistet werden, dass eine Wahrnehmung grundsätzlich immer über zwei Sinne möglich ist. Neben der Möglichkeit einer visuellen Wahrnehmung, muss künftig also beispielsweise auch eine auditive Wahrnehmung zur Verfügung stehen. Daneben muss es für den Verbraucher ohne Probleme möglich sein, durch Einstellungen Einfluss auf die Darstellung zu nehmen. Als Beispiele sind hierfür sind 

–  die Veränderung der Schriftgröße oder

– des Kontrastes 

– die Einstellung verschiedener Farben oder Lautstärken

– die Auswahl, das ein Text vorgelesen wird

 

zu nennen. 

Weitere Maßnahmen sind insbesondere Kennzeichnungspflichten, verständliche Gebrauchsanweisungen und Sicherheitsinformationen, wobei diese Informationen auch leicht auffindbar oder aufrufbar sein müssen.

 

Bei Produkten müssen die Vorgaben auch im Rahmen von Gebrauchsanweisungen sowie Verpackungen beachtet werden. Wichtig ist, dass die gesamte Steuerung, Bedienung oder auch Kommunikation mit dem Lieferanten oder Hersteller im Zusammenhang mit einem Produkt einfach und verständlich erfolgt, so dass jeglicher Umgang mit demselben für den Verbraucher reibungslos funktioniert. Auch unabhängig von motorischen Fähigkeiten muss der Gebrauch möglich sein, was im Hinblick auf Verpackungen von Relevanz sein könnte.

 

Dienstleister sollen im Wege der Allgemeinen Geschäftsbedingungen über die Barrierefreiheit der Dienstleistung aufklären und die Inanspruchnahme ihrer Leistung in barrierefreierweise erläutern. Hersteller unterliegen Dokumentations-, Informations- sowie Kennzeichnungspflichten, während Händler Prüfpflichten erfüllen müssen und die Verantwortung für die Lieferkette tragen.

 

Eine Besonderheit des Gesetzes ist, dass Webseiten, die auf den Abschluss eines Verbrauchervertrages zielen, ebenfalls den Anforderungen unterliegen. Damit unterfallen bereits Buchungsportale für Dienstleistungen dem Gesetz, obwohl die Dienstleistung selbst möglicherweise gar nicht den Barriere-Anforderungen entsprechen muss. Das birgt die Gefahr, dass von Dienstleistungserbringern schlichtweg übersehen werden kann, dass sie die Barriere-Anforderungen umsetzen müssen. 

 

Von den Regelungen umfasst sein werden Produkte oder Dienstleistungen, die nach dem 28. Juni 2025, also nach Inkrafttreten des BFSG, in den Verkehr gebracht oder für Verbraucher erbracht werden. Die Normen verpflichten Hersteller, Händler, Importeure und Dienstleistungserbringer. 

 

Ausnahmen des BFSG

Ausnahmen bestehen dann, wenn zum Beispiel Webseiten nach dem 28.06.2025 nicht mehr aktualisiert oder bearbeitet werden oder bei aufgezeichneten zeitbasierten Medien, die vor dem 28.05.2025 veröffentlicht wurden. Gemeint sind damit Audio- oder Videoaufnahmen. 

 

Dienstleistungen unter Einsatz von Produkten, die vor dem 28.06.2025 rechtmäßig eingesetzt wurden, dürfen noch bis zum 27.06.2030 erbracht werden.

 

Kleinstunternehmen, die eine der obengenannten Dienstleistungen erbringen, sind von dem Anwendungsbereich ausgenommen. Das sind Unternehmen, die weniger als zehn Personen beschäftigten und entweder einen Jahresumsatz von höchstens 2 Millionen Euro erzielen oder deren Jahresbilanzsumme sich auf höchstens 2 Millionen Euro beläuft. Stellt ein Kleinstunternehmen jedoch eines der genannten Produkte her, so ist es zur Barrierefreiheit verpflichtet. 

 

Sofern die Einhaltung der Anforderungen für ein Unternehmen ein wirtschaftliches Risiko darstellt, kann das Unternehmen von der Verpflichtung ausgenommen werden. 

 

Allein diese Ausnahmen zeigen, dass das BFSG viele Sonderfälle enthält. Eine Einzelfallprüfung, welche Maßnahmen bis zu welchem Zeitpunkt ergriffen werden müssen, ist dementsprechend unerlässlich.

 

Schlussbetrachtung: Was haben Unternehmen zu beachten?

Im Ergebnis sollte im Wege des BFSG beachtet werden, dass die dem Verbraucher und damit auch der Allgemeinheit zugutekommenden Vorschriften auch zu einem entscheidenden Vorteil von Unternehmen führen kann. Sofern ein Unternehmen Produkte oder Dienstleistungen sowohl auf dem EU-Binnenmarkt als auch in Drittländern anbietet, kann der hohe Standard an Barrierefreiheit zu einem wettbewerblichen Vorteil führen. Mit standardisierten technischen Verfahren sollte eine Umsetzung der Vorschriften künftig auch ohne großen Mehraufwand möglich sein.

Gerne beraten und unterstützen wir Sie bei der Überprüfung Ihrer Webseiten, Dienstleistungen und Produkten sowie der Umsetzung der Barriere-Anforderungen.

NOCH FRAGEN?

Wir freuen uns auf Ihre Anfrage zu diesem und weiteren Themen!
KONTAKT AUFNEHMEN