Letzte Woche stimmten die Abgeordneten des EU-Parlaments mehrheitlich für eine neue Regelung: das weltweit erste KI-Gesetz. Demnach sollen künftig KI-gesteuerte Systeme in verschiedene Risikogruppen eingeteilt und entsprechend reguliert werden. Können wir uns nun beim Umgang mit KI entspannt zurück lehnen?

Wir haben hier bereits in mehreren Berichten über die Nutzung von KI informiert. Ob ChatGPT, Midjourney, Clearview AI oder das Auffinden von Hatespeech und Fake News auf Social Media, die Möglichkeiten künstlicher Intelligenz erscheinen schier unendlich. Doch die Nutzung birgt auch mindestens genauso viele Gefahren. Aufgrund bisher fehlender Regulierung schien der Bereich der KI ein nahezu rechtsfreier Raum zu sein, welcher lediglich durch die selbst gesetzten Regeln der Unternehmen im Rahmen eigener AGB beschränkt wurde. Doch dies soll sich nun ändern.

Das bevorstehende Gesetz basiert auf einem Vorschlag der EU-Kommission aus dem Jahr 2021. Es legt fest, dass Systeme, die als besonders risikoreich eingestuft werden, strenge Anforderungen erfüllen müssen. Darunter sollen KI-Systeme fallen, die beispielsweise in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen eingesetzt werden. Bestimmte KI-Anwendungen, die EU-Werten widersprechen, sollen gänzlich verboten werden. Darunter fällt z.B. die Bewertung des sozialen Verhaltens („Social Scoring“), wie es in China praktiziert wird. Ebenso soll die Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen nicht gestattet sein. Grundsätzlich soll auch die Gesichtserkennung im öffentlichen Raum, wie etwa durch Videoüberwachung an öffentlichen Plätzen, verboten sein. Eine Ausnahme soll es jedoch für Sicherheitsbehörden wie die Polizei geben. Diese dürfen solche Systeme nutzen, um bestimmte Straftaten wie Menschenhandel oder Terrorismus gezielt zu bekämpfen. Dieses abgestufte System soll ein Gleichgewicht zwischen der Förderung von Innovationen und dem Schutz der Grundrechte und der Sicherheit der Verbraucher herstellen.

Kritiker befürchten derweil, dass nun die größte Aufgabe für Unternehmen sein wird, ihre Dateninfrastruktur an die neuen Regelungen anzupassen und den neuen Protokollierungs- und Dokumentationspflichten ordnungsgemäß nachzukommen. Aufgrund der extraterritorialen Wirkung seien dabei nicht nur EU-Mitgliedsstaaten von dem Gesetz betroffen, denn der europäische Binnenmarkt ist auch für amerikanische und asiatische Unternehmen von großer Bedeutung. Wollen solche Unternehmen auf dem europäischen Markt beständig bleiben, so können sie die EU-Vorschriften nicht ignorieren. Zudem sind die derzeitigen Regelungen noch nicht hinreichend präzise, sodass es erst einige Jahre und viele Gerichtsentscheidungen benötigen wird bis es mehr Klarheit für die Betroffenen geben wird.

 

 

Foto von Growtika auf Unsplash