Letzte Woche stimmten die Abgeordneten des EU-Parlaments mehrheitlich für eine neue Regelung: das weltweit erste KI-Gesetz. Demnach sollen künftig KI-gesteuerte Systeme in verschiedene Risikogruppen eingeteilt und entsprechend reguliert werden. Können wir uns nun beim Umgang mit KI entspannt zurück lehnen?
Wir haben hier bereits in mehreren Berichten über die Nutzung von KI informiert. Ob ChatGPT, Midjourney, Clearview AI oder das Auffinden von Hatespeech und Fake News auf Social Media, die Möglichkeiten künstlicher Intelligenz erscheinen schier unendlich. Doch die Nutzung birgt auch mindestens genauso viele Gefahren. Aufgrund bisher fehlender Regulierung schien der Bereich der KI ein nahezu rechtsfreier Raum zu sein, welcher lediglich durch die selbst gesetzten Regeln der Unternehmen im Rahmen eigener AGB beschränkt wurde. Doch dies soll sich nun ändern.
Das bevorstehende Gesetz basiert auf einem Vorschlag der EU-Kommission aus dem Jahr 2021. Es legt fest, dass Systeme, die als besonders risikoreich eingestuft werden, strenge Anforderungen erfüllen müssen. Darunter sollen KI-Systeme fallen, die beispielsweise in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen eingesetzt werden. Bestimmte KI-Anwendungen, die EU-Werten widersprechen, sollen gänzlich verboten werden. Darunter fällt z.B. die Bewertung des sozialen Verhaltens („Social Scoring“), wie es in China praktiziert wird. Ebenso soll die Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen nicht gestattet sein. Grundsätzlich soll auch die Gesichtserkennung im öffentlichen Raum, wie etwa durch Videoüberwachung an öffentlichen Plätzen, verboten sein. Eine Ausnahme soll es jedoch für Sicherheitsbehörden wie die Polizei geben. Diese dürfen solche Systeme nutzen, um bestimmte Straftaten wie Menschenhandel oder Terrorismus gezielt zu bekämpfen. Dieses abgestufte System soll ein Gleichgewicht zwischen der Förderung von Innovationen und dem Schutz der Grundrechte und der Sicherheit der Verbraucher herstellen.
Die Mitgliedsstaaten sind nun verpflichtet, schrittweise verbotene Systeme außer Betrieb zu nehmen. Die Umsetzungsfrist für die neuen Regelungen beträgt zwei Jahre. Zudem liegt es an den Mitgliedsstaaten Sanktionen gegen Unternehmen einzuführen, die sich nicht an die Vorschriften halten. Dabei sollen Geldstrafen von bis zu 7 Prozent des weltweiten Umsatzes möglich sein. Darüber hinaus soll Verbrauchern auch die Möglichkeit gewährt werden, sich bei einer nationalen Behörde im Falle eines Verstoßes beschweren zu können. Diese Behörden haben dann die Befugnis, Überwachungsverfahren einzuleiten und bei Bedarf Strafen zu verhängen.
1 Pingback