Unsere Autorin Mathilde Schuba hat sich ausführlich mit dieser Frage auseinandergesetzt und dazu auch KI selbst befragt.
Chat GPT gibt auf die Frage, was die neue KI-Verordnung der EU regelt, folgende Antwort:
„Die Verordnung soll ein ausgewogenes Verhältnis zwischen der Förderung von Innovation und dem Schutz der Rechte und Sicherheit der Bürger sicherstellen.“
Doch bevor wir klären können, was genau diese spezifische Verordnung regelt, sollten wir uns fragen: Was ist überhaupt eine Verordnung?
Eine Verordnung ist der höchste Rechtsakt, den die EU erlassen kann. Sie ist sofort gültig und bedarf keiner separaten Umsetzung in nationales Recht. Eine vergleichbare Verordnung zur KI-VO ist die DSG-VO, die Datenschutzgrundverordnung[1].
Ähnlich wie mit der DSG-VO hat sich die EU mit der KI-Verordnung zum Ziel gesetzt, globaler Vorreiter zu sein. Sie soll Grundrechte und Werte der EU sichern, die Gestaltung eines menschenzentrierten und innovationsfreundlichen Rechtsrahmens vorgeben, und dem Umweltschutz dienen. Doch die Schwierigkeit besteht vor allem darin, Innovationen im Bereich der KI in Europa nicht zu bremsen, sondern sogar im Gegenteil zu beschleunigen. Denn KI ist eine Chance, die Produktivität zu erhöhen[2] und gleichzeitig Beschäftigte zu entlasten, und zwar in der Breite der Wirtschaft. Als Lösung hat sich die EU entschieden, dass die verschiedenen Anwendungen in bestimmte Risikostufen eingeteilt werden.
Für die unterschiedlichen Stufen gelten dann wiederum unterschiedliche, dem jeweiligen Risiko angepasste, Normen. Dies soll sichern, dass Unternehmen nicht unverhältnismäßig belastet werden und die Entwicklung nicht stockt. Außerdem liegt der Schwerpunkt auf dem Anbieter, der KI-Systeme entwickelt. Doch auch die Anwender, also natürliche oder juristische Personen und damit auch Unternehmen, die ein KI-System verwenden, werden von der KI-Verordnung berührt. Sonderregelungen gelten für die KI-Forschung, um das Innovationsbestreben nicht zu schwächen[3].
Um zu verstehen, welche Dinge Unternehmen nun beachten sollen, ist es wichtig zu verstehen, wonach die Systeme beurteilt werden. Dabei stand bei der Entwicklung der Verordnung vor allem im Vordergrund, Unternehmen eine möglichst hohe Rechtssicherheit gewährleisten zu können. So sind die Risikostufen und der Begriff „KI-Systeme“ klar definiert. Denn in der Alltagssprache werden häufig auch Systeme als KI-Systeme bezeichnet, bei denen es sich gar nicht um KI-Systeme nach der Definition der EU handelt. Ein KI-System ist demnach ein System, das dazu entwickelt wurde, mit unterschiedlich ausgeprägter Autonomität zu funktionieren und dabei vielleicht eigene Anpassungen so vorzunehmen, dass sich das physische oder virtuelle Umfeld verändert[4]. Die Bewertung der Risikostufe richtet sich nach der Funktionsweise und Rechenleistung. Da sich KI und ähnliche Anwendungen allerdings so rasant entwickeln, gibt es im Anhang der Verordnung Anwendungsbeispiele, die laufend aktualisiert werden[5].
Die vier Risikostufen sind unakzeptabel hohes Risiko, hohes Risiko, geringes Risiko und spezifisches Transparenzrisiko[6]. Allerdings hat die KI-Verordnung vor allem zum Ziel, Anwendungen, die ein hohes Risiko oder sogar ein unakzeptables Risiko darstellen, zu erfassen. Denn nur KI-Systeme mit unakzeptablem Risiko sind verboten. Dabei setzt die EU vor allem auf das Verantwortungsbewusstsein von Unternehmen. Entwickler müssen „technische Dokumentationen“ erstellen, sodass man auf Trainings- und Testverfahren schließen kann. Ebenso muss ein Nachweis über urheberrechtliche Bestimmungen erfolgen und es muss dem Nutzer kenntlich gemacht werden, dass er eine KI anwendet. Dies kann z.B. mit Hilfe eines Wasserzeichens geschehen. Zudem müssen Entwickler vor der Zulassung eine Konformitätsbewertung durchführen. Dies kann z.B. in sogenannten Reallaboren geschehen[7]. Dies birgt vor allem für kleine und mittlere Unternehmen Vorteile. Das Bundesministerium für Wirtschaft und Klimaschutz schreibt: „Auch für kleine und mittlere Unternehmen wird Transparenz die Anwendung von KI erleichtern. Insgesamt werden die Interessen und Bedürfnisse von KMU und Startups verstärkt berücksichtigt – auch durch die von der Bundesregierung eingebrachten Regeln für Reallabore, die Freiräume zur Erprobung von Innovationen schaffen“[8].
Risikoklassen von KI-Systemen
Damit nicht nur die Unternehmen in der Verantwortung stehen und die Durchsetzung auch garantiert werden kann, gibt es das neue „KI-Amt“. Dieses ist bei der Kommission angesiedelt und wird von unabhängigen Wissenschaftlern und Wissenschaftlerinnen beraten. Entsprechend gelten auch Sanktionen, die allerdings für Startups und KMU angepasst sind. Dies soll sicherstellen, dass Unternehmen nicht unverhältnismäßig behandelt werden.
Die Herausforderungen, die die neue Verordnung mit sich bringt, müssen KMU nicht allein navigieren. Hilfestellungen gibt es z.B. vom IKS Fraunhofer.