Kommission stellt Rechtsrahmen zur Künstlichen Intelligenz vor

Die Kommission hat am 21. April 2021 einen umfassenden Rechtsrahmen zum Einsatz von Künstlicher Intelligenz (KI) in der EU vorgestellt. Er besteht aus neuen Vorschriften für vertrauenswürdige KI, mit denen Anwendungen gemäß ihres Risikos eingestuft und entsprechend reglementiert werden, einem aktualisierten Konzept zur Exzellenz in der KI einschließlich der Fördermaßnahmen für die notwendigen Investitionen und der überarbeiteten Maschinenrichtlinie, mit der die Gesundheits- und Sicherheitsanforderungen für Maschinen angepasst werden sollen. Mit den neuen Regelungen soll neue Standards für den Einsatz einer „ethischer Technik“ geschaffen werden. Durch zukunftssichere und innovationsfreundliche Vorschriften, die nur dort eingreifen, wo dies unbedingt notwendig ist, nämlich wenn die Sicherheit und die Grundrechte der EU-Bürger auf dem Spiel stehen, soll die EU langfristig wettbewerbsfähig bleiben.

Die neue KI-Verordnung sieht Definitionen für KI vor, die auf einem risikobasierten Ansatz basieren und in allen Mitgliedstaaten direkt gelten sollen.

• KI-Systeme, die als klare Bedrohung für die Sicherheit und die Lebensgrundlagen der Menschen gelten, werden der Kategorie unannehmbares Risiko zugeordnet und sollen grundsätzlich verboten werden. Dazu gehören KI-Anwendungen oder KI-Systeme, die menschliches Verhalten manipulieren, um den freien Willen der Nutzer zu umgehen (z. B. Spielzeug mit Sprachassistent, das Minderjährige zu gefährlichem Verhalten ermuntert).

• Für KI-Systeme, bei denen ein hohes Risiko besteht, wenn sie eigesetzt werden, sollen strenge Vorgaben gelten, die erfüllt sein müssen, bevor sie auf den Markt gebracht werden dürfen. Das betrifft etwa kritische Infrastrukturen (z. B. im Verkehr), in denen das Leben und die Gesundheit vom Menschen gefährdet werden könnten, Sicherheitskomponenten von Produkten (z. B. eine KI-Anwendung für die roboterassistierte Chirurgie), wichtige private und öffentliche Dienstleistungen (z. B. Bewertung der Kreditwürdigkeit, wodurch Bürgern die Möglichkeit verwehrt wird, ein Darlehen zu erhalten), die Strafverfolgung, die in die Grundrechte der Menschen eingreifen könnte (z. B. Bewertung der Verlässlichkeit von Beweismitteln) oder auch die Rechtspflege und demokratische Prozesse (z. B. Anwendung der Rechtsvorschriften auf konkrete Sachverhalte). Bei KI-Systemen in dieser Risikokategorie sollen vor der Marktzulassung strenge Vorgaben festgelegt werden, etwa in Bezug auf angemessene Risikobewertungssysteme, die Qualität der Datensätze, eine ausführliche Dokumentation, die Informationen für die Nutzer und eine angemessene menschliche Aufsicht zur Minimierung der Risiken. Unter diese Kategorie sollen alle Arten biometrischer Fernidentifizierungssysteme fallen. Ihre Echtzeit-Nutzung im öffentlichen Raum zu Strafverfolgungszwecken wird grundsätzlich verboten. Eng abgesteckte Ausnahmen (z.B. unmittelbare terroristische Bedrohung) werden strikt definiert und geregelt. Eine solche Nutzung bedarf der Genehmigung einer Justizbehörde.

• Für KI-Systeme, bei denen das Risiko gering eingeschätzt wird (z. B. Chatbots), sollen besondere Transparenzvorschriften gelten, damit den Nutzern klar ist, dass sie es mit einer Maschine zu tun haben, und sie so bewusst entscheiden können, ob sie die Anwendung weiter nutzen wollen oder nicht.

• Der Legislativvorschlag soll die freie Nutzung von Anwendungen wie KI-gestützten Videospielen oder Spamfiltern ermöglichen. Die große Mehrheit der KI-Systeme fällt in diese Kategorie. Der Verordnungsentwurf soll hier nicht eingreifen, denn diese KI-Systeme stellen nur ein minimales oder kein Risiko dar.

Die Anwendung der neuen Vorschriften soll laut Vorschlag der Kommission von den zuständigen nationalen Marktüberwachungsbehörden beaufsichtigt werden. Ergänzend ist die Einrichtung ein Europäischer Ausschuss für künstliche Intelligenz vorgesehen, der die Umsetzung begleiten und die Ausarbeitung von Normen auf dem Gebiet der KI vorantreiben soll. Darüber hinaus werden freiwillige Verhaltenskodizes für KI-Anwendungen, die kein hohes Risiko darstellen, und regulatorische „Sandkästen“ vorgeschlagen, um verantwortungsvolle Innovationen zu erleichtern.

Mit der umfassenden Überarbeitung des koordinierten Plans für KI, der erstmals im Jahr 2018 veröffentlicht wurde, werden konkrete Maßnahmen für die Zusammenarbeit auf EU-Ebene vorgeschlagen. Dazu werden Mittel aus den Programmen Digitales Europa, Horizont Europa, der Aufbau- und Resilienzfazilität, die ein Ausgabenziel von 20 Prozent für digitale Zwecke vorsieht, und der Programme der Kohäsionspolitik genutzt.

Durch die neue Maschinenverordnung soll sicherstellt werden, dass auch die modernste Generation von Maschinen die Sicherheit der Benutzer und Verbraucher gewährleistet. Sie soll für die sichere Integration von KI-Systemen in den gesamten Maschinenpark sorgen. (UV)