Der AI Act soll gewährleisten, dass die auf dem EU-Markt in Verkehr gebrachten und in der Union verwendeten Systeme künstlicher Intelligenz (KI) sicher sind und die bestehenden Grundrechte und die Werte der Union wahren. So einigten sich die Telekommunikationsministerinnen und Minister unter anderem auf ein Verbot, KI zur Bewertung von Menschen auf Grundlage ihres sozialen Verhaltens (Social Scoring) oder von Persönlichkeitsmerkmalen einzusetzen, wenn dies zu Benachteiligungen führt. Darüber hinaus soll die Regelung festlegen, wie mit besonders risikoreichen KI-Systemen zu verfahren ist.
Zudem sollen mit dem AI Act Innovationen in der Künstlichen Intelligenz gefördert und die Entwicklung eines Binnenmarkts für KI-Anwendungen erleichtert werden. Dazu stellt der Text klar, dass die regulatorischen KI-Reallabore auch das Testen innovativer KI-Systeme unter realen Bedingungen ermöglichen sollten. Um den Verwaltungsaufwand für KMU möglichst gering zu halten, sind unterstützende Maßnahmen sowie klar definierte Ausnahmeregelungen vorgesehen. Bevor die neuen Regeln tatsächlich gelten, müssen sich die EU-Staaten noch mit dem Europäischen Parlament (EP) auf eine Linie verständigen.
Der Bundesminister für Wirtschaft und Klimaschutz, Robert Habeck, begrüßte die Einigung zum AI Act als „wichtiges Zukunftssignal“. Bundesjustizminister Marco Buschmann ergänzte: „Die EU ist damit auf sehr gutem Weg, den weltweit ersten verbindlichen Maßstab für vertrauenswürdige KI zu setzen". In den Verhandlungen der Ratsarbeitsgruppe hatte die Bundesregierung bereits Zustimmung signalisiert, jedoch auch Nachbesserungen gefordert. Dies betreffe etwa die Sicherung der Anonymität im öffentlichen Raum, die Transparenz beim Einsatz von KI-Systemen sowie die Möglichkeit für spezifischere nationale Regelungen im Beschäftigungskontext.
Darüber hinaus verständigten sich die EU-Mitgliedstaaten im Telekommunikationsrat auf Regeln, um Bürgerinnen und Bürgern sowie Unternehmen einen universellen Zugang zu einer sicheren und vertrauenswürdigen elektronischen Identifizierung und Authentifizierung mittels einer persönlichen digitalen Brieftasche auf dem Mobiltelefon zu bieten. Diese könnte etwa bei Behördengängen, beim Beantragen eines Kredits oder für die Anmeldung bei digitalen Diensten genutzt werden. Konkret sieht der vom EU-Rat angenommene Text vor allem vor, dass eID-Brieftaschen ein „hohes“ Sicherheitsniveau haben sollten, um zu garantieren, dass die Person, die eine Identität angibt, auch tatsächlich der Inhaber ist. Die Verordnung macht jedoch keine konkreten Vorgaben, wie die Mitgliedstaaten die Identität der Bürger überprüfen sollen, beispielsweise durch bestehende Dienste wie Video-Ident oder den E-Perso.
Digitalminister Volker Wissing sprach anlässlich der Einigung zur eID von einem „enorm wichtigen Projekt“ für Deutschland. Die Bundesrepublik werde beim Thema digitale Identitäten mit großen Schritten vorangehen. Bevor der digitale Identitätsnachweis in der gesamten EU kommen kann, müssen sich die EU-Staaten allerdings noch mit dem EP auf gemeinsame Regeln einigen. (VS)