Die europäische KI-Verordnung – das Gesetz über Künstliche Intelligenz
Vom 21.09.2023
Vorschlag für eine Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz
Das Gesetz zur Künstlichen Intelligenz: Die europäische KI-Verordnung hat eine erhebliche Bedeutung, da sie dazu dienen soll, den Einsatz und die Entwicklung von künstlicher Intelligenz (KI) in einer Weise zu regulieren, die ethische, rechtliche und gesellschaftliche Aspekte berücksichtigt. Sie zielt darauf ab, das Potenzial von KI-Technologien zu nutzen, während gleichzeitig Risiken und Herausforderungen minimiert werden. In einer Zeit, in der KI unser tägliches Leben zunehmend beeinflusst, soll diese Verordnung ein essenzieller Leitfaden für die verantwortungsvolle Entwicklung und Anwendung dieser wegweisenden Technologien sein.
Was ist Künstliche Intelligenz?
Künstliche Intelligenz (kurz: KI) bezeichnet ein interdisziplinäres Fachgebiet der Informatik, welches sich darauf spezialisiert hat, die kognitiven Fähigkeiten des Menschen, wie beispielsweise logisches Schlussfolgern, Problemlösen, Lernprozesse und kreative Ideenfindung, innerhalb eines technologischen Rahmens nachzubilden.
Diese fortschrittlichen Systeme sind darauf ausgelegt, komplexe Umgebungen und Eingaben zu interpretieren und auf Basis der gewonnenen Daten Handlungsstrategien und Antworten zu entwickeln. Die Datensammlung erfolgt je nach Gerät oder Anwendung durch eine Vielzahl an Sensoren, zu denen beispielsweise auch Kameras, Mikrofone und Temperatursensoren gehören können. Nach der Erfassung dieser Daten werden sie durch ausgefeilte Algorithmen verarbeitet, um eine sinnvolle Reaktion oder Aktion des Systems hervorzubringen.
Ein herausragendes Merkmal moderner KI-Systeme ist ihre Anpassungsfähigkeit. Das bedeutet, dass sie nicht nur auf fest programmierte Weise agieren, sondern auch durch die Analyse der Ergebnisse ihrer eigenen Handlungen „lernen“ und sich selbst optimieren können. Dies ermöglicht es ihnen, in einer sich ständig verändernden Umgebung effizient und autonom zu funktionieren.
Künstliche Intelligenz im Alltag
Oft sind wir uns gar nicht bewusst, wie häufig wir KI in unserem Alltag bereits verwenden. Dabei hat beinahe jeder in seinem Alltag – sei es beruflich oder privat – schon einmal Kontakt zu einer KI gehabt oder sie sogar genutzt: Ssei es bei der Websuche oder der automatischen Übersetzung einer Webseite, der automatisierten Personalisierung in Smartphones oder der Werbung, den persönlichen Sprachassistenten, der intelligenten Klimatechnik oder Smart-Home Anwendungen, sei es bei autonomen Autos, Smart Farming in der Landwirtschaft und intelligenten Robotern in der Produktion oder gar sprachbasierten KI wie Chat-Bots und Co. – Künstliche Intelligenz ist längst ein alltäglicher Bestandteil unseres Schaffens und Lebens geworden.
Dabei unterscheidet man zwischen den verschiedenen Arten der KI. Es gibt Ssoftware–basierte Anwendungen, wie virtuelle Assistenten, Bildanalysesoftware, Suchmaschinen, Sprach- und Gesichtserkennungssysteme oder sogenannte „eingebettete“ KI, worunter wir Roboter, autonome Pkw, Drohnen und Anwendungen des „Internets der Dinge“ (Internet-of-Things, IoT) verstehen.
Welche Chancen und Gefahren birgt KI aus dem Blickwinkel der EU?
Einige Technologieansätze im Bereich der Künstlichen Intelligenz (KI) haben ihren Ursprung bereits in den frühen Stadien der Computergeschichte. Allerdings haben signifikante Fortentwicklungen in der Rechenkapazität kombiniert mit dem Zugang zu umfangreichen Datenbeständen und der Entstehung innovativer Algorithmen in jüngster Zeit zu revolutionären Fortschritten in der KI-Forschung und -Anwendung geführt. Die Künstliche Intelligenz steht im Zentrum der digitalen Evolution unserer Zeit und ist ein fundamentaler Katalysator für den Wandel in vielen Sektoren unserer Gesellschaft. In Anerkennung ihrer Tragweite und Potenziale hat die europäische Union „KI“ als zentrales strategisches Handlungsfeld definiert.
Obgleich Anwendungen der Künstlichen Intelligenz bereits in vielen Facetten unseres täglichen Lebens integriert sind, ist zu erwarten, dass zukünftige Implementierungen und Technologien tiefgreifende und transformative Auswirkungen auf unser Zusammenleben und unsere Arbeitswelt haben werden. Innerhalb der EU-Mitgliedstaaten ist eine bereits fortgeschrittene Präsenz im Bereich der Digitaltechnik sowie geschäftlicher Anwendungen im Business-to-Business-Sektor erkennbar. Bei entsprechender Etablierung eines robusten rechtlichen Rahmens zur Sicherung von Privatsphäre und Meinungsfreiheit, gepaart mit hochwertigen digitalen Infrastrukturen, könnte die europäische Union eine dominante Position im globalen Datenwirtschaftssektor einnehmen.
Welche Vorteile, Chancen und Potenziale birgt Künstliche Intelligenz in unserem Alltag?
Vorteile für Bürger:
Die Integration Künstlicher Intelligenz könnte substanziell zur Verbesserung der Gesundheitsversorgung beitragen, die Sicherheit von Fahrzeugen und anderen Transportmitteln erhöhen sowie maßgeschneiderte, kosteneffiziente und langlebige Produkte und Dienstleistungen auf den Markt bringen. Ebenso könnte der Zugang zu Informationen sowie zur allgemeinen und beruflichen Bildung durch den Einsatz von KI erleichtert werden. Insbesondere in Zeiten der COVID-19-Pandemie erlangte diesbezüglich das Fernstudium und die kontinuierliche Weiterbildung besondere Relevanz. Ferner kann KI zur Gewährleistung von Sicherheit beitragen, indem etwa Roboter für gefährliche Arbeitsschritte eingesetzt werden. Die Integration von KI eröffnet zudem neue Arbeitsmöglichkeiten in Branchen, die KI nutzen und sich folglich ausdehnen und transformieren.
Chancen für Unternehmen:
Die Künstliche Intelligenz gestattet die Generierung einer neuen Generation von Produkten und Dienstleistungen, auch in Sektoren, in denen europäische Unternehmen bereits eine starke Position besitzen, wie etwa die grüne Wirtschaft und Kreislaufwirtschaft, Maschinenbau, Landwirtschaft, Gesundheitswesen, Mode und Tourismus. KI kann Vertriebskanäle optimieren, Instandhaltungsverfahren verfeinern, Produktionsleistung und -qualität steigern, den Kundenservice aufwerten und dabei unterstützen, Energie einzusparen – all dies sind Ziele, für die uns ohne KI entsprechende Ressourcen fehlen könnten.
Potenziale im öffentlichen Sektor:
Die Integration von KI kann dazu führen, öffentliche Kosten zu minimieren, neue Gelegenheiten im öffentlichen Verkehr, Bildungsbereich, in der Energieversorgung und im Abfallmanagement zu erschließen und die Nachhaltigkeit von Produkten zu erhöhen. Digitale Technologien wie KI könnten eine bedeutende Rolle bei der Erreichung der Klimaziele spielen. In Bezug auf den Klimaschutz wird angenommen, dass der Einsatz von KI für Umweltanwendungen das Potenzial hat, die globalen Treibhausgasemissionen zwischen 1,5% und 4% bis 2030 zu reduzieren, im Vergleich zu einem „Weiter wie bisher/Business as usual“-Szenario (EP Think Tank, 2020).
Stärkung demokratischer Strukturen:
Die Abwehr von Desinformation und Cyberangriffen sowie die Gewährleistung des Zugangs zu vertrauenswürdigen Informationen haben das Potenzial, die Demokratie zu festigen. Auch die Förderung von Chancengleichheit und Vielfalt könnte mittels KI-Tools vorangetrieben werden, indem analytische Daten genutzt werden, um die Gefahr voreingenommener Einstellungsentscheidungen zu mindern.
Künstliche Intelligenz und Sicherheit:
Die Prognose sieht vor, dass KI vermehrt in präventiven Maßnahmen gegen Verbrechen und in strafrechtlichen Verfolgungsaktionen eingesetzt wird. Datensätze könnten viel schneller und fehlerfreier verarbeitet, die Fluchtwahrscheinlichkeit von Häftlingen genauer eingeschätzt und Straftaten sowie möglicherweise sogar Terroranschläge vorhergesehen und verhindert werden. Online-Plattformen setzen bereits KI ein, um illegales und unangebrachtes Verhalten im Internet aufzudecken und darauf zu reagieren.
Welche Gefahren, Risiken und Herausforderungen birgt Künstliche Intelligenz?
Unangemessene Nutzung von KI:
KI kann dazu beitragen, Programme der EU erfolgreich umzusetzen und Wettbewerbsvorteile zu generieren. Versäumen es die EU oder anderweitige Gesetzgeber jedoch, diese Chancen zu nutzen, könnten negative Konsequenzen wie wirtschaftliche Stagnation, mangelnde Infrastruktur, begrenzte Investitionsbereitschaft, geringere Kapitalzuflüsse sowie Einschränkungen für Bürger und Unternehmen entstehen. So könnten Möglichkeiten zur Effizienzsteigerung, Produktivität und erleichtertem Zugang zu Informationen und Ressourcen sowohl im Unternehmenskontext wie auch im privaten Bereich ungenutzt bleiben. Andererseits könnte eine übermäßige Anwendung von KI ebenfalls problematisch sein. Denkbar sind hier Investitionen in nutzlose Anwendungen oder der Einsatz von KI in ungeeigneten Bereichen.
Rechtliche Fragen und Haftung: Wer trägt die Verantwortung für entstandene Schäden?
Eine wesentliche Herausforderung liegt darin, festzustellen, wer für Schäden, die durch KI-basierte Geräte oder Dienste verursacht werden, verantwortlich ist. Würde der Hersteller gänzlich von der Verantwortung befreit, bestünde wenig Anreiz zur Bereitstellung hochwertiger Produkte oder Dienstleistungen, was das Vertrauen der Menschen in neue Technologien erschüttern würde. Zu strenge Regulierungen hingegen könnten Innovationen im Keim ersticken. Ein schwieriger Balanceakt.
Gefahren für Grundrechte und Demokratie:
Die Ergebnisse von Künstlicher Intelligenz hängen davon ab, wie sie konzeptioniert und welche Daten genutzt werden. Sowohl Daten als auch Design können absichtlich oder unbeabsichtigt verzerrt werden. Es besteht die Gefahr, dass wichtige Faktoren bei einer Problemstellung möglicherweise nicht in den Algorithmus einfließen oder dieser so programmiert wird, dass strukturelle Verzerrungen widergespiegelt und repliziert werden. Darüber hinaus könnten vermehrt kontextlose Zahlen bzw. Zahlen mit falschem verwendet Bezugsrahmen verwendet werden, um Angaben und Aussagen einer KI als faktenbasiert und präzise erscheinen zu lassen (sogenanntes “Mathwashing”). Diese Verzerrung der Wirklichkeit baut auf der Annahme auf, dass Algorithmen automatisch neutral, objektiv und unbeeinflusst agieren, solange sie auf mathematischen Grundlagen basieren, sodass auch Algorithmen und zahlenbasierte Daten, die durch KI (re-)produziert werden, instrumentalisiert werden können.
Was sind die Maßnahmen der Gesetzgeber – insbesondere der EU?
All diese widerstreitende Interessen, Befürchtungen und Fragestellungen gilt es in Ausgleich zu bringen. Dies treibt vor allem den EU-Gesetzgeber an, sodass die Abgeordneten am 14. Juni 2023 ihre Verhandlungsposition zum Gesetz über künstliche Intelligenz angenommen haben. Nun beginnen die Gespräche mit den EU-Mitgliedstaaten im Rat über die endgültige Ausgestaltung des Gesetzes über Künstlichen Intelligenz (europäische KI-Verordnung). Ziel ist es, bis Ende des Jahres eine Einigung zu erzielen und die europäische KI-Verordnung auf den Weg zu bringen.
88 % Prozent der Europäer sind laut Eurobarometer 2017 KI und Robotik gegenüber positiv eingestellt. 88 Prozent meinen jedoch, dass diese Technologien mit Vorsicht eingesetzt werden sollten (Eurobarometer 2017, EU28).
Diese Auswertung spiegelt die Herangehensweise wider, mit der sich auch der Gesetzgeber dieser wichtigen und sensiblen Thematik nähert.
Die EU legt mit ihrer aktuellen Datenstrategie großen Wert auf den digitalen Wandel und strebt an, Europas Potenzial hinsichtlich neuer digitaler Technologien zu stärken. Dies soll durch die Schaffung von Möglichkeiten für Unternehmen und Verbraucher sowie durch den Vorantrieb des grünen Wandels mit dem Ziel der Klimaneutralität bis 2050 erfolgen.
Das europäische Parlament setzt sich dafür ein, digitale Fertigkeiten der Bürger zu stärken, Weiterbildung von Arbeitnehmern zu fördern und öffentliche Dienste zu digitalisieren, während Grundrechte und europäische Werte bewahrt bleiben. Dabei fokussiert sich die EU insbesondere auf die Bereiche der Digitalen Transformation, der Künstlichen Intelligenz und der Cybersicherheit. Die EU setzt sich für einen umfassenden digitalen Wandel ein, um Chancen zu nutzen, Innovationen zu fördern und gleichzeitig Grundrechte und Werte zu schützen.
Was sind die wichtigsten Rahmenbedingungen der europäischen KI-Verordnung?
Im Folgenden wollen wir Ihnen die wichtigsten Rahmenbedingungen und Grundlagen des derzeitigen Vorschlags der europäischen KI-Verordnung vorstellen.
Die neuen Regelungen, die von den Ausschüssen für Binnenmarkt und bürgerliche Freiheiten verabschiedet wurden, zielen darauf ab, KI-Systeme transparent, sicher, nachvollziehbar und umweltfreundlich zu gestalten.
Der Ansatz der Regelungen folgt einem risikobasierten Modell. Das bedeutet, dass die Regulierung und die Pflichten je nach dem Gefahrenpotenzial eines KI-Systems variieren. Die Abgeordneten betonen dabei die Wichtigkeit der menschlichen Überwachung von KI-Systemen, um sicherzustellen, dass sie verantwortungsvoll eingesetzt werden. Die Regeln sollen sicherstellen, dass KI-Systeme keine diskriminierenden Praktiken aufweisen und auf transparenten Entscheidungsgrundlagen basieren. Dabei werden folgende Risikoklassen unterschieden: Verbotene KI und Hochrisiko-KI. Zudem sollen Transparenzpflichten für bestimmte KI-Systeme eingeführt werden, so etwa für KI-Systeme, die direkt für die menschliche Interaktion konzipiert sind. So soll den menschlichen Anwendern zu jedem Zeitpunkt deutlich werden, dass sie mit einer KI kommunizieren.
Verbotene KI:
Zu der verbotenen KI gehören biometrische Erkennungssysteme in Echtzeit in öffentlich zugänglichen Räumen, prädiktive Polizeisysteme, wahlloses Auslesen biometrischer Daten aus sozialen Medien oder Videoüberwachungsaufnahmen zur Erstellung von Gesichtserkennungsdatenbanken oder auch Systeme zur Erkennung von Emotionen bei der Strafverfolgung, beim Grenzschutz, am Arbeitsplatz und in Bildungseinrichtungen.
Den Hochrisikosystemen, also der höchsten Risikoklasse nach den Verboten, werden umfangreiche Pflichten auferlegt, die die Hersteller und Anbieter einhalten müssen. Dazu gehören unter anderem ein Risikomanagementsystem sowie zahlreiche Dokumentationspflichten. Hochrisiko-KI-Systeme sind solche, die potenziell signifikante Auswirkungen auf die Rechte und Freiheiten von Personen haben könnten. Beispiele für solche Systeme sind medizinische Diagnosesysteme, autonomes Fahren oder Systeme im Bereich der öffentlichen Sicherheit.
Die Regelungen bringen auch zusätzliche Transparenzanforderungen für Generative Foundation-Modelle wie GPT mit sich. Solche KI-Systeme müssen offenlegen, dass die generierten Inhalte von einer KI erstellt wurden. Außerdem ist zu beachten, dass sie keine illegalen Inhalte erzeugen und urheberrechtlich geschützte Daten respektieren.
Die Ziele der europäischen KI-Verordnung:
Die Gesetzgebung hat das Ziel, Innovation in der KI-Entwicklung zu fördern und gleichzeitig die Rechte der Bürger zu schützen. Sie ermöglicht Ausnahmen für KI-Forschung und Komponenten unter Open-Source-Lizenzen und unterstützt die Schaffung von kontrollierten Umgebungen, in denen KI-Systeme vor ihrer tatsächlichen Anwendung getestet werden können.
Um KI-Innovation zu fördern, hat die EU außerdem auch Ausnahmen für Forschungstätigkeiten und KI-Komponenten unter Open-Source-Lizenzen in die Vorschriften aufgenommen. Das neue Gesetz fördert sogenannte Reallabore (regulatory sandboxes) oder kontrollierte Umgebungen, die von öffentlichen Behörden eingerichtet werden, um KI vor ihrem Einsatz zu testen.
Die Abgeordneten wollen das Recht der Bürger stärken, Beschwerden über KI-Systeme einzureichen und Erklärungen zu Entscheidungen zu erhalten, die auf risikoreichen KI-Systemen basieren und ihre Rechte erheblich beeinträchtigen. Die Abgeordneten haben auch die Rolle des EU-Amtes für künstliche Intelligenz neugefasst, das mit der Überwachung der Umsetzung des KI-Regelwerks betraut werden soll.
Aussicht: Wann könnte die europäische KI-Verordnung Inkrafttreten?
Am 14. Juni 2023 haben die Abgeordneten ihre Verhandlungsposition zum Gesetz über künstliche Intelligenz angenommen. Nun beginnen die Gespräche mit den EU-Mitgliedstaaten im Rat über die endgültige Ausgestaltung des Gesetzes.
Ziel ist es, bis Ende des Jahres eine Einigung zu erzielen und die europäische KI-Verordnung auf den Weg zu bringen.
An dieser Stelle möchten wir Sie auf eine spannende Dokumentation vom 07. Mai 2023 auf arte zum Thema: „Künstliche Intelligenz: Science-Fiction wird Realität“ aufmerksam machen.
Quellenangaben:
EUR-Lex – 52021PC0206 – EN – EUR-Lex (europa.eu)
Künstliche Intelligenz: Chancen und Risiken | Aktuelles | Europäisches Parlament (europa.eu)
Das Titelbild zu diesem Blogeintrag ist erstellt mit einem KI-Tool.
Ihnen hat der Beitrag gefallen? Dann teilen Sie ihn gerne in Ihren Netzwerken. Vielen Dank für Ihre Unterstützung.
Disclaimer: Die auf dieser Website enthaltenen Beiträge wurden sorgfältig ausgearbeitet und dienen lediglich allgemeinen Informationszwecken. Sie ersetzen keinesfalls individuelle Rechtsberatung und stellen keine verbindliche Rechtsauskunft dar.
Wir laden Sie ein, an der Seite des 
