AI Act: Neue KI-Verordnung der EU

Wir von TenMedia sind ein erfahrener Software-Dienstleister mit Startup-Charakter. Seit 2011 bieten wir dynamische Lösungen in den Bereichen individuelle Softwareentwicklung, App-Programmierung und Datenbankentwicklung. Darüber hinaus gehören auch davon diverse Maintenance Services zu unserem Angebot. Diese umfassen u.a. Hosting, Datenbankmanagement und Softwaresupport. Bei Fragen oder Interesse an unseren Dienstleistungen freuen wir uns über einen Anruf oder Anfrage via E-Mail.

KI-Verordnung: Was ist der Hintergrund?

Im Mai dieses Jahres hat der Rat der 27 EU-Mitgliedstaaten in Brüssel ein einheitliches KI-Gesetz zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz verabschiedet. Ziel dieser EU-Verordnung ist es nicht nur, Grundrechte von EU-Bürgern und das Vertrauen in KI-Systeme zu stärken, sondern auch Innovationen zu fördern.

Das KI-Gesetz gilt sowohl für öffentliche Institutionen als auch für private Akteure. Das weltweit erste Regelwerk dieser Art soll dafür sorgen, dass KI-Systeme transparent, nachvollziehbar und nicht diskriminierend sind und damit auch die Gefahr eindämmen, die von KI ausgehen kann.

Warum KI gefährlich ist

Künstliche Intelligenz bietet zahlreiche Vorteile, doch sie birgt auch erhebliche Gefahren, die ernst genommen werden müssen. Eine der größten Bedrohungen besteht in der Manipulation durch KI-Systeme. Diese können so programmiert werden, dass sie bestimmte Ergebnisse bevorzugen oder Informationen verzerren. Dies ist besonders besorgniserregend in Bezug auf Wahlen, bei denen KI-Systeme genutzt werden könnte, um die öffentliche Meinung zu beeinflussen oder Wähler zu täuschen. Solche Eingriffe könnten die Integrität demokratischer Prozesse gefährden.

Deepfakes

Ein weiteres erhebliches Risiko sind Deepfakes. Diese durch KI erzeugten, täuschend echten Videos und Audiodateien können Personen Dinge sagen oder tun lassen, die sie nie gesagt oder getan haben. Deepfakes können zu erheblichem Schaden führen, indem sie falsche Informationen verbreiten, das Vertrauen in Medien untergraben und Individuen oder Organisationen diskreditieren.

Sicherheit durch Transparenz

Um diesen Gefahren entgegenzuwirken, ist Transparenz entscheidend. Nutzer müssen verstehen, wie KI-Systeme Entscheidungen treffen und auf welchen Daten diese basieren. Ohne ausreichende Transparenz kann es schwer sein, die Entscheidungen und Empfehlungen von KI zu hinterfragen oder zu überprüfen.

Die KI-Verordnung der EU ist ein Schritt in die richtige Richtung, um diese Probleme anzugehen.

Wer profitiert am meisten durch KI-Systeme?

Unternehmen aus nahezu allen Sektoren erleben erhebliche Vorteile durch den Einsatz von KI-Technologie. Automatisierte Prozesse und intelligente Analysen helfen, Kosten zu senken und die Effizienz zu steigern. Besonders im Bereich der Fertigung optimieren KI-Systeme die Produktionslinien, was zu weniger Fehlern und höherer Produktivität führt.

Weitere Einsatzgebiete sind:

• Der Finanzsektor
• Der Einzelhandel
• Die Gesundheitsbranche
• Die Forschung
• Software-Agenturen

Zusätzlich profitieren auch Konsumenten direkt von KI. Von personalisierten Empfehlungen auf Streaming-Plattformen bis hin zu intelligenten Haushaltsgeräten, die den Alltag erleichtern – KI-Systeme verbessern die Lebensqualität und bieten maßgeschneiderte Lösungen für individuelle Bedürfnisse.

Auch öffentliche Einrichtungen nutzen KI, um Verwaltungsprozesse zu optimieren und den Bürgern effizientere Dienstleistungen zu bieten. Durch die Analyse von Datenströmen können Städte smarter und nachhaltiger gestaltet werden.

Wie kam es zur KI-Verordnung der EU?

Künstliche Intelligenz ist bereits seit vielen Jahren ein weitreichend diskutiertes Thema. Bereits mehrfach zeigte sich, dass die Firmen, die KI-Systeme entwickeln, Probleme bei der Steuerung derer autonomen Lernprozesse haben. Schon früh äußerten sich Stimmen aus Politik und Wirtschaft, die infrage stellten, ob den Unternehmen allein

Schließlich schlug die EU-Kommission im April 2021 einen ersten EU-weiten Rechtsrahmen für ein KI-Gesetz vor. Im Groben sah dieses vor, dass KI-Systeme je nach Risiko, das sie für die Nutzer darstellen, analysiert und kategorisiert werden sollten. Im selben Jahr hat auch der brasilianische Kongress ein Gesetz erlassen, dass einen Rechtsrahmen für KI-Technologie schaffen soll.

Wie soll die KI-Verordnung umgesetzt werden?

Die KI-Systeme werden entsprechend ihrer Anwendungsgebiete in vier Stufen kategorisiert. Die jeweiligen Maßnahmen hängen dann von der Kategorisierung ab. Entsprechende Sanktionen können bis zum Verbot reichen.

Wie werden KI-Systeme nach ihrem Risikopotenzial eingestuft?

Die Verordnung stuft KI-Systeme anhand ihres Risikopotenzials in vier Kategorien ein:

• Unannehmbares Risiko

  Diese KI-Systeme sind verboten. Dazu gehören z. B. Systeme, die Social Scoring verwenden.

• Hohes Risiko

  Diese KI-Systeme unterliegen strengen Anforderungen. Dazu gehören z. B. KI-Systeme, die in der Gesichtserkennung, der Rechtsanwendung oder der Kreditwürdigkeitsprüfung eingesetzt werden.

• Erhöhtes Risiko

  Diese KI-Systeme müssen bestimmte Transparenzpflichten erfüllen. Dazu gehören z. B. Chatbots und Sprachassistenten.

• Minimales Risiko

  Diese KI-Systeme müssen keine besonderen Anforderungen erfüllen.

Welche KI-Systeme fallen unter die Verordnung?

Die neue KI-Verordnung der EU gilt für alle KI-Systeme, die in der EU angeboten, betrieben oder in Verkehr gebracht werden.

Es gibt jedoch einige Ausnahmen:

• KI-Systeme, die für militärische Zwecke oder die nationale Sicherheit verwendet werden
• KI-Nutzungen durch Privatpersonen für nicht-gewerbliche Zwecke

Die neuen Vorschriften der EU zur Regulierung von KI-Technologie gelten für folgende Technologien:

Hochrisiko-KI-Systeme

• Gesichtserkennung

  Diese Systeme werden verwendet, um Personen anhand von Gesichtsbildern zu identifizieren oder zu authentifizieren.

• Rechtsanwendung

  Systeme, die in der Entscheidungsfindung oder Risikobewertung im Justizwesen, wie z. B. bei Strafverfolgung oder der Gewährung von Sozialleistungen, eingesetzt werden.

• Kreditwürdigkeitsprüfung

  Systeme zur Bewertung der Kreditwürdigkeit von Personen.

• Biometrische Identifizierung und Authentifizierung

  Diese nutzen andere biometrische Daten als Gesichtsbilder, wie Fingerabdrücke oder Stimmprofile, um Personen zu identifizieren oder zu authentifizieren.

• Autonome Fahrzeuge

  Fahrzeuge, die ohne menschliche Steuerung fahren können.

• Medizinische Diagnosesysteme

  Systeme, die bei der Diagnose von Krankheiten oder der Unterstützung medizinischer Entscheidungen helfen.

• Chatbots und Sprachassistenten

  Systeme, die menschliche Gespräche simulieren, beispielsweise in Kundendienstanwendungen oder als virtuelle Assistenten.

• Systeme zur Erzeugung von Deepfakes

  Diese Systeme erstellen realistisch wirkende Videos oder Audiodateien, die fälschlicherweise den Eindruck erwecken, dass eine Person etwas gesagt oder getan hat, was nicht der Fall ist.

KI-Systeme mit erhöhtem Risiko

• Systeme zur Interaktion mit natürlichen Personen

  Hierzu gehören Social-Media-Plattformen, Suchmaschinen und Online-Marktplätze.

• Systeme zur Entscheidungsfindung über den Zugang zu Waren oder Dienstleistungen

  Dazu zählen Systeme, die für Kreditvergaben oder die Bewertung von Versicherungsanträgen verwendet werden.

• Systeme zur Meinungsbildung

  Systeme, die beispielsweise Nachrichteninhalte personalisieren oder Produktempfehlungen geben.

KI-Systeme mit geringem Risiko

• IT-Systeme zur Datenerhebung oder -verarbeitung

  Dazu gehören Virenscanner und Spamfilter.

• IT-Technologie zur Steuerung von Maschinen oder Anlagen

  Beispielsweise Roboter in der Industrie oder autonome Staubsauger.

• Systeme zur Prozessoptimierung

  IT-Systeme zur Verbesserung der Verkehrssteuerung oder des Energieverbrauchs.

Es ist wichtig zu betonen, dass diese Liste nicht abschließend ist. Neue KI-Systeme können ebenfalls unter die KI-Verordnung der EU fallen. Unternehmen, die KI-Technologie entwickeln oder nutzen, sollten sich mit den geltenden Gesetzen vertraut machen und sicherstellen, dass ihre Systeme den Vorschriften entsprechen.

Wann tritt das KI-Gesetz in Kraft?

Das KI-Gesetz tritt 20 Tage nach seiner Veröffentlichung im Amtsblatt der Europäischen Union in Kraft. Diese Veröffentlichung wird nach dem Beschluss des Rates der Europäischen Union am 21. Mai 2024 voraussichtlich Ende Juni 2024 erfolgen.

Die meisten Vorschriften der KI-Verordnung werden etwa zwei Jahre nach Inkrafttreten, also im Mai 2026, wirksam. Einige Bestimmungen treten jedoch früher in Kraft:

• Verbote

  Beispielsweise das Verbot von Social-Scoring-Systemen gilt sechs Monate nach Inkrafttreten.

• KI-Modelle mit allgemeinem Verwendungszweck

  Vorschriften für KI-Technologie wie Chatbots und Sprachassistenten gelten zwölf Monate nach Inkrafttreten

• Hochrisiko-KI-Systeme der Klasse II

  Verpflichtungen für diese KI-Systeme, wie solche zur Kreditwürdigkeitsprüfung, gelten 36 Monate nach Inkrafttreten, also im Mai 2027.

Übergangsfristen für bestimmte KI-Systeme können jedoch kürzer sein.

Wie wird die Einhaltung der KI-Verordnung überwacht?

Die Überwachung der Einhaltung der KI-Verordnung erfolgt durch verschiedene Akteure. In Deutschland übernimmt die Bundesanstalt für den Datenschutz und die Informationsfreiheit (BfDI) diese Aufgabe. Die BfDI ist zuständig für die Überwachung der KI-Systeme, führt Untersuchungen durch und verhängt bei Verstößen Bußgelder. Andere EU-Länder haben eigene nationale Behörden, die in ihrem jeweiligen Gebiet für die Einhaltung der KI-Verordnung verantwortlich sind.

Die Europäische Kommission

Auf europäischer Ebene überwacht die Europäische Kommission die einheitliche Anwendung der Verordnung in allen Mitgliedsstaaten. Die Kommission erstellt Leitlinien, gibt Empfehlungen an nationale Behörden und kann gegen Länder vorgehen, die die Verordnung nicht einhalten.

Mitgliedsstaaten müssen Sanktionen für Unternehmen festlegen, die gegen die Vorschriften verstoßen. Diese Sanktionen können Geldstrafen umfassen. Privatpersonen, die Verstöße entdecken, können Beschwerden bei den nationalen Behörden einreichen, die dann Überwachungsverfahren einleiten und gegebenenfalls Strafen verhängen.

Benannte Stellen

Unternehmen, die Hochrisiko-KI-Systeme entwickeln oder nutzen, müssen diese von benannten Stellen auf ihre Konformität mit der KI-Verordnung prüfen lassen. Diese unabhängigen Stellen sind von der EU akkreditiert und bewerten, ob die KI-Systeme den Vorgaben entsprechen. Eine Liste dieser benannten Stellen ist auf der Website der Europäischen Kommission verfügbar.

Gerichte

Gerichte spielen ebenfalls eine wichtige Rolle bei der Durchsetzung des Gesetzes. Sie können die Einhaltung überprüfen und Einzelpersonen sowie Unternehmen haben die Möglichkeit, bei Verstößen gegen die KI-Verordnung Klage zu erheben.