Artikel 5 KI-Verordnung – Verbote im KI-Bereich

Von den Rechtsanwälten Esra Duran & Babak Tabeshian

[Teil 2 der KI-Aufsatzserie]

Mit der Verordnung (EU) 2024/1689 hat die Europäische Union umfassende Regelungen für den Einsatz künstlicher Intelligenz eingeführt. Die Verordnung setzt klare rechtliche Vorgaben für Unternehmen, die KI-Systeme entwickeln oder einsetzen. Während die meisten Bestimmungen der KI-Verordnung erst ab dem 2. August 2026 in Kraft treten, gelten Artikel 4 und Artikel 5 bereits ab dem 2. Februar 2025. Dieser Beitrag beschäftigt sich mit Art. 5, welcher bestimmte Praktiken im KI-Bereich verbietet. Die Vorschrift dient dem Schutz individueller Rechte und soll verhindern, dass KI-Systeme in der Gesellschaft missbräuchlich eingesetzt werden. Unseren Beitrag zu Artikel 4 KI-Verordnung finden Sie hier: https://www.anwalt.de/rechtstipps/artikel-4-der-eu-ki-verordnung-verpflichtungen-von-unternehmen-zur-sicherstellung-der-ki-kompetenz-241361.html

Was regelt Art. 5 KI-VO?

Art. 5 der KI-Verordnung legt spezifische Einschränkungen für den Einsatz von Künstlicher Intelligenz fest. Insbesondere verbietet der Artikel den Einsatz von KI-Systemen, die das Verhalten von Personen manipulieren, ihre Schutzbedürftigkeit ausnutzen oder ihre wirtschaftliche Situation beeinträchtigen. Auch die Verwendung von KI für die allgemeine Risikobewertung in Bezug auf potenzielle Straftäter ist untersagt. Es ist also verboten, ein KI-System in Verkehr zu bringen, dass allein auf Basis von Merkmalen und Eigenschaften einer Person bewertet, wie hoch die Wahrscheinlich der Begehung einer Straftat ist.

Darüber hinaus verbietet Art. 5 den Einsatz von KI-Systemen, die am Arbeitsplatz oder in Bildungseinrichtungen Emotionen natürlicher Personen analysieren oder durch ungezieltes Auslesen von Gesichtsbildern aus dem Internet oder von Videoüberwachungsaufnahmen zur Gesichtserkennung genutzt werden. Ebenso sind Systeme zur Nutzung von „Social Scoring“ unzulässig. Auch die Verwendung von KI zur Ermittlung oder Ableitung politischer Meinungen, der Zugehörigkeit zu Gewerkschaften sowie religiöser oder weltanschaulicher Überzeugungen ist verboten.

Schließlich untersagt Art. 5 den Einsatz von biometrischen Echtzeit-Fernidentifizierungssystemen zu Strafverfolgungszwecken in öffentlich zugänglichen Bereichen, sofern dies nicht zur Aufdeckung schwerer Straftaten erfolgt.

Diese Bestimmungen sollen sicherstellen, dass KI-Technologien verantwortungsvoll eingesetzt werden, ohne die Grundrechte des Einzelnen zu gefährden.

Welche Sanktionen drohen bei Verstößen?

Die Mitgliedstaaten sind verpflichtet, Sanktionen und Durchsetzungsmaßnahmen festzulegen, die sowohl Verwarnungen als auch nichtmonetäre Maßnahmen umfassen können. Wer gegen das Verbot bestimmter KI-Praktiken gemäß Art. 5 verstößt, soll mit erheblichen Geldstrafen rechnen müssen. Diese können bis zu 35 Millionen Euro betragen oder – bei Unternehmen – bis zu 7 % des weltweiten Jahresumsatzes des Vorjahres, je nachdem, welcher Betrag höher ausfällt.

Wie geht es weiter?

Nach dem Inkrafttreten der KI-Verordnung am 13. Juli 2024 begann eine schrittweise Umsetzung der Regelungen. Am 2. Februar 2025 sind 4 und Art. 5 der Verordnung in Kraft getreten, die Vorgaben für den Einsatz von KI im Allgemeinen festlegen. Am 13. Juli 2025, sollen die spezifischen Regelungen zu den Sanktionen bei Verstößen gegen die KI-VO gelten. Schließlich sollen ab dem 2. August 2026 alle weiteren Regelungen der KI-Verordnung gelten, sofern die Verordnung nicht ausnahmsweise einen abweichenden Geltungszeitpunkt festlegt.

Fazit

Art. 5 der KI-Verordnung bietet eine rechtliche Grundlage, um den sicheren und rechtskonformen Einsatz der KI zu gewährleisten. Die Nichteinhaltung der Anforderungen der KI-Verordnung kann erhebliche Risiken für Unternehmen und deren Geschäftsleitung mit sich bringen.

Unsere Kanzlei bietet umfassende Beratung von Unternehmen im IT-Recht an. Wir unterstützen auch bei der Umsetzung der Vorgaben der KI-Verordnung. Dafür bieten wir maßgeschneiderte Lösungen zur Erfüllung regulatorischer Anforderungen und zur Reduzierung potenzieller Risiken an.

Über #LFR Wirtschaftsanwälte

LFR Wirtschaftsanwälte sind Ihr Partner in allen Fragen des IT-Rechts. Wir unterstützen bei der Beratung und der Gestaltung von Software- und E-Commerce-Projekten, IT-Verträgen, IT-Sicherheitskonzepten und bei IT-rechtlichen Konflikten. Bei Interesse an einem Beratungsgespräch zur Umsetzung der Anforderungen der KI-Verordnung können Sie uns gerne kontaktieren.