Die Verordnung (EU) 2024/1689 vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz, der sogenannte AI Act, trat am 1. August 2024 in Kraft. Seit dem 2. August 2026 gilt sie grundsätzlich allgemein: Zentrale Bestimmungen zu Transparenz, zur Aufsicht über KI-Modelle mit allgemeinem Verwendungszweck (GPAI) und zu Sanktionen finden damit Anwendung. Die wichtigsten Pflichten für Hochrisiko-KI-Systeme wurden jedoch durch den sogenannten Digital Omnibus on AI (Verordnung (EU) 2026/1744) verschoben und werden erst später anwendbar, insbesondere am 2. Dezember 2027 und am 2. August 2028.
Die Verordnung hat einen weiten Anwendungsbereich und richtet sich insbesondere an folgende Akteure:
Anbieter: Akteure, die ein KI-System oder ein GPAI-Modell unter ihrem eigenen Namen oder ihrer eigenen Marke auf dem EU-Markt in Verkehr bringen. Dies gilt auch für Anbieter außerhalb der EU, wenn das System in der EU verwendet wird.
Betreiber: Akteure, die im Rahmen ihrer beruflichen Tätigkeit ein KI-System in eigener Verantwortung verwenden und ihren Sitz oder den Verwendungsort in der EU haben.
Einführer und Händler: Sie können selbst zu Anbietern werden, etwa wenn sie ein System verändern, seinen Verwendungszweck so ändern, dass es als Hochrisiko-KI-System einzustufen ist, oder es mit ihrer eigenen Marke versehen.
Akteure außerhalb der EU: Auch sie fallen unter die Verordnung, wenn die von ihren Systemen erzeugten Ausgaben in der Union verwendet werden.
Die Verordnung begründet insbesondere folgende Pflichten:
Verbot bestimmter Praktiken. Bestimmte KI-Anwendungen sind untersagt, etwa bestimmte Formen der Manipulation, Social Scoring in bestimmten Zusammenhängen und bestimmte biometrische Echtzeitanwendungen in öffentlich zugänglichen Räumen. Diese Verbote gelten zwingend.
Transparenzpflichten. Sie betreffen vor allem Anbieter, wirken sich aber auch auf den Einsatz durch Betreiber aus. Dazu gehören Hinweise an Personen, dass sie mit KI interagieren, sofern dies nicht offensichtlich ist, etwa bei Chatbots oder Voicebots. Synthetische Inhalte wie Bilder, Videos, Audioaufnahmen und Texte müssen außerdem in einem Format gekennzeichnet werden, das ihre Erzeugung oder Manipulation durch KI erkennbar macht.
Anbieter von GPAI-Modellen, etwa großen Sprachmodellen, unterliegen unter anderem Pflichten zur Dokumentation, zum Risikomanagement, zur Meldung von Vorfällen und zur Zusammenarbeit mit dem Büro für Künstliche Intelligenz (AI Office).
Seit dem 2. August 2026 gelten bereits die behördlichen Befugnisse und die Sanktionsregelungen, unter anderem für Verstöße gegen Transparenzvorschriften und die Vorgaben für GPAI. Bei besonders schwerwiegenden Verstößen, darunter verbotene Praktiken und bestimmte Pflichten der Anbieter von Hochrisiko-KI-Systemen, drohen je nach Verstoßkategorie und betroffenem Akteur Geldbußen von bis zu 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes.