KI-Reallabor - EU/Bund/Rheinland-Pfalz

Das Projekt ki-reallabor.eu antizipiert die Anforderungen, die mit dem vollen Inkrafttreten des AI Act auf die Akteure zukommen werden. Durch die Bereitstellung von Experimentierräumen und die Klärung von Harmonisierungsfragen senkt es die Innovationsbarrieren und fördert gleichzeitig ein Klima des Vertrauens in neue Technologien. Die interne Verlinkungsstruktur ist dabei das Nervensystem, das diese verschiedenen Aspekte – Recht, Technik, Ethik und Praxis – miteinander verbindet und für den Anwender navigierbar machen soll.                EU-Harmonisierungsinitiative

Es sollte eine neue Regel in den zukünftigen Data Act aufgenommen werden, die klarstellt, dass bei Überschneidungen der AI Act (für KI-spezifische Fragen), der DMA (für Gatekeeper-Verpflichtungen) und der DSA (für Plattform-Governance) Vorrang vor dem Data Act haben.

 Künstliche Intelligenz wird in Anlehnung an die Definition des EU AI Acts (https://eur-lex.europa.eu/legal-content/DE/TXT/HTML/?uri=OJ:L_202401689) verstanden als Systeme, die durch maschinelles Lernen, regelbasierte Ansätze oder wissensbasierte Methoden Aufgaben ausführen können, die üblicherweise menschliche Intelligenz erfordern.

Der Digital Omnibus {SWD(2025) 836 final} spielt eine zentrale, aber indirekte Rolle für KI‑Reallabore nach Artikel 57. Er ändert nicht die Grundstruktur der Reallabore, aber er verändert ihre Umsetzungsbedingungen, Fristen, Verzahnung mit anderen Rechtsakten und die regulatorische Infrastruktur, in der Reallabore operieren.

Der Digital Omnibus ist ein Vereinfachungspaket der EU‑Kommission, das zahlreiche Digitalgesetze anpasst, zusammenführt oder streicht. Er umfasst u. a.:

  • DSGVO (2016/679)

  • Single Digital Gateway (2018/1724)

  • EU‑Datenschutz für Institutionen (2018/1725)

  • NIS2 (2022/2555)

  • CER‑Richtlinie (2022/2557)

  • Data Governance Act (2022/868)

  • Open Data Directive (2019/1024)

  • Free Flow of Non‑Personal Data Regulation (2018/1807)

  • UND: gezielte Änderungen zur Vereinfachung der Umsetzung des AI Acts (Digital Omnibus on AI)

Im Rahmen des KI-Reallabors sollen für jedes Projekt die folgenden Prinzipien zugrunde gelegt werden:

  • Die Durchführung der Experimente erfolgt  unter Aufsicht der zuständigen Behörden in realen Umgebungen, d. h. in Alltagssituationen , die realistisch sind.
  • Der Ansatz ist auf die Nutzer:innen ausgerichtet, die eine aktive Rolle einnehmen. Sie tragen Ideen, Feedback und ihre Beteiligung an Tests und Entwicklungsprozessen bei. Diese Vorgehensweise gewährleistet, dass Innovationen den tatsächlichen Bedürfnissen und Präferenzen der Zielgruppe entsprechen.
  • Die Entwicklung erfolgt gemeinschaftlich: Im Rahmen des gesamten Innovationsprozesses kooperieren diverse Akteur:innen - darunter Bürger:innen, Forscher, Unternehmen und Behörden - miteinander. Der multidisziplinäre Ansatz zeichnet sich durch den Einsatz unterschiedlicher Perspektiven und Fachkenntnisse aus (Beteiligung möglich, aber nicht struktureller Bestandteil der Sandbox).
  • Partnerschaften: Die Zusammenarbeit erfolgt zwischen dem öffentlichen Sektor, dem privaten Sektor, der Wissenschaft und den Bürger:innen.
  • Der Begriff des iterativen Prozesses bezeichnet einen Ansatz, bei dem Lösungen kontinuierlich auf Basis von empirischen Evidenzen sowie Rückmeldungen der Nutzenden entwickelt, evaluiert und verfeinert werden.
  • Nachhaltigkeit und Skalierbarkeit: Innovationen, die in KI-Reallaboren entwickelt werden, zielen darauf ab, Nachhaltigkeit und Skalierbarkeit zu gewährleisten. Darüber hinaus ist ihr Bestreben darauf gerichtet, umfassendere gesellschaftliche Herausforderungen zu adressieren und langfristigen Wert zu schaffen.

Der IT-Grundschutz++ wird als ein freiwilliger Sicherheitsstandard des deutschen Bundesamts für Sicherheit in der Informationstechnik definiert. Im Gegensatz dazu werden KI-Omnibus und Digital-Omnibus als Maßnahmen betrachtet, durch die unmittelbar geltendes EU-Recht geändert wird. Für das KI-Reallabor bedeutet dies, dass der Grundschutz++ als Orientierungshilfe zu verstehen ist, während die EU-Vorgaben verpflichtend sind.

Eine Untersuchung der drei Regelwerke ergibt eine ähnliche strategische Orientierung, die darauf abzielt, bestehende Regulierungsmaßnahmen an die Praxis anzupassen, die bürokratischen Belastungen zu reduzieren und deren Anwendung insbesondere für KMU zu erleichtern. Die Kritik an der hohen Komplexität der bestehenden Rahmenwerke seitens sowohl des BSI mit dem "Grundschutz++" als auch der EU-Kommission mit dem "Omnibus-Paket" wird zum Anlass genommen, entsprechende Gegenmaßnahmen zu entwickeln.

Gemeinsamkeiten: Harmonisierung, Resilienz, Automatisierung, Unterstützung kleiner Organisationen.

Unterschiede: Rechtscharakter, Zielsetzung, Anwendungsbereich, Detailtiefe, Fokus (KI vs. IT‑Sicherheit vs. Datenrecht).

Ziele des KI‑Reallabors

Das KI‑Reallabor verfolgt die Ziele, die in Artikel 57 Abs. 9 festgelegt sind:

  • Rechtssicherheit erhöhen und die Einhaltung regulatorischer Anforderungen unterstützen

  • Austausch bewährter Verfahren zwischen Behörden und beteiligten Akteuren fördern

  • Innovation und Wettbewerbsfähigkeit stärken

  • evidenzbasiertes regulatorisches Lernen ermöglichen

  • den Marktzugang beschleunigen, insbesondere für KMU und Start‑ups

Diese Ziele bilden den verbindlichen Rahmen für alle Aktivitäten im Reallabor.

Wie funktioniert das Reallabor?

Das Reallabor arbeitet auf Basis eines Reallabor‑Plans, der zwischen Anbieter bzw. zukünftigen Anbieter und der zuständigen Behörde abgestimmt wird. Dieser Plan definiert:

  • Testziele

  • Testmethoden

  • Risikominderungsmaßnahmen

  • Aufsichtsmechanismen

  • Dokumentations‑ und Berichtspflichten

Tests können auch unter Realbedingungen stattfinden, sofern die zuständige Behörde dies genehmigt und beaufsichtigt.

Rolle der zuständigen Behörden

Die zuständigen Behörden:

  • stellen Anleitung, Aufsicht und Unterstützung bereit

  • bewerten Risiken, insbesondere im Hinblick auf Grundrechte, Gesundheit und Sicherheit

  • überwachen die Einhaltung des AI Acts und anderer relevanter Rechtsvorschriften

  • können Tests aussetzen oder beenden, wenn Risiken nicht wirksam mitigiert werden können

  • stellen schriftliche Nachweise und Abschlussberichte aus, die im Konformitätsbewertungsverfahren genutzt werden können

Damit sind die Behörden zentrale Akteure des Reallabors.

Wer kann teilnehmen?

Teilnehmen können:

  • Anbieter von KI‑Systemen

  • zukünftige Anbieter, die ein System vor der Markteinführung testen möchten

Andere Akteure des KI‑Ökosystems – z. B. Forschungseinrichtungen, Unternehmen oder öffentliche Stellen – können einbezogen werden, wenn die zuständige Behörde dies zulässt und es dem Reallabor‑Zweck dient.

Bürger:innen sind nicht strukturelle Akteure des Reallabors, können aber im Rahmen genehmigter Testsituationen einbezogen werden, sofern dies rechtlich zulässig und sicher ist.

Was das Reallabor nicht ist

Um Missverständnisse zu vermeiden:

  • Es ist kein Living Lab im Sinne offener, partizipativer Experimentierräume.

  • Es ist keine Governance‑ oder Koordinationsinstanz zwischen Politik, Verwaltung und Gesellschaft.

  • Es ist kein Instrument der regulatorischen Durchsetzung, sondern ein Unterstützungs‑ und Lerninstrument.

  • Es ist kein dauerhaftes Entwicklungsökosystem, sondern eine zeitlich begrenzte Testumgebung.

Mehrwert für Anbieter und Verwaltung

Das KI‑Reallabor bietet:

  • beschleunigte regulatorische Klärung

  • gezielte Unterstützung bei der Umsetzung der Anforderungen des AI Acts

  • validierte Testergebnisse für Konformitätsbewertungsverfahren

  • Risikominderung durch behördliche Begleitung

  • bessere Vorbereitung auf Marktüberwachung

Für Behörden entsteht ein Raum für evidenzbasiertes Lernen, um Regulierung praxisnah weiterzuentwickeln.

Einbettung in EU, Bund und Rheinland‑Pfalz

Das KI‑Reallabor ist Teil der europäischen und nationalen Umsetzung des AI Acts. Es steht im Austausch mit:

  • dem Büro für Künstliche Intelligenz der EU

  • dem KI‑Gremium

  • anderen nationalen Reallaboren

  • relevanten Landesbehörden in Rheinland‑Pfalz

Damit wird grenzüberschreitende Zusammenarbeit und Harmonisierung unterstützt.