Der EU-KI-Act für kleine Studios. Wann eine App KI ist und wann nicht.

Die KI-Verordnung der Europäischen Union, formal Verordnung 2024/1689, ist 2024 in Kraft getreten und entfaltet ihre Wirkung in Stufen. Die ersten Verbote (manipulative Systeme, Social Scoring durch Behörden) gelten seit Februar 2025. Die Regeln für General-Purpose-AI-Modelle laufen seit August 2025. Die Pflichten für Hochrisiko-Systeme greifen schrittweise bis 2027. Für kleine Studios, die etwas in regulierten Räumen bauen, ist die Verordnung weniger ein abstraktes Großthema und mehr eine konkrete Frage: Fällt das, was wir hier bauen, überhaupt unter den Anwendungsbereich?

Diese Frage zu beantworten verlangt zwei Schritte. Erst: Ist das System ein KI-System im Sinne des Acts? Dann: In welche Risiko-Kategorie fällt es?

Was im Sinne des Acts KI ist

Artikel 3 Absatz 1 der Verordnung definiert ein KI-System als maschinengestütztes System, das mit unterschiedlichen Graden an Autonomie betrieben wird, Anpassungsfähigkeit nach der Bereitstellung zeigen kann und aus den Eingaben, die es erhält, für explizite oder implizite Ziele ableitet, wie Ausgaben erzeugt werden, die physische oder virtuelle Umgebungen beeinflussen können.

Das Kernwort in dieser Definition ist „ableitet“. Ein Taschenrechner leitet nicht ab. Eine Datenbankabfrage leitet nicht ab. Ein Symptom-Tracker, der Schmerzwerte zwischen 0 und 10 entgegennimmt und auf eine Warnschwelle von 7 prüft, leitet nichts ab. Er wendet eine zuvor definierte Regel an. Auch wenn die Regel komplex ist und auf einer Punkteskala wie der Edinburgh Postnatal Depression Scale beruht, ist sie eine deterministische Berechnung, kein Inferenz-Prozess.

Ein Modell des maschinellen Lernens leitet ab. Ein Sprachmodell leitet ab. Ein Bildklassifikator leitet ab. Auch ein einfaches lineares Modell, das aus Trainingsdaten Gewichte gelernt hat, leitet ab. Die Trennlinie verläuft entlang der Frage, ob das System eine vorher definierte Regel ausführt oder aus Daten gelernte Muster anwendet.

Für viele kleine Apps in regulierten Räumen ist das eine erleichternde Information. Wer einen Tracker mit Schwellwerten baut, einen Erinnerungsdienst mit fest verdrahteten Intervallen, eine Dosisrechner-App mit dokumentierter Formel, baut im Sinne des Acts keine KI. Das ändert sich, sobald eine Inferenz-Komponente eingebaut wird, etwa zur Mustererkennung in Bildern, zur Verlaufsvorhersage oder zur natürlich-sprachlichen Verarbeitung.

Die vier Risiko-Stufen

Wenn ein System als KI im Sinne des Acts gilt, ordnet die Verordnung es einer von vier Risiko-Stufen zu.

Unannehmbares Risiko (Artikel 5): verboten. Dazu gehören manipulative Systeme, Social Scoring durch Behörden, biometrische Echtzeit-Identifikation in öffentlichen Räumen für Strafverfolgung (mit eng definierten Ausnahmen), Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen.

Hohes Risiko (Anhang III und Artikel 6): zulässig, aber unter strengen Pflichten. Dazu zählen KI-Systeme in Bereichen, die der Gesetzgeber als kritisch ansieht: kritische Infrastruktur, Bildung, Beschäftigung, Zugang zu öffentlichen und privaten Diensten, Strafverfolgung, Migration, Justiz, demokratische Prozesse. Außerdem, und das ist für Studios mit Gesundheitsbezug wichtig: KI-Systeme, die Sicherheitskomponenten in Produkten sind, die unter sektorspezifische Konformitätsbewertung fallen, etwa Medizinprodukte nach MDR oder IVDR.

Begrenztes Risiko (Artikel 50): Transparenzpflichten. Wenn Nutzer:innen mit einem Chatbot interagieren, muss das offengelegt werden. KI-generierte Bilder, Videos oder Audio müssen kenntlich gemacht werden. Deepfakes brauchen klare Hinweise.

Minimales Risiko: keine spezifischen Pflichten aus dem Act. Das ist die Mehrheit aller KI-Anwendungen: Spam-Filter, Empfehlungssysteme ohne kritische Auswirkungen, KI in Computerspielen, generative Tools für kreative Arbeit.

Wo Solo-Studios üblicherweise landen

Für die Mehrzahl kleiner Studios ist das pragmatische Bild: entweder das Produkt enthält keine KI im Sinne des Acts (und der Act spielt keine Rolle) oder es enthält KI, fällt aber in die Stufen „begrenztes Risiko“ oder „minimales Risiko“ (und die Pflichten sind überschaubar).

Spannend wird es dort, wo ein Studio in den Hochrisiko-Bereich rutscht. Das passiert am häufigsten an zwei Stellen: erstens, wenn eine Gesundheits-App nach MDR als Medizinprodukt qualifiziert und gleichzeitig eine ML-Komponente enthält. Dann gelten KI-Act und MDR gleichzeitig. Zweitens, wenn eine Bildungs- oder HR-Anwendung Entscheidungen über Personen trifft (Bewerbungsfilterung, Lernpfad-Empfehlungen mit prüfungs-relevanter Auswirkung). Auch eine kleine Firma, die so etwas in Auftrag baut, ist Bereitsteller im Sinne des Acts.

Die wichtigste Entscheidung im KI-Act fällt vor der ersten Zeile Code: Welche Methode wählen wir, um die Aufgabe zu lösen? Ein deterministischer Algorithmus hält den ganzen Act außen vor. Ein ML-Modell, das die gleiche Aufgabe etwas besser löst, holt ihn herein.

Die Schnittstelle zur MDR

Für Studios mit Gesundheitsbezug ist die Schnittstelle zwischen KI-Act und MDR der praktisch wichtigste Punkt. Artikel 6 Absatz 1 des KI-Acts erklärt KI-Systeme zu Hochrisiko-Systemen, wenn sie als Sicherheitskomponente eines Produkts dienen, das selbst einer Konformitätsbewertung durch eine Benannte Stelle unterliegt. Die MDR zählt zu diesen sektorspezifischen Verordnungen.

Praktisch heißt das: Eine Symptom-App, die kein Medizinprodukt nach MDR ist und keine KI enthält, fällt weder unter den KI-Act noch unter die MDR. Eine Symptom-App, die kein Medizinprodukt ist, aber ein ML-Modell zur Klassifikation enthält, fällt unter den KI-Act, vermutlich in der Stufe begrenztes oder minimales Risiko. Eine Symptom-App, die Medizinprodukt nach MDR ist und keine KI enthält, fällt unter die MDR (siehe der Essay zum MDR-Pfad). Eine Symptom-App, die Medizinprodukt ist und KI enthält, fällt unter beide Verordnungen, und beide Konformitätsbewertungen müssen durchlaufen werden, typischerweise in einem koordinierten Prozess mit der Benannten Stelle.

Artikel 8 des KI-Acts erkennt die sektorspezifischen Verfahren an: Die MDR-Konformitätsbewertung deckt einen großen Teil der Anforderungen ab, der KI-Act ergänzt die KI-spezifischen Anforderungen wie Datenqualität (Artikel 10), technische Dokumentation der KI-Komponente (Artikel 11), Aufzeichnung relevanter Ereignisse (Artikel 12), Transparenz (Artikel 13), menschliche Aufsicht (Artikel 14) und Genauigkeit, Robustheit, Cybersicherheit (Artikel 15).

Was praktisch zu tun ist

Für ein kleines Studio, das vor der Frage steht, ob es den KI-Act ernst nehmen muss, ergibt sich eine knappe Checkliste. Zuerst, vor jedem Architektur-Entscheid: Gibt es eine deterministische Lösung, die das Problem gut genug löst? Wenn ja, ist sie meistens die richtige Wahl, nicht nur regulatorisch, auch erklärbarkeitsmäßig. Zweitens, falls eine ML-Komponente eingebaut wird: Wo landet das Produkt in der Risiko-Stufung? Drittens, falls Hochrisiko: Ist die nötige technische Dokumentation aufbaubar? Datenqualitäts-Nachweise, Trainings- und Validierungsdaten-Dokumentation, Aufsichtsmechanismen, Cybersicherheit. Viertens, falls Medizinprodukt mit KI: Plant die Benannte Stelle die KI-Act-Bewertung mit?

Nichts davon erfordert eine Compliance-Abteilung. Es verlangt, vor dem Coden zu lesen, was im Kleingedruckten steht, und ehrlich zu sein über das, was die App tut.

Häufige Fragen

Wann ist eine Anwendung ein KI-System nach dem EU-KI-Act?

Artikel 3 Absatz 1 der Verordnung 2024/1689 definiert ein KI-System als maschinengestütztes System, das mit unterschiedlichen Graden an Autonomie betrieben wird und das aus den Eingaben, die es erhält, ableitet, wie Ausgaben erzeugt werden. Entscheidend ist das Wort „ableitet“. Regelbasierte Logik mit festen Schwellwerten leitet nichts ab, sie wendet eine vorher definierte Regel an. Modelle des maschinellen Lernens leiten ab. Das ist die praktische Trennlinie.

Gilt der KI-Act für Symptom-Tracker?

Es kommt darauf an. Ein Tracker, der numerische Werte (zum Beispiel eine Schmerzskala) entgegennimmt und mit festen Regeln auf vordefinierte Schwellen prüft, ist im Sinne des Acts kein KI-System. Ein Tracker, der Symptommuster mit einem ML-Modell klassifiziert oder Vorhersagen über den Krankheitsverlauf trifft, ist ein KI-System. Wenn er zusätzlich Medizinprodukt nach MDR ist, gilt er als hochrisiko-KI-System nach Artikel 6 Absatz 1 des Acts.

Was gilt für kleine Studios und Einzelunternehmen?

Der Act sieht für KMU und Start-ups erleichterte Bedingungen vor, vor allem den Zugang zu regulatorischen Reallaboren (Artikel 57 ff.) und ermäßigte Gebühren bei Konformitätsbewertungen (Artikel 62). Für die meisten Solo-Studios ist die zentrale Frage nicht, ob diese Erleichterungen helfen, sondern ob das Produkt überhaupt in den Anwendungsbereich fällt. Saubere Zweckbestimmung im Vorfeld erspart die spätere Konformitätsbewertung.

Was passiert, wenn KI-Act und MDR sich überlappen?

Bei Medizinprodukten, die ein KI-System enthalten und unter den Hochrisiko-Bereich des Acts fallen, gelten beide Verordnungen parallel. Der KI-Act (Artikel 8) erkennt sektorspezifische Konformitätsbewertungen wie nach MDR an, ergänzt sie aber um die KI-spezifischen Anforderungen, vor allem Datenqualität, technische Dokumentation der KI-Komponente, Aufzeichnungspflichten und menschliche Aufsicht. Die Benannte Stelle für die MDR-Bewertung übernimmt typischerweise auch die KI-Act-Konformitätsprüfung.