KI-Funktionen in der eigenen App: Was die KI-Verordnung verlangt

Anbieter oder Betreiber: zwei Rollen

Die Verordnung verteilt ihre Pflichten nach Rollen. Zwei davon betreffen fast jedes App-Projekt mit KI:

• Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt, ob entgeltlich oder unentgeltlich (Art. 3 Nr. 3).
• Betreiber ist, wer ein KI-System in eigener Verantwortung verwendet. Ausgenommen ist nur die persönliche, nicht berufliche Nutzung (Art. 3 Nr. 4).

Erscheint Ihre App unter Ihrem Namen, spricht der Wortlaut dafür, dass Sie Anbieter sind, auch wenn ich sie in Ihrem Auftrag entwickle. Daran ändert sich nichts, wenn die KI dahinter von einem anderen Unternehmen kommt, etwa ein Sprachmodell über eine Schnittstelle. Für diesen Fall kennt die Verordnung den nachgelagerten Anbieter: Er integriert ein KI-Modell in sein System, egal ob das Modell von ihm selbst stammt oder vertraglich von einem anderen (Art. 3 Nr. 68).

Betreiber sind Sie außerdem, sobald Ihr Team KI-Werkzeuge beruflich nutzt. Ich bin es bei den Werkzeugen, mit denen ich entwickle.

Was für eine App mit KI-Funktion gilt

Die Transparenzpflichten stehen in Art. 50. Für Apps zählen vor allem drei Fälle:

• Chat und Sprachassistent. Wer direkt mit einer KI schreibt oder spricht, muss das erfahren, außer es ist für einen aufmerksamen Nutzer nach den Umständen offensichtlich. Die Pflicht trifft den Anbieter und setzt bei der Entwicklung an: Das System soll so „konzipiert und entwickelt“ werden, dass der Hinweis kommt (Abs. 1).
• Erzeugte Inhalte. Erzeugt die App Texte, Bilder, Töne oder Videos, sorgt der Anbieter dafür, dass sie maschinenlesbar als künstlich erzeugt gekennzeichnet sind, soweit das technisch möglich ist. Ausgenommen sind Funktionen, die nur bei der Standardbearbeitung helfen oder die eingegebenen Daten nicht wesentlich verändern (Abs. 2).
• Veröffentlichte Inhalte. Ein Deepfake ist ein erzeugtes Bild, Video oder Tonstück, das echten Personen, Orten oder Ereignissen ähnelt und fälschlich als echt erscheinen würde. Wer so etwas mit KI erzeugt und zeigt, legt das offen. Texte, die veröffentlicht werden, um über Angelegenheiten von öffentlichem Interesse zu informieren, sind ebenfalls offenzulegen. Das gilt nicht, wenn ein Mensch sie geprüft hat und jemand die redaktionelle Verantwortung trägt (Abs. 4). Diese Pflichten treffen den Betreiber.

Wie sich erzeugte Inhalte praktisch markieren lassen, beschreibt ein freiwilliger Praxisleitfaden, den die Kommission am 10. Juni 2026 veröffentlicht hat.

Welche Fristen gelten

Die Verordnung gilt in Stufen. Mit der Änderungsverordnung (EU) 2026/1744, in Kraft seit dem 27. Juli 2026, hat die EU einige Termine verschoben:

• 2. Februar 2025: Verbote bestimmter Praktiken und die Pflicht zur KI-Kompetenz.
• 2. August 2025: Regeln für KI-Modelle mit allgemeinem Verwendungszweck, etwa große Sprachmodelle.
• 2. August 2026: Die Verordnung gilt allgemein, damit auch die Transparenzpflichten aus Art. 50.
• 2. Dezember 2026: Erzeugende Systeme, die schon vor dem 2. August 2026 auf dem Markt waren, müssen ihre Ausgaben bis dahin kennzeichnen. Am selben Tag kommen zwei Verbote dazu: KI-Systeme, die intime Darstellungen einer Person ohne deren Zustimmung erzeugen, und solche, die Darstellungen sexuellen Missbrauchs von Kindern erzeugen.
• 2. Dezember 2027: Pflichten für Hochrisiko-Systeme nach Anhang III, bisher ab August 2026.
• 2. August 2028: Pflichten für Hochrisiko-Systeme in Produkten nach Anhang I, bisher ab August 2027.

In Deutschland ist seit dem 29. Juli 2026 die Bundesnetzagentur zentrale Anlaufstelle und Beschwerdestelle, für viele Bereiche auch Marktüberwachungsbehörde. Grundlage ist das Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz, kurz KI-MIG.

Wann eine App als hochriskant gilt

Strenge Pflichten wie ein Risikomanagement, eine technische Dokumentation und menschliche Aufsicht gelten für Hochrisiko-Systeme. Anhang III nennt dafür acht Bereiche:

• Biometrie,
• kritische Infrastruktur,
• allgemeine und berufliche Bildung,
• Beschäftigung und Personalmanagement, etwa Bewerbungen sichten oder Bewerber bewerten,
• grundlegende private und öffentliche Dienste, zum Beispiel die Prüfung der Kreditwürdigkeit oder die Bewertung von Risiken und Preisen bei Lebens- und Krankenversicherungen,
• Strafverfolgung,
• Migration, Asyl und Grenzkontrolle,
• Rechtspflege und demokratische Prozesse.

Ein Chat, der Fragen zu Öffnungszeiten beantwortet, oder eine Funktion, die Produkttexte vorschlägt, steht in keinem dieser Bereiche. Eine App, die Bewerbungen filtert, fällt unter Nummer 4. Ob sie dann tatsächlich als hochriskant gilt, hängt von weiteren Bedingungen ab (Art. 6 Abs. 3). Liegt Ihre Idee in einem dieser Bereiche, gehört die Einstufung zu einer Kanzlei, bevor der erste Entwurf entsteht.

KI-Kompetenz: was sich im Juli 2026 geändert hat

Art. 4 richtet sich an Anbieter und Betreiber, also auch an Betriebe, deren Team KI-Werkzeuge nutzt. Bis Juli 2026 verlangte er Maßnahmen, um „nach besten Kräften sicherzustellen“, dass das Personal über ein ausreichendes Maß an KI-Kompetenz verfügt.

Seit dem 27. Juli 2026 heißt es: Anbieter und Betreiber ergreifen Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals zu unterstützen. Ein bestimmtes Niveau müssen sie für niemanden garantieren. Von einem Zertifikat steht in Art. 4 nichts, weder in der alten noch in der neuen Fassung. Die Kommission veröffentlicht praktische Beispiele, wie sich die Pflicht erfüllen lässt, und unterstützt dabei ausdrücklich kleine und mittlere Unternehmen.

Was bei Verstößen droht

Für Verstöße gegen die Transparenzpflichten aus Art. 50 nennt Art. 99 Geldbußen bis 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen gilt der niedrigere der beiden. Seit Juli 2026 berücksichtigen die Mitgliedstaaten bei Sanktionen außerdem ausdrücklich die Interessen kleiner und mittlerer Unternehmen und deren wirtschaftliches Überleben.

Was wir vor dem Auftrag klären

Welche Pflichten eine App trifft, hängt an ihrer Funktion. Diese Fragen kläre ich deshalb vor dem ersten Entwurf mit Ihnen:

1. 01 · FunktionWelche Funktion der App nutzt KI, und erzeugt sie Texte, Bilder, Töne oder Videos?
2. 02 · NameUnter wessen Namen erscheint die App im Store?
3. 03 · GesprächSchreiben oder sprechen Nutzer direkt mit der KI, etwa in einem Chat?
4. 04 · VeröffentlichungZeigt die App erzeugte Inhalte auch anderen Menschen?
5. 05 · BereichBerührt die Funktion einen Bereich aus Anhang III, etwa Personal, Kredit oder Bildung?
6. 06 · DienstWelcher KI-Dienst steckt dahinter, und wo verarbeitet er die Daten?
7. 07 · KanzleiHat Ihre Kanzlei die Rolle und die Pflichten bestätigt?

Die rechtliche Einordnung übernimmt Ihre Kanzlei. Was dabei herauskommt, etwa der Hinweis im Chat oder die Kennzeichnung erzeugter Bilder, gehört zum Umfang der App und steht im Angebot. Eine erste, unverbindliche Orientierung gibt ein Online-Werkzeug der Bundesnetzagentur. Als Grundlage nennt es die Fassung der Verordnung vom 12. Juli 2024; die Fristen oben stammen aus der Änderung vom Juli 2026.

Und diese Website?

Die Texte hier entstehen mit KI als Schreibhilfe, wie im Beitrag „Wie ich KI in der App-Entwicklung einsetze – und wo nicht“ beschrieben. Ich prüfe, belege und verantworte jede Aussage, und im Impressum stehe ich als Verantwortlicher.

Für Texte zu Angelegenheiten von öffentlichem Interesse sieht Art. 50 Abs. 4 eine Ausnahme vor, wenn ein Mensch sie geprüft hat und jemand die redaktionelle Verantwortung trägt. Ob diese Ausnahme meine Texte erfasst, steht auf meiner Liste mit Fragen an die Kanzlei.

Fazit: Rolle klären, Hinweis einplanen, Fristen kennen

Wer eine App mit KI-Funktion unter eigenem Namen anbietet, ist nach dem Wortlaut der Verordnung in der Regel Anbieter, auch wenn ein Entwickler sie im Auftrag entwickelt und das Sprachmodell von einem anderen Unternehmen kommt. Seit dem 2. August 2026 verlangt die Verordnung den Hinweis im Chat und die maschinenlesbare Kennzeichnung erzeugter Inhalte; für ältere Systeme läuft die Frist für die Kennzeichnung bis zum 2. Dezember 2026. Die Pflichten für Hochrisiko-Systeme kommen ab Dezember 2027 und betreffen Bereiche wie Personal, Kredit oder Bildung. Welche Pflichten Ihre App trifft, klärt eine Kanzlei; die Umsetzung plane ich von Anfang an mit ein.