Ob Deepfake, KI-generierte Inhalte oder Plattformregulierung: Immer häufiger sehen sich Anwälte mit digitalen Sachverhalten konfrontiert, die rechtliches und technisches Verständnis gleichermaßen erfordern. Die rasante Entwicklung neuer Technologien wirft dabei Fragen auf, auf die Rechtsprechung und Gesetzgebung nicht immer sofort Antworten bereithalten.
Wer Mandanten bei gekaperten Accounts, manipulierten Bildern, KI-generierten Inhalten oder rechtswidrigen Plattformveröffentlichungen unterstützt, braucht also nicht nur juristisches Wissen, sondern auch ein Verständnis dafür, wie digitale Plattformen funktionieren, welche Durchsetzungswege tatsächlich greifen und wo die Rechtslage noch offen ist.
Rechtsanwalt Chan-jo Jun beschäftigt sich seit Jahren mit diesen Schnittstellen zwischen Recht, Technik und digitaler Öffentlichkeit. Im Interview mit Julia Schmidt spricht er darüber, warum Deepfake-Fälle besondere Eile verlangen, weshalb generative KI neue urheberrechtliche Risiken schafft und was Anwälte heute können müssen, um Mandanten in diesen dynamischen Feldern sicher zu beraten.
Deepfakes, generative KI und Plattformregulierung verändern die anwaltliche Beratung spürbar. Woran merken Sie das derzeit in Ihrer Beratungspraxis besonders?
RA Chan-jo Jun: Technische Entwicklungen führen immer wieder zu neuen Herausforderungen – und zu Fallkonstellationen, die durch die Rechtsprechung noch nicht vollständig geklärt sind.
In der Beratung sehen wir zum Beispiel Mandanten, die auf Fälschungen hereingefallen sind. Phishing kennen wir schon aus dem E-Mail-Bereich; inzwischen kommen solche Nachrichten auch per SMS. Auch gesperrte, gestohlene oder gekaperte Social-Media-Accounts gehören zu unserem Alltag. Nicht selten verlieren Mandanten durch Täuschungen oder Hackerangriffe ihre Zugangsdaten.
Besonders dramatisch sind Fälle mit Deepfakes. Dabei geht es nicht nur um sexualisierte Fälschungen, die viele aus der Presse kennen, sondern auch um gefälschte Profile und andere manipulierte Inhalte.
Rechtslage und Rechtsdurchsetzung klaffen bei Deepfakes oft auseinander. Welche Anspruchsgrundlagen und Durchsetzungswege spielen in der Praxis die größte Rolle?
Jun: Zivilrechtlich gibt es bekannte Anspruchsgrundlagen, etwa aus § 1004 BGB analog in Verbindung mit dem allgemeinen Persönlichkeitsrecht sowie aus § 823 Abs. 1 BGB in Verbindung mit Art. 1 und Art. 2 GG. Bei sexualisierten Deepfakes ist das im Grundsatz eine klare Sache. Bei anderen Persönlichkeitsrechtsverletzungen ist es schwieriger, weil die Rechtswidrigkeit nicht automatisch feststeht, sondern eine Abwägung stattfinden muss.
Spannend ist außerdem die öffentlich-rechtliche Seite: Die Landespolizeigesetze sehen grundsätzlich Eingriffsbefugnisse zur Gefahrenabwehr vor – und diese Gefahrenabwehr kann auch im digitalen Raum relevant werden. In der Praxis hinken wir da aber noch hinterher. Ich würde mir wünschen, dass die Polizei Betroffene stärker dabei unterstützt, fortdauernde digitale Gefahren zu beseitigen.
Strafprozessual gibt es ebenfalls Instrumente, etwa Beschlagnahme- und Einziehungsmöglichkeiten nach StPO und StGB. Diese Mittel sind aber begrenzt und stoßen insbesondere dort an Grenzen, wo Inhalte außerhalb Deutschlands verbreitet oder gehostet werden.
Wenn eine betroffene Person ein manipuliertes Bild oder Video von sich im Netz entdeckt, was sind aus anwaltlicher Sicht die ersten Schritte?
Jun: Zunächst muss es darum gehen, die Inhalte so schnell wie möglich entfernen zu lassen. Parallel müssen Beweise gesichert werden: Screenshots, Fundstellen, Zeitpunkte und die Frage, wann und wo man welche Inhalte gesehen hat. Das kann man mit Tools machen, aber auch ganz händisch dokumentieren. Gleichzeitig darf man den Mandanten nicht alleinlassen. Gerade wenn es um Eingriffe in die Privatsphäre geht, muss man erklären, was möglich ist, was nicht möglich ist und welche Schritte man jetzt einleitet.
Danach muss man sehr schnell klären, wo die Inhalte verbreitet werden und welcher Weg am effizientesten ist. Reicht ein zivilrechtliches Vorgehen gegen den Störer oder die Plattform? Oder braucht man Polizei und Staatsanwaltschaft, weil man ohne Ermittlungsmaßnahmen nicht weiterkommt? In der Praxis macht es einen Unterschied, wie spezialisiert und handlungsfähig die zuständigen Stellen sind. Manche Strukturen sind gut aufgestellt, andere befinden sich noch im Aufbau.
Entscheidend ist, die Eilbedürftigkeit deutlich zu machen und die Entfernung der Inhalte parallel voranzutreiben. Beweissicherung ist wichtig, darf aber nicht dazu führen, dass rechtsverletzende Inhalte weiter online bleiben. Am Ende geht es darum, das Material möglichst schnell aus dem Internet zu bekommen. Welcher Weg dafür sinnvoll ist, hängt vom konkreten Fall ab.
Wie sieht ein solcher Weg in der Praxis aus, wenn der Inhalt auf einer Plattform konkret auffindbar ist?
Jun: Entscheidend ist, den Inhalt konkret zu benennen, Fundstelle und URL anzugeben und schnell den richtigen Melde- oder Rechtsweg zu wählen. Oft hilft bereits ein anwaltliches Schreiben; selbst ausländische Portalbetreiber reagieren darauf durchaus. In der Regel hat kein Portal Interesse daran, mit nicht einvernehmlichen Nacktdarstellungen oder Darstellungen fremder Personen aufzufallen. Deshalb funktioniert dieser Weg in vielen Fällen relativ schnell.
Bei Social-Media-Plattformen erleben wir dagegen häufiger, dass außergerichtliche Schritte nicht ausreichen und wir einstweilige Verfügungen beantragen müssen. Wenn Inhalte über das Darknet oder schwer zugängliche Kanäle verbreitet werden, wird die Entfernung noch schwieriger. Dann kommen Strafverfolgungsbehörden ins Spiel, weil nur sie hoheitliche Mittel haben, die zivilrechtlich nicht zur Verfügung stehen.
Der Digital Services Act (DSA) sollte den Umgang mit rechtswidrigen Inhalten auf Plattformen verbessern. Hat er Ihre Arbeit in der Praxis tatsächlich verändert oder waren die Erwartungen größer als der praktische Nutzen?
Jun: Als der DSA kam, waren die Hoffnungen groß. Endlich gab es klare Regeln dazu, was Plattformen bei rechtswidrigen Inhalten entfernen oder auch wiederherstellen müssen. Außerdem lag die Durchsetzung auf einer europäischen Ebene, mit der EU-Kommission als zentraler Behörde. Zunächst war klar, dass Plattformen und Behörden Zeit brauchen würden, um sich darauf einzustellen. Inzwischen zeigt sich aber: In der Praxis funktioniert die Durchsetzung längst nicht so gut, wie ich erwartet hatte.
Das liegt aus meiner Sicht auch daran, dass eine politische Behörde wie die EU-Kommission nur begrenzt geeignet ist, große internationale Plattformen wirksam zur Einhaltung der Regeln zu bewegen, wenn diese nicht kooperationswillig sind und Regelungen juristisch wie politisch bekämpfen. Teilweise sind nationale Behörden oder sogar Landesbehörden in der praktischen Durchsetzung effektiver. Man sieht zum Beispiel, dass Jugendschutz in manchen Konstellationen besser funktioniert als der Schutz gegen Falschbehauptungen, Verleumdungen, Beleidigungen oder strafbare Inhalte.
Deshalb glaube ich, dass wir wieder an den Gesetzgeber heran müssen und das System neu justieren sollten. Der DSA hat sich leider nicht als so wirksam erwiesen, wie ich gehofft hatte.
Welche Schlüsse ziehen Sie daraus: Braucht es strengere Regeln oder ein ganz anderes Haftungssystem?
Jun: Wir brauchen aus meiner Sicht ein anderes Haftungssystem. Ein Mechanismus, der allein darauf setzt, Regeln aufzustellen und anschließend mit Bußgeldern hinterherzulaufen, reicht nicht aus. Wir brauchen ein System, das sich stärker selbst stabilisiert – auch wirtschaftlich. Der entscheidende Hebel wäre, dass Rechtsverletzungen für Plattformbetreiber unmittelbar wirtschaftlich spürbar werden, etwa weil sie gegenüber einzelnen Nutzern haften oder weil es einen Mechanismus gibt, der Schäden bündelt und ausgleicht.
Ein Ansatz wäre ein Schadensfonds oder eine andere Stelle, die Ansprüche nicht nur als Bußgeld behandelt, sondern Schäden sammelt und verteilt, ohne dass jeder einzelne Betroffene vollständig selbst klagen muss. Gleichzeitig müssen wir die Haftungsprivilegierung aus der E-Commerce-Zeit neu denken. Sie entstand in einer Phase, in der Plattformen als junge, schutzbedürftige Unternehmen galten. Diese Ausgangslage hat sich verändert.
Deshalb sollten wir aufpassen, im KI-Bereich nicht denselben Fehler zu wiederholen. Wenn Unternehmen sich dauerhaft der Rechtsdurchsetzung entziehen oder Bußgelder praktisch nicht wirken, brauchen wir andere Anreize und andere Durchsetzungsmechanismen. Der Konstruktionsfehler liegt darin, zu sehr auf Compliance und nachgelagerte Sanktionen zu setzen, obwohl genau das bei manchen großen Akteuren nicht zuverlässig funktioniert.
In welchen KI-Konstellationen müssen Sie Mandanten heute sagen: Das ist rechtlich noch nicht abschließend geklärt, hier brauchen wir eine belastbare Risikoabwägung?
Jun: Spannend wird es für uns Anwälte immer dann, wenn eine Rechtslage gerade nicht eindeutig ist. Bei gefestigter Rechtsprechung ist Beratung vergleichsweise einfach. Schwieriger und zugleich interessanter wird es, wenn man Mandanten sagen muss: Die Rechtslage entwickelt sich noch, und sie kann sich in diese oder jene Richtung bewegen.
Das betrifft neben Deepfake-Fällen zum Beispiel die urheberrechtliche Seite beim Einsatz generativer KI. Und es betrifft die KI-Regulierung insgesamt: Kennzeichnungspflichten, Hochrisiko-KI, verschobene, aber nicht aufgehobene Pflichten. Wie genau die Grenzen verlaufen und was davon tatsächlich verfolgt wird, ist vielfach noch offen.
Deshalb hilft es nicht, nur Checklisten abzuarbeiten. Man muss die Unsicherheit offen benennen und trotzdem eine belastbare Risikoabwägung vornehmen.
Letztlich braucht es Common Sense, juristische Erfahrung und einen risikobasierten Ansatz: Was ist wahrscheinlich? Was ist vertretbar? Und wo entsteht ein Risiko, das der Mandant bewusst tragen oder vermeiden muss? Das macht die Beratung schwierig, aber auch spannend.
Gehen wir näher auf den Einsatz von generativer KI ein: Training, Input, Output und Nutzung. Wo sehen Sie beim Einsatz generativer KI aktuell die größten urheberrechtlichen Risiken?
Jun: Das größte Praxisrisiko im Urheberrecht ist derzeit, dass wir nicht sicher wissen, wie die Rechtslage heute einzuordnen ist und wie sie sich weiterentwickeln wird. Viele Aussagen dazu sind im Grunde Prognosen. Zugleich zeigen Entscheidungen wie die des Landgerichts München I im Verfahren GEMA gegen OpenAI, dass bereits das Training eines Modells urheberrechtlich relevant sein kann. Wenn ein Large Language Model geschützte Inhalte nicht nur verarbeitet, sondern memorisiert und später wieder ausgibt, kann darin eine Urheberrechtsverletzung liegen. Das Urteil ist allerdings noch nicht rechtskräftig; OpenAI hat Berufung zum Oberlandesgericht München eingelegt.
Das heißt für die Praxis ganz konkret: Schon beim Training können Rechte Dritter betroffen sein, und der Output kann ebenfalls rechtsverletzend sein. Das gilt etwa für KI-generierte Bilder, Texte oder Softwarecode, wenn sie auf geschütztem Material beruhen oder geschützte Werke erkennbar übernehmen. Wer mit KI-generierten Inhalten oder Code arbeitet, muss deshalb nicht nur technisch, sondern auch vertraglich prüfen, wer dieses Risiko trägt. Genau dort entsteht derzeit ein Wettlauf: Wer erkennt das Problem früh genug und kann das Risiko vertraglich sauber zuordnen?
Wäre dann die naheliegende Konsequenz: KI lieber gar nicht nutzen, weil das Risiko zu groß ist?
Jun: Wir kommen nicht daran vorbei. Selbst wenn ich darauf verzichte, KI zu nutzen, werden meine Vertragspartner KI nutzen. Meine Inhalte können ebenfalls durch KI verarbeitet oder weiterverwendet werden. Ein Weglaufen aus der KI-Welt ist deshalb nicht möglich.
Gerade deshalb ist die scheinbar naive Frage berechtigt. Man hätte manchmal am liebsten nichts damit zu tun. Aber auch KI-Skeptiker merken inzwischen, dass sie sich den damit verbundenen Herausforderungen stellen müssen. Sonst laufen sie Gefahr, von der Entwicklung überrollt zu werden.
Was müssen IT-Anwälte heute zusätzlich können, um Mandanten in solchen Fällen sicher beraten zu können?
Jun: Ein spezialisierter Anwalt braucht selbstverständlich technische Kenntnisse. Vor allem muss er aber verstehen, wie Plattformen funktionieren und wie sie reagieren. Es reicht nicht, zu wissen, was ein Deepfake ist oder wie er hergestellt wurde. Entscheidend ist, die Mechanismen der digitalen Welt zu kennen: Wer reagiert worauf? Welcher Hebel funktioniert in welcher Situation? Das findet man meistens nur durch Erfahrung heraus.
Im klassischen Prozessrecht schreibt man einen Brief, setzt eine Frist und erhält im Idealfall eine Antwort von einer Gegenseite, die sich ebenfalls am Recht orientiert. Im IT-Recht haben wir es dagegen häufig mit internationalen Sachverhalten und Akteuren zu tun, die nicht immer rechtlich kalkulierbar reagieren. Deshalb muss man als Anwalt wissen, wann man nur hingehalten wird und wann es Zeit ist, vor Gericht zu gehen.
Manchmal muss man Mandanten dann auch sagen: Es bringt nichts, weiter mit automatisierten Systemen oder Bots zu korrespondieren. Wir verschwenden sonst nur Zeit und Geld. Die einzige Stelle, an der man sich am Ende wirklich auf Fristen und Konsequenzen verlassen kann, ist der Prozess. Genau dafür braucht es Gerichte: damit nicht endlos kommuniziert wird, sondern irgendwann eine Entscheidung ergeht.
Welche Fehlannahmen begegnen Ihnen bei Mandanten und Kollegen besonders häufig rund um KI?
Jun: Es gibt typische Fehler auf unterschiedlichen Ebenen. Bei Einsteigern ist die häufigste Fehlannahme, KI wie eine Suchmaschine zu behandeln oder ihr eine Art Allwissen zuzuschreiben. Dann werden sehr knappe Entscheidungsfragen gestellt: Ist es so oder so? Genau bei solchen Ja-Nein-Fragen scheitert KI oft. Die Antwort wirkt dann zwar plausibel, ist aber nicht belastbar oder im schlimmsten Fall schlicht geraten.
Bei fortgeschritteneren Nutzern liegt das Problem oft an anderer Stelle: Sie arbeiten intensiv mit KI und merken erst am Ende, dass sie mehr Zeit investiert haben, als sie eingespart haben. Das kann an der Auswahl des falschen Tools liegen oder daran, dass man zu spät erkennt, wann man abbrechen sollte. KI kann viel, aber eben nicht alles.
Woran erkennen Anwälte, ob sich der Einsatz von KI in einem konkreten Fall wirklich lohnt?
Jun: KI ist besonders dort hilfreich, wo ich den Output nicht vollständig übernehmen muss oder wo er ohnehin noch einmal menschlich geprüft wird. Ein gutes Beispiel sind Kritiksysteme: Eine KI liest einen Text und nennt zehn Punkte, die man verbessern könnte. Dann müssen nicht alle zehn Punkte richtig sein. Wenn drei davon tatsächlich hilfreich sind, hat die KI bereits Nutzen gestiftet. Sie hat den Text gelesen und mich vielleicht auf einen Widerspruch, eine Dopplung, ein stilistisches Problem oder einen sachlichen Fehler hingewiesen.
Anders ist es, wenn ich einen Text vollständig von KI schreiben lasse und es am Ende auf hohe Präzision ankommt. Das kann fatal sein. Natürlich gibt es Fälle, in denen KI auch bei der Formulierung helfen kann – etwa wenn es um Struktur, erste Argumentationsansätze oder weniger präzisionskritische Texte geht. Aber man kann nicht pauschal sagen: Bei gerichtlichen Schriftsätzen nie, bei anderen Texten immer. Entscheidend ist der konkrete Fall.
Die Grundformel lautet: Der Prüfaufwand muss niedriger sein als das, was ich durch den KI-Einsatz erspare. Wenn ich am Ende mehr Zeit für Kontrolle, Korrektur und Nacharbeit brauche, habe ich netto keinen Nutzen. Und genau das ist in manchen Konstellationen der Fall.
Geben Sie damit nicht den Skeptikern recht, die sagen: Warum soll ich mit KI arbeiten, wenn ich am Ende so viel prüfen muss?
Jun: Absolut, das Argument ist berechtigt. Man könnte auch fragen: Warum beschäftige ich Referendare oder junge Associates, wenn ich am Ende alles noch einmal überprüfen muss? Der Vergleich passt ganz gut. Eine KI bringt Zeit, Einsatzbereitschaft und Zugriff auf sehr viel Wissen mit. Was ihr fehlt, ist Erfahrungswissen. Genau wie ein junger Jurist braucht sie Anleitung, Orientierung und Zwischenkontrolle.
Wenn ich einem Junior Associate nur eine Frage hinwerfe, ohne weitere Orientierung, ohne Zwischenschritt und ohne Korrektur, bekomme ich auch keine besonders brauchbaren Ergebnisse. Bei KI ist das nicht anders. Dort, wo mir ein junger Jurist ohne Anleitung nicht hilft, wird mir wahrscheinlich auch KI nicht helfen. Trotzdem wäre es falsch zu sagen, KI helfe nie. Es gibt viele Konstellationen, in denen sie nützlich ist – wenn man bereit ist, sie richtig einzusetzen.
Gerade im IT-Recht erleben wir außerdem, dass Mandanten selbst KI nutzen und erwarten, dass wir Effizienzvorteile ebenfalls heben und weitergeben. Deshalb müssen wir genauer darüber nachdenken, wo KI sinnvoll eingesetzt werden kann. Einfach zu sagen, das gehe uns alles nichts an, wird auf Dauer nicht funktionieren.
Sie geben Ihre Erfahrung auch in Fortbildungen bei den Juristischen Fachseminaren weiter. Was möchten Sie Fachanwälten vermitteln, die fachlich vorgebildet sind, aber bei KI, Deepfakes und Plattformregulierung mehr Sicherheit für die Beratungspraxis brauchen?
Jun: Wir erleben momentan, dass der Kenntnisstand extrem unterschiedlich ist. Es gibt Kollegen, die zunächst Grundlagen brauchen und erst einmal Fachbegriffe eingeordnet haben möchten. Und es gibt diejenigen, die sich schon gut auskennen und sagen: Ich brauche Fachwissen dort, wo wirklich ein Mehrwert entsteht.
Gerade bei Deepfakes und Plattformdurchsetzung steht vieles nicht einfach im Kommentar oder in einer Datenbank. Da geht es um praktische Erfahrung: Welche Wege haben wir ausprobiert? Welche funktionieren? Welche kosten nur Zeit? In einem einzelnen Fall können strafrechtliche, zivilrechtliche und öffentlich-rechtliche Fragen zusammenkommen. Dazu kommen Polizei, Staatsanwaltschaft, Plattformbetreiber und Behörden, die jeweils unterschiedlich reagieren.
Mir geht es vor allem darum, nicht nur abstrakt zu erklären, welche Ansprüche bestehen, sondern zu zeigen, welcher Hebel in welcher Situation tatsächlich weiterführt.
Wenn Sie drei Jahre nach vorn blicken: Worauf müssen sich Fachanwälte im IT-Recht beim Thema KI am dringendsten vorbereiten?
Jun: Früher war IT-Recht vor allem eine fachliche Spezialisierung: IT-Verträge, urheberrechtliche Fragen, Lizenzverträge. Jetzt trifft uns KI auf mehreren Ebenen. Einerseits gibt es KI-Recht und Compliance-Fragen. Die sind wichtig, dominieren den Alltag aber nicht allein. Mindestens genauso entscheidend ist die Anwendung von KI in der anwaltlichen Arbeit.
IT-Anwälte müssen deshalb selbst mit KI umgehen können. Mandanten befassen sich bereits intensiv damit und erwarten, dass ihre Berater mindestens ebenso sicher damit umgehen. Dafür braucht es eine stabile Infrastruktur zur sicheren und effizienten Nutzung. Aber es geht nicht nur darum, einzelne Tools zu beherrschen oder gute Prompts zu schreiben. Entscheidend ist die Methodik: Wo macht KI Sinn, wo nicht? Wann entsteht ein echter Mehrwert, und wann produziert man nur zusätzlichen Prüfaufwand?
Unsere Mandanten werden zunehmend erwarten, dass wir KI einsetzen – und zwar so, dass wir bessere Ergebnisse erzielen als sie selbst mit denselben oder ähnlichen Tools. Einfach ist das nicht.
Wie wird KI aus Ihrer Sicht die anwaltliche Arbeit langfristig verändern und wo bleibt der Mehrwert anwaltlicher Beratung?
Jun: Auch langfristig wird es Anwälte geben, die Mandate ohne KI bearbeiten. Das wird in bestimmten Bereichen und bei bestimmten Mandatsstrukturen noch eine ganze Weile funktionieren. Gleichzeitig erleben wir aber eine Verschiebung: Einige, die KI sehr aktiv einsetzen, werden schneller arbeiten oder mit geringerem Aufwand Ergebnisse erzeugen. Das zwingt uns dazu, genauer darüber nachzudenken, was anwaltliche Qualität künftig ausmacht.
Nicht jede anwaltliche Arbeit hat denselben Qualitätsmaßstab. Es gibt Aufgaben, bei denen höchste Präzision unverzichtbar ist. Es gibt aber auch Aufgaben, bei denen Strukturierung, Geschwindigkeit oder die Fähigkeit, große Informationsmengen auszuwerten, stärker ins Gewicht fallen. Genau dort kann KI einen Unterschied machen – vorausgesetzt, Anwälte prüfen, steuern und verantworten das Ergebnis.
Der Mehrwert anwaltlicher Beratung wird deshalb nicht darin liegen, KI zu ignorieren. Er liegt darin, juristische Erfahrung, strategische Einordnung und Qualitätssicherung mit den Möglichkeiten von KI zu verbinden. Entscheidend wird sein, ob Anwälte KI so einsetzen, dass am Ende mehr herauskommt als bei Mandanten oder Nichtjuristen allein.
Vielen Dank, Chan-jo Jun. Das Gespräch macht deutlich: KI, Deepfakes und Plattformregulierung sind längst in der anwaltlichen Praxis angekommen. Wer solche Mandate bearbeitet, muss mehr im Blick haben als die passende Anspruchsgrundlage. Gefragt ist neben juristischer Einordnung vor allem praktische Orientierung: Welche Schritte sind eilbedürftig, welche Wege führen zur Löschung und wo muss rechtliche Unsicherheit transparent erklärt werden?
Gerade deshalb wird Fortbildung in diesem Bereich nicht nur zur Wissensvermittlung, sondern zur Orientierungshilfe in einer Beratungspraxis, in der Technik, Recht und Durchsetzung immer enger zusammenrücken.
