Deep Dive Bayreuth #2: Deepfakes in der Strafverfolgung

00:00:04:

00:00:13: Hallo und herzlich willkommen zu Deep Dive Bayreuth, der Podcast, der unter die Oberfläche der Universität bayreuth schaut.

00:00:21: Heute mit Jennifer Opel hier im Podcaststudium FZA und mir gegenüber sitzt ein junger Mann – so viel kann ich schon mal verraten – dessen Thema tatsächlich aktuell sehr viral geht!

00:00:33: Um was geht's heute eigentlich?

00:00:37: Heute geht es um Deepfakes oder spezieller, um das Projekt an der Universität Bayreutz namens FOG for the Greater Goods.

00:00:44: Deepfake sind eine Strafverfolgung.

00:00:46: Was wir uns anschauen ist wie man deepfakes auf ne ganz andere Weise verwenden kann als wie es momentan in der öffentlichen Diskussion ist.

00:00:54: Nämlich Wie man deep fakes verwenden können um Straf Verfolgungen zu erleichtern also um den Ermittlern einer weiterer Mittlungsmaßnahme an die Hand zu geben die sie einsetzen können im Bereich der Strafverfolgung.

00:01:04: Okay, also quasi nicht um die Straftaten zu begehen sondern die andere Seite davon?

00:01:09: Ganz genau!

00:01:10: Spannend und stell dich doch mal bitte kurz vor wer sitzt mir eigentlich heute gegenüber?

00:01:14: Ich bin der Lorenz Meinen.

00:01:16: ich habe in Bayreuth Jura studiert hab jetzt danach angefangen in bayreuth am Lehrstuhl strafrecht zwei von Professor Christian Röcker zu arbeiten.

00:01:25: ich bin angestellt im Rahmen dieses Projektes.

00:01:27: das ist ganzes ein Projekt dass zwischen drei Lehrstühlen besteht Einmal unserem Strafrechtslehrstuhl, einmal dem Leerstuhl für Philosophie von Professorin Lena Kestner und einmal dem Lehrstuhltür Wirtschaftsinformatik von Prof.

00:01:41: Niklas Kühl.

00:01:42: Ist es dann ein Projekt das ihr selbstständig als interdisziplinare Maßnahme ins Leben gerufen habt oder habt ihr dafür Drittmittel bekommen?

00:01:50: Wir haben dafür Drittel einwerben können vom Bayerischen Institut für digitale Transformationen, den BIDT Und das Ganze findet dann noch statt mit einer spezialisierten Staatsanwaltschaft, der ZAK NRW.

00:02:02: Das steht für Zentral- und Ansprechstelle Cybercrime.

00:02:06: Und es ist eine Staatsanwaltschaft die sich spezialisiert hat auf alles was mit Cybercrimes zu tun hat und allen Ermittlungsmaßnahmen die damit auch einhergehen.

00:02:15: Das heißt für die Leyen unter uns ihr arbeitet da jetzt mit der Staatsanwirtschaft zusammen um noch effektiver Strafverfolgung zu ermöglichen.

00:02:25: Im Prinzip, ja.

00:02:25: Wir arbeiten mit der Staatsanwaltschaft zusammen damit wir gute praktische Einblicke bekommen und auch am Ende ein Produkt schaffen können also eine Lösung schaffen können die tatsächlich auf praktische Bedürfnisse optimiert ist.

00:02:40: und das ist nicht etwas... Wir haben eine Idee, die wir ganz toll finden.

00:02:43: aber wenn die Staatsanwalt schafft, die zu sehen kriegt, denkt sie sich was sollen wir denn damit machen?

00:02:49: Und seid ihr jetzt gerade ganz im Anfang dieser Forschung oder seid ihr schon bisschen fortgeschritten?

00:02:54: Wir haben im April des letzten Jahres begonnen, das heißt wir sind jetzt bei einem Jahr und das Ganze ist ausgelegt auf drei Jahre.

00:03:01: Also wir sind genau bei einem Drittel.

00:03:04: Man kann also ganz gut sagen wie es denn so angelaufen ist.

00:03:08: Jetzt sind Deepfakes ja aktuell noch mehr in aller Munde als es sonst schon war?

00:03:13: Kannst du vielleicht kurz erklären was ein Deepfake ist und was das von der normalen Fälschung unterscheidet?

00:03:20: Das ist tatsächlich eine sehr interessante Frage.

00:03:22: Also da streiten sich die Geister sehr, was genau alles ein Deepfake isst.

00:03:26: aber von der normalen Fälschung kann man einfach schon sagen und lässt sich unterscheiden durch diesen Namensbestandteil deep.

00:03:32: das spricht für deep learning also es soll.

00:03:35: Es ist eine Fälzung die mit generativer künstlicher Intelligenz geschaffen wurde Und was alles unter den Deepfakes Begriff zu fassen ist.

00:03:44: ansonsten da streiten sich Philosophen untereinander, da streitten sich Juristen untereinander und es kommt auch immer auf die Debatte an um dies geht.

00:03:55: Wenn man sich jetzt zum Beispiel diese Debatte rund um sexualisierte Deepfakes anschaut, dann geht das nicht so sehr darum dass es wieder die Wirklichkeit erscheint.

00:04:05: wenn wir uns aber Deepfake in einem Kontext von Wahlen anschauen geht's viel mehr um dieses Täuschungselemente.

00:04:11: Das heißt, je nachdem von welchem Blickwinkel man sich anschaut wird der Begriff auch nochmal verschieden verwendet.

00:04:17: Man kann leider keine wirklich eindeutige Antwort geben.

00:04:21: Aber Wissenschaft muss ja nicht immer eine eindeute Antwort geben!

00:04:23: Jetzt schaut ihr es aus drei verschiedenen Perspektiven oder zumindest von drei Lehrstühlen in eurem Projekt an?

00:04:30: Wie geht man denn da zusammen an so ein Thema ran wenn man doch verschiedene Einblicke hat?

00:04:34: Also arbeitet ihr viel zusammen oder ist das jeder für sich und am Schluss wird's zusammengeführt?

00:04:40: Beides, würde ich sagen.

00:04:41: Also wir schreiben durchaus auch Paper zusammen oder was heißt durchaus?

00:04:45: Bisher die meisten Paper, die wir haben, schreiben wir zusammen einfach weil die Perspektiven sich sehr gut ergänzen und häufig wird eben ein Problem in der juristischen Bubble auf jeden Fall nur aus einem Blickwinkel betrachtet und man blendet andere Disziplinen oft ein wenig aus und dadurch ist es sehr hilfreich wenn wir gerade die Techniker oder die Philosophen da haben.

00:05:05: Die Techniker können mir mal schnell erklären A, genau das ist das technische Problem und so genau funktioniert es.

00:05:12: Und die Philosophen haben oft noch eine sehr tiefere Verständnis dafür wie Dinge eben richtig zu geschehen haben oder was man alles beachten muss.

00:05:22: wenn wir zum Beispiel uns überlegen was strafbar sein sollte?

00:05:25: Was sind denn diese wirklich strafwürdigen Einsatzbereiche?

00:05:31: Wenn ihr das jetzt gemeinsam dann anschaut du bist ja aus dem rechtswissenschaftlichen Bereich Kernarbeit wird der ganzen Geschichte.

00:05:40: Meine Kernarbeit ist für das Projekt im engeren Sinne, was ich gerade beschrieben habe, dass wir uns überlegen ob man Deepfakes für Ermittlungsmaßnahmen legalisieren kann und wenn ja wie?

00:05:54: Und am Ende soll dabei ein Regulierungsvorschlag rauskommen also dass wir einen Gesetz haben, dass sie uns überlegt wie ein Gesetz sinnvollerweise lauten müsste, dass das Ganze erlaubt und dass man da Sicherheitsmechanismen einbaut, gefährdet wird, denn nicht gefährdet werden darf und solche Dinge.

00:06:11: Du hast jetzt vorher gesagt ja wie man den Deepfakes nutzen kann um Strafverfolgung zu vereinfachen.

00:06:16: wenn man sich Deepfake vorstellt denkt man häufig an Videos im Internet bei denen keine Ahnung jemand anderes ein anderer Kopf auf eine Person gesetzt wird und man denkt dann auf einmal die erzählt war es was gar nicht diese Person erzählt hat?

00:06:29: in der Straf Verfolgung werdet ihr das nicht so nutzen?

00:06:31: Wie kann man den deepfakes in der Straferfolgung sich vorstellen?

00:06:35: Die Fakes in der Strafverfolgung kann man sich ein bisschen vorstellen, wenn man einen Phänomen denkt das ich CEO fraud nennt.

00:06:42: Da nehmen Kriminelle die fakes und tun so als seien sie eine der Chef einer anderen Person in einem Unternehmen Und versuchen dann diese Personen dazu veran zu Veranlassen Zahlungen auf ein bestimmtes Konto vorzunehmen.

00:06:57: also man täuscht über die Identität um etwas Bestimmtes zu erreichen und die Idee müssten ja nicht nur unbedingt kriminelle einsetzen die idee kann man ja auch umdrehen.

00:07:07: Man kann den spiel in der hinsicht ziemlich gut um drehen indem man bestehende Kriminellen, von denen man weiß dass sie in ein bestimmtes netzwerk in der organisierten kriminalität eingebunden sind Indem man deren identitäten fälscht.

00:07:20: das kann man über video anrufe oder über normale Anrufe am besten machen.

00:07:25: so ist die bisherige Überlegung und Der vorteil davon ist dass man relativ schnell sehr relevante Informationen kommen kann.

00:07:35: Ich hake kurz ein, da ist es quasi so die Polizei verfolgt jemanden einen Menschenhändlerring und weiß genau die wollen da was machen aber sie brauchen noch den Beweis dafür.

00:07:45: und dann ist die Frage dann ob man so ein Deepfake benutzen kann um die zum Reden zu bringen?

00:07:51: Genau so im Prinzip in unserem Beispiel.

00:07:53: wir tun jetzt einfach mal als würde dieser Ring aus zwei Personen bestehen.

00:07:57: Dann tun wir so, als wären wie eine.

00:07:59: dieser beiden Personen rufen bei der anderen Person an und fragen hey heute Abend.

00:08:04: Wo ist es denn nochmal genau?

00:08:05: Und dann versucht man dadurch eben ganz vereinfachtes Beispiel Informationen zu gewinnen dass man dann An bestimmten Orten Die personen aufgreifen kann oder Beweismittel dort antreffen kann.

00:08:16: okay also das ist tatsächlich die Ganz andere Vorstellung als das was man sich vielleicht Als normaler internetnutzer unter deepfakes vorstellt weil ich denke mittlerweile haben wir ja Alle in irgendeiner Art und Weise ist schon mal was gesehen, wo wir dachten, das muss doch KI generiert sein.

00:08:30: Und das spricht natürlich wieder dafür wie weit dieser Deep Fake Begriff ist und dass es keine eine einheitliche Definition gibt, sondern dass man sich immer anschauen muss, in welchem Kontext man denn gerade sich befindet?

00:08:43: Was bringt das?

00:08:45: Die Forschung bringt der Gesellschaft im ersten Moment eine effektivere Strafverfolgung.

00:08:51: nach Möglichkeiten.

00:08:54: Perspektiv ist das Ganze sehr sinnvoll, wenn man diese, wir nennen es immer Klone, einsetzt im Verhältnis zu den bekannten oder schon lange eingesetzten verdeckten Ermittlern.

00:09:06: Denn verdeckte Ermittler gehen ein sehr großes Risiko ein, weil eben wenn rauskommt dass die verdeckterer Mittler sind haben sie üblicherweise mit ziemlichem Gefahren für sich zu rechnen.

00:09:17: Weil das ganze so gefährlich ist muss das ganze sehr vorsichtig und langwierig gemacht werden, was heißt es ist auch unfassbar teuer.

00:09:25: und die Erfolgsquote.

00:09:27: Es gibt keine Statistik dazu man weiß nicht.

00:09:29: aber natürlich funktioniert das Ganze auch nicht immer und dadurch kann man deutlich schneller kostengünstiger und mit weniger Gefahren für die beteiligten Personen an relevante Informationen kommen.

00:09:41: Was ist denn jetzt konkretet sie dass ihr dann verfolgt?

00:09:44: Wenn die Strafverfolgung bestimmte Maßnahmen gegen Verdächtige treffen möchte, dann braucht In aller Regel ein Gesetz, das sagt sie darf dieses und jenes tun.

00:09:55: Das ist Ausfluss des Rechtsstaatsprinzips.

00:09:59: Und für Deepfakes ganz neues Phänomen gibt es so einen Gesetz noch nicht.

00:10:03: Das is weil Gesetzgebung länger dauert.

00:10:06: die muss gut durchdacht werden.

00:10:07: Es ist oftmals langwieriger Prozess.

00:10:10: Und das heißt momentan dürfen Deepfake oder Deepfaklone nicht eingesetzt werden von den Strafverfolgungsbehörden?

00:10:16: Die Idee Zum einen aus der juristischen Perspektive eben ein Gesetz zu schaffen, dass das Ganze ermöglicht.

00:10:24: Oder es kann auch sein, dass wir zum Ergebnis kommen, dass es nicht möglich ist weil bestimmte Grundrechtspositionen das Ganze einfach nicht erlauben.

00:10:33: und auf der technischen Seite ist die Idee noch, dass Wir am Ende einen Demonstrator haben.

00:10:40: Das ist technisch funktioniert Dass wir zeigen können, dass wäre die Idee Und so können wir das ganze umsetzen Genau.

00:10:49: Und wenn vom Lehrstuhl Kestner kommt dann quasi der philosophische Aspekt dazu?

00:10:54: Genau, viele Fragen mit denen sich die Philosophie in dem Bereich beschäftigt sind sehr ähnlich der juristischen.

00:11:00: wenigstens ist es mein bisheriges Verständnis.

00:11:02: aber sie haben da noch die Möglichkeit das ganze deutlich ich nenn's mal freier zu anzugehen weil Juristen haben eine sehr genaue Vorgehensweise.

00:11:11: wir sind an bestimmte Systeme gebunden und wir dürfen uns nur innerhalb von diesen Prinzipien bewegen.

00:11:17: Und dadurch kommen auf philosophischer Seite noch ganz oft Aspekte dazu, auf die wir gar nicht gekommen wären als Juristen.

00:11:24: Aber die trotzdem super relevant sind.

00:11:27: Ach und das ist spannend?

00:11:30: Ich bin tatsächlich in dieses Projekt... vor allem ins Strafrecht nur gerutscht weil ich dieses Projekt so interessant fand!

00:11:37: Ich dachte eigentlich nicht dass ich ein Doktor im Strafrechts machen würde aber ich fand dieses Projekt super spannend und dann habe ich gesagt das möchte ich gerne machen.

00:11:45: Mich interessieren die Klone schon sehr, aber ich war jetzt nur auf den Kernbereich unseres Projekts fokussiert.

00:11:52: Aber es gibt noch so Randbereiche und die Klonen finde ich super spannend!

00:11:56: Ich bin der Meinung dass man damit ziemlich viel Gutes tun könnte wenn man sinnvoll umsetzt... ...aber was mich persönlich noch mehr interessiert hat weshalb ich dieses Projekt an sich so toll finde sind andere Fragen die Deepfakes noch aufwerfen.

00:12:12: werden unsere Gerichte in Beweisfragen vor ganz erhebliche Probleme in naher Zukunft stellen.

00:12:18: Das ist eine Frage, die an der Schnittstelle zwischen Philosophie und Jura weil was es Wahrheit ist ne sehr philosophische Frage.

00:12:26: aber wie funktioniert das Ganze dann umzusetzen?

00:12:29: In einem gerichtlichen Prozess ist ne juristische Frage.

00:12:32: Und das ist zum Beispiel dass war mit ich mich in meiner Dissertation beschäftige.

00:12:37: und das sind vielleicht noch mehr die Fragen die mich zu dem Projekt.

00:12:43: in deiner Dissertation machst du einen dieser Seitenstränge des Forschungsprojekts.

00:12:48: Wie kann ich mir dann vorstellen, dass es da ein Problem gibt die Beweismittel zu verwenden?

00:12:54: Das Problem ist multimediale Beweasmittel also Audioaufnahmen Bilder Videos sind ganz ganz starke Beweistmittel.

00:13:06: Also wenn eine Tat die Tatbegehung auf einem Video festgehalten ist sehr eindeutig, dass die Person das auch war.

00:13:15: Außer es ist gefaked?

00:13:16: Außer sie ist gefake, genau!

00:13:17: Bislang sollte ich deshalb eher sagen, bislang war klar, daß die Person die Tat tatsächlich begangen hat.

00:13:23: Wenn wir jetzt aber nicht mehr wissen ob das Ganze echt ist oder ob das ganze gefälscht ist fällt ein ganz wichtiger Punkt der Wahrheitsermittlung weg und auf diese Wahrheitsermittlung ist man dem Strafprozess angewiesen, da man natürlich niemand Unschuldigen ins Gefängnis stecken darf.

00:13:40: Ganz salopp gesprochen

00:13:42: Okay, das heißt es geht dann auch darum dass man irgendwie sicherstellen muss dass in der Strafverfolgung keine falschen Beweismittel verwendet werden.

00:13:51: Genau und das ist momentan noch eine Frage die kann man wohl ganz gut beantworten weil es verschiedene Methoden gibt Diebwegs zu erkennen auf technischem Wege.

00:14:02: aber die Prognosen sprechen eher dafür dass wir da in der Zukunft wie nah die Zukunft ist, streitet man sich.

00:14:09: Aber die Prognosen sprechen wohl eher dafür, dass wir nicht mehr sicher sein können, ob wir fakes als solche erkennen können.

00:14:16: und wenn es dann nicht mehr möglich ist technisch zu verifizieren, ob ein Beweismittel echt ist?

00:14:22: Dann haben wir ein echtes Problem!

00:14:23: Dann haben keine Beweismittel mehr.

00:14:26: Das ist so eine Frage, das ist noch nicht ganz klar, wie man damit umzugehen hat.

00:14:33: Es ist ein denkbarer Weg nicht keinen Beweismittel mehr haben, sondern keine das Bilder-Videos und Audioaufnahmen keinen Beweiswert mehr haben.

00:14:43: Also dass sie dann ähnlich sind wie Zeugenaussagen wo man sagen kann, wer weiß ob dir das Kind sich richtig erinnert an diesen Vorgang?

00:14:50: So im Prinzip ist es ein guter Vergleich den man ziehen könnte.

00:14:54: Es ist ein Drittel der Zeit vorbei in eurem Projekt.

00:14:56: Du denkst du seid ihr gut vorangekommen?

00:14:59: Wo sind denn die Punkte wo's hakt?

00:15:02: Ich würde sagen wir sind bisher sehr gut vorangekommen.

00:15:05: Mit den Klonen haben wir schon einige Fortschritte erzielt, dass wir uns genauer angeschaut haben.

00:15:11: was sind die Voraussetzungen um das technisch zu ermöglichen?

00:15:14: Die Technische Seite arbeitet gerade an einem Demonstrator.

00:15:17: da soll eine allererste Version im Sommer fertig sein, dass man sich die mal näher anschauen kann und präsentieren kann.

00:15:25: Und auf der juristischen Seite Bei den Klonen haben wir auch schon erste Fortschritte erzielt, aber unser Fokus war bisher eine Frage die noch deutlich mehr eben in der öffentlichen Debatte gerade von Staaten geht.

00:15:40: Nämlich die Strafbarkeit von Deepfakes also speziell von sexualisierten Deepfake.

00:15:43: was ist da bisher strafbar?

00:15:45: Was sollte strafba sein?

00:15:47: wie könnte so ne Strafbarkeit aussehen?

00:15:49: Da haben wir bisher unsere Hauptarbeit

00:15:52: und das ist natürlich auch etwas was zur normalen Internetnutzer beschäftigt oder auch gerade eine Frau vielleicht, gibt es da denn eine realistische Prognose?

00:16:03: Wie lange dauert das dann bis so ein Gesetz auf den Weg gebracht wird und dann auch verabschiedet ist und angewandt wird.

00:16:09: Das kann man nicht pauschal beantworten würde ich sagen.

00:16:13: aber am siebzehnten vierten hat das Bundesjustizministerium einen Entwurf gerade zu diesen Strafbarkeiten rausgebracht.

00:16:22: also man kann's nicht sagen manchmal geht sehr schnell.

00:16:26: Ob's vor der Sommerpause noch was passiert, kann man aber nicht so genau sagen würde ich sagen.

00:16:31: Wobei es dann ja schon absehbar ist also für den Gesetzgebungsprozess in der Sitz drei vier Monate sind zwischen April und Sommerpause das ist eigentlich gar nicht so schlecht.

00:16:40: als letzte Frage vielleicht noch ein kleiner Ausblick.

00:16:43: du hast jetzt schon einen interdisziplinäres Projekt am Start.

00:16:46: Aber gibt's vielleicht noch irgendeinen Fachbereich hier bei unserem Campus wo du sagst deren Perspektive wäre eigentlich auch noch ganz spannend.

00:16:53: auf unser Projekt oder grundsätzlich Den würde ich vielleicht für ein künftiges Projekt mal gerne zusammenarbeiten.

00:16:59: Also an sich würde ich sagen, wir sind ziemlich gut aufgestellt.

00:17:02: dadurch dass wir eben unsere drei Lehrschüler haben plus noch die Staatsanwaltschaft kommen da sehr viele Perspektiven zusammen.

00:17:10: was ich vielleicht noch interessant finde wäre in manchen Teilaspekten eine psychologische Komponente als weitere Perspektive.

00:17:20: das wäre zum Beispiel einmal im Bereich der sexualisierten Diebfakes, die Folgen für die Betroffenen.

00:17:28: Aber auch zum Beispiel wenn es um DiebFakes und Wahlen oder Wahlmanipulation geht ist es super spannend wie Menschen denn ihre Wahle Entscheidung treffen.

00:17:38: als Beispiel?

00:17:38: Wie was genau das Problem dann damit Dieb Fakes sein könnte und solche Dinge wären noch spannend.

00:17:45: Und also eine psychologische Einordnung des ganzen Themas.

00:17:50: Ich glaube, das wird uns schon noch alles ein bisschen länger beschäftigen.

00:17:54: Gerade die Fakes auf sämtlichen Ebenen werden wir nicht drum herumkommen.

00:17:59: KI ist ein Thema, das uns auch künftig beschäftigen wird.

00:18:02: Vielen Dank, dass du die Zeit genommen hast, einen Einblick zu geben in die Arbeit hier an der Uni Bayreuth zu diesem Bereich.

00:18:09: Vielen Dank, dass ich hier sein durfte und das ein bisschen was über unser Projekt erzählen

00:18:35: durfte.