A. Pasternak:   Dann könnte man sogar so weit gehen: Ich habe ja gerade schon erwähnt, dass wir verschiedene Ebenen oder Zeiten hatten: Also damals in den 80-er Jahren Büro, Robotik. In den 90-er Jahren die Programmiersprachen der vierten Generationen, als es um wissenbasierte Datenbanken und Expertensystemen ging. Da hieß es auch: Das wir in der Schule mal programmieren, ist gar nicht mehr wichtig. Dann in 2000-er Jahren waren Netze die Fragestellung. Wie technisch Netze funktionieren, fragt schon keiner mehr, weil die selbstverständlich geworden sind. Dann haben wir auch die Medien im Internet gehabt: Fake News. Und jetzt haben wir auf einmal KI und alles. Wenn eine neue Ebene da ist, eine neue Geschichte da ist, haben die Leute das andere, was sie zehn Jahre zuvor so wichtig erachtet haben, schon als normal empfunden.

Also da stellt sich mir die Frage, ist dieser Hype, den wir um die KI haben in 10, 15 Jahren nicht schon vorbei? Das die Leute das inzwischen so verinnerlicht haben, dass wir solche Programme, wie - ich nenn nicht ChatGPT - , wie Perplexity - um auch mal ein anderes System dazu zu nennen - benutzen und sich keine Gedanken machen. Und das, was ich als Problembewusstsein habe, ist schon durch die Gesellschaft und Strukturen vermittelt, dass das Thema schon, ich sag mal, durch ist in 10, 15 Jahren.

J. Magenheim:   Also das war immer so ein Diskurs auch zur Begründung von Informatik. Das wir immer der technischen Entwicklung hinterher hecheln und auch gar nicht in der Lage sind, die immer in beherrschbarem Umfang so reduziert in didaktischer Reduktion in die Schulen zu bringen. Das ist eigentlich ein Grundproblem, was wir jetzt auch noch haben, das hat sich ja nicht verändert. Da muss ich natürlich an Andreas Schwill und die 'fundamentalen Ideen' und die Kriterien, die er da aus der Mathematik übertragen hat mit gewissen Einschränkungen erinnern und auch an die Systeme und die Didaktik der Bildung mit dem bildungstheoretischen Anspruch.

Warum machen wir das? Was hat das für eine Zukunftsbedeutung für die Schüler? Welche Erkenntnis bringt das für die Gegenwart? Wie können wir das epochal typische Schüsselproblem - zum Beispiel KI - für die Schüler bewältigbar machen? Und da bin ich jetzt wirklich wieder, gehe ich mal zurück und sage 'Keep it simple', wenn ich den Schülern deutlich machen kann, dass wenn ich ein System entwickle, gestalte und Designentscheidungen treffe, dann ist da schon die gesellschaftliche Entwicklung mitentwickelt worden. Dann, wenn ich das verstanden habe, dann bin ich auch in der Lage kritisch mit jeder anderen Art von digitalen Artefakten umzugehen. Auch wenn ich sie nicht mehr verstehe.

Also jetzt machen wir mal 'Deep Fake'. Ich habe jetzt meiner Frau ein wunderschönes Geburtstagslied auf italienisch gesungen. Ja, ich habe es ja doch auf Deutsch gemacht und nicht mal richtig gesungen, sondern gut angedeutet. Und dann hat also ein Deep-Fake-Programm meine Lippen synchron bewegt und hat dazu eine wunderschöne italienische Melodie übertragen mit meiner Stimme.

A. Pasternak:   Aber du hast kein Wort verstanden?

J. Magenheim:   Ich habe kein Wort verstanden. Also punktuell schon, weil durch Latein und Französisch gibt es so ein bisschen Berührungspunkte. Okay, das ist ein Informatiksystem, was Dinge macht, wo man Realität und Fiktion nicht mehr richtig unterscheiden kann. Aber das ist ein Designentwurf von den Leuten, die das gemacht haben. Und dann kann man natürlich an so ein System auch Fragen stellen, auch wenn man nicht mehr weiß, wie jetzt zum Beispiel die einzelnen Grafiken dargestellt werden.

Da muss ich jetzt nicht runtergehen, muss über Bildkompressionen reden, zum Beispiel: Was ist ein 'jpeg' oder was auch immer was, oder wie werden die dargestellt? So, ja, Hufman-Algorithmus, das steckt alles dahinter und ganz komplex. Da steckt KI dahinter. Da werden praktisch Wahrscheinlichkeiten von Mustern berechnet, wiederum, die in eine Lippenbewegung umgesetzt werden.

Aber wenn ich zum Beispiel verstehe, wie ein Bild aufgebaut wird, wie ich so einen Algorithmus mache, wie ich ein Bild verändern kann, und dass ich das dann mit einer Wahrscheinlichkeit auch noch weiter fortführen kann: Also, wenn der Himmel in der Stelle blau ist, dann gibt es eine Wahrscheinlichkeit, dass da entweder eine weiße Wolke kommt oder es ist doch noch blau.

Wenn ich das auf der ganz elementaren Ebene verstanden habe, dann kann ich mir vorstellen, dass ich ungefähr weiß, was die da vielleicht auch gemacht haben. Und dass ich auch sehr kritisch bin. Dass ich vor allem mit einer kritischen Haltung an so ein Produkt gehe und mich dann frage, okay, ist das schon so gut gemacht, dass das überhaupt nicht mehr vertrauenswürdig ist? Also, ich denke mal, wir können uns abschminken, dass wir zum Beispiel so ein Deep-Fake-Video, wie ich das gerade geschildert habe, dekonstruieren. Das kannst du vergessen. Selbst wenn wir den Sourcecode hätten, wäre das absolut nicht möglich. Das wäre vielleicht für eine Software-Company möglich, die das verbessern will, also Reengineering im fachwissenschaftlichen Sinne. Auf der Schulebene ist das ausgeschlossen.

Aber was du machen kannst, du kannst zum Beispiel überlegen, wie wird so ein Video gestaltet? Was heißt eigentlich Impact? Was heißt Kompression? Was heißt verlustfreie Kompression? Und wie entstehen Bilder? Und wenn ich jetzt aber ein Bild verändern will, was kann ich da jetzt tun, um möglicherweise mit einer gewissen Wahrscheinlichkeit das Bild realistisch erscheinen zu lassen, ohne dass es aber so war. Also, wie kann ich praktisch faken. Auf der Ebene kann ich das machen.

Oder ich kann ja mit Steganografie - sagt Dir ja auch was - wie ich da Bits verändern kann, also ganze Geheimbotschaften reinbauen, ohne dass man das merkt. Also, das sind so Sachen, die kann ich mit Schülern machen. Und ich muss dann die Hoffnung haben, dass sie in der Lage sind, dieses Wissen, dass sie da erworben, haben in kritische Haltung transferieren, dass sie gegenüber solchen Produkten dann entsprechende kritische Fragen stellen. Und wenn sie selbst die Tools anwenden - wie ich das ja gemacht habe - dann auch natürlich sich bewusst sind, was man damit noch alles Schlimmes anwenden, erzeugen kann, wenn man sich im Sinne auf Mobbing zum Beispiel einlässt.

A. Pasternak:   Was Steganografie angeht, ist das sehr einfach. Ich habe mal aus einem JPEG-Bild einfach ein paar Bits rausgeschmissen, meinen Text reingepackt und festgestellt: Wenn ich das abspreche mit jemandem anders, können wir das hier machen in der Klasse, das kriegt keiner mit. Keine Chance, null.