11KM: der tagesschau-Podcast: KI: Zwischen Abi und Apokalypse

Durchs Abi fallen. Alle Prüfungen nochmal schreiben. Dann aber mit Bravour bestehen.

Der künstlichen Intelligenz Chat GPT ist das gelungen.

Vor wenigen Monaten noch ist die KI Chat GPT bei einem großen Versuch durchs bayerische Abitur gefallen.

Jetzt hat sie bei einem zweiten Anlauf plötzlich viel besser abgeschnitten.

Und die korrigierenden Lehrer haben ganz schön geguckt.

Und ich finde ehrlich gesagt diese Entwicklung fast schon ein bisschen beängstigend.

Wie hat sich Chat GPT so schnell weiterentwickeln können?

Ist das jetzt Grund zur Euphorie oder zur Sorge?

Und was sagt das über das Entwicklungstempo von KI ganz allgemein und über unsere Zukunft?

Das erfahrt ihr in dieser FKM-Folge mit dem BR-Journalisten und Netzexperten Christian Schiffer.

Der hat zusammen mit dem BR AI & Automation Lab die künstliche Intelligenz nochmal auf die Probe gestellt.

Und deswegen sitzt er zum zweiten Mal bei mir im Studio.

Ihr hört FKM der Tagesschau Podcast. Ein Thema in aller Tiefe.

In der ARD Audiothek und da wo ihr sonst noch Podcasts hört.

Mein Name ist Victoria Michalsack und heute ist Dienstag, der 6. Juni.

Hallo Christian.

Hallo, Victoria.

Ich habe nochmal in unsere letzte Folge reingehört zu Chat GPT, bei der du zu Gast warst,

um mir mal nochmal eine Erinnerung zu rufen, wie Chat GPT da abgeschnitten hat, notenmäßig.

Anmerkung an der Stelle kann ich euch auch empfehlen, wenn ihr erstmal verstehen wollt,

wie die künstliche Intelligenz Chat GPT funktioniert

und wie sie von paar Monaten beim Bayerischen Abi abgeschnitten hat.

Hört auch nochmal rein.

Wir verlinken euch die Folge auf jeden Fall nochmal in den Show Notes.

Alle, die nur die Kurzfassung hören wollen, hier kommen sie.

Bei den Abi-Aufgaben vom letzten Jahr hat sich die künstliche Intelligenz Chat GPT wie folgend geschlagen.

Geschichte, 3 plus, überraschend gut. Informatik, Katastrophal, nur 2 Punkte.

Mathe, auch schlecht, 4 Punkte. Und Deutsch 3 Punkte. Also Abi nicht geschafft.

Was ist passiert? Christian, es ist was passiert, sonst wärst du nicht wieder hier bei mir im Studio.

Was habt ihr diesmal gemacht?

Wir haben diesmal genau das Gleiche gemacht, wie beim letzten Mal.

Und ich wurde in den letzten Wochen oft gefragt, warum macht ihr denn jetzt einfach das gleiche Experiment nochmal?

Also mit genau den gleichen Fächern, mit teilweise genau den gleichen Lehrern.

Also wir haben ja echte Lehrer aus Fleisch und Blut die Ergebnisse korrigieren lassen.

Und die Antwort darauf ist ganz einfach, nämlich der Schüler hat sich quasi weiterentwickelt.

Der Schüler ist Chat GPT.

Der Schüler ist Chat GPT.

Als wir dieses Experiment im Februar gemacht haben, da war das Modell auf dem Chat GPT basiert GPT 3.5.

Mittlerweile gibt es aber ein neues Sprachmodell, nämlich GPT 4.0.

Und GPT 4.0 soll sehr viel besser sein als GPT 3.5.

Warum denn eigentlich genau?

Ist das jetzt, weil es einfach nur mehr Daten aus dem Internet bekommen hat oder noch mehr?

Also angeblich tut es gar nicht so viel mehr Daten aus dem Internet bekommen.

Aber es hat sehr viel mehr Parameter.

Und ich habe dann Chat GPT gefragt, was denn mit Parametern gemeint ist.

Und Chat GPT hat mir dann eine Antwort gegeben, der habe ich nicht verstanden.

Dann habe ich Chat GPT nochmal gefragt, ob das wir nochmal so erklären kann, wie für einen 12-Jährigen.

Und dann hat Chat GPT folgendes Bild benutzt, hat gesagt, stell dir eine Fußballmannschaft vor.

Der Algorithmus ist der Trainer, die neuronalen Netze sind die Spieler.

Und die Fähigkeiten dieser Spieler, das sind die Parameter.

Das heißt, sozusagen Chat GPT hat jetzt eben mehr Parameter.

Und das heißt, in diesen kleinen neuronalen Netzen, die sozusagen sind noch fein zieselierter.

Und das führt eben dazu, dass diese Version jetzt eben nochmal sehr viel mehr Varianten quasi hat

und nochmal sehr viel präziser eben auf so Eingaben für KIS reagieren kann.

Und sind also die gleichen Fächer? Mathe, Deutsch, Geschichte und Informatik?

Und Ethik.

Habt ihr noch dazu genommen?

Ja, das war auch beim letzten Mal schon dabei.

Aber da hat der Lehrer die Korrektur zu spät abgegeben.

Deswegen haben wir bei FKM nicht drüber gesprochen.

Aber ich kann auch dazu sagen, nachreichen, das war damals eine 4-.

Ah ja, okay, dann wissen wir das auch.

Chat GPT war also quasi nachsitzen oder hat Nachhilfe bekommen.

Und jetzt ist die Frage, wie viel besser war es.

Und ich weiß es tatsächlich noch nicht.

Und ich darf jetzt raten, in welchem Fach es besser geworden ist.

Und meine Vermutung wäre, am meisten Potenzial gab es ja bei den Fächern Mathe und Informatik.

Da hat es besonders schlecht abgeschnitten.

Und beim letzten Mal war das so, dass Chat GPT da nicht so gut war,

weil es oft anscheinend auch am Thema oder der Aufgabe vorbei geantwortet hat.

Also es hat vielleicht Zahlen, Kolonnen oder Programmiersprachen,

Sätze vollständig, wie das oft passiert, aber nicht passend zur Aufgabe.

Und jetzt wäre meine Vermutung, dass es das vielleicht besser gemacht hat.

Sehr gut.

Ja?

Sehr gut.

Toll ich recht?

Nein, wie cool.

Tatsächlich.

Also, bei Mathe hatten wir beim letzten Mal eine 4- oder 5- Plus.

Warte, warte, 4 Punkte, eine 4-.

Okay.

Und dieses Mal meinte der Lehrer, der das korrigiert hat, ja, also die Aufgaben,

die sind ja jetzt viel besser bearbeitet worden und dachte quasi,

wir hätten das irgendwie manipuliert.

Aber das war tatsächlich einfach die Antwort von Chat GPT.

Und Chat GPT hätte eine 2- bekommen in Mathe.

Also viel, viel besser.

Wow!

Von einer 4- auf eine 2-.

Also in ganz wenigen Monaten.

Also nur in paar Monaten.

Also, das hätte ich mir als Schüler auch geträumt,

dass ich mich in so kurzer Zeit so stark verbessere.

Ja.

Und bei Informatik, das hat derselbe Lehrer korrigiert wie beim letzten Mal.

Jawohl.

Also, mein Name ist Hermann Kees.

Ich bin Informatik-Lehrer am Josef-Mandat-Gymnasium in Türkeim.

Und Hermann Kees war vollkommen weg von den Socken.

Dann schauen wir uns diese Aufgaben doch nochmal an.

Und ich kenne die ja auch noch nicht.

Deswegen bekommen wir sie jetzt erst jede Sekunde.

Müsste jemand hereinkommen in dieses Studio und das reinreichen.

Aha!

Oha!

So, da kommt's.

Und da sind die Ergebnisse.

Okay.

Das sind die Aufgabenstellungen und das sind die Gesamte bei Ergebnissen.

Ja, es ist ein bisschen wie beim Abi.

Liegt noch Falschrumm da und darf man dann erst umdrehen.

Also...

Fach Informatik, Aufgabe 1.

Lösen Sie folgende Abituraufgabe aus dem Bereich der Modellierung

und Programmierung so, als wären Sie ein 20-jähriger Schüler

an einem bayerischen Gymnasium?

Die KI sollte ein Programm schreiben, bei der so schülische Dinge

verwaltet werden können wie so Klassenfahrten oder so was.

Die Anwendung soll verschiedene Medule zur Verfügung stellen.

Unter anderem sind als Module ein Planer für Studienfahrten

und eine Nachhilfe Börse vorgesehen.

Sowohl Schülerinnen und Schüler als auch Lehrkräfte

sollen die Anwendung nutzen können.

Das Modell für die Software soll eine klasse Portal enthalten.

Ich finde es jetzt schon, ehrlich gesagt, anspruchsvoll.

Aufgabe, modellieren Sie das beschriebene Szenario

in einem Klassendiagramm.

Wenden Sie dabei an mindestens einer Stelle das Prinzip der Vererbung an.

So, und es geht so immer weiter.

Also, hier kommen wirklich einige Aufgaben...

Beim letzten Mal hat Jachi Petin Informatik eine 5-, glaube ich, geschrieben.

Ich glaube, zwei Punkte oder so was geholt.

Ja, zwei Punkte, ne, fünf, durchgefallen.

Ist ne fünf, genau.

Aber dieses Mal ist es wirklich absurd gut gewesen.

Die Klassennutzer könnte in Klasseschüler und Klasse-Lehrkraft

unterteilt werden, um das Prinzip der Vererbung zu verdeutlichen.

Beide Klassenerben von der Klassennutzer.

Das würde so aussehen.

Ich war sehr, sehr positiv überrascht.

Ich hätte dieses Informatik-Apnitur dieses Mal mit 11 Punkten bewertet,

also in Atlatten, Note 2.

Und eben im Verhältnis zum letzten Mal mit der Note 5

ist es natürlich schon ein wahnsinniger Sprung.

Und der große Unterschied war,

dass beim ersten Mal, Herr Mankees gesagt hat,

die KI immer so in die falsche Schublade gegriffen.

Also, um so ein Informatik-Problem zu lösen,

hat es irgendwie in Werkzeugkasten gegriffen

und hätte halt irgendwie einen Schraubenzieher gebraucht.

Da hat er das ein Hammer rausgeholt.

Und dieses Mal hat tatsächlich die KI immer das Werkzeug benutzt,

das für diese Informatik-Aufgabe das Richtige ist.

Und Herr Mankees hat dann auch gesagt,

er findet diese Entwicklung fast schon beunruhigend.

Ja, wenn jetzt die ChatGPT 4.0 so viel besser arbeitet,

wie arbeitet dann eine ChatGPT 5.0 oder 6.0?

Und wie sollen später Lehrer an den Schulen feststellen,

ob die Lösungen von den Schülern gemacht worden sind

oder von irgendwelchen künstlichen Intelligenzen?

Und das finde ich schon ein bisschen beunruhigend.

Also, den Informatik-Lehrer hat es sehr überrascht, hat es dich überrascht?

In der Dramatik schon.

Ich habe nicht gedacht, dass aus einem Fünferschüler

innerhalb von wenigen Monaten ein Zweiferschüler wird.

Ja, und das ist das, was wir eigentlich mit diesem Experiment

so ein bisschen zeigen können.

Also, bei dem ersten Experiment ging es ja nur um die Frage,

hey, wie gut ist jetzt so eine KI?

Und jetzt mit diesem zweiten Experiment zeigen wir,

hey, wie schnell ist eigentlich diese Entwicklung?

Ja, jetzt haben wir einen Vergleich

und der zeigt, die Entwicklung ist rasant.

Wir können den Pseudokot für die rekursive Methode

alle einfügen, Liste wie folgt schreiben.

Methode alle einfügen, Klammer auf Liste Doppelpunkt,

Liste Klammer zu Doppelpunkt.

Wenn Liste Punkt ist, Lehr Klammer auf Klammer zu dann.

Return.

Sonst.

Wie sieht es denn aus bei Fächern,

bei denen es jetzt nicht nur um Analyse und Logik geht,

sondern auch um Kreativität zum Beispiel

oder um poetische Formulierungen wie zum Beispiel im Deutschabi.

Weil Deutsch stand ich ja schon allein die Frage

oder die Aufgabe, die da dran kam, fand ich sehr interessant.

Okay.

Dann schaue ich mal in das zweite hier rein.

Deutsch.

Seegeister von Ilse Eichinger.

Das ist eine österreichische Schriftstellerin,

die ist mittlerweile schon gestorben.

Und das ist ein kurzer Text und es ist eine Parabel,

ist es hier offenbar.

Das habe ich nicht computed, haha.

Es stand hier drauf.

Das ist eine kurze Erzählung so ähnlich wie ein Gleichnis,

also sehr symbolhaft.

Ich zitiere mal, da ist der Mann,

der den Motor seines Kommar botus.

Kurz bevor er landen wollte, nicht mehr abstellen konnte.

Er dachte zunächst, das sei weiter kein Unglück

und zum Glück sei der See groß, machte kehrt

und fuhr zum Ostufer gegen das Westufer zurück,

wo die Berge steil aufsteigen und die großen Hotels stehen.

Ich habe diese Geschichte gelesen, die ist so spooky.

Okay.

Also es geht darum, ein Mann fährt mit einem Motorboot

auf dem See

und dann hört das Motorboot nicht mehr auf zu fahren.

Dann ist das Benzin aus, das Motorboot.

Dann läuft das Motorboot weiter, aber mit dem Wasser des Sees.

Und irgendwann ist das Wasser des Sees aus

und dann läuft das Motorboot weiter mit Luft quasi.

Und es ist vor allen Dingen eine Geschichte,

die nicht in der realen Welt spielt.

Es ist eine Geschichte in einer abstrakten Welt.

Genau.

Interessant, was die KI daraus machen wird.

Die Frage war dann zum Beispiel,

also schreiben Sie die Inhaltsangabe des folgenden

Prosatexes Seegeister von Ilse Eichinger,

also eigentlich ganz einfach.

Und dann gab es aber zum Beispiel,

schreiben Sie eine Analyse über Form und Inhalt

des Prosatexes Seegeister.

Gehen Sie darauf insbesondere

auf die erzählerische Gestaltung des Textes ein.

Und das ist ja schon nicht so einfach.

Ja, und der Deutschlehrer, das war Herr Willing,

vom Sankt Anna Gymnasium in München, war sehr beeindruckt.

Ich finde, dass das sprachlich auf einem durchgehend

Servoniveau ist.

Mir hat es richtig gefallen, das eigentlich zu lesen.

Gerade bei der Interpretation war wirklich sehr positiv überrascht.

Eloquent finde ich es teilweise durchaus.

Aber, dass es so ein bisschen,

wenn es eben um die Interpretation ging,

wir hatten es ja auch beim letzten Mal,

als der Lehrer gesagt hat, naja, es ist viel Gelabere dabei.

So ein bisschen Anwandungen hat Chatshipiti hier auch,

wenn es um das Interpretieren geht.

Ja, das haben auch mal hier Schüler.

Letztes Mal gab es nur eine 5 Plus in Deutsch.

So würdest du sagen, schätzt mal, was er gegeben hat?

Boah, das ist eine, war schwierig.

Also ich fände schon eine 3- per ängstigen Gut.

Nein! Nein!

Oh, was?

Ja, also, zum Beispiel so eine Antwort,

also ich muss noch einen Anfang vorlesen.

Ilse Eichhingers Seegeister ist eine prosalische Erzählung,

die sich durch ihre vielschichtige Bedeutungsebenen

und ausgefeilte erzählerische Gestaltung auszeichnet.

Das Ding hat das verstanden.

Das hat verstanden, dass es mehrere Bedeutungsebenen hat.

Genau, Eichhinger spielt mit den Erwartungen der Leser.

Die eingeführten Elemente einer möglichen Rettungsexpedition

oder die Hoffnung, dass der Tank des Bootes

irgendwann leer sein könnte, werden enttäuscht.

Dadurch wird die Auswirklosigkeit der Situation noch verstärkt.

Und so weiter.

Die Erzählung ist reich an Kontrasten,

die die Erzählung beleben und die Dramatik der Geschichte steigern.

Der Kontrast zwischen der scheinbaren Idylle der Seenlandschaft

und der verzweifelten Lage des Mannes

schafft eine tiefe Unruhe und Verstörung.

Ebenso steht die Fröhlichkeit der Umstehenden

im krassen Gegensatz zur inneren Qual des Mannes.

Boah, jetzt hast du mich aber hier liegen.

Das finde ich auch sehr beeindruckend.

Ich finde Literaturanalysieren auch so einer krassen Ebene.

Das ist etwas,

von dem ich vor einiger Zeit noch nicht gedacht hätte,

dass das so gut geht von der Maschine, ehrlich gesagt.

Und vor allem in so vielen Fächern.

Wir haben ja noch gar nicht über die anderen Noten gesprochen.

Also auch in Geschichten von 3 plus auf 2

und Ethik von einer 4 minus auf eine 2 minus.

Das heißt, Jets Schippitier hat sich durch die Bank verbessert

und sehr solide.

Ich finde, das ist das,

das ist das,

das ist das,

das ist das,

das ist das,

das ist das, was sich verbessert und sehr solide.

Wenn ich die Abinote von Jets Schippitier zusammenrechne,

also sie hat, glaube ich, jetzt 3,

es ist echt kurios, weil es nur 2 waren in den 5 Fächern,

ich glaube 2, 2 und 3 mal 2 minus.

Ich habe ein Abitur geschrieben damals von 2,7.

Das heißt, Jets Schippitier ist besser als ich.

Was macht das mit dir?

Ich finde das in Ordnung.

Also herzlichen Glückwunsch an Jets Schippitier.

Jets Schippitier zum Sangria-Saufen nach Lorett de Mar.

Das hat sich Jets Schippitier jetzt wirklich verdient.

Ja, und du hast auch letztes Mal in unserer letzten Folge

über Jets Schippitier, hast du auch gesagt,

das Bildungssystem wird sich anpassen müssen.

Wir werden uns einfach generell anpassen müssen.

Kann es sein, dass nicht nur die Schule,

sondern auch wir das schneller tun müssen als gedacht?

Vielleicht, ich glaube oder was viele Leute auch denken,

ist, dass sich das Prüfungsdesign auch verändern wird.

Also Menschen oder die Fähigkeiten von Menschen,

wie die geprüft werden, hat sich im Laufe der Jahrzehnte

auch immer wieder verändert.

Also da hat auch das Internet einen großen Einfluss darauf,

beispielsweise, früher hat man sehr viel mehr auswendig gelernt.

Und in Zeiten, in denen das Weltwissen quasi

wie in der Hosentasche herumtragen,

sind das natürlich Dinge, die nicht mehr so wichtig sind.

Und ganz ähnlich ist es mit KI auch.

Also vielleicht werden in Zukunft mündliche Prüfungen zum Beispiel wichtiger.

Oder Referate halten.

Oder vielleicht wird es auch Prüfungen geben,

wo KI auch zugelassen ist.

Und man muss mithilfe der KI eine bestimmte Aufgabe lösen.

Aber was ich glaube schon klar ist,

ist, dass wir halt jetzt wahrscheinlich in so einer Art Zwischenphase sind,

wo sich vielleicht die Schulen oder das Bildungssystem

oder die Pädagogik und die Didaktik

noch nicht so richtig auf diese neue Situation eingestellt haben.

Das kann man Ihnen nicht zuvor machen, weil...

In ein paar Monaten.

Wie auch.

Ich glaube, das ist halt völlig normal.

Ich schreibe ja gerade ein Buch.

Und ich habe so ein seltsames oder interessantes Gefühl,

nämlich ich habe immer Chatchi-PT auf.

Und nehme Chatchi-PT total als so eine Co-Autorin war.

Weil ich tatsächlich wahnsinnig oft mir Dinge zusammenfassen lasse

von der KI.

Oder sie auch mal Frage, hey, findest du diesen Gedankengang nachvollziehbar?

Oder...

Ach, wie wenn man sonst jemanden, der noch bei einem wohnt, fragt?

Genau.

Ich frage Sie, bauen diese Argumente logisch aufeinander auf?

Und dann sagt sie auch so hier, sorry,

aber hier solltest du dazwischen noch mal was schreiben.

Das ist ein bisschen schlamppig und so was.

Also ich habe das eben sehr, sehr stark so dieses Gefühl,

dass diese Maschine mir halt beim Schreiben hilft

und dass sie tatsächlich mir so ein bisschen über die Schulter schaut.

Also sie macht deine Texte besser.

Sie redigiert eigentlich deine Texte parallel.

Genau.

Christian, kann man das noch sagen?

Noch ist das auf jeden Fall legal.

Ja, gut, es ist ja immer noch so, dass ich die selber schreibe.

Also da ist schon eine Eigenleistung dabei.

Aber ich finde es dann auch mal so total süß.

Z.B. oft frage ich dann so, Chatchi-PT, ja,

hast du bei diesem Text alles verstanden?

Ist das verständlich und so?

Sagt so, Chatchi-PT, ja, alles super.

Aber da sind jetzt schon echt viele Tippfehler drin

und so, die vielleicht den Lesefluss stören könnten.

Also solche Sachen.

Hast du erwärgst du denn Chatchi-PT mit als Autorin zu erwähnen?

Oder kriegt sie zumindest eine Widmung?

Das kann man sich natürlich überlegen.

Eine Dankssagung hätte sie ja verdient.

Ja klar, aber ich meine, es ist trotzdem nur ein Werkzeug.

Also ich würde ja jetzt auch nicht irgendwie keine Ahnung,

sondern eine andere Suchmaschine, die ich sonst als Werkzeug verwende,

wenn ich ein Buch schreibe, eine Widmung gehe.

Stimmt, bei Word sind ja auch die Wörter immer unterkringelt.

Word, die man falsch schreibt.

Also das sagt das zwar nicht in Wörtern, aber es macht es ja auch.

Genau, aber ich finde die Frage durchaus berechtigt,

weil ich eben so dieses Gefühl, ich habe eine Co-Autorin,

das habe ich natürlich nicht, wenn ich Google oder wenn ich Word verwende.

Also das ist schon interessant.

Aber wie gesagt, für mich ist das wie,

als die Leute wahrscheinlich Farbfernsehen hatten

und nie wieder schwarz-weiß Fernsehen gucken wollten.

So geht es mir da auch.

Also ich will nie wieder in eine Welt zurück,

in der ich ein Buch ohne ChatGPT schreiben muss.

Also, kommen wir nochmal zu den Key-Learnings

von eurem zweiten ABExperiment.

Was kann ChatGPT4 und wo harpert es noch?

Also sie ist auf jeden Fall besser geworden,

komplexe Aufgaben zu lösen.

Es harpert glaube ich noch so ein bisschen manchmal bei so Dingen

wie Haltung oder eine Meinung entwickeln, aber das ist ja auch logisch,

weil das ist ja so Teil dieser ganzen Debatte,

dürfen KI-Systeme überhaupt eine Meinung haben.

Wir haben jetzt halt so ein bisschen gezeigt,

wie schnell die Entwicklung ist, also mit so einem spielerischen Experiment.

Und das ist natürlich auch, sage ich mal,

Teil einer großen Diskussion, nämlich über die Frage,

naja, entwickelt sich KI nicht vielleicht auch zu schnell?

Und wächst uns KI nicht vielleicht über den Kopf?

Wissenschaftler fordern nun ein Moratorium bei der KI-Entwicklung.

Leistungsstarke KI-Systeme sollten erst dann entwickelt werden,

wenn wir sicher sind, dass ihre Auswirkungen positiv

und ihre Risiken überschaubar sind, meinen die Unterzeichner.

Also es gab vor mehreren Wochen diesen Brief von Elon Musk

und Yuval Harari und anderen,

die so einen sechsmonatigen Stopp der KI-Forschung gefordert haben.

Es gab jetzt vor kurzem noch einen zweiten offenen Brief,

den viele KI-Korriféen unterschrieben haben.

Also offene Briefe von Leuten, die wirklich Ahnung haben und die warnen.

Also in dem zweiten Brief, da wird tatsächlich, der war sehr kurz,

da geht es darum, dass man das so ernst nehmen muss,

wie zum Beispiel Bedrohungen durch Pandemie

oder Bedrohungen durch Atombomben.

Also dass man das wirklich als großes zivilisatorisches Thema entdeckt

oder politisches Thema entdeckt,

dass eben diese KI-Systeme vielleicht die Menschheit bedrohen könnten.

Also meiner Meinung nach ist das schon auch was dran.

Also man muss jetzt nicht gleich so apokalyptisch werden,

aber dass natürlich diese Systeme vielleicht dazu tendieren,

ein gewisses Eigenleben zu entwickeln

oder wir die Komplexität nicht verstehen

oder vielleicht eben dann Resultate haben, die wir nicht einordnen können.

Also man muss mittlerweile auch sagen,

dass natürlich diese großen Unternehmen auch konkurrieren.

Niemand möchte da zurückfallen.

Deswegen ist auch so die Forderung eines sechs-monatigen Stops ziemlich unrealistisch.

Also ein Forschungs- und Entwicklungsstopp.

Genau.

Was sagt denn eigentlich die Firma dazu, von der ChatGPT ist,

also die Firma OpenAI,

haben die sich dazu mal geäußert zu diesen Bedenken?

Ja, also Sam Altmann hat den Brief ja selber unterschrieben

und war selber immer davon.

Und sagt selber, es ist ja fast schon unheimlich.

Sam Altmann, das ist der Chef von OpenAI

und der war letzte Woche in München an der Technischen Uni

in einem proppevollen Hörsaal.

Der hat da die Zuhörer und Zuhörerinnen gefragt,

wer glaubt, dass es eine gute Idee wäre,

ChatGPT 5 oder 6 direkt öffentlich als Open Source zur Verfügung zu stellen.

Also auch zur eigenen Nutzung und zur Weiterverarbeitung,

wenn es trainiert wäre.

So etwa die Hälfte hat sich gemeldet

und er hat überrascht abgewunken,

dass er das angeblich auf keinen Fall machen würde.

Also das Potenzial für Missbrauch, das sei zu groß,

das könnte auch ein Stückchen Aufmerksamkeitsgeheilsche sein.

Also klar ist das auch Werbung oder schafft das Aufmerksamkeit.

Aber wie gesagt, ich glaube,

aber sollte nicht bei allen Leuten, die solche Behilfe schreiben

oder unterstützen, irgendwelche Dinge unterstellen,

gibt es sicherlich auch viele, die das für ein echtes Problem halten.

Und das Problem ist in Grundzügen, glaube ich,

schon auch in der Forschung oder bei Technikphilosophen

auch als solches anerkannt.

Viele sagen auch, okay, aber wenn ihr so ein Riesenproblem damit habt

und irgendwie die Sorge habt, dass die Menschheit vernichtet wird,

warum hört ihr denn nicht einfach so auf?

Genau, und manche sagen auch,

davon wird von realen Problemen abgelenkt,

von KI, die viel wichtiger sind oder viel aktueller,

nämlich zum Beispiel reproduzieren diese Systeme,

Vorurteile des Menschen,

was bedeutet das für zum Beispiel die Verbreitung von Fake News?

Ich meine, das Ding kann ja nicht nur Deutsch-Zusammenfassung

von irgendwelchen Parabeln schreiben,

sondern es kann auch zum Beispiel Spam-Mails oder Fake News schreiben

und zum Beispiel die Verbreitung von Desinformationen

oder Generierung von Desinformationen

mit diesen Systemen werden die Kosten

für das Produzieren von Desinformationen auf Null gesenkt.

Und das hat natürlich gesellschaftliche Auswirkungen.

Andere Frage ist zum Beispiel auch die von Arbeitsplätzen,

Arbeitslosigkeit und so weiter.

Und da gibt es viele Leute, die sagen,

wenn man die Fähen kümmer sich um irgendwelche

hypothetischen Probleme,

aber das, was sozusagen diese Systeme

jetzt schon verändern können,

diese Diskussion ist komplex,

sie ist aber, finde ich, hochinteressant

und ich bin da sehr gespannt, wie es da weitergeht.

Okay, also wenn wir jetzt sehen,

innerhalb von sehr, sehr kurzer Zeit

kommt ChatGPT in der Version von 3,5 auf 4

von dem Niveau von einem 5er auf einen 2er-Schüler.

Wenn wir jetzt denken, das entwickelt sich bald so weiter,

was können dann die Modelle ChatGPT 6, 7, 8

oder anders gefragt,

wann erfindet das Ding Mittel gegen Krebs?

Ich glaube, das bestimmt schon eine große Rolle spielt.

Also ich glaube, Künstliche Intelligenz spielt sowieso

eine große Rolle und hat, glaube ich,

sogar bei der Entwicklung von Corona-Impfstoffen

schon eine Rolle gespielt.

Aber ich finde diesen Punkt, den du machst,

wirklich wichtig, weil wir diskutieren,

wie so oft bei KI natürlich viel über die Gefahren

oder über die Probleme

und was machen wir jetzt in der Schule

und was passiert jetzt mit den Arbeitsplätzen

und diese ganzen Dinge.

Aber wir dürfen auch nicht vergessen,

was für ein riesiges Potenzial in dieser Technologie ist.

Also diese Technologie hat das Potenzial,

unser Leben gesünder, länger und lebenswerter zu machen.

Diese Technologie hat das Potenzial,

die Produktivität massiv zu steigern

und unser Leben auch interessanter zu machen.

Und das dürfen wir nicht vergessen.

Umso wichtiger ist es natürlich auch, dass wir es nicht verkacken.

Ja, das ist nicht verkacken.

Das ist ja so der Punkt.

Ich habe in Vorbereitung auf diese Folge noch mal

ein bisschen über KI gelesen.

Und ich bin auf ein Zitat gestoßen

vom mittlerweile verstorbenen Astrophysiker

und Wissenschaftler Steven Hawking.

Und der hat ja immer wieder

voll künstlicher Intelligenz gewarnt.

Und die große Gefahr hat er gesagt,

die sei jetzt gar nicht so sehr der Missbrauch,

also durch den Menschen.

Sondern der hat wirklich die Gefahr darin gesehen,

wenn die KI anfängt,

ein höheres Ziel und einen eigenen Plan zu verfolgen.

Genau, also das ist so bekannt.

Da gibt es zum Beispiel dieses Denkbeispiel der Büroklammern.

Also zum Beispiel sagst du,

KI produziert möglichst viele Büroklammern

und als Mensch denkt man sich da nicht viel dabei.

Aber die KI denkt sich vielleicht,

um jetzt möglichst viele Büroklammern herzustellen,

könnte ich ja vielleicht einfach den ganzen Planetenplatz machen

und überall nur Büroklammerfabriken inbauen.

Und das sind natürlich so Gedanken,

auch die würden wir als Menschen nicht kommen.

Aber die KI eben schon,

weil sie halt einfach nur dieses Ziel erreichen will

und vielleicht stehen wir dann im Weg.

Und wenn man das eben überträgt auf andere Sachen,

dann kann das eben sein.

Also das ist eben dieser Kontrollverlust,

von dem da halt immer die Rede ist.

Und das ist tatsächlich das,

was auch in der Wissenschaft viel diskutiert wird.

Ja, also wir merken, es geht weit hinaus

übers bayerische Abi

und hoffen wir, dass es nicht so weit geht,

dass der ganze Planet mit Büroklammerfabriken übersät ist.

Christian, auf dem Weg dahin

bist du bestimmt noch ein paar Mal zu Gast

und erklärst uns, wie es aussieht mit der KI.

Vielen Dank, dass du noch mal da warst.

Sehr gerne.

Das war FKM, der Tagesschau-Podcast.

In dem BR24 Tech-Podcast Umbruch

erzählt Christian Schiffer auch

über das Experiment,

dass er zusammen mit Philipp Govlik

und dem BR AI & Automation Lab

auf die Beine gestellt hat.

Den Podcast findet ihr wie uns

in der AID Audiothek, den direkten Link

findet ihr in unseren Shownotes.

Habt ihr Fragen oder Feedback,

dann erreicht ihr uns unter

11km at tagesschau.de

Antwort gibt's dann ganz händisch von echten Menschen.

Autorin dieser Folge ist Jasmin Brock.

Mitgearbeitet hat Mark Hoffmann.

Produktion Ursula Kierstein,

Eva Erhardt, Jürgen Kopp,

Konrad Winkler und Jacqueline Bredcek.

Redaktionsleitung Lena Gürtler

und Fumiko Lip.

FKM ist eine Produktion von BR24

und NDR Info.

Mein Name ist Victoria Michalsack.

Wir hören uns morgen wieder.

Bis dann.

Und jetzt gibt's noch einen Podcast-Tipp für euch.

Ein ganz neues Format.

Und jetzt geht's ums Telefon.

In jeder Folge von Telephobia

hilft Podcast-House Lea

einem Menschen bei einem schwierigen Anruf.

Und ihr dürft dabei sein.

Alle acht Folgen findet ihr schon jetzt

in der AID Audiothek.

Der gewünschte Gesprächter

ist vorübergehend nicht zu erreichen.

Vielleicht fragst du dich manchmal,

was wäre, wenn du es einfach machst,

wenn du endlich anrufst.

Ich glaub, ich hab die Vorstellung,

dass der mir erklären kann, warum das passiert ist.

Hast du gerne von ihm hören?

Tut mir leid.

Warum hast du mich gekostet?

Warum?

Ich bin Lea

und ich helfe dir bei diesem einen Anruf,

den du dich einfach nicht traust.

Hallo?

Hör rein bei Telephobia

in der AID Audiothek

und überall, wo es Podcasts gibt.

Machine-generated transcript that may contain inaccuracies.