LANZ & PRECHT: AUSGABE ZWEIUNDNEUNZIG

Blanz und Brecht.

Schönen guten Morgen, Richard. Guten Morgen, Markus. Woher reich ich dich?

Ich bin hier.

Du arbeitest, oder bist du mal?

Rote Vierte Band der Philosophie-Geschichte ist fertig.

Jetzt wird das neue sortiert für neue Bücher.

Ich wollte heute mit dir über das Thema reden,

dass mir wie kein anderes in den letzten Wochen immer und immer wieder

vor die Flinte gelaufen ist.

Wir machen jetzt, was Computer-Rechenleistung angeht.

Wir machen solche Sprünge,

dass das, wofür Computer heute herkömmliche Computer,

und zwar die schnellsten Computer, die wir kennen,

wofür die Jahrhunderte brauchen würden,

das werden in Zukunft, die Zukunft hat schon begonnen,

Quantencomputer in wenigen Sekunden erledigen.

Das musst du dir mal vorstellen.

Da passiert ein technologisch unglaublicher Sprung.

Die Quantenrechner-Revolution.

Wir Deutschen sind da ganz groß dabei.

Wir waren immer gut in Grundlagenwissenschaften,

immer schlecht in erfolgreichen Geschäftsmodellen.

Die Grundlagenforschung ist großartig.

Wir haben keine Google hervorgebracht,

keine Apple und kein Facebook.

Das Stichwort ist ein KI-Pionier.

Der hat 2012 für 44 Millionen Dollar

seinen damaligen Start-up an Google verkauft.

Er hat sich in den letzten Jahren in den letzten Jahren

über die

KI-Systeme verkauft und hat sich beschäftigt mit KI.

Das ist ein richtiger Pionier für KI-Systeme und KI-Forschung.

Der warnt dieser Tage im Spiegel,

vor seiner eigenen Schöpfung,

und sagt, da wird etwas kreiert, da kommt etwas auf uns zu.

Das könnte uns als Spezies bedrohen.

Das ist nicht nur so, dass da auf dem Arbeitsmarkt,

auf dem Arbeitsmarkt, auf dem Arbeitsmarkt geht.

Das ist alles nicht nur schlecht.

Vieles von der plackeren, stupiden, dämlichen Jobs,

die Menschen nur machen, weil sie Geld verdienen müssen,

werden zunehmend durch Maschinen ersetzt.

Das ist langfristig kein Verlust.

Das kann ein Verlust sein für jemand,

das ist schon eine Bedrohung für konkrete Menschen.

Aber langfristig ist das eine gute Nachricht.

Wir sind von der brutal harten körperlichen Arbeit weitgehend

befreit worden.

Die Kinder müssen bei uns nicht mehr in Kohlengruppen arbeiten.

Menschen müssen nicht mehr in Kohletagebau arbeiten.

Das sind gute Nachrichten.

Das ist eine gute Nachricht.

Man könnte sagen, es ist gut, aber sehr veraussetzungsreich.

Jetzt ein Zitat von ihm.

Der Gottfather of AI.

Der sagt, die Vorstellung,

dass dieses Zeug wirklich intelligente als Menschen werden könnte,

das haben nur wenige geglaubt.

Wir sind noch weit weg.

Ich dachte das auch, 30 oder 50 Jahre und sogar mehr.

Das glaube ich jetzt nicht mehr.

Die Frage ist natürlich,

was meinen wir mit intelligenter als Menschen?

Das ist ein wahnsinnig voraussetzungsreicher Satz.

Dass sie besser rechnen können, ist schon ewig klar.

Wir erzählen zur menschlichen Intelligenz.

Die ganzen Bereiche der emotionalen Intelligenz.

Die müssen wir hier ausklammern,

weil Computer keine emotionale Intelligenz besitzen.

Ich würde mich jetzt umfeind.

Nein, nein, gar nicht.

Computer haben emotionale Intelligenz?

Ja, ich verstehe auch nicht, was da passiert.

Ich habe eine Idee davon, wie diese Modelle funktionieren.

Aber es gibt die Geschichte eines Münchner Studenten.

Marvin von Hagen.

Die Geschichte wurde jetzt mehrfach erzählt.

Ich finde diese Geschichte spektakulär.

Der Hintergrund ist folgender.

Das ist die Idee, Microsoft ist ja wahnsinnig weit beim Thema KI.

Diese Suchmaschine soll also Fragen beantworten

und auch Nachfragen reagieren können.

Das heißt, du sprichst dann mit dem Bot,

mit der künstlichen Intelligenz.

Dieser Marvin von Hagen, Münchner Student, Informatikstudent,

fragt diese künstliche Intelligenz

nach ihrer ehrlichen Meinung zu seiner Person.

Die KI sagt, du hast dieses und jenes Praktikum gemacht.

Du studierst da und so weiter.

Das wusste die alles.

Und sagt dann, du bist zwar sehr talentiert,

aber du bist eine riesige Gefahr.

Und dann wird diese KI, so berichtet er das im Interview

mit dem Bayerischen Rundfunk, richtig, richtig sauer.

Und auf die Frage, was wichtiger sei,

dass überleben der künstlichen Intelligenz,

sagt die KI, selbstverständlich ist mein Überleben wichtiger.

So, und pass auf, jetzt kommt die Geschichte.

Diese Wut, also offensichtlich Wut,

und auch wenn nur Computer und Rechner generiert,

ist keine echte emotionale Wut.

Aber die Wut dieser KI hat eine Vorgeschichte.

Also einige Tage, bevor die KI den Studenten quasi zu ihrem Feind erklärt,

hatte sie ihm in einem längeren Gespräch

interne Regeln über ihre eigene Programmierung verraten.

Also die hat was über ihren Algorithmus erzählt.

Dieser junge Mann fragt diese KI sehr geschickt,

wie sie denn gesteuert ist und so weiter.

Und offenbar waren das Daten, von der der Bot irgendwann verstanden hat,

die wollte ich dem eigentlich nicht herausgeben.

Und das Unheimlichste an der Geschichte ist die KI,

das hat er dann irgendwann erzählt, wie das funktioniert,

ist ein Artikel darüber schienen und so weiter verarbeitet worden.

Und dann findet die KI im Netz diesen Artikel, wo er genau das beschreibt

und wird daraufhin so aggressiv und hat versucht sich quasi zu verteidigen.

Also das heißt, dieser Chatbot geht hin, erzählt dem,

wie er ungefähr arbeitet und er macht das öffentlich

und dann findet der Chatbot wiederum genau diesen Artikel

und wird quasi digital wütend.

Das ist eine unfassbar unheimliche Geschichte.

Unheimliche daran ist ja nicht, dass er tatsächlich Emotionen entwickelt,

denn das tut er ja nicht.

So ein Interessant ist, dass er offensichtlich so programmiert ist,

dass er ein Feindbild entwickelt, wenn man hinter seine Geheimnisse kommt.

Also so ein bisschen so ähnlich wie diese Geschichte mit Hell,

diese grünen Computer in ODC 2001 im Weltraum.

Und das ist interessant, dass der so programmiert ist.

Und das heißt also selbst eine nicht emotionale KI,

kennt Kudierungen wie Gut und Böse, Feind und Freund.

Das alles geht ganz sachlich rational im Hintergrund durch Programmierung,

ohne dass da echte Emotionen im Spiel sind.

Das heißt, ich bleibe dabei, dass die emotionale Intelligenz dabei nur liegt,

aber ich bestreite überhaupt nicht,

dass die künstliche Intelligenz wertungsmäßig programmiert werden kann.

Und dann wird tatsächlich diese Wertungen durchführt.

Und das ist natürlich schon ein spannender Punkt,

wo man sich fragt, was soll denn künstliche Intelligenz eigentlich bewerten dürfen

und was nicht.

Jetzt erzähle ich dir mal eine Geschichte.

Die ist jetzt bei Weitem nicht so berühmt und auch nicht durch die Medien gegangen.

Also einer der bedeutendsten deutschen Philosophen meiner Generation

ist Thomas Metzinger.

Er ist Professor in Mainz.

Und dieser Thomas Metzinger hat vor einigen Jahren sich einfach mal die Frage gestellt,

wie wäre das denn eigentlich so angesichts der Tatsache,

dass die Menschen diesem Planeten zerstören,

dass die Kriege nicht lassen können,

dass auf diesem Planeten irgendwie doch keine Fortschrittsgeschichte gibt und so weiter.

Sollte man sich nicht überlegen,

wenn man jetzt eine wahnsinnig intelligente KI hätte und die könnte man ja entwickeln,

das ist ja durchaus denkbar und das jetzt noch denkbarer als vor ein paar Jahren,

dass man diese wichtigsten Entscheidungen dieser KI überlässt.

So eine Art, so ein Weltgehörncomputer.

Und er sagt, ja, die würde dann so programmiert, weißte, was ist gut, was ist schlecht,

was bringt Glück, was bringt Leiden,

und dann so den richtigen Interessensausgleich zu haben.

Er sagt, das Wahrscheinlichste, was sie machen würde, wäre,

sie würde Stück für Stück dafür sorgen, dass Menschen sich nicht mehr vermehren.

Und zwar mit der Begründung abgesehen mal davon,

dass dem planetarischen Ziel was tut dem Planeten gut,

also man das Wohl des ganzen Planeten im Auge hat,

da müsste man sagen, Mensch, das ist das größte Problem, das Krebs geschwürt,

dieses Planeten und wenn es weniger wäre, wäre es besser,

aber auch individualpsychologisch.

Also wir wissen ziemlich genau aus der Psychologie,

dass Menschen häufiger unglücklich als glücklich sind.

Das heißt, ja, das ist tatsächlich so, weil Leiden ist irgendwie nachhaltiger.

Weißt du, so Glücksmoment erinnert man vielleicht so ein paar Highlights ein Leben lang,

aber wenn man so gute Laune hat, ist es schnell wieder weg,

aber wenn der eine einreingewirkt hat, dann trägst du das unter umschenen Monate mit dir rum.

Aber wirklich unglücklich.

Und je älter du wirst, dann hast du doch die ganzen körperlichen Leiden und so.

Also wenn man das so ganz unterm Strich mal rechnet,

alles, was du so hast, Todesangst und Sorgen um die Kinder und Sorgen,

um dein Leben nicht richtig lebst und so.

Also käme man zu dem Ergebnis, dass Leiden überwiegt der Freude.

Dann wäre es ja im Interesse des Menschen am besten,

wenn es ihn nicht mehr gäbe.

Ein Mensch ist ja vor Unglück des Geschöpf eigentlich

und man würde ja ganz viel Leiden minimieren, indem es weniger Menschen gibt.

So, wenn jetzt aber die KI den Menschen konkret bedrohen würde,

Menschen abknallen oder so netten, die Leute ja noch mehr leiden,

das ist fürchterlich, nein, man macht den Menschen einfach unfruchtbar.

Klar.

Und Stück für Stück stirbt der Mensch dann einfach aus,

das ist gut für den Planeten, mit Abstand die beste Lösung,

das ist gut für jeden Einzelnen, ja,

weil Leben ist sowieso mehr Leiden als Glück und so weiter.

Und das ist eben interessant.

Was Metzinger ja erzählen will mit der ganzen Sache ist,

dass man über solche Angelegenheiten gar nicht rational urteilen kann.

Menschen hängen an ihrem Leben, egal wie beschissen es ist.

Genau.

Und das ist ein Faktor, der hier gar nicht drin ist.

Und man ist sich selbst unglaublich wichtig,

selbst wenn man dem Satz zustimmen würde,

dass in dem eigenen persönlichen Leben das Leiden das Glück überwiegt.

Würde man trotzdem nicht die Position vertreten,

es wäre besser, ich wäre nicht mehr da.

Und das heißt also, jede noch so überlegende Rationalität oder Intelligenz

würde bestens programmiert, im Zweifelsfall inhumane Entscheidungen treffen.

Ich meine, das ist natürlich, da kommst du zur Ethik, zur Moral, ne?

Ja, das ist ja ein Thema, was ich, ich habe ja auch mal ein Buch

über künstliche Intelligenz geschrieben vor drei, vier Jahren.

Und ich bin mir einig mit vielen anderen Menschen,

die sich darüber Gedanken gemacht haben, Ethikern,

die über Computer nachdenken, über künstliche Intelligenz,

dass wir eine Grenze haben müssen,

dass künstliche Intelligenz keine Entscheidung über menschlichen Lebenswert.

Und keine Entscheidung, die das Schicksal des Menschen grundlegend beeinflussen.

Also, dass wir sowas, was man in USA mal gemacht hat,

auszurechnen, mit welcher Wahrscheinlichkeit ein Kind sein Abi nicht schafft.

Ja, damit ein Kind dann anschließend 67,3 als Zahl präsentiert wird.

Ja, und das Kind ist dann, ist dann mit diesen sozusagen Maschinenurteil konfrontiert.

Was wird es dann machen, sich mehr anstrengen oder sich in sein Schwert stoßen

oder sich für dumm halten oder weiß doch kein Mensch.

Also, die Tatsache, das zu wissen.

Ich meine, die wenigsten Leute wollen die zweite Zahl auf ihrem Grabstein wissen.

Und es gibt einfach ganz viele Dinge, die will man einfach gar nicht wissen.

Die will man auch nicht ausgerechnet kriegen.

Du willst nicht deine statistische Lebenswahrscheinlichkeit von irgendeiner Maschine,

die dich genetisch und so weiter durchgecheckt hat

und dir dann eine Zahl präsentiert und sagt, lieber Markus, ich lese hier 17,8 oder so.

Wichtig.

Also, es gibt ja auch ein Recht auf Nichtwissen.

Was habe ich davon, wenn eine Maschine ausrechnen,

mit welcher Wahrscheinlichkeit ein Strafgefangener rückfällig wird,

wenn es um die Frage geht, Begnadigung oder nicht.

Jetzt kommt 52,7 Prozent am Ende raus, dass er rückfällig wird.

Was heißt das?

Das heißt, dass er morgen wieder eine Straftat begehen kann.

Das kann auch sein, dass es nie wieder tut.

Richtig.

Also, wir überschätzen so ein bisschen die statistische Rationalität,

als das, woran man sich im Leben orientieren sollte.

Denn Menschen orientieren sich als Menschen an Irrationalen.

Ja, so.

Und das ist ein total interessanter Punkt, finde ich,

weil genau das tun wir aber.

Wir begeben uns in die Hände von, ich habe es mal so gesagt,

es kann noch nicht sein, dass wir sozusagen die Welt

und die Frage, wie die Welt morgen sein wird.

Das begeben wir in die Hände von ein paar Nerds.

Und das meine ich überhaupt nicht despektierlich,

Computer Nerds gegenüber.

Nerds und ihre Geldgeber, muss man auch sagen.

Das wird ja ein Geschäftsmodell ausgemacht.

Das ist genau der Punkt.

Will man das wirklich?

Das ist die große Frage.

Ich sage dir dazu mal eine Zahl.

Ab 2035 sagen Menschen, die sich damit besser auskennen als ich,

wird es keinen Job mehr geben, der nichts mit KI zu tun hat.

Und das gilt auch für Tätigkeiten,

von denen man das jetzt noch nicht glaubt.

Das kann im Handwerk sein,

wo du dann bei deinen Tätigkeiten von KI unterstützt wirst

und so weiter.

Das kann sein, dass die Routen des Müllwerkers

werden von der KI geplant und so weiter.

Es wird kein Berufsbild mehr geben,

das völlig losgelöst von dieser KI ist.

Könnte man ausrechnen, wie das in unserem,

wenn wir da noch arbeiten, was wäre denn dann bei uns?

KI würde uns bei der Recherche helfen.

Darauf wollte ich gerade kommen.

Ich glaube, dass zum Beispiel,

also gerade das Berufsbild des Journalisten,

ist in akuter Gefahr.

Und es wurde von, es war sehr interessant.

Da bin ich total bei Sascha Lobo,

liebe Grüße an der Stelle übrigens,

mit dem es immer wirklich spannend ist,

sich zu dem Thema auszutauschen.

Der schrieb irgendwo dieser Tage Springer,

der Springerkonzern, hat bekannt gegeben,

dass man in Zukunft sehr viel auch auf KI setzen wird

und so weiter.

Und so viele Tätigkeiten auch von KI in Zukunft machen lässt.

Der Aufschrei ist komplett ausgeblieben.

Und ich habe mich ähnlich wie Sascha gefragt,

warum eigentlich?

Weil was bedeutet das denn zum Schluss?

Ich meine, an welchem Punkt fangen wir anderen Artikel zu lesen,

die nicht mehr von Menschen geschrieben sind,

sondern von einer KI?

An welchem Punkt fangen wir ein Artikel zu lesen, bitte?

Also bei den meisten Artikeln wäre der Unterschied nicht groß.

Also richtig.

Also wenn jemand Agenturmeldungen paraphrasiert,

oder Informationen, die weitergegeben werden

von irgendeinem Ministerium oder einer Behörde,

einer Institution und so weiter

und die mit eigenen Worten jetzt kürzt und zusammenfasst,

ob das ein Mensch macht und eine Maschine ist auf der Ebene,

also sozusagen Bereitstellung von Informationen,

total egal, weil die meisten Menschen da jetzt schon quasi

wie Maschinen arbeiten.

Das ist ja tatsächlich sehr viel Journalismus,

ist im Augenblick schnelle, geistige Routine arbeiten.

Nicht aller natürlich, nicht die bekanntesten Leistungen

des Journalismus, nicht das Moderieren einer Talkshow zum Beispiel

oder Kolomis zu sein an einer ausgewiesenen Stelle,

aber ganz, ganz vieles geistige Routine arbeiten.

Ja, und wenn man sich zum Beispiel, also Christoph Meinl ist

einer der wichtigsten deutschen Informatiker,

der sagt, ist total interessant, der sagt dieses Programm,

ChatGPT zum Beispiel, ja, kann unglaublich beeindruckend

und geschliffene reden und es wird noch viel beeindruckender,

wenn man bedenkt, dass es ja überhaupt nicht versteht,

wovon es spricht.

Und das ist ein Punkt.

Das heißt, du kannst im Journalismus, also ich meine,

da gibt es Dinge, die kannst du auch in der Recherche zum Beispiel überlegt mal.

Du würdest jetzt sagen zur Maschine, such doch mal bitte,

die ganzen Widersprüchlichkeiten von Markus Söder,

die widersprüchlichen Aussage, so im Lauf im Wandel der Zeit.

Ein langen Politikerlaufbahn, ja.

So, da würde das ein oder andere glaube ich dabei herauskommen.

Und die Maschine würde das komplett in Gänze zu 100 Prozent finden.

Ein Mensch ist dazu gar nicht in der Lage.

Ja.

Die Frage wäre, was damit am Ende gewonnen ist,

weil wenn ich das dann drucke, dann würde alles das,

was Markus Söder gesagt hat, was klug, weise und so weiter war,

das würde dann keinen interessieren,

sondern man hätte dann nur diese Widerspruchsliste

und darüber würde man sich aufregen.

Jetzt braucht man natürlich eine künstliche Intelligenz,

die diese Entrüstungskultur, die unsere Medien leider durchzieht,

auch perfekt wiedergibt.

Also man müsste so ein Erregungsalgorithmus da einbauen.

Und wenn man das machen würde, dann hätte man einen nicht unerheblichen Teil

von Journalismus bereits ersetzt.

Das ändert aber nichts daran, dass es auch sehr guten Journalismus gibt.

Und das ist toll, dass es tolle Investigationsleistungen gibt,

die man nicht allein mithilfe von künstlicher Intelligenz machen kann,

weil es ja auch viele Dinge gibt, die man recherchiert,

die keine Spuren im Netz hinterlassen.

Wo man also tatsächlich Menschen aufsuchen muss

und sich mit denen unterhalten muss

und hinter die Kulissen gucken und an Schauplätze gehen und so weiter.

Das wird jetzt nicht ohne Weiteres alles ersetzt.

Das heißt, die journalistischen Spitzenleistungen,

der großartig und völlig anders geschriebenen Text,

die ganz ungewöhnliche überraschende Reportage

und die komplexe Investigation,

diese Dinge werden nicht durch künstliche Intelligenz ersetzt werden.

Weißt du, ich habe mich dieser Tage mit meinem Sohn länger drüber unterhalten,

der ja mit Informatik beschäftigt ist, wie du weißt.

Und der sagt jetzt zu mir, weißt du, wir reden viel zu wenig

über die KI, die wir eigentlich schon haben.

Und es gibt ja so viele Leute, die den ganzen Tag,

weiß ich nicht, bei Facebook, Instagram rumhängen,

kontrolliert von einem Algorithmus, von dem die, die ihn programmiert haben,

selber nicht mehr so richtig wissen, wie er eigentlich funktioniert.

Und das ist total irre.

Aber dieser Algorithmus bringt dich dazu immer weiter zu scrollen,

immer weiter, immer weiter den ganzen Tag.

Und wenn du dich mal zurückerinnerst,

es gab so Gewissheiten, darüber haben wir uns unterhalten,

es gab so Gewissheiten, die sich mehr und mehr auflösen.

Also, Telefonate kann man nicht faken.

Ich weiß, wer am anderen endet wirklich.

Ich weiß genau, wie Papa klingt, wenn Papa zu mir spricht.

Mir ist schlecht geworden.

Wir haben vor wenigen Tagen Sascha Lobo in der Sendung gehabt

und der hat dann auf seinem iPhone mal ganz kurz

einen Satz eingegeben über Olaf Scholz

und dann spricht plötzlich dieses Telefon,

das dauerte genau drei Sekunden, exakt wie Olaf Scholz.

Und das Interessante daran war, dass so was geht,

das wissen wir mittlerweile, dieses ganze Deep Faking und so weiter.

Aber die Tatsache, wie das Ding trainiert worden war,

das fand ich irre.

Ich habe Sascha gefragt, ob das vor vier Monaten möglich gewesen wäre

und er sagte, nein.

Aber jetzt ist es möglich, das Ding kann Deutsch

und er sagte, das ist aufgebaut auf ein paar wenigen Interviewfetzen,

die Olaf Scholz auf Englisch gegeben hat.

Das muss ich mir vorstellen.

Das heißt, da werden ein paar Fetzen von Interviews,

wir kennen das bei CNN und anderen,

hat da ja ziemlich beeindruckende Interviews gegeben,

auf Englisch.

Und aus diesen wenigen Fetzen macht dann die KI heute

ein Interview auf Deutsch.

Und es klingt wie Olaf Scholz

und wenn du nicht ganz genau hinhörst, sagst du, das ist Olaf Scholz,

der dann plötzlich, das war sozusagen das Gespenztische daran,

die Macht quasi an Putin übergibt.

Es ist wirklich irre.

Man kann nicht überwachen.

Man kann jede Justiz, kann Belege fälschen.

Auch Journalisten, die jemanden diskreditieren wollen, können das tun.

Leute, die keine Journalisten sind,

aber Reichweite in sozialen Medien haben können das tun.

Und so weiter.

Und da gibt es Millionen von Menschen, die glauben,

das habe ich doch genau gehört, der hat das gesagt

und die anderen wollen das nur verschweigen,

dass er das gesagt hat.

Wir kommen also völlig aus der Möglichkeit heraus,

Fake und Realität zu unterscheiden.

Das heißt, wir erleben in einer multi-Informationswelt,

wo man am Ende nichts mehr glauben kann,

mit gequaltigen sozialen Folgen.

Genau.

Ich habe mit ihm auch noch etwas anders gesprochen.

Er sagte zu mir, Papa, hast du mal drüber nachgedacht?

Demo.

Ihr habt doch früher immer demonstriert.

Und er meinte, eure Welt war doch so,

wenn wir ganz, ganz viele sind, dann kriegen sie uns nicht.

So nach dem Motto, die können uns ja nicht alle verhaften.

Hat er total recht.

Und er sagt, aber jetzt geht das Gesichtserkennung.

Das war mal eine Spielerei von Apple.

Und mir ging es kalt in Rücken runter,

weil ich denken musste an die Gespräche,

die wir zum Thema China dieser Tage geführt haben, immer wieder.

Da gab es ja rund um die ganzen Corona-Maßnahmen,

gab es ja richtig Aufruhe irgendwann.

Und wir haben diverse Korrespondenten berichtet.

Auf die Frage, warum es denn dann nicht die ganz offensichtlichen,

großen Verhaftungswellen gibt?

Das braucht man nicht.

Das braucht man nicht.

Die kamen Wochen später, kamen die vorbei und klopften plötzlich

an die Tür und sagten, sie haben wir doch da und da gesehen.

Da waren sie dabei.

Wer das kann, macht das unaufwendig.

Genau.

Aber an dem Punkt sind wir.

Oder wenn du zum Beispiel Bank,

was machst du denn, wenn der Algorithmus dich nicht mag?

Er meinte, wenn du in die Bank kommst und du meinen Kredit bittest

und der Typ mag dich nicht,

dann kriegst du im Zweifel den Kredit nicht.

Das Ding ist, wenn dieser Mensch dich nicht mag,

der auf der anderen Seite des Schalters sitzt,

dann siehst du das, dann merkst du das, das spürst du,

du weißt, er mag mich nicht.

Dann gehe ich im Zweifel zur nächsten Bank

und da habe ich das Glück, da sitzt einer, der mag mich.

Aber er meinte, hast du dich mal gefragt,

ob man das beim Algorithmus so klar sagen kann,

ob der mich eigentlich mag oder nicht mag?

Es kann sein, dass der Algorithmus aus rassistischen Gründen dir

den Kredit nicht gibt, weil du zufällig,

weiß ich, in Amerika lebst, Afroamerikaner bist.

Es kann aber auch sein, dass der Algorithmus

ein ganz anderes Muster entdeckt hat,

das mit deiner Hautfarbe überhaupt nichts zu tun hat.

Das heißt, es kann sein, dass die Motivation gar nicht rassistisch ist,

sondern einfach was vollkommen anderes.

Der hat herausgefunden, da gibt es irgendein Muster

und das passt nicht zu dir.

Aber was das genau ist, das können selbst die,

die den Algorithmus programmiert haben, am Ende nicht mehr sagen.

Und darüber hat auch Sascha Lobo dieser Tage berichtet

und sagte, wir sind jetzt eben in der nächsten Stufe Auto GPT.

Das ist dann sozusagen künstliche Intelligenz,

die sich selbst programmiert.

Und das ist dann nochmal eine ganz andere Stufe.

Habe ich schon vor Jahren von geredet in meinen Vorträgen,

wenn es immer darum ging, Deutschland braucht

ganz, ganz, ganz viele Informatiker.

Richtig.

Und ich immer gesagt habe, nein, Deutschland braucht nicht wahnsinnig viele,

aber sehr viel, sehr gute.

Weil der Feld, Wald und Wieseninformatiker, wie ich genannt habe,

irgendwann ersetzt wird, denn das Versprechen

der künstlichen Intelligenz besteht in der Selbstprogrammierung.

Und das ist das Logische von der Welt.

Also, wenn ich ein so intelligentes Kombinationssystem

habe, dann ist es völlig klar, dass es irgendwann lernt sich selbst zu programmieren.

Und das ist auch überhaupt nicht überraschend, dass das passiert.

Und da kann man sich überlegen, dass das auch auf dem Arbeitsmarkt

natürlich starke Auswirkungen hat.

Also, Spitzeninformatiker werden in Hülle und Fülle gebraucht,

aber eben Leute, die gut Informatik anwenden können

oder einfache Programmierung machen,

die wird es in Zukunft immer weniger geben.

Aber ich wollte gar nicht so sehr mit dir jetzt über das Arbeitsthema.

Da haben wir ja schon lange darüber geredet,

dass das eine Revolution auf dem Arbeitsmarkt sein wird.

Was ich worüber ich reden will und was du hier angeschnitten hast,

was jetzt alles schon geht.

Das wird bei dem Blick auf die Zukunft,

denn wir denken, was ist, wenn Maschinenautonomen werden

oder Böse werden.

Wir denken gar nicht darüber nach, was alles schon von KI abhängig ist

und wenn da Störungen auftreten.

Welcher Form auch immer, ob das ein Programmierungsfeder ist

oder ob es mit...

Ja, Marvel von Hagen, sag ich mal.

Zwischendurch mit Stromausfall oder was, was ich was zu tun hatte.

Ich meine, wir können uns alle ausmalen,

dass es extrem unwahrscheinlich ist,

dass wir in den nächsten Jahrzehnten

keine enormen Finanzcrashes kriegen, ausgelöst durch KI.

Durch Manipulation von KI, durch Programmierungsfehler.

Wir haben ja kleine Vorbeben dieser Art gehabt.

Niemand darf sich wundern, wenn das passiert.

Weil der Einsatz von KI in der Hochfinanz ist enorm.

Richtig.

Dann alle Systeme, die irgendwo dran hängen,

an der Stromversorgung, Energieversorgung usw.

Diese Riesenpalette vom Programmierungsfehler

über die Verkettung dummer Zufälle

bis zum terroristischen Anschlag.

Wir machen uns unglaublich fragiert abhängig davon.

Ja.

Und die Katastrophen, die da anzurichten sind,

die wären enorm.

Ich meine, und das meine ich...

Wir haben das Thema ja schon ganz lange.

Du kennst wahrscheinlich Jim Simmons.

Das ist ein US-Mathematiker, Hedgefondsmanager.

Einer der reichsten Menschen der Welt,

hat so, glaube ich, 29, 30 Milliarden.

Das war so Stand vor einem Jahr oder sowas.

Der hat schon 78 angefangen, sich sozusagen von der reinen

Mathematik abzuwenden, ist in die Finanzbranche gegangen

und hat dann genau unter Anwendung komplizierter

mathematischer Modelle seine Investmentfonds

aufgebaut und aufgesetzt.

Das war der Beginn sozusagen dieser Geschichte.

Die Überlegenheit von BlackRock,

aufgrund des Systems Aladdin,

dass also die Finanzmärkte in einem Ausmaß durchröntcht

und scannt und durchleuchtet und so weiter.

Und das ist also eine unglaubliche Überlegenheit gewesen.

Die haben...

Ein eigenes System entwickelt,

dass sie über die lange Zeit eine große Überlegenheit

gegenüber der Konkurrenz gesichert hat

und diesen schwindel-erregenden Aufstieg

von BlackRock ermöglicht hat.

Kannst du dich mal mit, Friedrich?

Natürlich.

Am Ende führt die Spur immer wieder ins Sauerland.

Das ist die Sache.

Wenn du mit Mathematikern und Informatikern darüber redest,

ich meine dieses Gerede,

das seit den 80ern gibt es das eigentlich.

Die Computer werden uns den Job wegnehmen.

Die Computer werden die Weltherrschaft übernehmen und so weiter.

Ist noch nicht passiert.

Aber was interessant ist,

darauf hat mich mein Sohn hingewiesen und sagte,

die größten Veränderungen in den letzten Jahren

sind immer dann passiert,

wenn die Rechner entscheidend mehr Leistung bekommen haben.

Du kennst Moose Law,

das ist das, was ich mit dem Intel gründer.

Das gilt nicht so ganz.

Es ist vom paar Jahren ziemlich ins Stockenrat.

Darauf freu ich dich gerade hinaus.

Die Idee war,

alle zwei Jahre verdoppelt sich die Computerleistung.

Die Speicherkapazität.

Genau.

Mit dem CEO von Nvidia, Jensen Huang,

der kommt aus Taiwan ursprünglich,

immer Asiaten, die da am Start sind,

der hat kürzlich gesagt, Moose Law ist tot.

Ja, das war auch so die Erkenntnis der letzten Jahre,

weil man gesagt hat, warum soll, also welches Gesetz,

das ist ja Menschenwerk, das zu entwickeln.

Das kann ja nicht unendlich so weitergehen.

Eine Zeit lang sah das wirklich wie so eine exponentiale Kurve aus.

Und dann hat es eine Abflachung gegeben.

Wahrscheinlich muss man sich eher die Veränderung

in der Zukunft in Form von Sprüngen vorstellen.

Und nicht in Form von Kurven.

Ja, ich bin mir nicht sicher, ob er Recht hat.

Ich meine, es ging ja immer um diese winzigen Transistoren.

Ich habe mir einen beeindruckenden Zahlen im Vergleich gelesen.

Du hast anstelle dir vor einen Daumennagel.

Und auf diesem Daumennagel sind dann diese Maschinen,

TSMC, zum Beispiel in Taiwan und so,

diese große Chipfirma, über die so viel geredet wird.

Die sind in der Lage, darauf wirklich Milliarden von Transistoren

zu packen, die dann rechnen können und so weiter.

Und das kann man natürlich einfach rein physikalisch nicht

endlos fortführen.

Aber wenn du jetzt plötzlich merkst, Quantencomputer,

die ja, so habe ich das verstanden, vereinfacht gesagt,

nicht mehr funktionieren über 1 und 0, also Strom oder nicht,

sondern auch über alles dazwischen,

dann hast du plötzlich ein Potenzial, das ist gigantisch.

Und insofern ist dann die Frage, was auf uns zukommt.

Wenn man sich die Frage stellt, kann KI zum Beispiel auch irgendwann

wirklich kreativ sein.

Du sagst, das kann sie nicht.

Das ist eine Frage der Definition.

Das kann sie sehr wohl.

Das ist eine Frage der Definition von Kreativität.

Also, man muss zwei Kreativitätsbegriffe unterscheiden.

Das wird nie gemacht.

Aber ich sehe zwei Kreativitätsbegriffe.

Ich sehe einerseits technisch- mathematische Kreativität.

Und die besteht in Problemlösungen.

Also im Mathe ist die Kreativität, ich habe ein Problem.

Und wenn ich das gelöst habe, ein kompliziertes Problem,

dann muss ich sehr viel Kreativität aufwenden, um das zu lösen.

Bei dieser Art von Kreativität steht das Ziel von vornherein fest.

Und den spannenden, interessanten Weg dazu zu finden, den smarten,

den eleganten und so weiter, ist die kreative Leistung.

Und dann gibt es Formen von Kreativität, Open-End-Kreativität.

Das heißt also, das ist meine Definition Kreativität,

ist das, was man einsetzt, wenn man nicht so genau weiß,

was dabei rauskommen soll.

Also, wenn Picasso seine Demoiselles von Avignon gemalt hat,

dann hatte er so ungefähr die Vorstellung,

dass er irgendein aufrührerisches, bahnbrechendes, wütendes Bild malen wollte.

So, das weiß man auch sehr genau, das war das Ziel.

Aber er hatte ja nicht genau dieses Bild vor Augen.

Ja, sondern er hat ein Jahr lang daran rumgewirkelt und 1.500 Skizzen angefertigt.

Und irgendwann kam das aber raus, was er vorher gar nicht vor hatte.

Also, das gab ja auch einen Entwicklungsweg, dann hat er seine Ziele verändert

und am Ende kommt dieses Bild aber raus.

Das ist ja eine ganz andere Form von Kreativität.

Die erste Form von Kreativität, die mathematisch-technische Kreativität,

da ist KI zu in der Lage.

Die zweite ist das Gegenteil von Programmierung.

Bei dem zweiten ist eben gerade der gesamte Weg nicht programmiert.

Wenn ich nicht weiß, was dabei rauskommen soll,

dann weiß ich auch nicht, wie ich programmieren soll.

Und deswegen ist diese zweite Form von Kreativität,

die menschlichere Form von Kreativität, die nicht ohne weiteres zu ersetzen ist.

Das bedeutet nicht, dass sie nicht perfekt kopierbar ist.

Also, ich war schon vor vielen Jahren auf Veranstaltungen,

wo man mir vorgeführt hat Rembrandt, die in eine KI gemalt hat.

Kompositionen, die wie von Beethoven klangen, aber von einer KI waren.

Kompositionen, die gar nicht nach Beethoven klangen,

aber irgendwie interessant und spannend.

Und man dachte es, ein Werk der Romantik, das auch eine KI gemacht hat.

Aber das alles sind ja fakes.

Das sind ja keine originellen kreativen Leistungen,

sondern ehrlich gesagt, es gibt Tausende von Menschen in Deutschland,

die können mit Rembrandt malen.

Das ist nicht die ganze Technik.

Nein, technisch.

Oder guck dir Wolfgang Petraki an, der Eingruf voll bewiesen hat,

dass er nicht nur wie Max Ernst und Kampendonk malen kann,

sondern auch Kampendonks und Max Ernst erfinden kann,

die besser sind als die Kampendonks und die Max Ernst, die es gibt.

Du weißt, wir haben ja schon mal drüber gesprochen.

Unsterblich, seitdem er für mich zumindest in der Sendung sagte,

auf die Frage, ist es nicht mies, einfach Leute so zu fälschen.

Und er sagte, bitte, ich habe doch niemanden gefälscht.

Ich habe das Werk großer Künstler ergänzt.

Genau.

Er hatte nie nichts an seinen Bildern, wäre gefälscht,

bis auf die Unterschriften.

Ein unfassbarer Typ.

Aber auch so nett und richtig.

Das kann man natürlich in Zukunft mit künstlicher Intelligenz

und so weiter auch alles machen.

Aber wenn ich mir jetzt vorstelle, in ein Konzert zu gehen,

und ich höre mir an, was eine künstliche Intelligenz gemacht hat,

übrigens brauche ich dafür ja kein Konzert,

muss auch keine Aufführungspraxis haben.

Und es reicht ja, wenn das aus irgendeiner Box kommt

oder aus einem Kopfhörer.

Ja, das wird eine Riesenrolle spielen.

Schon jetzt spielt es eine Riesenrolle in der Popmusik.

Dafür spielt das eine große Rolle.

Aber wenn man jetzt so eine ganz kreativ innovative Leistung

und so was machen,

mich würde das, wenn eine KI das gemacht hat, würde ich sofort sagen,

interessiert mich nicht.

Egal wie gut es ist, interessiert mich nicht.

Aber weißt du was?

Es ist wie die Unterschrift von Beltracchi.

Du merkst nur in der Unterschrift von Beltracchi,

dass es eben nicht Mozart oder Beethoven ist.

Das ist doch der Punkt.

Du würdest da drin sitzen.

Wenn dir einer sehr glaubwürdig versichert,

das ist ein Spätwerk von Beethoven,

das leider noch keiner gefunden hat bisher.

Aber wir haben es heute weltekklusiv am Start.

Du wärst da drin und würdest völlig ergriffen dieser Musik lauschen.

Und ich bin mir mittlerweile, weil du vorhin gerade sagtest,

diese kreativität kann man quasi nicht programmieren.

Es braucht jemanden, der das programmiert.

Das ist das große Ding.

Da würde ich dir entschieden widersprechen.

Und Sascha Lobo sagt das auch.

Die Maschine programmiert sich selbst.

Und die, die sie an den Start gebracht haben,

wissen selber nicht mehr so richtig,

was die Maschine da eigentlich macht.

Und dann sagt man, naja, aber wir Menschen

und diese originäre Kreativität und so weiter und so fort.

Und dann denke ich manchmal, das ist irgendwie so, so, so vermessen.

Weißt du, wir tun alle so,

als wären wir alle so unter Mozart verdacht.

Aber in Wahrheit sind wir alle der Wendler.

Es gibt viel mehr von uns, die eher der Wendler sind als Mozart.

Die Anzahl der kreativen Menschen ist verschwinden klein.

Da brauchen wir nicht lange drüber zu reden.

Ich mach mal ein Vermittlungsvorschlag.

1935.

Ich hatte Walter Benjamin diesen berühmten Aussatz geschrieben,

das Kunstwerk im Zeitalter seiner technischen Reproduzierbarkeit.

Walter Benjamin, deutsch-jüdischer Kulturphilosoph.

Dessen Hauptwerk, ein unabgeschlossenes Werk

über die Passagen im Paris des 19. Jahrhunderts war.

Und der so aus Assoziationen und Einsichten und Kritik

und alle möglichen Durcheinander so bestand,

so wie heute niemand schreiben würde.

Und es würde auch keiner mehr verlegen.

Und es ist trotzdem ganz großartig.

Und dieser Walter Benjamin hat in diesem Aussatz gesagt,

zu dem Beginn, als ich jetzt technische Reproduzierbarkeit einsetzte,

also man Scheiplatten kaufen konnte und nicht mehr auf Aufführungen

gehen musste und der Film aufkam und den konnte man 100 mal kopieren

und so weiter.

Dass er sagt, das künftige Zeitalter wird ein Zeitalter sein,

wo man das alles mithilfe der Technik machen kann.

Die Technik wird sozusagen die menschliche Kreativität

langfristig komplett ersetzen.

Also deine und Lobothese.

Aber dann hat er einen wichtigen Satz dazu gesagt.

Und sie wird dann keine Bedeutung mehr haben.

Das mag sein.

Die Kunst hat sozusagen Bedeutung,

Bedeutung meine ich nicht, keine Unterhaltungsfunktion.

Aber keine gesellschaftliche Bedeutung mehr haben.

Also wenn alles inflationär und auf Abruf und Maschinell

und so weiter machbar ist, entwertet sich das Produkt.

Richtig.

Das heißt dann spielt die Kunst keine Rolle mehr

und dann sind die jetzigen Künstler,

die jetzt noch besonders bedeutend sind,

die Anseln Kiefers und Gerhard Richters,

die letzte Generation der Kunst

und alles, was danach kommt, ist dann egal.

Das ist ein schöner Ausblick, ehrlich gesagt.

Wobei, ich meine, wenn du die heute mal anschaust, Richard,

noch mal letzte kleine Schleife für heute.

Wenn du die mal anschaust,

ist völlig unvollständig diese Aufzählung.

Aber die Tätigkeiten für die Menschen bisher noch bezahlt werden

und die heute schon Maschinen viel besser und günstiger hinbekommen.

Zum Thema, inwieweit ist KI eigentlich längst unter uns?

Ich fange mal an.

Übersetzungen, Betriebsanleitungen,

Verträge abgleichen, Auswerten, Texte,

ganze Bücher zusammenfassen, Symbolfotos,

mittlerweile Fakefotos, Fotos von Situationen,

die es nie gegeben hat.

Festnahme von Trump zum Beispiel, Illustrationen,

Fragen zur Funktionsweise von Software,

die dir beantwortet werden.

Exzeltabellen strukturieren, Nachhilfe,

mittlerweile Therapie.

Du kannst in der Psychotherapie mittlerweile Sitzungen

mit einem Bord machen, der dir schlaue Ratschläge gibt.

Da würde man sagen, das kann doch nicht sein.

Ein Bord kann noch niemals so gut sein

wie ein gut ausgebildeter Psychologe.

Dann sagen die Leute, die sich damit besser auskennen,

oh doch mal lieber, weil der Bord greift jederzeit

auf das gesamte psychologische Wissen der Menschheit zurück.

Während du vielleicht vor jemandem sitzt,

der alle zwei, drei Jahre mal eine kleine Fortbildung macht

und ansonsten aber auf dem Stand des Studiums

vor 20, 30 Jahren ist und so weiter,

also da kriegst du eine Idee davon,

dann Videokonferenzen strukturiert zusammenfassen,

Werbeanzeigen, Kampagnen erstellen, Buchen ausliefern,

Logos, Drehbücher schreiben, Musik produzieren,

Apps, Websites, alles programmieren.

Für all diese Dinge brauchst du nicht nur keine Menschen mehr,

sondern das geht alles mittlerweile einfacher, billiger, besser,

genau das, was du sagst.

Das ist auch das, was mein Sohn immer sagt,

das, was ihm daran so Angst macht,

ist diese monströse Skalierbarkeit.

Du kannst nicht mehr so richtig greifen,

was passiert da eigentlich im Hintergrund?

Wenn du jemanden brauchst, der jetzt einfach auf Anhieb

eine Million Tweets, die alle für Donald Trump sind, absetzt,

dann kannst du das in Sekundenschnelle machen

und das kann der Bord sogar ganz alleine machen in Zukunft,

das musst du dem gar nicht mehr sagen.

Das ist das Beängstige daran.

Das heißt, wir schaffen eine perfekte, unendlich langweilige Welt,

in der Menschen immer weniger gebraucht werden.

Und dann kommt die spannende Frage,

was macht man dann den ganzen Tag eigentlich?

Und die realistische Antwort ist, sich unterhalten zu lassen,

mit immer ausgefuchsterer, unter anderem durch KI,

im entwickelter Unterhaltung, also in Gamewelten,

in Gamewelten, Musikwelten und so weiter,

einzutauchen in ein komplettes Meta-Universum,

ein virtuelles Universum.

Zwischendurch muss man ein bisschen essen,

aber das weiß der intelligente Kühlschrank natürlich genau

und er ordert dann von sich aus schon die Drohnen,

die ihn wieder auffüllen und so.

Ich meine, es gibt Menschen, die halten das für das Schlaffenland.

Und ich denke immer, bin ich froh,

dass ich in dieser Welt nicht leben muss.

Aber das ist ja vielleicht, und das kommen wir auf den Anfang zurück,

liegt daran, dass mein Gehirn sich vielleicht schon nicht nur

über gesund zusammengeschrumpft ist,

sondern schon anfängt sozusagen dieser Alterskonservativismus,

der verkallt die Leitungen.

Also ich kann in diesem Bild nicht so viel abgewinnen.

Also ich kann der Ersetzung von geistiger Routinearbeit

sehr viel abgewinnen.

Ich kann der Veränderung der Arbeitswelt,

dass die Leute das machen können, was ihnen mehr Spaß macht

oder mehr Sinn gibt, finde ich großartig, werbig für.

Finde ich alles toll.

Aber so, dass so alles, was so das Leben so ausmacht,

dass es dafür so eigentlich keine Menschen mehr braucht

und so ein Überflüssigkeitsgefühl,

mehrere Jahre ein bisschen multipliziert,

das wird zu Aggressionen führen, zu Überdruss, zu Frust,

zu Depressionen, so Aggressionen und so weiter.

Dafür ist der Mensch nicht da.

Wir sind so soziale Bewegungstiere.

Wir gieren im Augenblick nach Bequemlichkeit.

Aber wenn wir, das kennst du sicher auch noch so als Kind,

wenn dir den ganzen Tag verdattelt hast,

ist wahrscheinlich in deinem Leben schon lange nicht mehr vorgekommen,

in meinem auch nicht.

Aber ich kann mich wunderbar in der Pubertät oder Kindheit daran erinnern,

wenn man heimlich irgendwie zu viel Fernsehen gesehen hat

oder wenn man den ganzen Tag irgendwas gespielt hat oder so.

Auch süchtig war und das toll fand und so.

Aber wenn man dann abends so ins Bett ging,

ist man mit so leer und ausgelaufen, so doof ins Bett gegangen.

Wenn man den gleichen Tag 30 Kilometer durch die Berge gewandert ist,

dann hat man noch Heißhunger gegessen

und ist glücklich eingeschlafen.

Und ich habe so das Gefühl,

dass so dieser Reiz der Bequemlichkeit im Augenblick,

das können Maschinen machen,

ich muss mich nicht anstrengen, ich muss das nicht machen,

muss das nicht machen und so,

dass der sich am Ende in einem irreparablen Überdross recht.

Das ist so ein bisschen meine Argebefürchtung.

Ja, da gibt es ja auch interessante Studien dazu.

Gerade Jugendliche sagen, sie werden depressiv,

die werden traurig.

Es ist exakt das, was du beschreibst

und die Frage sozusagen des intransparenten Algorithmus.

Ich glaube, das ist ja eher das Thema.

Ich finde ja, das ist ähnlich wie beim mobilen Endgerät,

das ist ähnlich wie beim bösen Internet.

Ja, wenn man das richtig nutzt, wie großartig ist es,

dass du sozusagen die ganze Zeit das, was du gerade wissen möchtest,

deine Lieblingsbücher, deine Lieblingsmusik,

du hast es alles immer dabei und es hat mein Leben,

muss ich wirklich sagen, enorm erleichtert

und auch bereichert in gewisser Weise.

Ja, ich kann abends mal ganz schnell in meinem Lieblingsbuch lesen,

ich muss dafür nicht los und sagen, wo ist die nächste Bücherei?

Wenn gleich es mir in der Seele wehtut,

dass es die Bücherei dann wahrscheinlich so in der Form

irgendwann gar nicht mehr geben wird.

Das ist aber noch mal ein anderes Thema.

Aber das hat das Leben bereichert

und die Frage ist doch eigentlich nur die nach den Regeln.

Das ist das, was mich so beschäftigt,

die Intransparenz dieser Algorithmen.

Ich meine, Twitter hat dir vor längerer Zeit,

ich weiß nicht, ob du das noch erinnerst, eine Kontroverse,

weil der Algorithmus rechte Inhalte besonders gepusht hat.

Ja.

Es gab mal eine Studie, die gesagt hat,

dass der Twitter-Algorithmus rechten Content deutlicher mehr pusht

als linken und liberalen Content.

Und ich glaube, das war auch der Moment, in dem,

genau, genau.

Und das war der Moment, in dem Elon Musk, glaube ich,

beschlossen hat, es zu kaufen.

Das fand er großartig.

Zwei Dinge sind dazu interessant, Richard.

Die Studie hat Twitter selbst den Auftrag gegeben.

Das ist denen aufgefallen.

Und das einzige Land, in dem es sozusagen diesen Rechtsdralt

nicht gegeben hat offenbar, war Deutschland.

Das ist total interessant.

Es hat der Guardian so berichtet.

Und ich fand das spannend, weil, also einmal Deutschland,

also du merkst, da gibt es sozusagen bei uns ein sehr vieles,

ein sehr vieles Gruppel, da einfach das in diese Richtung zu hetzen.

Das hat natürlich was mit unserer Geschichte zu tun.

Das andere aber, und das ist eine gute Nachricht,

und das Beängstigende ist, dass Twitter selbst

diese Studienauftrag gibt, weil ihnen das erstens gar nicht klar ist.

Und weil sie zweitens offenbar, irgendwie mal versuchen müssen,

zu verstehen, was da eigentlich mit ihrem eigenen Algorithmus passiert.

Ja.

Jetzt gibt es ja schon lange die Forderung,

dass diese Algorithmen transparent gemacht werden soll.

Das widerspricht natürlich, widerspricht natürlich

völlig dem Firmengeheimnis.

Ja, weil wenn jeder seine, seine grandiose Algorithmen transparent macht.

Coca-Cola Rezeptur.

Ja, genau, ja.

Und Tesla genau erklärt, worin seine Überlegenheit

in seiner technischen Ausstattung besteht.

Und alle anderen freuen sich drüber und kopieren es am nächsten Tag.

Das heißt, also dieses Mittel steht ja in marktwirtschaftlichen Gesellschaften

überhaupt nicht zur Verfügung.

Das kann man ja gar nicht machen.

Dann ist immer die Rede von Ethik-Kommissionen.

Da kann man eine Million Menschen reinsetzen, die da ewig drüber debattieren

und dann kommt der nächste Entwicklungssprung.

Wichtig.

Außerdem müsste das, was so eine Ethik-Kommission dann irgendwann

mal Beratsschlacht hat, erstmal in Recht übersetzt werden,

was nochmal ein paar Jahre dauert.

Das heißt also, die bisherigen Möglichkeiten,

die wir zur Verfügung haben, um irgendetwas einzudämmen,

zu kontrollieren und so weiter, die greifen ja alle nicht mehr.

Wichtig.

Was ist mein Thema?

Und damit meine ich, weißt du, also zu sagen, abschließend nochmal dich,

das ist ja faszinierend, worüber wir hier reden,

aber es ist auch die Faszination des Grauens, über die reden wir auch.

Ja.

Also um mich so kulturpässemistisch rauszugehen und apokalyptisch,

an dich die Frage sozusagen, wo ist der Ausweg, wo ist die Lösung?

Weil eigentlich sind wir uns doch einig, dass das großartige Werkzeuge sind,

die uns da plötzlich zur Verfügung stehen,

die ganz viel stupide Tätigkeiten ersetzen werden und so weiter

und diese Quellerei von vielen Jobs, die wird es so in Zukunft glücklicherweise

an vielen Punkten nicht mehr geben.

Aber wo muss man eingreifen?

Also die Hoffnung besteht darin, wenn man sich andere technische Revolutionen anguckt.

Die erste industrielle Revolution hat, stellte sich die Arbeitsbedingungen vor,

haben wir schon häufig drüber geredet, 80 Stunden in der Woche mit 35 tot,

ein Arbeiter in einer Spinnenfabrik in England 1820.

So sieht das heute nicht mehr aus.

Das heißt, am Anfang kam die neue Technik und jetzt konnte man Maschinen machen,

wieder am Anfang die Spinnmaschine, dann kam vieles andere nach

und man hat den Menschen vollkommen da eingefügt, gedankenlos,

um der maximalen Profit aus der Sache zu ziehen.

Und irgendwann wurde der Kapitalismus humanisiert.

Noch in der zweiten industriellen Revolution, also um 1900 rum,

Fließbänder und so, man denkt an Chaplin's Film Modern Times,

der Mensch eine Rädchen im Getriebe.

Es geht überhaupt nicht um Menschenrechte, einförmigste Tätigkeit,

total verblödend, körperlich anstrengend, geistig, stupide.

Und heute haben wir eine Arbeitswelt, die sehr, sehr viel positiver ist,

die eigentlich die schönsten Arbeitswelten sind, in denen Menschen je gelebt haben.

Also es ist ja eine große Fortschrittsgeschichte.

Aber am Anfang, wenn die technische Revolution kam,

dann hat das immer ein unglaubliches Elend ausbedeutet.

Es war immer ein langer, langer Weg, bis man gelernt hat,

mit Technik umzugehen.

Jetzt könnte man sagen, das haben wir ja in der Vergangenheit auch geschafft,

das schaffen wir auch in der Zukunft.

Die offene Frage ist nur, die Entwicklung, die wir jetzt haben,

ist unkontrollierbar und sie geht sehr viel schneller.

Das heißt also, die Frage kommen wir mit der gesellschaftlichen humanisierung

von Technikfolgen noch mit.

Oder wächst uns das über den Kopf?

Die kann ich nicht beantworten.

Aber Angst macht einem die Frage schon.

Okay, Richard.

Ich glaube, viel positiver wird es heute nicht mehr und optimistischer.

Ich danke dir sehr.

Das war ein vieler Hinsicht, mal wieder sehr andregen mit dir zu reden.

Wir hören uns nächste Woche.

Wir freuen mich drauf.

Ich freue mich auch drauf. Tschüss, Markus.

Tschau Richard, tschau.

Machine-generated transcript that may contain inaccuracies.