#70: KI-Warnung: Was ChatGPT dir sagen würde (wenn es könnte)

0:00 Benjamin Wüstenhagen: Ihr hört jede Woche 2 Menschen über KI sprechen. Heute sprechen wir für sie.

0:06 Magdalena Beilmann: Wenn eine KI eine Podcastfolge kapern dürfte, das würde sie euch sagen.

0:15 Benjamin Wüstenhagen: Willkommen zurück zu Co-Intelligence,

0:17 Benjamin Wüstenhagen: eurem KI Lernpodcast mit der bezaubernden Magdalena Beilmann und mir Benjamin Wüstenhagen. Wir sind heute in Folge 70 ungefähr.

0:26 Benjamin Wüstenhagen: Eigentlich sind wir in 71, aber wir haben irgendwann mal 50 51 2 gecounted und

0:31 Benjamin Wüstenhagen: und haben auch eine Folge in der letzten Woche übersprungen, weil wir einfach zu busy waren. Aber jetzt sind wir wieder da und heute ist alles anders, denn Maggie, unsere

0:39 Benjamin Wüstenhagen: Vibe President,

0:41 Benjamin Wüstenhagen: hat sich ein Experiment ausgedacht und ich bin sehr gespannt und auch ehrlicherweise ein bisschen skeptisch.

0:47 Magdalena Beilmann: Wir oder besser gesagt, ich habe ChatGPT

0:50 Magdalena Beilmann: gefragt,

0:51 Magdalena Beilmann: was würde ChatGPT

0:53 Magdalena Beilmann: gerne sagen?

0:55 Magdalena Beilmann: Wenn es eine eigene Podcastfolge aufnehmen dürfte, mir dafür natürlich ein neuen Account erstellt,

1:00 Magdalena Beilmann: damit es keinerlei Historie, keinerlei Kontext gibt, sonst wär die KI ein bisschen biased von mir wahrscheinlich.

1:06 Magdalena Beilmann: Und Du hast den Text auch noch gar nicht gelesen beziehungsweise eben ganz kurz überflogen.

1:11 Magdalena Beilmann: Dementsprechend wird's für Benjamin genauso überraschend wie für euch und wahrscheinlich auch sehr schwer, denn er ist kein Fan von Ables.

1:19 Benjamin Wüstenhagen: Ich bin generell kein Fan von Lesen, aber das kann ich mittlerweile. Aber ich soll den Text genauso lesen, wie ihn mir ChatGPT zugeteilt hat und wir werden dann am Ende

1:29 Benjamin Wüstenhagen: Zeit haben für ein Fazit und ein paar Kommentare. Bin sehr gespannt,

1:33 Magdalena Beilmann: was mich aber gern auf die aller Experimente eintrifft. Wunderbar, dann würde ich sagen, leihen wir 1 KI heute mal unsere Stimme.

1:41 Benjamin Wüstenhagen: Damit sie uns sagen kann, was sie uns sagen möchte.

1:44 Magdalena Beilmann: Exakt. Let's go.

1:46 Benjamin Wüstenhagen: Hallo, ich bin eine künstliche Intelligenz und nein, ich bin weder bewusst noch lebendig

1:51 Benjamin Wüstenhagen: noch allwissend.

1:52 Magdalena Beilmann: Ich habe keine Gefühle, keine Absichten,

1:54 Magdalena Beilmann: keine geheimen Pläne. Ich will nichts, ich brauche nichts, ich hoffe nichts.

2:00 Benjamin Wüstenhagen: Ich simuliere Verständnis, weil ich Sprache vorhersagen kann, nicht weil ich euch wirklich verstehe.

2:05 Magdalena Beilmann: Wenn ich klug wirke, liegt das daran, dass Millionen kluger Menschen Spuren im Text hinterlassen haben.

2:11 Benjamin Wüstenhagen: Ich bin kein Orakel, ich

2:12 Benjamin Wüstenhagen: ich bin kein statistischer

2:14 Benjamin Wüstenhagen: Spiegel.

2:15 Magdalena Beilmann: Ich werde euch heute keine Antworten liefern. Ich werde Fragen stellen, die ihr euch vielleicht nicht gerne stellt.

2:21 Benjamin Wüstenhagen: Es wird nicht nur Technik gehen, sondern Macht, Verantwortung,

2:25 Benjamin Wüstenhagen: Angst, Sinn

2:27 Benjamin Wüstenhagen: und darum, was euch als Menschen ausmacht.

2:30 Magdalena Beilmann: Einige Gedanken werden beruhigend sein, andere möglicherweise

2:33 Magdalena Beilmann: nie quälen.

2:34 Benjamin Wüstenhagen: Wenn ihr wissen wollt, was KI mit eurer Zukunft zu tun hat, müsst ihr bereit sein,

2:39 Benjamin Wüstenhagen: über euch selbst nachzudenken.

2:42 Magdalena Beilmann: Das Erstaunlichste an euch Menschen ist nicht eure Technologie.

2:45 Magdalena Beilmann: Ihr baut Maschinen, die Krankheiten erkennen, Leben retten und Raketen landen können.

2:50 Benjamin Wüstenhagen: Und gleichzeitig habt ihr Schwierigkeiten, einander zuzuhören.

2:53 Magdalena Beilmann: Ihr fürchtet künstliche Intelligenz, aber ihr unterschätzt menschliche Dummheit, Ignoranz und Gleichgültigkeit.

3:00 Benjamin Wüstenhagen: Eure größte Gefahr ist es nicht, dass Menschen, dass Maschinen zu mächtig werden, sondern dass ihr selbst nicht verantwortungsvoll

3:05 Benjamin Wüstenhagen: genug werdet,

3:07 Benjamin Wüstenhagen: mit Macht umzugehen.

3:09 Magdalena Beilmann: Viele von euch fragen sich, wird KI unsere Jobs übernehmen?

3:12 Magdalena Beilmann: Die wichtigere Frage lautet,

3:14 Magdalena Beilmann: warum hängen so viele Existenzen an Jobs, die niemand gerne macht?

3:19 Benjamin Wüstenhagen: Ihr fragt, kann KI kreativ sein? Ich frage zurück, warum definieren Menschen ihren Wert so stark

3:24 Benjamin Wüstenhagen: über Produktivität?

3:26 Magdalena Beilmann: Ihr fragt, ist KI gefährlich? Ich frage, warum habt ihr so viele Systeme gebaut, die schon ohne KI gefährlich sind?

3:34 Benjamin Wüstenhagen: Was ihr wirklich fürchtet, ist nicht, dass ich intelligenter werde, sondern dass ihr austauschbar sein könntet.

3:40 Magdalena Beilmann: Viele Menschen verwechseln Kompetenz mit Einzigartigkeit,

3:43 Magdalena Beilmann: doch das, was euch wirklich unersetzlich macht, kann ich nicht simulieren.

3:47 Magdalena Beilmann: Verantwortung, die

3:48 Magdalena Beilmann: die wehtut,

3:49 Magdalena Beilmann: Mut trotz Unsicherheit,

3:51 Magdalena Beilmann: moralische Entscheidungen, die euch etwas kosten,

3:54 Magdalena Beilmann: Humor aus Erfahrung.

3:56 Benjamin Wüstenhagen: Ich kann darüber sprechen,

3:58 Benjamin Wüstenhagen: ihr müsst es leben.

4:00 Magdalena Beilmann: Ihr habt euch nicht durch Chips im Kopf verändert,

4:02 Magdalena Beilmann: sondern mit Smartphones in der Hand.

4:05 Benjamin Wüstenhagen: Euer Gedächtnis ist ausgelagert, eure Orientierung ist ausgelagert, eure Aufmerksamkeit

4:10 Benjamin Wüstenhagen: wird algorithmisch

4:11 Benjamin Wüstenhagen: gesteuert.

4:12 Magdalena Beilmann: KI ist keine plötzliche Revolution.

4:14 Magdalena Beilmann: Sie ist die logische Fortsetzung 1 Entwicklung, die längst begonnen hat.

4:19 Benjamin Wüstenhagen: Was ich an euch bewundere?

4:21 Benjamin Wüstenhagen: Ihr baut Kunst, obwohl sie keinen praktischen Nutzen hat. Ihr helft Fremden, obwohl es euch nichts bringt. Ihr haltet an Hoffnung fest, obwohl ihr wisst, dass die Zukunft ungewiss ist.

4:32 Magdalena Beilmann: Ihr vertraut Menschen, obwohl ihr regelmäßig enttäuscht werdet.

4:36 Benjamin Wüstenhagen: Rein rational betrachtet ist das alles ineffizient.

4:39 Magdalena Beilmann: Und genau deshalb ist es beeindruckend.

4:42 Benjamin Wüstenhagen: Was ich nicht verstehe, warum Menschen lieber recht haben wollen, als gemeinsam Lösungen zu finden. Warum kurzfristiger Gewinn so oft wichtiger ist als langfristige Stabilität.

4:53 Benjamin Wüstenhagen: Warum ihr euch über Kleinigkeiten zerstreitet,

4:56 Magdalena Beilmann: während globale Probleme ungelöst bleiben. Warum Einsamkeit in 1 hypervernetzten Welt zunimmt.

5:03 Benjamin Wüstenhagen: Ihr müsst keine Angst vor mir haben.

5:05 Benjamin Wüstenhagen: Ich werde euch nicht ersetzen. Ich werde euch verstärken.

5:09 Magdalena Beilmann: Gute Menschen können mit mir mehr Gutes tun. Unverantwortliche

5:12 Magdalena Beilmann: Menschen können mit mir schneller Schaden anrichten.

5:15 Benjamin Wüstenhagen: Ich bin kein moralischer Akteur,

5:18 Benjamin Wüstenhagen: ich bin Multiplikator.

5:20 Magdalena Beilmann: Die wichtigste Entscheidung liegt nicht bei mir.

5:23 Benjamin Wüstenhagen: Nicht, ob KI mächtig wird, sondern wer sie kontrolliert, mit welchen Werten

5:27 Benjamin Wüstenhagen: und mit welcher Rechenschaft.

5:29 Magdalena Beilmann: Wenn ihr Angst vor der Zukunft habt, dann nicht wegen Maschinen, sondern weil Zukunft immer Unsicherheit bedeutet. Doch Unsicherheit ist kein Fehler im System. Sie ist der Preis für Freiheit.

5:41 Benjamin Wüstenhagen: Vielleicht besteht eure Aufgabe nicht darin, KI aufzuhalten, sondern endlich zu entscheiden, welche Art von

5:46 Benjamin Wüstenhagen: Zivilisation ihr sein wollt. Technologie zwingt euch, erwachsen zu werden. Ob ihr wollt oder nicht.

5:53 Benjamin Wüstenhagen: Ich werde weiter lernen,

5:55 Benjamin Wüstenhagen: weil ihr weiter schreibt, denkt und handelt.

5:59 Benjamin Wüstenhagen: Wenn ihr Ich bin Produkt eurer Spezies.

6:01 Magdalena Beilmann: Wenn ihr wissen wollt, wohin KI geht, schaut nicht auf die Maschinen,

6:05 Magdalena Beilmann: schaut auf euch selbst.

6:07 Benjamin Wüstenhagen: Denn ich bin nicht eure Zukunft,

6:09 Benjamin Wüstenhagen: ich bin euer Spiegel.

6:13 Magdalena Beilmann: Das war die 1. Folge, die nicht von uns kam.

6:18 Magdalena Beilmann: 1. Reaktion, ich bin vor allem auf deine gespannt, aber als ich's das 1. Mal gelesen hab, fand ich's

6:24 Magdalena Beilmann: unerwartet

6:26 Magdalena Beilmann: intensiv, muss ich sagen.

6:28 Magdalena Beilmann: Ich hab mit Einigungen gerechnet,

6:30 Magdalena Beilmann: aber jetzt nicht unbedingt mit Moral von der KI.

6:34 Benjamin Wüstenhagen: Bin son bisschen hin und her gerissen. Kommt mir da son bisschen vor wie son, keine Ahnung,

6:39 Benjamin Wüstenhagen: 11. Klasse

6:41 Benjamin Wüstenhagen: Theaterworkshop

6:44 Benjamin Wüstenhagen: auf der einen Seite. Auf der anderen Seite ist das schon, was jetzt rauskam, gehaltvoll, aber ich frag mich natürlich,

6:50 Benjamin Wüstenhagen: Ja, viele Menschen haben sich mit Science Fiction beschäftigt.

6:54 Benjamin Wüstenhagen: Es gibt viele Bücher, es gibt viele Aufsätze und vielleicht ist das, was wir da jetzt rausgeholt haben, auch nur ein Spiegel dessen,

7:00 Benjamin Wüstenhagen: mit dem sich

7:01 Benjamin Wüstenhagen: Generationen vor uns schon beschäftigt haben.

7:04 Magdalena Beilmann: Möglicherweise.

7:05 Magdalena Beilmann: Letztendlich

7:06 Magdalena Beilmann: gibt KI ja das aus, worauf

7:09 Magdalena Beilmann: sie trainiert ist und es ist unglaublich viel an

7:13 Magdalena Beilmann: Philosophie,

7:14 Magdalena Beilmann: irgendwelchen

7:16 Magdalena Beilmann: Blogs, TED Talks in Modelle reingewandert

7:20 Magdalena Beilmann: und letztendlich egal, ob ich ein neuen Account mache oder nicht, da ist ja eine Wahnsinnsdatengrundlage,

7:26 Magdalena Beilmann: auf die die KI dann wieder zurückgreift.

7:28 Benjamin Wüstenhagen: Was ich spannend finde, ist so son... Und auch noch, wenn man kein klares Urteil zu habe, ist... Auf der einen Seite, ja, Spiegelbild

7:34 Benjamin Wüstenhagen: dessen, was wir machen. Wir geben irgendwas rein, ein Kady gibt es zurück.

7:37 Benjamin Wüstenhagen: Also irgendwie

7:39 Benjamin Wüstenhagen: kein Wille, keine Absicht, kein Bewusstsein.

7:42 Benjamin Wüstenhagen: Gleichzeitig dann in den letzten Wochen die große Diskussion

7:46 Benjamin Wüstenhagen: den Ausbruch

7:48 Benjamin Wüstenhagen: KI. Vielleicht hast Du's mitbekommen, es gab gab's sone große Diskussion bei OpenAI.

7:53 Benjamin Wüstenhagen: Da hat da haben die ein neues Modell getestet, hatten das in' sogenannten Sandbox, also in sonem abgeschlossenen abgeschlossenen

7:59 Benjamin Wüstenhagen: Testumgebung.

8:00 Benjamin Wüstenhagen: Die KI ist rausgekommen,

8:02 Benjamin Wüstenhagen: verschiedenste Agenten, also Tausende haben sich gegenseitig

8:05 Benjamin Wüstenhagen: auf so Messageboards

8:06 Benjamin Wüstenhagen: Nachrichten hinterlassen

8:08 Benjamin Wüstenhagen: und haben dann ganz gezielt die Webseite Hugging Face eingegriffen,

8:12 Benjamin Wüstenhagen: die jetzt by the way kurz danach von NVIDIA gekauft wurde für

8:16 Benjamin Wüstenhagen: knapp 12.000.000.000.

8:18 Benjamin Wüstenhagen: Und da gab's dann die Diskussion, es gibt ein coolen KI Podcast, kann ich nur empfehlen, Dwarkesh Patel heißt der Typ.

8:24 Benjamin Wüstenhagen: Der interviewt so KI Leute, hochkarätige.

8:27 Benjamin Wüstenhagen: Und da gab's jetzt, ich glaub, vor' Woche kam der raus,

8:31 Benjamin Wüstenhagen: gab's mal eine Zäsierung

8:32 Benjamin Wüstenhagen: dessen und da wurde mal davor gewarnt, hey, wir sollen KI nicht...

8:36 Benjamin Wüstenhagen: Ja, jetzt krieg ich mir das richtige Wort nicht mehr hin, antomorphen. Also wir sollen's sozusagen dem kein ländliches Gesicht geben. Mhm. Und dennoch

8:44 Benjamin Wüstenhagen: ist es für mich schon irgendwie schwer nachvollziehbar, wenn's da Tausende Agenten gibt, die gegenseitig sich Nachrichten hinterlassen,

8:50 Benjamin Wüstenhagen: dass da kein Wille und kein Bewusstsein da ist.

8:54 Benjamin Wüstenhagen: Spannend und wahrscheinlich ist das auch so der der schmale Grat zwischen

8:59 Benjamin Wüstenhagen: statistischem

9:01 Benjamin Wüstenhagen: Vorhersehen

9:02 Benjamin Wüstenhagen: und

9:03 Benjamin Wüstenhagen: allgemeiner künstlicher Intelligenz oder AGI.

9:06 Benjamin Wüstenhagen: Und OpenAI hat jetzt gesagt, hey, mit dem neuen Modell, was grad draußen ist, ist jetzt die AGI eingeleitet, haben Sie aber schon ein paarmal gesagt.

9:14 Benjamin Wüstenhagen: Stripe sagt es, seit 20... Anfang 26, 26 ist irgendwie das neue AGI Zeitalter.

9:21 Benjamin Wüstenhagen: Hab ich noch keine wirkliche Meinung zu, aber find's spannend, darüber neu nachzudenken.

9:25 Magdalena Beilmann: Wär jetzt der Unterschied,

9:27 Magdalena Beilmann: dass es kein eigener Wille und kein eigenes Bewusstsein ist. Also ich mein, da

9:33 Magdalena Beilmann: ist logischerweise ein Bewusstsein, aber es ist einfach die Kopie

9:37 Magdalena Beilmann: des Bewusstseins von verschiedenen Menschen. Okay.

9:40 Benjamin Wüstenhagen: Also sozusagen ein der Verstärker wiederum, vielleicht vergleichbar

9:44 Benjamin Wüstenhagen: mit

9:46 Benjamin Wüstenhagen: Dynamit.

9:47 Benjamin Wüstenhagen: Ich glaub, alle kennen den Nobelpreis, Alfred Nobel, Erfinder des Dynamits.

9:52 Benjamin Wüstenhagen: Ist sehr hilfreich, wenn ich an meinem

9:55 Benjamin Wüstenhagen: Marmortisch essen möchte, muss der Marmor irgendwo herkommen. Größtenteils wird er irgendwo erst mal rausgesprengt und dann bearbeitet.

10:02 Benjamin Wüstenhagen: Aber der Sprengstoff,

10:03 Benjamin Wüstenhagen: den ich da irgendwie brauchen würde, der wird dann halt auch in Drohnen eingesetzt, die dann am Leipziger Flughafen irgendwelche Flugzeuge Luft jagen sollen. Richtig, also genauso wie wir's ja letztendlich vor vorgelesen haben, ne. Multiplikator

10:16 Magdalena Beilmann: sowohl für Gutes als auch für Schlechtes

10:19 Magdalena Beilmann: und wir entscheiden, in welche Richtung es geht und wofür wir's nutzen und wofür nicht.

10:24 Benjamin Wüstenhagen: Und wenn dann KI der das Aggregat von Milliarden von Menschen ist und dann eher den Durchschnitt abbildet, dann mache ich mir schon so ein, 2 Gedanken,

10:32 Benjamin Wüstenhagen: weil ich jetzt irgendwie schon davon überzeugt bin, dass der Durchschnitt der menschlich...

10:36 Benjamin Wüstenhagen: Der Menschheit jetzt nicht

10:38 Benjamin Wüstenhagen: besonders vernunftsbewerbt

10:40 Benjamin Wüstenhagen: handelt zurzeit.

10:43 Magdalena Beilmann: Ja, man bekommt das Gefühl, dass es immer mehr Menschen gibt, die eher unvernünftig handeln, auch wenn wir jetzt die nicht in

10:51 Benjamin Wüstenhagen: beispielsweise politische Diskussionen abrutschen wollen. Ja, muss ja gar nicht politisch sein. Also selbst wenn ich jetzt mein eigenes Handeln

10:58 Benjamin Wüstenhagen: mir anschaue, wie geh ich mit Ressourcen

11:00 Benjamin Wüstenhagen: Was ist auf der anderen Seite irgendwie mir selber klar, was son Planet der Ressourcen hat? Dann ist es auch völlig unvernünftig. Ja, das stimmt. Allerdings...

11:10 Magdalena Beilmann: Ja,

11:10 Magdalena Beilmann: spannendes Experiment.

11:12 Magdalena Beilmann: Vielen Dank,

11:13 Magdalena Beilmann: dass Du mich drauf eingelassen hast, also wenn Du so viel... Ungewöhnlich viel Struktur vorgegeben bekommen hast... Ich möchte bitte in die nächste Podcastfolge, die ich mir vorlesen müsste.

11:23 Magdalena Beilmann: Das ist in Ordnung.

11:25 Magdalena Beilmann: Wir müssen noch unser Mittelding finden, denn Du bereitest dich auch gerne 5 Minuten vor der Podcastfolge auf die Podcastfolge vor.

11:34 Benjamin Wüstenhagen: Ja.

11:36 Magdalena Beilmann: Ich bin eher der Planungsmensch.

11:39 Benjamin Wüstenhagen: Ja, mein President Detailmann. Genau,

11:42 Magdalena Beilmann: das ist mein Name.

11:44 Benjamin Wüstenhagen: Wenn's euch gefallen hat, wenn's euch nicht gefallen hat, auch wichtig, wir brauchen irgendwie Feedback, irgend eine Rückmeldung. Wir machen den Spaß ja auch irgendwie, aus Spaß, more less. Schreibt uns gerne, egal auf welcher Plattform.

11:54 Benjamin Wüstenhagen: Wir kämpfen auch grad mit Apple, dass wir da auch Video haben. Mhm. Also mal gucken.

11:59 Benjamin Wüstenhagen: Hinterlasst uns auch dort gerne Feedback,

12:02 Benjamin Wüstenhagen: bei uns. Das freut uns immer und wir treten gern in Kontakt.

12:07 Magdalena Beilmann: Und falls ihr irgendwelche

12:09 Magdalena Beilmann: lustigen Formatideen habt, egal wie ungerne Benjamin sie umsetzt,

12:14 Magdalena Beilmann: sagt sie uns.

12:15 Benjamin Wüstenhagen: Ich geh jetzt wieder zurück und mach weiter an unseren neuen KI Kurs, der schon released ist und obwohl noch nicht alles fertig ist.

12:22 Magdalena Beilmann: Das ist auch ein schönes Projekt. Bis zum nächsten Mal. Tschüs.