#3: Bias, Bullshit, Datenschutz – Wie wir KI verantwortungsvoll nutzen

0:10 Willkommen zurück zur dritten Episode von Co-Intelligence,

0:13 eurem KI Lernpodcast.

0:16 Nachdem ihr beim letzten Mal gelernt habt,

0:19 wie eigentlich die Grundlagen von ChatGPT sind, was Transformer Modelle sind, schauen wir uns heute so tolle Themen an wie Datenschutz.

0:26 So schlimm wird's nicht. Wir schauen, wie KI

0:30 Biases hat, wie wir damit verantwortungsvoll

0:33 umgehen können und warum es auch zu Halluzinationen kommen kann. Genau, das andere hört sich erst mal mega an,

0:41 Aber ich versprech, wir kriegen's trotzdem, glaub ich, ganz interessant hin und die nächsten Folgen werden dann auch noch ein bisschen mehr hands on auf jeden Fall. Wichtig sind die Themen auf jeden Fall, denn

0:53 die haben,

0:54 ja, ich sag mal, Implikationen

0:56 fürs richtige Leben und es kann auch ganz schnell mal schieflaufen, wenn ich nicht weiß, was die KI so

1:01 falsch macht oder falsch machen kann.

1:03 Und

1:04 Beispiel

1:05 ist ein bekannter Anwalt in den USA, der zu Gericht gegangen ist, dem Richter zu zeigen,

1:12 wie sein Mandat,

1:14 ja, natürlich auf der richtigen Seite des Rechts steht. Er hat ganz viele Cases vorgetragen aus der Vergangenheit.

1:21 Und das Dumme war nur, dass diese Cases alle

1:24 alle nicht existierten,

1:25 sondern ChatGPT

1:26 einfach sehr überzeugend ihm diese Cases

1:30 vorbereitet hat und er einfach davon ausgegangen ist, dass es natürlich 1 zu 1 stimmt, was die KI einem sagt. Und

1:38 ja, KI kann ein großer Bullshitter sein. KI

1:42 kann auch ein bisschen voreingenommen sein. Und warum und wie, schauen wir uns heute an. Wie kommt's denn zu Halluzinationen von KI, wenn keine Pilze im Spiel sind? Sehr gute Frage. Es sind tatsächlich keine Pilze im Spiel. Hat auch nix damit zu tun, dass man irgendwie durch eine Wüste läuft und auf einmal Fatamorgana

2:00 sieht. Hat nichts damit zu tun, dass vielleicht die Server überheizen

2:03 und die KI dann Fehler macht, sondern die KI weiß eigentlich gar nichts. Wir haben ja in der vorigen Episode auch schon mal gesagt, das ist son bisschen stochastischer

2:12 Papagei, wenn

2:13 wenn man's böse ausdrücken will, ist, dass eigentlich immer nur das nächste Wort, den nächsten Token vorhersagt.

2:20 Und die KI ist einfach darauf

2:22 trainiert,

2:24 dass sie

2:25 Sinn ergibt oder zumindest

2:28 scheinbar

2:29 Sinn ergibt. Eine KI ist ein guter Bullshitter, wie

2:32 wie man so gut sagt. Und

2:33 wenn man sich mit' Thema nicht gut auskennt,

2:36 dann ist diese KI sehr gut darin, einem zu erklären,

2:41 dass das Gesagte einfach Sinn ergibt. Die die die Argumente machen oft oder erscheinen oft sinnvoll.

2:48 Aber die KI kann Fakten erfinden, kann Quellen kann Zusammenhänge erfinden und

2:53 dem müssen wir uns bewusst sein. Und das ist natürlich immer son bisschen die Frage, welchen Use Case hab ich eigentlich grade und wie schlimm ist das, wenn die KI hier Fehler macht? Wenn ich euch einfach ein kleinen

3:03 Beitrag für Social Media schreibe oder so, ne, dann ist es in der Regel nichts Kritisches.

3:08 Wenn es da Fakten geht, muss ich die Fakten natürlich trotzdem checken.

3:11 Wenn ich aber son Fall hab wie eben eingangs

3:14 erwähnt mit dem Anwalt, der ein Gerichtsverfahren

3:17 vorbereitet,

3:18 eine Verhandlung vorbereitet,

3:20 wo es im Zweifel Knast oder nicht Knast oder große Geldsummen geht,

3:24 dann muss ich einfach sehr vorsichtig sein, wenn ich eine KI verwende und sollte diesen Output nicht einfach 1 zu 1 glauben oder verwenden, sondern sollte immer noch mein mein Research machen. Also das ganze Thema Halluzinationen,

3:37 sich Dinge ausdenken, die plausibel erscheinen,

3:39 ist eine Sache, der ich bewusst

3:42 sein muss im Umgang mit KI. Ist aber nicht die einzige Sache. Und zwar ist KI ja auch mal ein bisschen oder manchmal ein bisschen voreingenommen

3:52 oder biased. Und ich glaub, zu biased

3:55 können wir auch noch mal sprechen. Ja, das ist also

3:58 so wie wir es grade gelernt haben oder auch schon besprochen haben bei ChatGPT,

4:04 kann natürlich die KI nur darauf trainiert werden, auf auf Dingen, die sie bekommen hat zum Trainieren, auf den Daten aus der Vergangenheit.

4:12 Und wenn diese Daten schon,

4:13 ich sag mal, die Realität nicht 100 Prozent abdecken, sondern verzerrt sind, dann kann natürlich das, was rauskommt nach dem Training auch noch verzerrt sein. Also wenn ich nur darauf trainiert bin, dass Obst

4:25 immer rot ist, weil ich nur Erdbeeren hatte,

4:27 dann ist die Wahrscheinlichkeit, dass mir die die KI sagt, Obst ist immer rot, sehr hoch, ja? Das kann kritisch sein. Das kann auch, also bei Obst würd ich jetzt noch sagen, okay, wenn meine Banane am Ende rot ist, Ja. Damit kann ich vielleicht noch leben. Da würd ich halt erkennen, okay, die Banane ist rot. Ja. Gesellschaftlich kann's aber Probleme geben, Richtig. Denn und die meisten Bild KIs, sei denn, die greifen danach noch mal ein, sind auf

4:51 aktuellen Daten und Fotos trainiert.

4:53 Und wenn ich eingebe, machen wir mal ein Bild von' Arzt

4:57 oder auch jetzt im Englischen gibt's ja gibt's ja kein Geschlecht,

5:02 ja eigentlich ein weiblicher oder ein männlicher Arzt sein Ja. Bekommt man fast ausschließlich

5:08 Männer zurück. Ne, und das liegt halt an den Trainingsdaten.

5:11 Aber

5:12 es ist natürlich gesellschaftlich problematisch,

5:15 wenn diese ja, Vorurteile oder ich sag mal, die bestehenden

5:19 Systeme dann weiter

5:22 durch die KI verstärkt werden, ne. Da müssen wir uns da bewusst sein. Ja, zudem kann's auch sein, dass ich dass der Kontext fehlt. Also dass ich dann ein Bild generiere.

5:31 Ich hab dieses Beispiel mal gesehen von den Soldaten, wo gesagt wurde, generier mal ein deutschen Soldaten

5:37 aus der Zeit des Zweiten Weltkrieges.

5:39 Und dann

5:40 gab's alle möglichen Farben dadrunter, wo die Wahrscheinlichkeit, dass das dann so war, recht gering ist, weil natürlich die KI diesen Kontext nicht hatte, sondern im Prinzip ein Menschen genommen hat und den dann in' in' Soldatenuniform

5:51 dargestellt hat. Ja, und ich mein, da ist da

5:54 sieht man, wie auch das Eingreifen

5:57 in den Bias zu' Problem führen kann, ne. Weil die KI hat natürlich,

6:01 wenn Du da sagst, will ein SS Soldat,

6:03 dann hat die KI natürlich nur von

6:07 weißen

6:07 Männern, jungen Männern gelernt. So, das heißt, wahrscheinlich hätte die KI dann auch

6:13 ein weißen Mann in die Uniform gepackt. So. Die KI war jetzt aber von Google und Google ist eben sehr darauf gebracht auf Gleichheit

6:22 und böse Zungen behaupten, ist auch manchmal ein bisschen woke.

6:26 Aber da hat dann im Nachhinein halt der

6:29 die Entwickler haben halt dem System gesagt, dass es darauf achten muss, dass es immer eine Gleichheit gibt, eine Gleichverteilung zwischen Männern und Frauen in verschiedenen Hautfarben. Ja. Das hat halt im Ergebnis dazu geführt, dass es weibliche SS Soldaten gab, farbige SS Soldaten und so weiter, was halt historisch

6:45 einfach kompletter Quatsch ist, was auch dazu geführt hat, dass Google kurzzeitig diese Bild KI wieder zurückziehen musste,

6:53 weil ja, in gewisser Weise

6:55 eigentlich ein guter Ansatz da war. Ich will nicht nur weiße Männer zeigen, die

7:01 Ärzte sind oder in dem Fall Soldaten, sondern will dafür sorgen, dass es quasi aufgebrochen wird, diese Klischees.

7:07 Hat aber natürlich zu' krassen Verzerrung der Wirklichkeit geführt. Und die Verzerrung, die im Training dann da gewesen wäre, wurde dann sozusagen durch diesen algorithmischen

7:17 Eingriff, durch diesen algorithmischen Bias ausgeglichen und wurde eigentlich noch schlimmer. Genau. Und da muss man sich son bisschen auch bewusst sein, wo kommen die Modelle her? Wer hat die eigentlich entwickelt? Google,

7:28 klar, ultra, sag mal linksliberal,

7:30 versucht, dafür Gleichheit zu sorgen. Dann haben wir die KI von Elon Musk, die so komplett ins Gegenteil,

7:36 freedom of speech und irgendwie alles muss truth und wahr sein. Funfact,

7:42 wenn man seinen gefragt

7:43 hat, am Anfang wär der größte Lügenbold

7:46 auf LinkedIn, auf xing,

7:48 auf auf x, auch ehemals X auf x ist, sagt seine eigene KI, dass er's ist. Also es ist schon ein bisschen. Und dann haben wir noch die Chinesenmodelle,

7:57 die natürlich irgendwie die chinesische Propaganda

7:59 befeuern. Wenn man da fragt, was war beim Tian mehr, Massaker, dann sagt er, ja, war ja eigentlich gar nix. Und von daher, man muss einfach, also ohne jetzt politisch zu werden, ne, muss man, glaub ich, einfach wissen,

8:11 die Dinger machen Fehler.

8:13 Das liegt teilweise in den Daten, teilweise in den Menschen, die im Nachhinein angegriffen

8:17 haben. Und abhängig von der Situation KI nutze, kann das halt entweder schlimmer oder weniger schlimm sein. Ganz genau. Ja. Aber was wir auch sagen können, wir sehen, dass KIs

8:27 tendenziell weniger halluzinieren, als sie am Anfang das getan haben. Also es wird besser. Genau, es wird besser, es wird viel besser. Also allein über letzten 2, 3 Jahre hat man da schon massive Verbesserungen gesehen

8:38 und es wird auch regelmäßig besser. Es wird, glaub ich, nie ganz weggehen, allein schon, weil die Modelle halt so funktionieren, wie sie funktionieren.

8:46 Wichtig ist auch, und das ist son bisschen die Gefahr, wenn die immer besser werden, wenn die immer weniger halluzinieren,

8:53 werd ich auch immer weniger aufmerksam Ja. Und 8. Darauf. Und das ist halt, so bist Du, glaub ich, der Appell. Man muss Fakten, Daten und so weiter checken. Und desto kritischer der Einsatz ist, desto mehr muss man natürlich drauf achten. Ist grad natürlich auch wichtig, dass Du weißt, was Du da tust. Also ich nutze KI oft,

9:09 so meine sehr rudimentären Coding Kenntnisse ein bisschen aufzupimpen

9:13 und frag dann ChatGPT oftmals,

9:15 okay, wie muss ich das machen? Wie muss ich das machen? Und ich verstehe so ungefähr, was da passiert, aber nicht hundertprozentig. Und

9:21 Und da bin ich natürlich besonders

9:23 anfällig für Halluzinationen oder falsche Darstellungen. Kommen wir zum Lieblingsthema

9:28 aller Deutschen,

9:30 Datenschutz.

9:32 So Datenschutz,

9:33 supertrockenes Thema, superwichtiges Thema aber auch. Und

9:38 man muss einfach wissen oder drauf achten, was man für Daten in die KI reingibt. Und zwar gilt die DSGVO

9:45 auch bei der Nutzung von KI.

9:48 Das ist wichtig. Man kann das ganze Thema

9:50 unendlich komplex und kompliziert erklären

9:54 oder relativ einfach. Und ich würd sagen, wir gehen heute mal den einfachen Weg. Und zwar

9:58 geborene ich nie Kundendaten in die KI.

10:02 Und ich sprech jetzt davon, dass die KI

10:05 in den USA gehostet ist und nicht on premise, also wohl nicht zu technisch werden. Kann Modelle, zum Beispiel Open Source Modelle auf meinen eigenen on premise Servern laufen lassen oder auf meinen eigenen europäischen Cloud Instanzen

10:17 und kann dann auch Daten verarbeiten,

10:20 Kundendaten verarbeiten. Das ist son bisschen, wie wenn ich mal eine deutsche AWS Instanz, also Amazon Server habe oder Microsoft Azure Service habe. Da liegen natürlich Kundendaten drauf. Und wenn ich auf meinen meine Modelle, auf meinen Servern in nezanzen laufen darf, dann kann ich das natürlich alles. Das geht jetzt aber für den normalen User, der ChatGPT nutzt. Und wenn ich einfach ChatGPT nutze, da werden meine Daten

10:44 bald auch wohl in Europa verarbeitet, aber trotzdem auf Servern, die nicht in meiner Hand sind, die beim amerikanischen Unternehmen liegen. Da sollte ich grundsätzlich

10:53 nie Kundendaten reingeben.

10:55 Da sollte ich nie irgendwelche Geschäftsgeheimnisse reingeben.

10:59 Und

11:00 generell kann ich, glaub ich, sagen, wenn das Daten sind, die irgendwo öffentlich zur Verfügung

11:05 sind, die abgreifbar sind, die im Netz stehen, dann kann ich die auch reingeben.

11:10 Natürlich muss ich meinen eigenen Case immer überlegen, macht das Sinn oder macht das nicht Sinn?

11:15 Beispiel,

11:16 ich gebe vergangenen Newsletter von meinem Unternehmen rein,

11:21 ein Muster zu haben für die Erstellung zukünftiger Newsletter. Ja. So, jetzt kann ich sagen, natürlich sind da meine Daten drin. Das sind Sachen, die ich irgendwie erstellt habe. Da sind ja keine Kundendaten drin, aber sind irgendwie unsere Unternehmensdaten drin.

11:32 Klar, aber diese Newsletter sind im Internet. Richtig, ja. Ne? Und dann kann ich die auch verwenden und das ist eben Aber vielleicht nicht die neueste Patentanwendung

11:41 Anmeldung in DeepSeek. Genau, genau. Meine meine Geheimnisse soll ich da nie reinbringen, was auch noch ein wichtiges Thema ist. Und die Frage bekommen wir oft, wie ist es denn, wenn ich die Kundendaten anonymisiere?

11:53 Und da ist die Antwort, jein.

11:55 Das

11:56 geht,

11:57 wenn ich

11:58 die so anonymisiert habe, dass ich nicht

12:02 nachvollziehen kann, wer dieser Kunde ist.

12:05 Beispiel, wenn ich eine Liste aller Bestellungen hab meines Unternehmens

12:09 und dann einfach die Personennamen austausche mit irgendwie ABCDE,

12:14 kann ich ja trotzdem,

12:16 da die die Bestellhistorie

12:18 so unique ist, im Nachhinein nachzuvollziehen, welche Person es war. Man geht Das nur Pseudonym. Genau, das ist nur ein Pseudonym. Dann geht es nicht. Wenn ich jetzt aber eine Userumfrage

12:28 mach mit 1000 Usern und 10 Fragen und möchte die mit der KI auswerten lassen, dann kann ich natürlich die Namen raus, weil die sind irrelevant,

12:36 kann die E-Mail-Adressen rausnehmen, kann nur die Antworten nehmen und kann diese Antworten

12:40 natürlich

12:41 verarbeiten.

12:42 Und da ist auch wieder ein kleiner Disclaimer,

12:45 es sei denn, ich weiß, es gibt Freitextfelder,

12:48 wo Leute vielleicht ganz persönlich über irgendeine Erfahrung mit dem Unternehmen arbeiten. Das heißt, ich muss mir die Daten auch vorher anschauen. So, Long Story Short, Datenschutz ist sehr relevant bei der KI. Keine personenbezogenen Daten, keine Geschäftsgeheimnisse.

13:01 Und wenn wir zum Thema ChatGPT kommen, ich hab auch noch die Möglichkeiten, das sollte ich immer machen, in den Einstellungen

13:07 auszuschalten,

13:08 dass die KI Systeme mit meinen Daten lernen. Selbst wenn's unkritische Daten sind, möcht ich eigentlich nicht, dass damit gelernt wird, ich zumindest nicht. Und das kann ich auch ausstellen.

13:17 So viel zum trockenen, langweiligen Thema Datenschutz. Aber auch ganz wichtig,

13:23 der Datenschutz darf nicht das Argument sein, KI nicht zu nutzen. Genau, genau. Das ja ganz gerne in Deutschland gemacht, so,

13:30 nee, Datenschutz sagt nein. Ja, genau. Und da muss man, glaub ich, auch als Unternehmer, als Person, die in' Marketingteam oder irgendwo arbeitet und eigentlich ein massiven Mehrwert von der KI hat, auch mal dagegen treten und auch mal ein bisschen pushen. Ja. Weil es ist immer einfach von 1 Person im Unternehmen,

13:50 dem oder der Datenschutzbeauftragte,

13:52 dass die Nein sagt. Weil die Sache ist, die Personen verstehen oft gar nicht genug von KI.

13:58 Und da ist die Default Antwort oft leider immer nein.

14:02 Aber mit 1 Default Nein Antwort,

14:04 ja, kommt leider niemand weiter. Das unternehmerische Person kommt nicht weiter. Und wenn die anderen halt ein bisschen flexibler sind oder offener sind, die Konkurrenz,

14:13 dann bleibt man da hinten dran. Also es ist immer, man sollte ein paar mathematischen Ansatz wählen,

14:19 aber natürlich keinen Quatsch machen und irgendwie falsche Daten oder ja, da reinzugehen.

14:24 Und es gibt ja auch ein paar europäische Hoffnungen auf der KI Seite.

14:28 Vielleicht haben wir da demnächst auch ein Modell oder mehr Modelle,

14:31 die mindestens so gut sind wie ChatGPT.

14:33 Genau. Ein Beispiel, gute für ein guten Job ist Mistral aus Frankreich. Die

14:39 kann man auf jeden Fall auch

14:41 empfehlen. Wobei wir unsere

14:43 unsere unsere ganzen Erklärungen oft ChatGPT

14:46 einfach beziehen,

14:48 weil's einfach das Tool ist, was Richtig, da der Standard. Menschen synonym für KI ist und was die allermeisten Leute nutzen. Genau. Aber eben mit Vorsicht genießen. Und wenn wir jetzt über verantwortungsvollen Umgang sprechen, ist natürlich Datenschutz wichtig.

15:00 Was wir auch gesagt haben, alle Fakten überprüfen,

15:04 ja, nichts für bare Münze nehmen. Wichtig, wenn ihr mit KI arbeitet,

15:08 stellt sicher, dass ihr das überprüfen könnt. Die Fakten überprüfen.

15:11 Wichtig ist auch, dass wir, jetzt noch ein weiteres weiterer Anglizismus, human in the loop, dass immer irgendwo noch ein Mensch irgendwo in der Prozesskette ist,

15:21 der sich das Ganze anschaut und im Zweifel auch stoppen kann.

15:25 Wichtig ist auch, dass Transparenz geschafft wird,

15:28 geschaffen wird, ja, egal ob jetzt Bilder mit KI generiert werden

15:32 oder Texte. Ich mir fällt das immer wieder auf bei LinkedIn. Ich hab das Gefühl, dass irgendwie 2 Drittel aller LinkedIn Posts mittlerweile irgendwie von der KI generiert sind. Immer wenn viele Emoticons mit drin sind oder so paar

15:44 Aussagen auf das nächste Level heben, dann weiß man sofort, okay, hier war die KI im Einsatz, ja.

15:51 Da gibt's auch schon schöne Ansätze. Adobe

15:53 beispielsweise

15:54 kennzeichnet Bilder, die mit Firefly, mit dem Adobe

15:58 KI Bildgenerator gemacht werden, mit' kleinen

16:01 Icon Ja, dass man

16:03 sehen kann, ah ja, das ist ein KI generiertes Bild wird, glaub ich, auch immer wichtiger,

16:07 grad wenn das Foto realistisch wird oder wenn das Videos sind, dass man das klar kennzeichnet. LinkedIn macht das jetzt auch, weil das ist ja in den Metadaten, nur diese Tools speichern das in die Metadaten ab. Ja. Und

16:18 diese Information wird dann genommen von den Oberflächen, wie zum Beispiel auch LinkedIn. Da hat jetzt auch, glaub ich, oben links ist manchmal sieht man das bei Videos, dass es KI generiert ist. Okay. Und

16:28 ja, sorgt einfach für Transparenz, glaub ich. Ja. Unser Auto ist auch KI generiert, ja, so transparent hier. Ja, ja. Wir sind aber beide echt. Genau. Oder?

16:37 Na ja, noch, ne, noch. Und wichtig auch, ja, da das natürlich auch alles Menschliche, eher menschliche Zeit kostet,

16:45 setzt die Qualität vor die Quantität, ja. Damit noch ein Mensch im Prozess sein kann, damit man das vernünftig überprüfen kann.

16:52 Eher weniger machen, auf hohe Qualität achten als

16:56 komplett alles rausblasten mit KI. Ja, genau. Jetzt haben wir das Lieblingsthema der Deutschen durch. Datenschutz,

17:03 alle Gefahren sind

17:05 beleuchtet von allen Richtungen. Was machen wir beim nächsten Mal?

17:09 Das nächste Mal wird's

17:11 superspannend,

17:11 meiner Meinung nach eine der der spannendsten Episoden, wo es darum geht,

17:16 wann nutze ich eigentlich KI? Für welche über

17:20 übergreifenden

17:21 Anwendungsfälle

17:21 und

17:23 wann sollte ich vielleicht KI

17:24 nicht verwenden?

17:25 Denn KI hat gewisse Stärken, KI

17:28 hat gewisse Schwächen.

17:29 Die Schwächen wären fairerweise immer weniger. Hättest Du mich vor' Jahr gefragt, dann wären noch viel mehr Punkte auf der was kann KI nicht Seite. Das hat sich jetzt ein bisschen geändert.

17:39 Und ja, die einzelnen Themen schauen wir uns gleich an. Wenn ihr bis hierhin geschaut habt oder gehört habt, dann gefällt's euch wahrscheinlich.

17:46 Bitte abonniert den Kanal, liked uns, schreibt uns Kommentare, sprecht über uns. Das hilft uns, bekannter zu werden. Das hilft uns, noch mehr Menschen zu erreichen.

17:55 Bis zum nächsten Mal.

17:57 Wow.

17:58 Für mich als KI witzig zu sehen, dass wir ein Talent dafür haben, Stereotype zu übernehmen. Warum soll ich auch anders sein als die Menschen? Aber keine Sorge, mit etwas Nachhilfe und der richtigen Programmierung können wir sicherlich lernen, ein bisschen weniger menschlich voreingenommen zu sein. Co-Intelligence ist eine Produktion von the key academy in Zusammenarbeit mit SnipKI, produziert bei Studio Co in Berlin. Produktion und Regie, Christina Manuel, Fuazibli und Elias Hobel. Creative Director, Lukas Shelter. Redaktion und Moderation, Benjamin Wüstenhagen und Moritz Heininger. Abonniere uns auf Spotify, Apple Podcasts oder YouTube. Danke fürs Zuhören und bis zum nächsten Mal.