#68: KI-Agent schreibt Kunden: So behältst du die Kontrolle!

0:00 Benjamin Wüstenhagen: Wir haben einem KI Agenten erlaubt, unseren Kunden zu schreiben. Dann hat er eine interne Nachricht sein echte ökonomische. Und

0:08 Magdalena Beilmann: das ist leider kein hypothetisches Beispiel.

0:11 Benjamin Wüstenhagen: Die technische Ursache war schnell gefunden.

0:14 Benjamin Wüstenhagen: Die unangenehmere

0:15 Benjamin Wüstenhagen: Frage war, wer hat eigentlich entschieden, dass der erkennt, dass das darf?

0:28 Benjamin Wüstenhagen: Willkommen zurück zu Co-Intelligence, eurem KI Lernpodcast.

0:31 Benjamin Wüstenhagen: Heute wieder mit Magdalena Beilmann und mir Benjamin Wüstenhagen.

0:36 Benjamin Wüstenhagen: Wir sind nach wie vor in der Sommeddition

0:39 Benjamin Wüstenhagen: Folge 68

0:41 Benjamin Wüstenhagen: und wir haben zuletzt vor 2 Folgen miteinander gesprochen, Maggie, nämlich

0:46 Benjamin Wüstenhagen: zur Folge 66, da gab's viel gutes Feedback.

0:49 Benjamin Wüstenhagen: Scheinbar ging es vielen anderen Menschen auch so, dass KI die Arbeit nicht wegzaubert,

0:54 Benjamin Wüstenhagen: sondern den Bottleneck verschiebt

0:56 Benjamin Wüstenhagen: und heute soll's darum gehen, wer hat das letzte Wort, wenn KI mitarbeitet?

1:03 Magdalena Beilmann: Für eine Bestätigung, dass wir nicht alleine sind mit dem Problemchen.

1:09 Magdalena Beilmann: Okay, sprechen wir über

1:12 Magdalena Beilmann: KI Output und wie

1:14 Magdalena Beilmann: der unter anderem

1:16 Magdalena Beilmann: neue Arbeit erzeugen kann oder auch

1:19 Magdalena Beilmann: neue Fehler,

1:20 Magdalena Beilmann: denn das ist auch uns das ein oder andere Mal passiert

1:24 Magdalena Beilmann: Und vor allem darüber,

1:27 Magdalena Beilmann: ja, wie verschiebt sich die Verantwortung? Auch darüber haben wir ja schon ein paarmal gesprochen in einigen Folgen

1:33 Magdalena Beilmann: und

1:34 Magdalena Beilmann: das wurde bei so einigen Agenten, die wir gebaut haben, recht deutlich, wo die Verantwortung

1:41 Magdalena Beilmann: bei uns liegt.

1:43 Benjamin Wüstenhagen: Du hast ja son paar Beispiele mitgebracht.

1:46 Benjamin Wüstenhagen: Führ uns doch mal durch,

1:48 Benjamin Wüstenhagen: wo das der Fall war.

1:51 Magdalena Beilmann: Sprechen wir mal über

1:54 Magdalena Beilmann: den ersten Agenten, der bei uns ein bisschen

1:56 Magdalena Beilmann: aus dem Ruder gelaufen ist, würde ich's mal betiteln.

1:59 Magdalena Beilmann: Wir haben Anfang des Jahres über

2:02 Magdalena Beilmann: OpenClaw gesprochen,

2:03 Magdalena Beilmann: auch remote lustigerweise. Jetzt sind wir wieder hier. Ja.

2:06 Benjamin Wüstenhagen: In' ähnlichen Setup. Es war es war noch schlechter beleuchtet als jetzt.

2:10 Benjamin Wüstenhagen: Alles Also, wir sehen, ja, wir können gern zurückgehen auf die OpenClaw Folge. Das war wahrscheinlich

2:16 Benjamin Wüstenhagen: die am schlechtesten produzierte Folge, aber auch heute wird's nicht ganz so gut wie im Studio, aber nur noch gut genug.

2:23 Magdalena Beilmann: Nächste Woche dann auch wieder mit anständigem Setup, ne?

2:27 Magdalena Beilmann: Ja, unser erster

2:28 Magdalena Beilmann: Agent mit direkter Kundenkommunikation

2:31 Magdalena Beilmann: haben wir

2:33 Magdalena Beilmann: Anfang früher diesen Jahres gebaut

2:36 Magdalena Beilmann: und

2:37 Magdalena Beilmann: der hat dafür gesorgt, dass eine interne Nachricht, die eigentlich nicht für unsere Kunden gedacht war,

2:43 Magdalena Beilmann: an

2:43 Magdalena Beilmann: ein paar wenige unserer Kunden rausgesendet wurde.

2:47 Magdalena Beilmann: War,

2:48 Magdalena Beilmann: würde ich sagen, keine Kleinigkeit,

2:50 Magdalena Beilmann: weil es einfach

2:52 Magdalena Beilmann: unsere Außenwirkung

2:54 Magdalena Beilmann: beeinflusst.

2:56 Magdalena Beilmann: War dadurch auch ein wenig peinlich, ehrlich gesagt.

2:58 Magdalena Beilmann: Vielleicht kannst Du mal erzählen, wie es dazu gekommen ist.

3:02 Benjamin Wüstenhagen: Ja, wir hatten

3:04 Benjamin Wüstenhagen: intern... Interne Hinweise

3:06 Benjamin Wüstenhagen: für den Agenten und der hat das als Arbeitsanweisung

3:09 Benjamin Wüstenhagen: aufgefasst. Das waren auch die sehr frühen von OpenClaw.

3:12 Benjamin Wüstenhagen: Man erinnert sich, das war son organisches System,

3:15 Benjamin Wüstenhagen: von dem jetzt mittlerweile niemand mehr spricht

3:19 Benjamin Wüstenhagen: und deshalb wurde schon einfach falsch interpretiert und dann gingen irgendwie so kryptische Sachen an unsere Kunden raus, weil wir halt auch recht,

3:26 Benjamin Wüstenhagen: ja,

3:27 Benjamin Wüstenhagen: naiv würde ich sagen, das ganze Ding mit dem Kommunikationssystem

3:30 Benjamin Wüstenhagen: verbunden haben,

3:32 Benjamin Wüstenhagen: wo auch die Kundenkommunikation

3:34 Benjamin Wüstenhagen: möglich war.

3:36 Benjamin Wüstenhagen: Und wir hatten einfach diese Autonomie zu früh eingeräumt, ohne es vorher vernünftig getestet zu haben.

3:44 Benjamin Wüstenhagen: Glücklicherweise

3:45 Benjamin Wüstenhagen: waren jetzt keine personenbezogenen Daten dabei. Also, das war jetzt nicht ganz so schlimm, wie Du es gleich gerade

3:50 Benjamin Wüstenhagen: an die Wand gemalt hast, wobei wir haben da manchmal verschiedene Auffassungen.

3:54 Benjamin Wüstenhagen: Dennoch,

3:55 Benjamin Wüstenhagen: der Agent war sehr proaktiv,

3:58 Benjamin Wüstenhagen: nicht nur produktiv, sondern proaktiv und

4:00 Benjamin Wüstenhagen: ein bisschen proaktiver als unser eigentlicher Freigabeprozess gewesen wäre.

4:06 Magdalena Beilmann: Man weiß ja, dass ich gerne mal etwas dramatisch bin in meiner Darstellung.

4:11 Magdalena Beilmann: Aber letztendlich, man muss ja sagen, aus all dem Unangenehmen

4:16 Magdalena Beilmann: haben wir ja was gelernt.

4:18 Magdalena Beilmann: Kommen wir mal zum Positiven.

4:20 Magdalena Beilmann: Wir haben nämlich

4:22 Magdalena Beilmann: noch gar nicht so lange her

4:25 Magdalena Beilmann: quasi einen Agenten gebaut, der technisch

4:28 Magdalena Beilmann: sehr, sehr ähnlich funktioniert, auch wieder mit direktem Kundenkontakt.

4:32 Magdalena Beilmann: Und haben den auch auf Basis von diesem

4:35 Magdalena Beilmann: ersten Agenten gebaut,

4:38 Magdalena Beilmann: allerdings dann mit den richtigen Regeln.

4:41 Magdalena Beilmann: Nämlich erst mal

4:43 Magdalena Beilmann: nicht sehr autonom, auch wenn dir das vielleicht nicht so gefällt.

4:47 Magdalena Beilmann: Und' längeren Testphase

4:49 Magdalena Beilmann: und ganz, ganz klaren Regeln,

4:51 Magdalena Beilmann: dass nichts an irgendeinen Kunden rausgeht, wenn nicht ein klarer Haken drangesetzt wird und das übersprungen wird, wenn nicht 100 Prozent sicher und zuordnenbar ist, dass

5:03 Magdalena Beilmann: eben an genau diesem Kunden rausgehen soll.

5:06 Benjamin Wüstenhagen: Ja, da vielleicht auch vielleicht für euch, wir das gemacht. Wir haben sozusagen so aufgesetzt, dass es immer in einem spezifischen

5:12 Benjamin Wüstenhagen: Slack Kanal... Kann man sicherlich auch in Teams aufsetzen... In dem Slack Kanal gibt's ein Post.

5:18 Benjamin Wüstenhagen: Da steht dann ganz genau drin, was dieser Agent jetzt an den Kunden schicken würde und dann muss ein echter Mensch in Slack mit einem Emoji reagieren

5:28 Benjamin Wüstenhagen: und diese Reaktion wird dann wieder ausgelesen und wenn dann diese Reaktion da war, dann geht genau dieser Text raus beziehungsweise man kann da noch reingehen, kann seine Korrekturen reinschreiben und dann geht der korrigierte Text raus, sodass...

5:41 Benjamin Wüstenhagen: Ja, das lässt sich immer durch einen Menschen noch mal durchgeht und wir uns einfach sparen, das selber zu schreiben.

5:48 Benjamin Wüstenhagen: Ich allerdings

5:49 Benjamin Wüstenhagen: hab so ein bisschen meine Zweifel, wenn das jetzt jedes Mal das Gleiche ist und ich jedes Mal denselben Text freigebe

5:55 Benjamin Wüstenhagen: und das Gefühl habe, ja,

5:57 Benjamin Wüstenhagen: das war schon zum fünfzigsten Mal so, dann war ich vielleicht gar nicht mehr so wenig, dann kann ich auch einfach Copy and Pastement und Text machen und brauch keine Agenten.

6:06 Magdalena Beilmann: Ich glaube, das Wichtige ist, die Testphase wirklich zu beschränken und das haben wir bei genau diesem Agenten, über den wir gerade sprechen, gemacht.

6:14 Magdalena Beilmann: Ich glaube, da lief die Testphase

6:16 Magdalena Beilmann: über 2 Wochen und in denen

6:19 Magdalena Beilmann: wurde wirklich

6:20 Magdalena Beilmann: akribisch drauf geachtet von' Menschen,

6:23 Magdalena Beilmann: was kann eventuell noch optimiert werden, was läuft eventuell falsch.

6:28 Magdalena Beilmann: Und nach diesen 2 Wochen wurde dann auf volle Autonomie umgestellt, sprich dieser Agent

6:34 Magdalena Beilmann: geht nicht mehr durch menschliche Hände.

6:37 Benjamin Wüstenhagen: So, letztlich unser gemeinsames Ziel ist die Autonomie,

6:41 Benjamin Wüstenhagen: nur diesmal mit einer bewussten Freigabeentscheidung.

6:45 Benjamin Wüstenhagen: Und wir hatten das auch schon in Folge 61, da

6:47 Benjamin Wüstenhagen: da hatten wir das ganz witzig so beschrieben, dass wir sagen, jeder Agent braucht einen Menschen, der sich ihn kümmert.

6:53 Benjamin Wüstenhagen: So ein bisschen hatte ich auch da das Gefühl.

6:56 Magdalena Beilmann: Kann man so sagen. Ja,

6:58 Benjamin Wüstenhagen: nur...

6:59 Benjamin Wüstenhagen: Man muss halt dazu sagen, dass der Mensch auch klare Grenzen braucht, Kontrollpunkte und natürlich auch einen Eskalationsweg.

7:05 Benjamin Wüstenhagen: Den Eskalationsweg

7:07 Benjamin Wüstenhagen: nutzt der Agent dann zum Menschen hin.

7:10 Benjamin Wüstenhagen: Also, Frage ist halt, wie viel muss das System bewiesen haben, bevor man den menschlichen Haken in dem Fall entfernt und

7:17 Benjamin Wüstenhagen: wer darf das auch entscheiden, ob dieser menschliche Haken wegkommt? War das deine Entscheidung? Wem hast Du das überlassen?

7:23 Magdalena Beilmann: In dem Fall war es meine Entscheidung, weil ich diesen Agenten gebaut hab und

7:28 Magdalena Beilmann: dann letztendlich auch kontrolliert habe und dann irgendwann in die Autonomie geschickt hab.

7:34 Benjamin Wüstenhagen: Sprich, wenn jetzt... Wenn's ein da Fuck up gibt, dann ist es deine Schuld?

7:38 Magdalena Beilmann: Im würdvoll ist es dein.

7:42 Benjamin Wüstenhagen: Fingerpointing.

7:46 Benjamin Wüstenhagen: Ja. Dennoch,

7:46 Benjamin Wüstenhagen: ne, es darf nicht zu einem Ritual verkommen, aber

7:52 Benjamin Wüstenhagen: Ja, wie ging es weiter in unserer Autonomie Agenten Saga.

7:57 Magdalena Beilmann: Wir haben jetzt noch einen Agenten grade laufen, der absolut

8:01 Magdalena Beilmann: nicht autonom

8:03 Magdalena Beilmann: ist.

8:05 Magdalena Beilmann: Kurz das... Warum gibt's diesen Agenten überhaupt?

8:09 Magdalena Beilmann: Wir

8:10 Magdalena Beilmann: haben ein recht hohes Supportvolumenaufkommen

8:16 Magdalena Beilmann: für manuelle Freischaltung von Kursen

8:19 Magdalena Beilmann: Und

8:20 Magdalena Beilmann: das wollten wir gerne

8:22 Magdalena Beilmann: lösen, verringern und haben deswegen eine automatisierte

8:25 Magdalena Beilmann: Freischaltung gebaut

8:27 Magdalena Beilmann: plus dann aber auch eine automatisierte Kundennachricht,

8:30 Magdalena Beilmann: damit Menschen

8:31 Magdalena Beilmann: Menschen auch eine Information darüber bekommen, dass etwas freigeschaltet wurde.

8:35 Magdalena Beilmann: Und

8:36 Magdalena Beilmann: das läuft auch momentan noch komplett über einen manuellen Haken und diese Testphase läuft auch länger.

8:42 Magdalena Beilmann: Einmal,

8:43 Magdalena Beilmann: weil es da um den Produktzugang geht

8:46 Magdalena Beilmann: und auch wieder diese Außenwirkung betroffen ist. Also da haben wir jetzt 2 Parts,

8:52 Magdalena Beilmann: die dafür sorgen, dass ich diesen Test ein bisschen länger ziehe. Plus die Datengrundlage ist da einfach nicht so groß, weil das nichts ist, was jeden Tag 20 Mal passiert

9:02 Magdalena Beilmann: und dementsprechend

9:04 Magdalena Beilmann: mache ich dann lieber noch ein bisschen mit.

9:06 Magdalena Beilmann: Und ist das auch wieder in Slack gegeated für dich? Ja, das ist auch wieder ein dedizierter Slack Channel, in denen diese Nachrichten laufen.

9:15 Magdalena Beilmann: Einmal hier, das und das soll freigeschaltet werden,

9:18 Magdalena Beilmann: weil da da da und diese Kundennachricht würden wir rausschicken.

9:25 Benjamin Wüstenhagen: Ja, also auch da ist es wieder diese Schutzfunktion

9:29 Benjamin Wüstenhagen: und hoffentlich nicht das Ritual, dass man einfach nur seinen Haken setzt, egal, was da steht.

9:36 Benjamin Wüstenhagen: Für mich ist halt immer so ein bisschen die die die wesentliche Frage, ist dieser Haken dann auch eine Kontrolle

9:42 Benjamin Wüstenhagen: oder ist das einfach nur, ja, ein Ritual, ein gutes Gefühl? Und ich glaube, wenn's dann zu' Ritual wird, dann kann man aus meiner Sicht den Menschen, den Menschen, dem Agenten in dem Fall auch mehr Autonomie geben.

9:55 Benjamin Wüstenhagen: Noch ein, ja, ein weiteres Beispiel,

10:00 Benjamin Wüstenhagen: wo wir keinen... Also keine Rückmeldung haben, aber sozusagen das Nichtmelden zu' Risiko wird. Was hat's damit auf sich?

10:07 Magdalena Beilmann: Wir

10:08 Magdalena Beilmann: haben einen

10:10 Magdalena Beilmann: Wächter

10:11 Magdalena Beilmann: für unser Supportsystem

10:13 Magdalena Beilmann: gebaut.

10:14 Benjamin Wüstenhagen: Das ist auch witzig. Also 1 1 eine KI, die die andere KI kontrolliert.

10:18 Magdalena Beilmann: Ja, ich mein,

10:20 Magdalena Beilmann: kommt ja ein paarmal vor in unserem Arbeitsalltag,

10:22 Magdalena Beilmann: irgendwie so KI Pingpong spielen wir ab und zu mal ganz gerne,

10:26 Magdalena Beilmann: was meiner Meinung nach auch einfach zu besseren Ergebnissen führt,

10:30 Magdalena Beilmann: Aber in dem Fall überwacht

10:33 Magdalena Beilmann: das System

10:34 Magdalena Beilmann: Intercom in unserem Fall,

10:36 Magdalena Beilmann: alarmiert uns, wenn

10:38 Magdalena Beilmann: wirklich sehr dringende Supportanfragen

10:41 Magdalena Beilmann: reinkommen.

10:42 Benjamin Wüstenhagen: Genau, Intercom ist ist... Also haben wir schon ein paarmal in den in den

10:46 Benjamin Wüstenhagen: den Folgen vorher... Intercom ist unser System für den Kundensupport, gibt viele, aber das ist das, was wir zurzeit nutzen.

10:52 Magdalena Beilmann: Und auch der Wächter

10:54 Magdalena Beilmann: schreibt dann letztendlich wieder eine Slack Nachricht in einen eigenen Channel und

10:59 Magdalena Beilmann: verlinkt das jeweilige Ticket,

11:01 Magdalena Beilmann: schlägt auch vor, wie darauf reagiert werden sollte

11:04 Magdalena Beilmann: und dann liegt's am Menschen,

11:07 Magdalena Beilmann: zu entscheiden, ob das auch wirklich passieren soll. Letztendlich also ein Agent in dem Fall, der überhaupt nicht nach außen wirkt und deswegen

11:14 Magdalena Beilmann: war er auch von Anfang an aktiv.

11:18 Benjamin Wüstenhagen: Und da ist sozusagen das...

11:19 Benjamin Wüstenhagen: Der Punkt, dass die KI

11:23 Benjamin Wüstenhagen: die Komplexität verringert

11:25 Benjamin Wüstenhagen: und einfach Aufmerksamkeit entlastet, wenn wir irgendwie, keine Ahnung, 100 offene Tickets haben und 3 sind wirklich wichtig, dann werden hoffentlich diese 3 nach oben gespült und noch mal gezeigt, da sollten wir uns drum kümmern.

11:38 Benjamin Wüstenhagen: Und das Urteil darüber, was dringend ist, ist natürlich trotzdem in Regeln und Schwellenwerten. Also das heißt, wir legen fest, was sind die Schwellenwerte, was sind die Regeln,

11:47 Benjamin Wüstenhagen: dann genau diese Dringlichkeit zu bekommen.

11:52 Benjamin Wüstenhagen: Dennoch brauchen diese Regeln natürlich einen Owner und müssen nachkalibriert

11:55 Benjamin Wüstenhagen: werden.

11:58 Benjamin Wüstenhagen: Ja, echt... Der Wächter arbeitet zuverlässig, aber wir müssen trotzdem zuverlässig kontrollieren,

12:04 Benjamin Wüstenhagen: was der Wächter nicht sieht. Denn wenn in den 50 Tickets oder 100 Tickets 3 hervorgehoben werden, die aber die falschen Tickets sind, dann hat uns das Ganze auch nichts gebracht und genauso ist es auch andersrum. Wir hatten das erst gestern. Ich hatte so einen kleinen Mini Agenten aufgesetzt,

12:19 Benjamin Wüstenhagen: als es als es grad nicht Sommer war, als es busy war und

12:23 Benjamin Wüstenhagen: zu schauen, wann unsere Webseite down ist, habe ich geguckt, okay, wenn sich so und so viel in so in so einer

12:28 Benjamin Wüstenhagen: Zeitspanne kein

12:29 Benjamin Wüstenhagen: kein Mensch anmeldet,

12:31 Benjamin Wüstenhagen: dann muss ja irgendwas down sein und hab die Durchschnittswerte genommen von den Wochen davor

12:38 Benjamin Wüstenhagen: und dann gab's son Alert Channel und da kamen jetzt Alerts rein, oh, Website ist down,

12:43 Benjamin Wüstenhagen: weil halt in dem definierten Zeit... In dem definierten Zeitraum keine Anmeldungen reinkamen.

12:48 Benjamin Wüstenhagen: Aber das war ganz normal, denn es war warm und alle Menschen liegen am See oder verstecken sich hinter der Klimaanlage,

12:55 Benjamin Wüstenhagen: aber keiner hat Bock, online zu sein.

12:58 Benjamin Wüstenhagen: Und so kam es, dass die Webseite nicht down war, aber dennoch sich jemand registriert hat. Und oh Wunder, da gab's dann die Frage, wer ist dafür verantwortlich? Wer hat das eingerichtet?

13:08 Benjamin Wüstenhagen: Wer kümmert sich drum? Auch hier, ne, die Agenten brauchen eine klare Zuordnung

13:14 Benjamin Wüstenhagen: und wir sind mittlerweile übergegangen.

13:16 Benjamin Wüstenhagen: Ein Cockpit zu haben wir unser Unternehmen und da gibt's ein Tab.

13:19 Benjamin Wüstenhagen: Da sind hoffentlich alle Agenten,

13:22 Benjamin Wüstenhagen: aber ein Großteil der Agenten aufgelistet.

13:25 Benjamin Wüstenhagen: Steht auch jeweils der Gesundheitsstatus

13:27 Benjamin Wüstenhagen: dessen und dann demnächst auch der Verantwortliche oder die Verantwortliche.

13:32 Magdalena Beilmann: Sehr schön erklärt. Ja, so haben wir bei jedem System und jedem Agenten

13:38 Magdalena Beilmann: auch andere

13:39 Magdalena Beilmann: Risiken letztendlich.

13:41 Magdalena Beilmann: Bei manchen Systemen müssen wir darauf achten, dass nichts Falsches rausgeht, dass nichts irgendwie rausgesendet wird und bei anderen...

13:48 Magdalena Beilmann: Dass wir nicht irgendwas übersehen letztendlich.

13:51 Magdalena Beilmann: Genau, das ist bei dem Wächter ja die Gefahr. Du sagst, die Aufmerksamkeit wird entlastet,

13:57 Magdalena Beilmann: was eben auch dafür sorgen kann, dass uns das durch die Finger rutscht.

14:01 Magdalena Beilmann: Auch da darf man sich halt nicht 100 Prozent drauf verlassen, dass KI alles regelt.

14:07 Benjamin Wüstenhagen: Fabian, eine automatisierte Prüfung verschiebt die Verantwortung, aber sie löscht sie nicht, ne?

14:15 Benjamin Wüstenhagen: Was genau? Wir hatten in der letzten in der letzten Episode,

14:18 Benjamin Wüstenhagen: da hatte Natalie das erwähnt,

14:20 Benjamin Wüstenhagen: dass es für sie eine sone Epiphanie war,

14:23 Benjamin Wüstenhagen: als Produktmanagerin

14:24 Benjamin Wüstenhagen: in einem Hackathon

14:25 Benjamin Wüstenhagen: mit KI in der Lage zu sein, ja, Code zu schreiben. Also wir sind da zusammengekommen,

14:31 Benjamin Wüstenhagen: hatten so eine Hack Week

14:33 Benjamin Wüstenhagen: und hatten auch ein Hackathon und da gab's viele, viele Einzellösungen.

14:39 Benjamin Wüstenhagen: Auch da sind wir schnell vorangekommen,

14:42 Benjamin Wüstenhagen: aber die Frage ist jetzt, wie kriegt man das Ganze von der Einzellösung zum System?

14:46 Magdalena Beilmann: Ja, das ist jetzt genau

14:48 Magdalena Beilmann: die Entwicklung, die wir vom ersten Hackathon

14:51 Magdalena Beilmann: zum

14:52 Magdalena Beilmann: zweiten Hackathon

14:54 Magdalena Beilmann: hinlegen müssen.

14:55 Magdalena Beilmann: Der erste Gruppenweite Hackathon war super. Es wurden super viele Menschen

15:00 Magdalena Beilmann: auf die Idee von KI und Vibecoden gebracht

15:04 Magdalena Beilmann: und ich glaube, dass das auch an vielen einzelnen Schreibtischen

15:09 Magdalena Beilmann: schon

15:10 Magdalena Beilmann: super viel gebracht hat

15:12 Magdalena Beilmann: und

15:13 Magdalena Beilmann: sich da Menschen einzeln weiterentwickelt haben,

15:16 Magdalena Beilmann: Aber es ist halt noch nicht so superviel darüber hinausgegangen und genau das wollen wir jetzt bei den nächsten Hackathons schaffen,

15:23 Magdalena Beilmann: dass auch wirklich

15:25 Magdalena Beilmann: unternehmensübergreifend

15:26 Magdalena Beilmann: oder teamübergreifend

15:28 Magdalena Beilmann: mehrere Menschen von einem einzelnen Produkt oder System

15:32 Magdalena Beilmann: profitieren können.

15:34 Benjamin Wüstenhagen: Ja, jetzt bist Du jetzt bist Du auf den gruppenweiten Hackathon raufgegangen. Ich

15:37 Benjamin Wüstenhagen: Ich weiß schon... Ich war jetzt erst noch bei unserer Hack Week, die wir intern

15:40 Benjamin Wüstenhagen: gemacht haben. Da gibt's auch eine eigene Folge zu, glaube ich, vor ein paar Wochen.

15:45 Benjamin Wüstenhagen: Ähnliches Thema da, aber da da hatten wir schon das geschafft, dass sozusagen

15:49 Benjamin Wüstenhagen: mehrere Menschen dann an Themen gemeinsam gearbeitet haben und da auch wechselnde Gruppen hatten. Aber ja, wir haben auch in der Gruppe son Hackathon gemacht

15:56 Benjamin Wüstenhagen: und

15:58 Benjamin Wüstenhagen: da gibt es tatsächlich jetzt schon auch die Ersten, die sagen, ich möchte das gern mit anderen teilen und andere Menschen, die es von außen gesehen haben, sagen, ich will das auch übernehmen, weil da kommt dann schnell auch die Frage rein, wie schön, dass man dann ein Hackathon macht,

16:12 Benjamin Wüstenhagen: wie gieße ich das Ganze in eine vernünftige Strategie für das Unternehmen oder auch für die Gruppe und wie schaffe ich es eben, dass aus diesem Einzelwerkzeug

16:20 Benjamin Wüstenhagen: auf dem einzelnen Schreibtisch ein System wird und welche Policies brauche ich dafür auch?

16:25 Benjamin Wüstenhagen: Sprich,

16:27 Benjamin Wüstenhagen: wenn ich damit arbeite mit dem KI Kram, merke ich auch,

16:31 Benjamin Wüstenhagen: ja, wie sie Organisationen dadurch verändern. Nicht nur das eigene Arbeiten, das eigene Verhalten, sondern auch die Arbeitsweise in Organisationen.

16:39 Magdalena Beilmann: Ja, letztendlich ist es ja bei Hack Week,

16:42 Magdalena Beilmann: die wir teamintern oder unternehmensintern

16:45 Magdalena Beilmann: und Hackathon,

16:47 Magdalena Beilmann: was gruppenweit ist,

16:49 Magdalena Beilmann: dasselbe Ziel, was wir haben. Einfach, dass wir mit dem

16:54 Magdalena Beilmann: Output,

16:56 Magdalena Beilmann: den wir entstehen lassen,

16:58 Magdalena Beilmann: mehr Menschen

16:59 Magdalena Beilmann: erreichen.

17:00 Magdalena Beilmann: Dass das ganze Unternehmen davon profitiert, dass

17:03 Magdalena Beilmann: unternehmensübergreifend

17:04 Magdalena Beilmann: andere Teams davon profitieren.

17:08 Benjamin Wüstenhagen: Wenn Du jetzt... Du bist ja auch gerade dabei, irgendwie neue Agenten aufzusetzen und brainstormst die ganze Zeit, wie Du deine Prozesse noch weiter

17:15 Benjamin Wüstenhagen: KI mäßig aufbauen kannst.

17:18 Benjamin Wüstenhagen: Was sind so für dich die Regeln, die Du unseren Zuschauern, unsere Zuhörer mitgeben kannst,

17:23 Benjamin Wüstenhagen: die sich bei dir

17:25 Benjamin Wüstenhagen: irgendwie bewährt haben im letzten halben Jahr?

17:29 Magdalena Beilmann: Oh, letztendlich

17:30 Magdalena Beilmann: ist es, glaube ich, eine Lernkurve einfach.

17:34 Magdalena Beilmann: Das muss ich jetzt nach

17:36 Magdalena Beilmann: sehr vielen Monaten

17:38 Magdalena Beilmann: KI so sagen. Es werden einige Fehler passieren,

17:42 Magdalena Beilmann: trotzdem muss man irgendwo starten und Experimente machen, sich trauen.

17:47 Magdalena Beilmann: Letztendlich

17:48 Magdalena Beilmann: ergibt's wahrscheinlich Sinn, wenn man

17:50 Magdalena Beilmann: erst mal mit'

17:51 Magdalena Beilmann: MVP,

17:52 Magdalena Beilmann: mit' mit' kleinen Produkt startet,

17:56 Magdalena Beilmann: das Risiko möglichst gering zu halten

17:59 Magdalena Beilmann: und aus den Fehlern, die bei diesem ersten Produkt

18:03 Magdalena Beilmann: zwangsläufig

18:04 Magdalena Beilmann: passieren werden,

18:06 Magdalena Beilmann: lernt und das nächste Produkt, die nächste Optimierung

18:10 Magdalena Beilmann: einfach dagegen

18:11 Magdalena Beilmann: wieder vorbereitet.

18:14 Benjamin Wüstenhagen: Ich würde so mitnehmen, also

18:17 Benjamin Wüstenhagen: man muss aus meiner Sicht klar haben, was das System selber entscheiden darf. System in Anführungszeichen.

18:22 Benjamin Wüstenhagen: Wann muss ein Mensch dazu geholt werden und wer darf das Ganze auch stoppen

18:26 Benjamin Wüstenhagen: oder eben auch weiterentwickeln?

18:30 Benjamin Wüstenhagen: Aber ja, die Lernkurve, die kann ich bestätigen. Es hört halt nicht auf.

18:35 Magdalena Beilmann: Ich find's tief nicht. Auch wir sind noch nicht fertig.

18:37 Benjamin Wüstenhagen: Nee, vielleicht auch als Fehler Frustrationstoleranz.

18:40 Benjamin Wüstenhagen: Wir hatten das jetzt in den letzten Tagen. Da haben wir uns auch dran gemacht, ein paar neue Dinge zu zu automatisieren.

18:47 Benjamin Wüstenhagen: Die Kollegin, die bei uns im Support ist, war im Urlaub,

18:50 Benjamin Wüstenhagen: sprich,

18:52 Benjamin Wüstenhagen: ich bin... Ich hab mich dann auch dabei erwischt, dass ich ab und zu mal ein Ticket kloße, sagen zu können, ich mache auch mal Support Tickets zu und

19:01 Benjamin Wüstenhagen: war dann tierisch angenervt

19:04 Benjamin Wüstenhagen: von der Oberfläche, die wir intern haben in diesem Admin Panel und dachte, das kann das doch scheiße, das muss man doch nicht anders machen. Und dann war der erste

19:12 Benjamin Wüstenhagen: Impuls, okay, wir bauen jetzt ein neues Admin Panel mithilfe von KI,

19:17 Benjamin Wüstenhagen: aber dann hätten wir weder

19:19 Benjamin Wüstenhagen: die Verantwortung verschoben von uns zu den Entwicklern, die die ganzen Pull Request freigeben

19:24 Benjamin Wüstenhagen: müssen und dann dies anderes tun als Pull Requests weiterzugeben.

19:28 Benjamin Wüstenhagen: Pull Request ist das, wenn ich jetzt irgendwie Code committe und noch ein echter Mensch raufschaut,

19:33 Benjamin Wüstenhagen: dass das alles kein Blödsinn ist und wir haben die Regel intern, dass bei uns 2 echte Menschen raufschauen, bevor wir irgendwas

19:38 Benjamin Wüstenhagen: in Produktion nehmen.

19:40 Benjamin Wüstenhagen: Und dann kam die 2. Idee, warte mal ganz kurz,

19:43 Benjamin Wüstenhagen: bevor wir jetzt ein komplett neues

19:45 Benjamin Wüstenhagen: Admin Panel bauen, können wir auch

19:47 Benjamin Wüstenhagen: probieren, es identisch zu lösen.

19:50 Benjamin Wüstenhagen: Und

19:51 Benjamin Wüstenhagen: Du warst mein armes Versuchskaninchen

19:54 Benjamin Wüstenhagen: und hast bestimmt 15 Mal gesagt, geht immer noch nicht.

19:58 Magdalena Beilmann: Oder bin.

20:00 Magdalena Beilmann: Ja. Ja. Ich erinner mich, dass ich vor der Podcastfolge erst wieder ein Feedback geschickt hab.

20:05 Magdalena Beilmann: Diesmal ging's aber, diesmal ging's. Ja, ist genau so ein tolles Beispiel. Du hattest eine super Idee, wie man etwas über KI löst und

20:14 Magdalena Beilmann: hast es da reingeprompted

20:16 Magdalena Beilmann: in

20:16 Magdalena Beilmann: Codecs oder Code, was auch immer.

20:19 Magdalena Beilmann: Und ich war diejenige,

20:21 Magdalena Beilmann: die manuell ausprobieren durfte, ob das dann auch wirklich funktioniert, was da rauskommt.

20:26 Magdalena Beilmann: Das war ein Pingpong, der jetzt über ein paar Tage ging und

20:30 Magdalena Beilmann: teilweise auch kräftezehrend war, ehrlich gesagt.

20:34 Benjamin Wüstenhagen: Ja

20:36 Benjamin Wüstenhagen: und auch dieses Pattern,

20:38 Benjamin Wüstenhagen: ich weiß noch nicht, welche... Was die beste Lösung dafür ist, ne? Also

20:41 Benjamin Wüstenhagen: irgendwie brauchst Du ja manchmal ein zweites paar Augen, was sich so was anguckt. Ja, gerade wenn man jetzt nicht nur in seinem eigenen System umarbeitet, sondern

20:47 Benjamin Wüstenhagen: sondern auch schauen will, ist das für die wirklichen Anwender.

20:51 Benjamin Wüstenhagen: Du bist dann so eher die die Betatesterin für den Rest des Teams,

20:56 Benjamin Wüstenhagen: was es dann später machen darf bei dir im Team. Aber ähnliche Patterns haben wir auch in anderen Bereichen, ne, wo wir interne Systeme bauen

21:05 Benjamin Wüstenhagen: und wenn die Menschen noch nicht selber daran mitbauen können oder wollen oder

21:11 Benjamin Wüstenhagen: warum auch immer, dann kann das auch relativ schnell zu einer hohen Frustration führen,

21:16 Benjamin Wüstenhagen: die man so in seinem Tunnel, während man irgendwie die Software vorantreibt

21:19 Benjamin Wüstenhagen: oder die Automation vorantreibt, gar nicht so sieht.

21:23 Benjamin Wüstenhagen: Auch ein Learning, was ich in den letzten Monaten gemacht habe.

21:27 Magdalena Beilmann: Das ist gut.

21:28 Magdalena Beilmann: Und letztendlich mussten wir feststellen,

21:30 Magdalena Beilmann: dass die QA, also die Qualitätsabnahme

21:32 Magdalena Beilmann: mit KI, einfach an manchen Stellen noch nicht so funktioniert, dass sie ein Menschen ersetzen könnte.

21:37 Magdalena Beilmann: Also mit Sicherheit kann man da vielleicht

21:41 Magdalena Beilmann: bei manchen Ideen erst mal noch eine andere KI drauf ansetzen,

21:44 Magdalena Beilmann: die richtigen Berechtigungen geben und

21:48 Magdalena Beilmann: dann testet ein, zweimal eine KI, bevor ein Mensch das tut,

21:51 Magdalena Beilmann: aber in manchen Bereichen geht das halt auch einfach nicht.

21:55 Benjamin Wüstenhagen: Wenn Du so

21:57 Benjamin Wüstenhagen: reflektierst, was im letzten Jahr passiert ist und dir überlegst, wo wir wo wir im nächsten Jahr stehen, glaubst Du, die haben nach wie vor diese menschlichen Dates

22:04 Benjamin Wüstenhagen: oder glaubst Du, das werden Agenten unter sich selbst ausmachen können?

22:09 Magdalena Beilmann: Ich glaube, es kommt auf die Aufgabe und den Bereich an. Ich glaube, dass es schon definitiv

22:15 Magdalena Beilmann: Fälle gibt, in denen

22:17 Magdalena Beilmann: Agenten

22:18 Magdalena Beilmann: unter sich arbeiten

22:20 Magdalena Beilmann: und dann wirklich ein Agententeam

22:23 Magdalena Beilmann: sich das hin- und herspielt

22:25 Magdalena Beilmann: und

22:26 Magdalena Beilmann: es dann eher eine Teamleitung

22:28 Magdalena Beilmann: gibt in menschlicher Form.

22:31 Magdalena Beilmann: Aber es gibt auch sicherlich Bereiche,

22:34 Magdalena Beilmann: da ist ein Developer beispielsweise näher dran.

22:39 Benjamin Wüstenhagen: Ich beide.

22:41 Benjamin Wüstenhagen: Und was was für mich jetzt immer klarer wird in dem ganzen KI Thema ist, dass die Technik wird immer weniger wichtig aus meiner Sicht. Also das ganze Thema, wie prompt ich was oder nutze ich jetzt Codex oder Claude oder Kimi oder keine Ahnung was.

22:53 Benjamin Wüstenhagen: Was aber wichtiger wird, je stärker das in Organisationen

22:58 Benjamin Wüstenhagen: in,

22:59 Benjamin Wüstenhagen: ja, im eigenen Arbeitsablauf

23:01 Benjamin Wüstenhagen: verankert wird, desto mehr muss man sich halt Gedanken machen, wie genau, welche Regeln stelle ich auf? Welche Heuristiken habe ich? Wie kann ich meine Lernkurve effizient gestalten?

23:12 Benjamin Wüstenhagen: Und das ist eigentlich so für mich das, was ich jetzt immer mehr mitnehme

23:16 Benjamin Wüstenhagen: und wir auch deswegen die Motivation haben, diesen Podcast weiter zu machen. Nicht nur, weil das neueste Modell morgen rauskommt,

23:23 Benjamin Wüstenhagen: sondern weil wir sozusagen unsere eigenen Lernkurve

23:26 Benjamin Wüstenhagen: hier weitergeben wollen. An euch, hoffe,

23:29 Benjamin Wüstenhagen: euch gefällt das. Wenn es so ist, lasst gern jederzeit ein Like da, kommentiert das Ganze,

23:35 Benjamin Wüstenhagen: sprecht über uns. Meggie, lasse aber die letzten Sätze bei dir

23:40 Benjamin Wüstenhagen: für deine letzten Wir

23:42 Magdalena Beilmann: machen den Podcast nicht nur, weil wir dokumentieren möchten,

23:45 Magdalena Beilmann: was unsere

23:47 Magdalena Beilmann: Lernreise so bringt, sondern weil wir auch den Austausch schätzen und

23:52 Magdalena Beilmann: es sehr, sehr

23:54 Magdalena Beilmann: schön finden, spannend finden, wenn wir Kommentare von euch bekommen.

23:58 Magdalena Beilmann: Sei es, dass es euch ähnlicher geht oder dass ihr ganz andere Erfahrungen gemacht habt,

24:03 Magdalena Beilmann: Tipps, Tricks,

24:05 Magdalena Beilmann: irgendwas. Wir freuen uns über euer Feedback.

24:11 Benjamin Wüstenhagen: So, lass ich stehen.

24:12 Benjamin Wüstenhagen: Vielen, vielen Dank und bis zum nächsten Mal.

24:15 Magdalena Beilmann: Co-Intelligence ist eine Produktion von The Key Academy in Zusammenarbeit mit SnipKI und produziert im Constellation Studio in Berlin. Redaktion und Moderation Benjamin Wüstenhagen,

24:25 Magdalena Beilmann: Moritz Heininger.

24:26 Magdalena Beilmann: Und ich, ich bin eine KI, falls ihr das nicht schon längst erraten habt, einfach nur eine Stimme aus dem Algorithmus.

24:32 Magdalena Beilmann: Aber hey, immerhin eine mit gutem Timing. Wenn ihr mehr darüber erfahren wollt, abonniert diesen Podcast, keine Folge zu verpassen. Danke fürs Zuhören und bis zum nächsten Mal.