#60: Die KI-Falle der USA: So machst du dich unabhängig

0:00 SPEAKER_00: Amar, Drama, Drama.

0:02 SPEAKER_00: USA gegen Europa und den Rest der Welt, ein Flopic gegen die USA

0:07 SPEAKER_00: und dazu noch ein Wellnes Retreat, die Du alles zusammen hast, schauen wir uns heute in der Folge an.

0:23 SPEAKER_02: Willkommen zurück zu Co-Intelligence,

0:25 SPEAKER_02: eurem KI dann Podcast mit Moritz Heininger

0:29 SPEAKER_02: und mir Benjamin Wüstenhagen.

0:32 SPEAKER_02: In der Episode 60,

0:34 SPEAKER_02: eine Zusatzepisode, die

0:35 SPEAKER_02: die wir jetzt eingeschoben haben,

0:37 SPEAKER_02: weil viel passiert ist. Denn stell dir vor, dein Unternehmen hat grad die wichtigsten Prozesse auf ein KI Topmodell umgestellt

0:45 SPEAKER_02: und über Nacht kommt die Info, sorry,

0:48 SPEAKER_02: für dich nicht mehr. Ihr seid kein Amerikaner, ihr dürft das nicht mehr nutzen.

0:52 SPEAKER_02: Genau das ist

0:54 SPEAKER_02: passiert

0:55 SPEAKER_01: vor Kurzem mit dem Tropic. Erzähl uns mehr. Drama, Drama, Drama kann man, glaub ich, sagen. Amerika

1:02 SPEAKER_01: gegen Europa und den Rest der Welt, die Amerikaner

1:05 SPEAKER_01: gegeneinander,

1:07 SPEAKER_01: die KI Labs gegeneinander, die

1:10 SPEAKER_01: die Regierung gegen die KI Labs und außerdem

1:13 SPEAKER_01: ein Wellness Retreat ist auch noch Teil der ganzen Equation.

1:17 SPEAKER_01: Und ja, was das mit sich aufhat, können wir uns jetzt mal Schritt für Schritt vielleicht ein bisschen

1:23 SPEAKER_01: genauer anschauen.

1:25 SPEAKER_02: Was ist passiert? Ja, Sönntropic hat vor Kurzem ein neues Modell rausgebracht, nämlich Fable.

1:30 SPEAKER_02: Fable 5 heißt das Ganze. Das ist das 1. Modell aus der sogenannten

1:35 SPEAKER_02: Mythosreihe.

1:36 SPEAKER_02: Anthropic nennt ja gern seine Modelle nach, ja, irgendwie

1:39 SPEAKER_02: Schriftstücken,

1:40 SPEAKER_02: ja, Fable,

1:41 SPEAKER_02: also Fabel, Opus und Haiko und so weiter.

1:45 SPEAKER_02: Und Mythos ist dieses

1:47 SPEAKER_02: große neue Modell, wo es extra ein Projekt gab, Projekt last wing, an dem erst mal ausgewählte Unternehmen

1:54 SPEAKER_02: teilnehmen durften, weil das so gut sein soll, dass es halt superschnell

1:58 SPEAKER_02: alle möglichen

2:00 SPEAKER_02: Security

2:01 SPEAKER_02: Probleme aufspürt

2:03 SPEAKER_02: und damit für Hacker großartig sein könnte. Nachdem das jetzt eine Weile gemacht wurde, hat man jetzt gesagt, okay, wir bringen ein Modell aus dieser neuen Familie raus, Fable

2:12 SPEAKER_02: und stellen's allen erst mal zur Verfügung, um's nutzen zu können, sowohl in den Enterprise Verträgen als auch ganz normalen in normalen Verträgen.

2:20 SPEAKER_02: Ich hab's ausprobiert. Es kam irgendwie, ich wollte nachts meine Rechner zuklappen.

2:23 SPEAKER_02: Da kam die E-Mail, hey, wir haben ein neues Modell, hab's direkt ausprobiert und war hin und weg. Also es ist wirklich stark, grad für so Programmieraufgaben.

2:31 SPEAKER_02: Aber jetzt ist es nicht mehr da, denn die US Regierung hat anthropic gesagt, ihr müsst das jetzt sofort einstellen. Ihr dürft es nicht mehr

2:39 SPEAKER_02: allen Menschen, die nicht amerikanische Staatsbürger sind, zur Verfügung stellen, egal wo sie sind. Also selbst wenn sie sich in USA befinden, dürfen es Nichtamerikaner nicht mehr benutzen. Bisschen lustig, denn zum Beispiel der Produktchef von Cloud Code ist Deutscher.

2:53 SPEAKER_02: Genau und dann Andrej Karpathy,

2:55 SPEAKER_01: der ja, wie wir in der letzten Folge gesagt haben,

2:59 SPEAKER_01: Ex OpenAI,

3:00 SPEAKER_01: Ex Tesla, der jetzt bei Anthropic angefangen hat, der ist auch kein Amerikaner.

3:04 SPEAKER_01: Ah, okay. Und selbst die Anthropic Mitarbeiter dürfen ihr eigenes bestes Modell nicht mehr verwenden, wenn sie keine Amerikaner sind.

3:11 SPEAKER_01: Und ist aber das das das Lustige son bisschen ist auch der Name für eine Fabel. Aha. Wenn man nach' Definition von' Fabel schaut, es ist eine sehr kurze Geschichte,

3:22 SPEAKER_01: die eine Lektion sozusagen

3:25 SPEAKER_01: erteilen möchte.

3:26 SPEAKER_02: Geil, Du hattest son

3:28 SPEAKER_01: ja. Lexikonsprozess dazu gemacht

3:30 SPEAKER_01: und es war tatsächlich eine sehr kurze Geschichte. Am Ende war's, glaub ich, irgendwie 3 Tage online, Ja. Bevor es dann weltweit selbst in den USA abgeschaltet wurde, weil ein Frebrik ja logischerweise

3:41 SPEAKER_01: keine Möglichkeit hat zu entscheiden,

3:43 SPEAKER_01: ist es jetzt ein Amerikaner, der vorm Computer sitzt und das Modell nutzt oder ist es ein

3:48 SPEAKER_01: Ausländer? Ja. Das geht dir überhaupt nicht, weil Du hast ja gar keine Passwort

3:52 SPEAKER_01: ID oder irgendwas da mit drin und dann haben sie's jetzt quasi komplett

3:56 SPEAKER_01: abgeschaltet.

3:57 SPEAKER_01: Und ja, ich glaub, es gibt viele Lektionen, die man ableiten kann.

4:03 SPEAKER_01: Die eine Lektion ist, dass wir Europäer

4:06 SPEAKER_01: mal wieder schmerzhaft merken mussten, wie

4:08 SPEAKER_02: stark wir von dem Wohlwollen der Amerikaner und von der amerikanischen Regierung abhängig sind. Deswegen hab ich zum ersten Mal oder für mich jetzt gefühlt zum ersten Mal, dass eine Regierung da reingeht. Dass wir total abhängig sind, hatten wir ja schon in letzter Zeit mal festgestellt.

4:23 SPEAKER_02: Also ich glaube, letztes Jahr war dann erst mal Cloudflyer ausgefallen fürn Tag und dann ging nix mehr. Ja, Die ganzen Cloudservices waren alle da und auch hier.

4:30 SPEAKER_02: Aber das ist jetzt noch mal was... Andere Dimension aus meiner Sicht. Genau, also also

4:34 SPEAKER_01: gefühlt kamen die Einschläge ja schon ein bisschen näher mit diesem Mythosmodell,

4:38 SPEAKER_01: weil ja schon die Regierung gesagt hat, das Modell bekommt

4:43 SPEAKER_01: keiner.

4:44 SPEAKER_01: Wir müssen vorher diese ganzen Sicherheitstests machen, dieses Project Classrooming, das Du angesprochen hattest. Und erst dann rollen wir's sozusagen aus. Ich mein, da

4:54 SPEAKER_01: hätt das ja oder wenn man das ein bisschen weiterdenkt, gibt's ja auch die Problematik, na ja, es waren am Anfang alles nur amerikanische Firmen, die diesen Sicherheitstest gemacht haben. Wenn Du sagst, okay, wir wir nutzen das erst mal, unsere eigene

5:05 SPEAKER_01: Firmen sicher zu machen und der Rest der Welt ist uns egal,

5:09 SPEAKER_01: dann hast Du ja da schon mal eine gewisse, ja, Dominanz und und und Macht über die Nichtamerikaner.

5:15 SPEAKER_01: Und jetzt quasi diese Entscheidung, ja, ihr Europäer oder die ganze Welt darf dieses Modell nicht mehr nutzen,

5:22 SPEAKER_01: ist halt was, was

5:24 SPEAKER_01: uns ja mal zum Nachdenken bringen sollte. Also das hätte es wahrscheinlich schon zum starken Mythosmodell.

5:29 SPEAKER_01: Ich hoffe ja nur zum Handeln nicht zum Nachdenken. Bitte? Auch zum Handeln, genau. Und da wollen wir uns in der Folge gar nicht so genau drauf fokussieren, obwohl's ein extrem wichtiges Thema ist, weil wie wir gleich ein bisschen rausarbeiten werden, der Hintergrund ist nicht die Amerikaner, die sagen, ihr Europäer dürft das Modell nicht mehr nutzen, damit es wir behalten können und euch alle abhängen, sondern das ist tatsächlich

5:53 SPEAKER_01: ein Streit zwischen dem Unternehmen in Tropic und der Regierung und vielen Egos und

5:59 SPEAKER_01: also ein von vielen Menschen auf ganz vielen Ebenen, was dann am Ende dazu geführt hat. Hat jetzt nichts direkt damit zu tun, dass die Amis Europäer irgendwie abschalten oder ab ausschließen

6:10 SPEAKER_01: möchten.

6:11 SPEAKER_01: Da es aber implizit

6:13 SPEAKER_01: ja uns trotzdem

6:15 SPEAKER_01: zeigt, wie abhängig wir sind, müssen wir trotzdem irgendwelche Lösungen dafür haben. Und da gehen wir dann auf in der nächsten Folge noch mal ein bisschen genauer

6:22 SPEAKER_01: drauf ein. Heute bisschen mehr Fokus auf Drama, Anthropic gegen die US Regierung.

6:28 SPEAKER_02: Ich hab mal in der Softwareentwicklung mal so die die Regel, dass wir eigentlich keine Releases machen wollen am Freitagabend oder Freitagnachmittag.

6:35 SPEAKER_02: Son bisschen ist das dann bei Anthropic passiert. Die haben wohl diese Direktive von der amerikanischen Regierung

6:42 SPEAKER_02: 17 Uhr 21 Eastern treiben. Also ist ja die Zeit, die in New York herrscht, bekommen. Also wirklich schon am am späten oder am Nachmittag, wo viele Menschen so aufm Weg nach Hause waren.

6:52 SPEAKER_01: Oder vielleicht aufm Weg in das und

6:56 SPEAKER_01: Beauty Retreat.

6:58 SPEAKER_01: Würdest Du Freitagnachmittag

6:59 SPEAKER_01: in Beauty Retreat fahren?

7:02 SPEAKER_02: Könnte passieren, aber jetzt haben wir mehr zum Beauty Retreat.

7:05 SPEAKER_01: Also das zeigt nur son bisschen, wie persönlich grad dieser Krieg zwischen Anthropic und und der amerikanische Regierung ist. Es wurde wohl von der amerikanischen Regierung an verschiedene Reporter mitgeteilt,

7:18 SPEAKER_01: dass Dario Amouday, also der CEO,

7:21 SPEAKER_01: ein Gründer von Anthropic,

7:22 SPEAKER_01: nicht verfügbar war für den Call. Also aufgrund der Sicherheitsbedenken,

7:26 SPEAKER_01: wir könnten gleich noch mal durch die Chronologie gehen,

7:29 SPEAKER_01: wurd er wohl einberufen und war nicht verfügbar,

7:32 SPEAKER_01: weil er sich's angeblich grade hat gutgehen lassen. Und damit will natürlich die Regierung ein sehr schlechtes Bild von ihm

7:39 SPEAKER_01: zeichnen. Und die Realität ist wohl, dass er und dann gibt's auch wieder relativ seriöse Journalisten, die darüber schreiben, die wohl auch informiert sind, dass er wohl tatsächlich im Office war von Anthropic, aber halt irgend eine Stunde 15 erst fürn Call,

7:54 SPEAKER_01: also erst dann quasi den Call nehmen konnte mit der Regierung. Warum? Keine Ahnung, ja. Gibt's vielleicht auch noch paar andere wichtige Menschen auf der Welt im Vergleich zu Donald Trump und

8:04 SPEAKER_01: dass das alles quasi erfunden und war.

8:07 SPEAKER_01: war. Und da ist natürlich sehr, sehr, sehr viel Stimmungsmache,

8:11 SPEAKER_01: grade die,

8:12 SPEAKER_01: wie heißt er, der

8:14 SPEAKER_01: der Hexet,

8:15 SPEAKER_01: der

8:17 SPEAKER_01: der Kriegsminister

8:18 SPEAKER_01: Ja. Ist natürlich immer noch angepisst,

8:21 SPEAKER_01: dass ein Tropic ihm nicht erlaubt hat, die Modelle zu verwenden. Hab dann auch irgendwie abends direkt noch mal getweetet, dass es

8:28 SPEAKER_01: jeden Tag ein Beweis dafür ist, dass es die richtige Entscheidung war, irgendwie ein Tropic zu nutzen, nicht zu nutzen.

8:35 SPEAKER_01: Und da ist, ja, sehr viel, glaub ich, sehr viel Gift und sehr viele persönliche

8:41 SPEAKER_01: Probleme und Egos,

8:42 SPEAKER_01: die am Ende zu so was Verrücktem geführt haben wie soner Exportdirektive.

8:47 SPEAKER_01: Aber vielleicht gehen wir einmal ganz kurz, haben wir schon viel gesagt, was son bisschen passiert ist,

8:51 SPEAKER_01: vielleicht noch einmal son bisschen die die Chronologie

8:55 SPEAKER_01: durch, so wie wir,

8:57 SPEAKER_01: ich sag mal, es wahrnehmen können von außen, ne. Also jeder

9:01 SPEAKER_01: sticht irgendwas anderes an die Presse durch.

9:03 SPEAKER_01: Wo da wirklich die Wahrheit liegt, wird sich noch zeigen.

9:07 SPEAKER_01: Da braucht's noch ein bisschen mehr investigativen Journalismus.

9:11 SPEAKER_01: Aber das Ganze ist gestartet angeblich mit 1

9:15 SPEAKER_01: Sicherheitsmeldung

9:16 SPEAKER_01: von AWS,

9:18 SPEAKER_01: also Amazon,

9:19 SPEAKER_01: dem CEO.

9:21 SPEAKER_01: Die interessanterweise ein viele Anteile an Tropic halten. Genau, die 1 der größten Investoren, friend Tropic sind

9:27 SPEAKER_01: auf

9:29 SPEAKER_01: und es es waren wohl noch son paar andere Unternehmen auch in diesem Glasswing Projekt, die einen sogenannten

9:35 SPEAKER_01: Jailbreak

9:36 SPEAKER_01: gefunden haben. Was heißt Jailbreak? Du hast ja schon gesagt, dass Mythos das Modell ist. Also es ist das extrem gute Modell,

9:45 SPEAKER_01: was so gefährlich ist, dass man's vorher all die ganzen Systeme sichern muss. Und dieses Modell,

9:50 SPEAKER_01: hattest Du ja auch gesagt, ist sone ist eine in Teilen abgeschreckte Variante.

9:54 SPEAKER_01: Und das Modell muss halt, wer's versteht, was stellst Du mir für eine Anfrage?

9:59 SPEAKER_01: Und wenn ich irgendwelche Anfragen stelle zum Thema

10:02 SPEAKER_01: irgendwie so Bio Hacking, irgendwie

10:03 SPEAKER_01: Hacking, irgendwie so Bioangriffe

10:05 SPEAKER_01: machen kannst. Oder ich hab selbst, wenn Du das Modell nutzen willst, ein neues Modell zu trainieren, dann schalt Du das automatisch direkt in das opus Modell runter als Sicherheitsmechanismus.

10:15 SPEAKER_02: Genau, das opus Modell ist sozusagen aus' anderen Klasse,

10:18 SPEAKER_02: aber das beste das beste andere Modell von Anthropic

10:22 SPEAKER_02: und die haben jetzt wohl eingebaut. Also ich hab's, als ich selbst benutzt hab, Fable, kam immer, hey, Du darfst hier keine Security Fragen stellen beziehungsweise wenn, dann wirst Du runtergestuft und Du darfst auch keine

10:32 SPEAKER_01: irgendwie biologischen Geschichten haben. Du kannst jetzt nicht sagen, warum wir mal eine neue Biowaffe? Genau.

10:37 SPEAKER_01: Und was halt grundsätzlich erst mal Sinn macht, da gewisse,

10:41 SPEAKER_01: ich sag mal, Schutzmechanismen einzubauen.

10:43 SPEAKER_01: Und anscheinend haben ein paar Researcher unter anderem, die von von AWS

10:47 SPEAKER_01: Wege gefunden,

10:48 SPEAKER_01: auch wohl recht komplizierte Wege,

10:50 SPEAKER_01: das zu unterbrechen, indem sie Anfragen in verschiedenen Sprachen gestellt haben,

10:55 SPEAKER_01: irgendwie skurrilische, chinesische Schriftzeichen und danach nur zu teilen irgendwie,

11:01 SPEAKER_01: weiß ich nicht, wenn eine Bombe aus 10 Teilen besteht, dann immer quasi einzelne Anfragen zu einzelnen Elementen sozusagen gestellt und dann am Ende des Modells sozusagen alles irgendwie zusammengeführt

11:11 SPEAKER_01: zu führen lassen.

11:13 SPEAKER_01: Also ich bin da auch überhaupt kein Experte, so Jailbreaking geht, aber irgendwie gibt's halt Wege, das dann doch hinzubekommen und... Ich kenn Jailbreak nur aus der Zeit, als man so Handys hatte mit' nem SIM Code, Ja. Ja, für irgendwie, keine Ahnung, E plus und dann hast Du hier jailbreak, sie mit jeder SIM Karte nutzen zu können. Ja. Ja, genau oder halt Hardware Jailbreaking. Ich hab damals meiner Playstation, so hatte ich son Chip angebaut, dass ich die kompletten Spiele auf der Playstation spielen kann und so gibt's halt Hardware

11:41 SPEAKER_01: Das ist schon mal fair, ja. Der Playstation 1 ist schon eine Weile her.

11:45 SPEAKER_01: Metty gecondet war das beste Spiel.

11:48 SPEAKER_01: Genau und es gibt halt sonen Prozess, dass halt die Unternehmen in diesem Projekt, die halt versuchen, diese Modelle zu,

11:55 SPEAKER_01: wenn sie's schaffen, das an die Regierung melden müssen. Ja. Also es ist zwar irgendwie komisch, dass in Tropic oder AWS sich selbst ins Bein schießt, indem sie ihr größtes Asset oder einzelne größten Asset sozusagen ankreiden oder anschwärzen.

12:07 SPEAKER_01: Aber ich glaub, auch da sollte man nicht zu viel Drama reininterpretieren,

12:10 SPEAKER_01: weil sie davor auch schon Sachen

12:12 SPEAKER_01: wohl veröffentlicht haben oder gemeldet haben.

12:15 SPEAKER_01: Und am Ende geht's ja auch darum zu gucken, wie kann man das Modell insgesamt besser machen, so Sachen zu vermeiden? Und das hat sich irgendwie hochgeschaukelt, ist

12:22 SPEAKER_01: ist bei der Regierung angekommen.

12:24 SPEAKER_01: Die haben das, glaube ich, auch son bisschen

12:27 SPEAKER_01: falsch interpretiert,

12:28 SPEAKER_01: also als...

12:32 SPEAKER_01: Also ist auch immer son bisschen die Frage, ja, wenn halt 1 sagt, hiermit könntest Du jetzt potenzielle Biowaffe bauen,

12:37 SPEAKER_01: wir haben's geschafft,

12:40 SPEAKER_01: dann ist halt auch, wenn das der anderen Seite bei der Regierung anscheinend jetzt nicht die

12:45 SPEAKER_01: smartesten Leute, ist wahrscheinlich das falsche Wort, aber Leute, die den richtigen Background haben, das wirklich einschätzen zu können, sitzen. Mhm. Haben die Panik, dann haben sie anscheinend mit Anthropic gesprochen,

12:56 SPEAKER_01: wohl auch schon in der Stunde, als der Dario noch nicht da war, mit den Researchern und haben Feedback bekommen und dann kam der der Dario wohl dazu.

13:04 SPEAKER_01: Und

13:05 SPEAKER_01: er scheint wohl auch nicht so der der Empathischste

13:08 SPEAKER_01: zu sein, der dann irgendwie und da die die

13:11 SPEAKER_01: Fronten schon verhärtet sind,

13:13 SPEAKER_01: hatte wohl dann

13:15 SPEAKER_01: sehr direkt irgendwie den Versuch beizubringen, wie dumm sie eigentlich sind, dass es alles überhaupt keinen Sinn ergibt und dass das dieser Jaypreak bei jedem anderen Modell auch funktioniert und Genau, das hat er ein Topiker auch selber in dem Statement geschrieben. Ja, genau. Und dann haben die Leute sich, glaub ich, son bisschen,

13:31 SPEAKER_01: ja, vielleicht als doof dargestellt gefühlt, haben sich in ihrer Erbe

13:34 SPEAKER_01: gekränkt

13:35 SPEAKER_01: gesehen und

13:37 SPEAKER_01: dann hat sich das wohl anscheinend son bisschen mit der Vorgeschichte an Tropic gegen die Regierung irgendwie hochgeschaukelt

13:43 SPEAKER_02: und Dann hatten Sie 90 Minuten, das für alle Nichtamerikaner abzustellen. Genau. Und dann war halt diese Exportdirektive,

13:51 SPEAKER_01: das ist halt einfach wahrscheinlich das einfachste und schnellste durchzusetzenste

13:56 SPEAKER_01: Instrument

13:57 SPEAKER_01: von der Regierung. Ja. Und da ging's dann gar nicht darum, weil die wussten halt natürlich, dass ein Flopac das wahrscheinlich auch für Amerikaner schwer muss, weil sie's einfach nicht nicht können.

14:06 SPEAKER_01: Und das war wahrscheinlich ein Weg, das schnell durchzusetzen,

14:10 SPEAKER_01: dass dieses Modell halt jetzt erst mal gesperrt ist. Es war jetzt kein kein Move gegen die Europäer oder den Rest der Welt, sondern, glaub ich, eher so,

14:18 SPEAKER_01: wir

14:20 SPEAKER_01: stecken Anthropic im im Stock in die Speichen

14:24 SPEAKER_02: und gucken mal. Was ich daran auch so ironisch finde, ist, dass ja Europa dafür gescheuten wird,

14:30 SPEAKER_02: KI zu stark zu regulieren.

14:34 SPEAKER_02: Im

14:35 SPEAKER_02: Prinzip

14:36 SPEAKER_02: ja über Regulatorik jetzt grade aber voll ausgebremst wird Ja. Und die Regulatorik jetzt aber auch nicht,

14:42 SPEAKER_02: weißte nicht kalkulierbar

14:44 SPEAKER_02: ist.

14:45 SPEAKER_01: Ja. Weil wenn innerhalb von 19 Minuten so was entschieden wird, dann ist es eher unkalkulierbar

14:50 SPEAKER_01: aus meiner Sicht. Das große Problem

14:53 SPEAKER_01: unseres

14:54 SPEAKER_01: Kapitalismus,

14:55 SPEAKER_01: an dem wir so geglaubt haben, ist, dass Du jetzt eine komplett random amerikanische Regierung hast,

15:00 SPEAKER_01: die halt von heut auf morgen irgend ein Kram entscheidet,

15:03 SPEAKER_01: ohne irgendwie wichtiges Fundament.

15:06 SPEAKER_01: Noch kannst Du da mit irgendeinem irgendwas planen.

15:09 SPEAKER_01: Und

15:10 SPEAKER_01: die ganze Situation ist halt total komplex, ne. Auf der einen Seite hast Du die diese

15:15 SPEAKER_01: Accelerationists

15:17 SPEAKER_01: Movement

15:18 SPEAKER_01: von der ganzen Tech Lobby, in der sich ja auch, glaub ich, die die Regierung angeschlossen hat, America First, ja. Wir müssen hier irgendwie amerikanische Modelle und amerikanische Player und wir müssen den Kampf gegen die Chinesen gewinnen und

15:31 SPEAKER_01: wir dürfen irgendwie nicht, ne, zu langsam sein.

15:34 SPEAKER_01: Und son Move ist halt einfach ein komplette,

15:38 SPEAKER_01: ja, wie sagt man, eine Fahnenliparade

15:41 SPEAKER_01: sozusagen, Ja.

15:42 SPEAKER_01: Weil das ist ja eigentlich das Schlimmste, was passieren kann für

15:45 SPEAKER_01: für für die für die großen amerikanischen Player, ne. Weil im Endeffekt hat, glaube ich, jetzt auch grade 1 von diesen

15:52 SPEAKER_01: AI Zargeist, der 6 oder irgendjemand bei den Amis auch gesagt, hey,

15:57 SPEAKER_01: vor Kurzem, weil die ja alle Pro OpenAI sind, Anti Enthropic,

16:01 SPEAKER_01: dass

16:02 SPEAKER_01: das

16:03 SPEAKER_01: 5 5 Cyber heißt das, meine ich, im Modell, ist ja genauso gut und genauso stark wie irgendwie das Mythos Modell.

16:10 SPEAKER_01: Wenn das der Fall wäre, warum ist dieses Modell dann nicht irgendwie

16:14 SPEAKER_01: gebannt, ne, also blockiert? Ja, genau. Weil das müsste es ja eigentlich dann genauso, aber das ist halt da ist so viel Politics auch noch hinten dran. Ich find's auch noch mal interessant aus der Ebene heraus, was macht es mit den auch Märkten?

16:27 SPEAKER_02: Na. Wir hatten ja jetzt letzte Woche den

16:29 SPEAKER_02: den den Börsengang von SpaceX und xAI

16:33 SPEAKER_02: und dann ein Teil der Story wird auch sein, dass xAI jetzt seine Rechenzentren auslassen kann, unter anderem, weil Anthropic die nutzt. Mhm.

16:42 SPEAKER_02: Und dann haben wissen wir auch, dass Anthropic als auch OpenAI an die Börse gehen wollen, möglichst noch in diesem Jahr. Ja.

16:50 SPEAKER_02: Mal angenommen,

16:51 SPEAKER_02: das bleibt jetzt gesperrt

16:53 SPEAKER_02: und Anthropic kann seine besten Modelle

16:56 SPEAKER_02: nicht in alle Welt verkaufen und mal angenommen, für OpenAI würde das Gleiche gelten müssen, wenn man ja dann denken. Ja. Ja, dann würde ja die Bewertung aus meiner Sicht zusammenfallen.

17:06 SPEAKER_02: Total. Und wenn denn die Bewertung zusammenfällt und die diese Modelle nicht mehr ausliefern können an an alle anderen außer Amerikaner,

17:12 SPEAKER_02: dann brauchen sie auch nicht mehr die Influencer.

17:14 SPEAKER_02: Wenn sie die Influencer nicht mehr benötigen, brauchen sie auch nicht die Rechenzentren.

17:17 SPEAKER_02: Wenn sie die Rechenzentren nicht benötigen, benötigen sie auch die Chips nicht mehr. Wenn die Chips nicht mehr benötigt werden, fällt die Bewertung von NVIDIA als wertvollstes Unternehmen der Welt zusammen.

17:27 SPEAKER_02: Wenn NVIDIA, was 7 Prozent oder mehr als 7 Prozent des des S und P ausmacht, zusammenfällt,

17:33 SPEAKER_02: was passiert dann mit dem S und P? Also da hast Du im Prinzip sone wunderbare Kettenreaktion,

17:36 SPEAKER_02: die Du hinstellen kannst und überlegst,

17:38 SPEAKER_01: was macht ihr da? Ja, ich glaub, da hat keiner

17:42 SPEAKER_01: irgendwie richtig weit gedacht

17:44 SPEAKER_01: in dem Moment. Also

17:46 SPEAKER_01: ich kann mir das richtig bildlich vorstellen, wie die da in' Raum sitzen, alle aufeinander angepisst sind, die Emotionen hochkochen.

17:52 SPEAKER_01: Er sagt, ja okay, wenn Jens Robett nicht auf uns hört und sagt, wir wären dumm, was wir sagen, dann machen wir das jetzt und ziehen euch irgendwie in den Stecker und...

17:59 SPEAKER_01: Also es ist, wir haben son bisschen Kindergarten, also da da wär ich gerne mal dabei gewesen, mir das anzuschauen.

18:05 SPEAKER_01: Aber im Endeffekt gewinnt halt einfach keiner. Also weder die Regierung, wie Du sagst, damit

18:10 SPEAKER_01: amerikanische Wirtschaft,

18:12 SPEAKER_01: die schaden damit genauso' OpenAI,

18:14 SPEAKER_01: wenn man mal 2 Schritte weiterdenkt,

18:16 SPEAKER_01: auch wenn sie total pro OpenAI sind.

18:19 SPEAKER_01: Und

18:20 SPEAKER_01: am Ende,

18:21 SPEAKER_01: also allein wir Europäer, ne, sind ja, nächste Woche kommen wir noch mal da bisschen genauer drauf,

18:28 SPEAKER_01: sind ja irgendwie zwischen den Stühlen, zwischen den Amerikanern und chinesischen Modellen und

18:32 SPEAKER_01: Das haben wir hier auch schon oft diskutiert, Ja. Das ist. Und wenn Du halt, ich sag mal abgesehen davon, dass die vielleicht ein gewissen politischen Bias drin haben können, weil Du nicht weißt, was für Daten die am Ende trainiert sind, viele von denen zumindest,

18:44 SPEAKER_01: hast Du da Open Source Modelle, die fast genauso gut sind, die Du lokal laufen lassen kannst, die dich deutlich weniger kosten

18:51 SPEAKER_01: und dir, ich sag mal, eine gewisse... Also das hätten wir eigentlich kaum gedacht, ne, dass dir die Chinesen eine gewisse

18:58 SPEAKER_01: Planbarkeit

18:59 SPEAKER_01: geben,

19:00 SPEAKER_01: weil Du dich auf die Amerikaner nicht verlassen kannst, ne, aber das ist die Welt, in der wir halt leben können. Ich meine, was was unabhängig von Europa

19:08 SPEAKER_02: da rauskommt, auch als, ja, Maßgabe fürs Unternehmen, für euch, die ihr irgendwie mit der AI arbeitet, arbeiten wollt, ist, ist klar, man muss irgendwie nur son Multimodell oder Multianbieter

19:18 SPEAKER_02: Strategie haben, dass man schnell wechseln kann. Ja. Ja, und nicht irgendwie alles nur auf eine Sache konzentriert,

19:24 SPEAKER_02: was ehrlicherweise jetzt bei Cloud gar nicht mal so einfach ist, wenn Du sagst, ich nutze superviel Cloud Code, ja, halt als Beispiel Ja, wobei Du

19:34 SPEAKER_01: Das hat uns unsere CTO jetzt gezeigt, muss es nur umsetzen. Wenn Du Credits hast auf irgend' ner Cloud oder auch wenn Du keine hast, kannst Du über Verseal

19:43 SPEAKER_01: andere Modelle

19:45 SPEAKER_01: in deiner Cloudumgebung laufen lassen. Okay. Also nicht Cloud Modelle,

19:49 SPEAKER_01: aber Du kannst beispielsweise auch und das machen wir jetzt, weil wir viele Credits haben und jetzt noch mal Credits

19:54 SPEAKER_01: geschenkt bekommen haben, dass wir halt die

19:58 SPEAKER_01: die ganzen Themen, die ganzen Rechenthemen über die Versal über Versal halt über unsere Google Cloud oder auch in der AWS Cloud ziehen,

20:05 SPEAKER_02: halt da die Credits runterzuziehen und nicht ständig in dieses Overspending in in vor Ort reinkommen. Ganz anderes Thema. Aber dennoch ist das ja, also man darf jetzt nicht blind nur sagen, ich nutze das, sondern ja, haben wir genau das Thema. Wir haben auch alle möglichen KI

20:18 SPEAKER_02: Geschichten und ich bin immer dran, irgendwie die Modelle anzupassen und zu gucken, was passt wohin. Aber auch da relativ diagnostisch zu arbeiten, dass man sagen kann, ich nehm das Modell von dem Anbieter

20:28 SPEAKER_02: und kann's auswechseln. Ja, ja. Und da gibt's ja auch Anbieter wie Open Router, die dann so was

20:33 SPEAKER_02: Genau. Machen, ja. Wo einfach sagen kannst, welches Modell wir zum Beispiel nutzen. Aber das ist, glaub ich, eine Sache, die

20:39 SPEAKER_02: die wichtig ist. Die 2. Sache, die wichtig ist, ist, dass man wirklich anschaut, okay, wenn's auch keine europäischen Modelle gibt, außer Mistral vielleicht,

20:46 SPEAKER_02: dann muss man dennoch schauen, wie wie passt man seine Beschaffungsstrategie an?

20:50 SPEAKER_01: Ja. Und wie muss man sich auch mal chinesische Modelle anschauen? Vielleicht sogar Modelle, die dann lokal laufen?

20:57 SPEAKER_01: Also wenn überhaupt, dann glaube ich, Architekt lokal

21:00 SPEAKER_01: in Europa laufen. Also ich würd, glaub ich, nicht die DeepSeek App

21:05 SPEAKER_01: erlauben für mein Business, weil dann geht's ja auf jeden Fall auf chinesische Server und da wird alles gelesen. Aber grade diese die Open Source Modelle, ne? Wir haben jetzt

21:13 SPEAKER_01: also eigentlich wir haben

21:14 SPEAKER_01: eigentlich wir haben jetzt halt eigentlich kein Credit Shortage oder Credits, die

21:18 SPEAKER_01: die kann man fast gar nicht nutzen, glaube ich. Aber bis

21:21 SPEAKER_01: dahin

21:23 SPEAKER_01: haben wir auch schon oft die

21:25 SPEAKER_01: Entwicklungspläne

21:26 SPEAKER_01: halt mit dem OpenAI Modell gemacht oder mit dem besten Cloud Modell

21:30 SPEAKER_01: und haben die Entwicklung dann aber mit KI Modell gemacht, weil es einfach extrem gut mittlerweile einfach zu croden, zum Abarbeiten ist sozusagen

21:39 SPEAKER_01: und halt einfach ein Bruchteil der Kosten halt irgendwie, Und

21:44 SPEAKER_01: ja, also man braucht schon, also man muss schon sehr, sehr, sehr flexibel sein einfach und bleiben. Also dieses typische,

21:51 SPEAKER_01: für die klassischen IT Verantwortlichen

21:53 SPEAKER_01: ist das halt ein ultra, weil die setzen sich ja normalerweise hin und suchen irgendwie eine Infra aus und sagen, ja, jetzt haben wir die für die nächsten 5 Jahre und gucken wir dann noch mal und dann laden wir sie noch mal 5 Jahre.

22:04 SPEAKER_01: Da muss jetzt deutlich mehr Dynamik und Agilität auch einfach rein und gefordert werden von' c-Level, von der IT, ne. Also für die IT Abteilung auch nicht, das sind keine einfachen Entscheidungen, das ist jetzt nicht so, sei mal ein bisschen agiler.

22:18 SPEAKER_01: Und damit strugglen halt relativ viele auch. Aber ja, ich hab die...

22:24 SPEAKER_01: Das Drama wird weitergehen

22:26 SPEAKER_01: in den USA. Ist auch spannend, da mal was zu erzählen.

22:31 SPEAKER_01: Und dann bin ich mal gespannt, wenn wir uns das nächste Mal sehen, was bis dahin passiert ist, ob Fable

22:36 SPEAKER_01: dann wieder verfügbar ist oder nicht und ob vielleicht die OpenAI Modelle auch noch gesperrt werden.

22:42 SPEAKER_02: Let's see. Was noch mal spannend ist, ist, dass wir probiert haben, der EU alles Mögliche zu durchdenken und mit dem AI App zu regeln, also Risiken, Verbote, Hochrisikoanwendung,

22:52 SPEAKER_02: Transparenzpflicht,

22:53 SPEAKER_02: jada, jada, jada, alles Mögliche.

22:55 SPEAKER_02: Aber was wir nicht aufm Zettel hatten, war tatsächlich dieses,

22:58 SPEAKER_02: was passiert eigentlich, wenn der mächtigste Modellzugang im Ausland ist? Was ist ein dann mit Resilienz?

23:03 SPEAKER_02: Da also halt... Weiß nicht, ob man das regeln kann in sonem Act, aber es zeigt auch noch mal, hey,

23:09 SPEAKER_02: auch so was muss agil werden, auch auch darauf muss man sich einstellen und sicherlich, wenn man jetzt drüber nachdenkt,

23:14 SPEAKER_02: wirklich wichtige Prozesse

23:16 SPEAKER_02: innerhalb des Staates

23:18 SPEAKER_02: Mhm. Auf KI zu setzen, bis ich an sich ein Befürworter bin, muss man ja auch überlegen, auf wen setzt man da und wie wie schafft man das, dass man da resilient bleibt und eben nicht,

23:27 SPEAKER_01: dass ein anderer Staat alles abschalten kann, egal ob's jetzt gewollt ist oder nicht gewollt ist. Ja. Ja, aus soner Bierlaune heraus. Ja, also ich mein, das Ganze ist noch mal natürlich viel größere Diskussionen, ne. Wo fängst Du an oder hörst Du auf? Also ich glaub, wenn die USA irgendwann sagen würden, so, jetzt schalten wir euch alle in Outlook aus,

23:44 SPEAKER_01: dann auch gute Nacht deutsche Wirtschaft, ne? Also Ja. Ja, oder son Cloud Flair, ja, genau. Ja, ja. Und wenn Du halt da

23:51 SPEAKER_01: einen immer unzuverlässig

23:54 SPEAKER_01: werdenden Partner halt hast, dann ist halt die Frage, wo ist wo ist die Grenze? Ich sag mal, das Gute zumindest,

24:00 SPEAKER_01: statt jetzt noch, auch wenn wir uns mit den Folgen in Europa beschäftigen müssen, ist, dass es bisher nicht

24:07 SPEAKER_01: politisch

24:07 SPEAKER_01: zumindest

24:09 SPEAKER_01: antieuropäisch

24:10 SPEAKER_01: gerichtet war, diese Detektive, sondern

24:13 SPEAKER_01: reines internes Drama, glaube ich, in den USA, aber es zeigt uns, dass wir trotzdem Lösungen

24:18 SPEAKER_02: finden müssen. Aber es zeigt trotzdem den Leverage. Wahrscheinlich hatten die's gar nicht aufm Zettel, aber merken jetzt, oh, die ganze Welt wird unruhig oder haben wir wahnsinnig in Leverage?

24:26 SPEAKER_01: Ja oder oh, die ganze Welt wafft jetzt langsam auf und wird

24:32 SPEAKER_01: weniger von euch von uns abhängig, weil wir eben grade gezeigt haben, wie abhängig sie eigentlich von uns sind. Wenn ihr noch mal in dieses ganze Thema China

24:39 SPEAKER_02: versus USA, wo bleibt Europa reingehen wollt. Wir haben in Folge 30 dazu eine Folge

24:44 SPEAKER_02: und

24:45 SPEAKER_02: wir haben auch das Thema Kompetenzpflicht,

24:47 SPEAKER_02: waren mit dem Anwalt durchdacht.

24:50 SPEAKER_02: Artikel 4 vom AI Act in Folge 28 oder Folge 27 28 könnt ihr euch noch mal anschauen. Da geht's Pflichten, Risiken und Strafen und auch da muss man sich wahrscheinlich überlegen, was muss zu' KI Kompetenz schlicht noch dazukommen,

25:03 SPEAKER_02: wenn man solche Risiken mitbedenken will?

25:07 SPEAKER_02: Beim nächsten Mal geht's darum, was Europa jetzt machen kann. Also es gibt ein schönes Paper, was vor Kurzem rauskam

25:14 SPEAKER_02: von Researchern, aber

25:16 SPEAKER_02: aber auch von VCs. Das ist sone auch eine

25:18 SPEAKER_02: auch eine keine Fabel, aber

25:21 SPEAKER_02: in der Story geschrieben, da geht's so Europa 30 31 und was passiert, wenn wir nichts tun?

25:27 SPEAKER_02: 20 31. 20, nee, ja, genau. 30 31

25:32 SPEAKER_02: Da gibt's kein Europa mehr wahrscheinlich. Machen wir in der nächsten oder der übernächsten Folge. Ganz genau. Überlegen wir uns noch. Aber es kommt. Genau. Ansonsten wie immer, freuen uns über jeden Like oder jeden Kommentar.

25:42 SPEAKER_02: Empfehlt uns weiter, wenn euch das gefallen hat und bis bald.

25:46 SPEAKER_03: Bo Intelligence ist eine Produktion von the key academy in Zusammenarbeit mit SnipKI,

25:50 SPEAKER_03: produziert im Constellation Studio in Berlin.

25:53 SPEAKER_03: Redaktion und Moderation,

25:55 SPEAKER_03: Benjamin Wüstenhagen,

25:56 SPEAKER_03: Moritz Heininger. Ich

25:58 SPEAKER_03: bin eine KI, falls ihr das nicht schon längst erraten habt. Einfach nur eine Stimme aus dem Algorithmus. Aber hey, immerhin eine Methode Timing. Wenn ihr mehr darüber erfahren wollt, abonniert diesen Podcast, keine Folge zu verpassen. Danke fürs Zuhören und bis zum nächsten Mal.