#60: Die KI-Falle der USA: So machst du dich unabhängig

0:00 Amar, Drama, Drama.

0:02 USA gegen Europa und den Rest der Welt, ein Flopic gegen die USA

0:07 und dazu noch ein Wellnes Retreat, die Du alles zusammen hast, schauen wir uns heute in der Folge an.

0:23 Benjamin Wüstenhagen: Willkommen zurück zu Co-Intelligence,

0:25 Benjamin Wüstenhagen: eurem KI dann Podcast mit Moritz Heininger

0:29 Benjamin Wüstenhagen: und mir Benjamin Wüstenhagen.

0:32 Benjamin Wüstenhagen: In der Episode 60,

0:34 Benjamin Wüstenhagen: eine Zusatzepisode, die

0:35 Benjamin Wüstenhagen: die wir jetzt eingeschoben haben,

0:37 Benjamin Wüstenhagen: weil viel passiert ist. Denn stell dir vor, dein Unternehmen hat grad die wichtigsten Prozesse auf ein KI Topmodell umgestellt

0:45 Benjamin Wüstenhagen: und über Nacht kommt die Info, sorry,

0:48 Benjamin Wüstenhagen: für dich nicht mehr. Ihr seid kein Amerikaner, ihr dürft das nicht mehr nutzen.

0:52 Benjamin Wüstenhagen: Genau das ist

0:54 Benjamin Wüstenhagen: passiert

0:55 Moritz Heininger: vor Kurzem mit dem Tropic. Erzähl uns mehr. Drama, Drama, Drama kann man, glaub ich, sagen. Amerika

1:02 Moritz Heininger: gegen Europa und den Rest der Welt, die Amerikaner

1:05 Moritz Heininger: gegeneinander,

1:07 Moritz Heininger: die KI Labs gegeneinander, die

1:10 Moritz Heininger: die Regierung gegen die KI Labs und außerdem

1:13 Moritz Heininger: ein Wellness Retreat ist auch noch Teil der ganzen Equation.

1:17 Moritz Heininger: Und ja, was das mit sich aufhat, können wir uns jetzt mal Schritt für Schritt vielleicht ein bisschen

1:23 Moritz Heininger: genauer anschauen.

1:25 Benjamin Wüstenhagen: Was ist passiert? Ja, Sönntropic hat vor Kurzem ein neues Modell rausgebracht, nämlich Fable.

1:30 Benjamin Wüstenhagen: Fable 5 heißt das Ganze. Das ist das 1. Modell aus der sogenannten

1:35 Benjamin Wüstenhagen: Mythosreihe.

1:36 Benjamin Wüstenhagen: Anthropic nennt ja gern seine Modelle nach, ja, irgendwie

1:39 Benjamin Wüstenhagen: Schriftstücken,

1:40 Benjamin Wüstenhagen: ja, Fable,

1:41 Benjamin Wüstenhagen: also Fabel, Opus und Haiko und so weiter.

1:45 Benjamin Wüstenhagen: Und Mythos ist dieses

1:47 Benjamin Wüstenhagen: große neue Modell, wo es extra ein Projekt gab, Projekt last wing, an dem erst mal ausgewählte Unternehmen

1:54 Benjamin Wüstenhagen: teilnehmen durften, weil das so gut sein soll, dass es halt superschnell

1:58 Benjamin Wüstenhagen: alle möglichen

2:00 Benjamin Wüstenhagen: Security

2:01 Benjamin Wüstenhagen: Probleme aufspürt

2:03 Benjamin Wüstenhagen: und damit für Hacker großartig sein könnte. Nachdem das jetzt eine Weile gemacht wurde, hat man jetzt gesagt, okay, wir bringen ein Modell aus dieser neuen Familie raus, Fable

2:12 Benjamin Wüstenhagen: und stellen's allen erst mal zur Verfügung, um's nutzen zu können, sowohl in den Enterprise Verträgen als auch ganz normalen in normalen Verträgen.

2:20 Benjamin Wüstenhagen: Ich hab's ausprobiert. Es kam irgendwie, ich wollte nachts meine Rechner zuklappen.

2:23 Benjamin Wüstenhagen: Da kam die E-Mail, hey, wir haben ein neues Modell, hab's direkt ausprobiert und war hin und weg. Also es ist wirklich stark, grad für so Programmieraufgaben.

2:31 Benjamin Wüstenhagen: Aber jetzt ist es nicht mehr da, denn die US Regierung hat anthropic gesagt, ihr müsst das jetzt sofort einstellen. Ihr dürft es nicht mehr

2:39 Benjamin Wüstenhagen: allen Menschen, die nicht amerikanische Staatsbürger sind, zur Verfügung stellen, egal wo sie sind. Also selbst wenn sie sich in USA befinden, dürfen es Nichtamerikaner nicht mehr benutzen. Bisschen lustig, denn zum Beispiel der Produktchef von Cloud Code ist Deutscher.

2:53 Benjamin Wüstenhagen: Genau und dann Andrej Karpathy,

2:55 Moritz Heininger: der ja, wie wir in der letzten Folge gesagt haben,

2:59 Moritz Heininger: Ex OpenAI,

3:00 Moritz Heininger: Ex Tesla, der jetzt bei Anthropic angefangen hat, der ist auch kein Amerikaner.

3:04 Moritz Heininger: Ah, okay. Und selbst die Anthropic Mitarbeiter dürfen ihr eigenes bestes Modell nicht mehr verwenden, wenn sie keine Amerikaner sind.

3:11 Moritz Heininger: Und ist aber das das das Lustige son bisschen ist auch der Name für eine Fabel. Aha. Wenn man nach' Definition von' Fabel schaut, es ist eine sehr kurze Geschichte,

3:22 Moritz Heininger: die eine Lektion sozusagen

3:25 Moritz Heininger: erteilen möchte.

3:26 Benjamin Wüstenhagen: Geil, Du hattest son

3:28 Moritz Heininger: ja. Lexikonsprozess dazu gemacht

3:30 Moritz Heininger: und es war tatsächlich eine sehr kurze Geschichte. Am Ende war's, glaub ich, irgendwie 3 Tage online, Ja. Bevor es dann weltweit selbst in den USA abgeschaltet wurde, weil ein Frebrik ja logischerweise

3:41 Moritz Heininger: keine Möglichkeit hat zu entscheiden,

3:43 Moritz Heininger: ist es jetzt ein Amerikaner, der vorm Computer sitzt und das Modell nutzt oder ist es ein

3:48 Moritz Heininger: Ausländer? Ja. Das geht dir überhaupt nicht, weil Du hast ja gar keine Passwort

3:52 Moritz Heininger: ID oder irgendwas da mit drin und dann haben sie's jetzt quasi komplett

3:56 Moritz Heininger: abgeschaltet.

3:57 Moritz Heininger: Und ja, ich glaub, es gibt viele Lektionen, die man ableiten kann.

4:03 Moritz Heininger: Die eine Lektion ist, dass wir Europäer

4:06 Moritz Heininger: mal wieder schmerzhaft merken mussten, wie

4:08 Benjamin Wüstenhagen: stark wir von dem Wohlwollen der Amerikaner und von der amerikanischen Regierung abhängig sind. Deswegen hab ich zum ersten Mal oder für mich jetzt gefühlt zum ersten Mal, dass eine Regierung da reingeht. Dass wir total abhängig sind, hatten wir ja schon in letzter Zeit mal festgestellt.

4:23 Benjamin Wüstenhagen: Also ich glaube, letztes Jahr war dann erst mal Cloudflyer ausgefallen fürn Tag und dann ging nix mehr. Ja, Die ganzen Cloudservices waren alle da und auch hier.

4:30 Benjamin Wüstenhagen: Aber das ist jetzt noch mal was... Andere Dimension aus meiner Sicht. Genau, also also

4:34 Moritz Heininger: gefühlt kamen die Einschläge ja schon ein bisschen näher mit diesem Mythosmodell,

4:38 Moritz Heininger: weil ja schon die Regierung gesagt hat, das Modell bekommt

4:43 Moritz Heininger: keiner.

4:44 Moritz Heininger: Wir müssen vorher diese ganzen Sicherheitstests machen, dieses Project Classrooming, das Du angesprochen hattest. Und erst dann rollen wir's sozusagen aus. Ich mein, da

4:54 Moritz Heininger: hätt das ja oder wenn man das ein bisschen weiterdenkt, gibt's ja auch die Problematik, na ja, es waren am Anfang alles nur amerikanische Firmen, die diesen Sicherheitstest gemacht haben. Wenn Du sagst, okay, wir wir nutzen das erst mal, unsere eigene

5:05 Moritz Heininger: Firmen sicher zu machen und der Rest der Welt ist uns egal,

5:09 Moritz Heininger: dann hast Du ja da schon mal eine gewisse, ja, Dominanz und und und Macht über die Nichtamerikaner.

5:15 Moritz Heininger: Und jetzt quasi diese Entscheidung, ja, ihr Europäer oder die ganze Welt darf dieses Modell nicht mehr nutzen,

5:22 Moritz Heininger: ist halt was, was

5:24 Moritz Heininger: uns ja mal zum Nachdenken bringen sollte. Also das hätte es wahrscheinlich schon zum starken Mythosmodell.

5:29 Moritz Heininger: Ich hoffe ja nur zum Handeln nicht zum Nachdenken. Bitte? Auch zum Handeln, genau. Und da wollen wir uns in der Folge gar nicht so genau drauf fokussieren, obwohl's ein extrem wichtiges Thema ist, weil wie wir gleich ein bisschen rausarbeiten werden, der Hintergrund ist nicht die Amerikaner, die sagen, ihr Europäer dürft das Modell nicht mehr nutzen, damit es wir behalten können und euch alle abhängen, sondern das ist tatsächlich

5:53 Moritz Heininger: ein Streit zwischen dem Unternehmen in Tropic und der Regierung und vielen Egos und

5:59 Moritz Heininger: also ein von vielen Menschen auf ganz vielen Ebenen, was dann am Ende dazu geführt hat. Hat jetzt nichts direkt damit zu tun, dass die Amis Europäer irgendwie abschalten oder ab ausschließen

6:10 Moritz Heininger: möchten.

6:11 Moritz Heininger: Da es aber implizit

6:13 Moritz Heininger: ja uns trotzdem

6:15 Moritz Heininger: zeigt, wie abhängig wir sind, müssen wir trotzdem irgendwelche Lösungen dafür haben. Und da gehen wir dann auf in der nächsten Folge noch mal ein bisschen genauer

6:22 Moritz Heininger: drauf ein. Heute bisschen mehr Fokus auf Drama, Anthropic gegen die US Regierung.

6:28 Benjamin Wüstenhagen: Ich hab mal in der Softwareentwicklung mal so die die Regel, dass wir eigentlich keine Releases machen wollen am Freitagabend oder Freitagnachmittag.

6:35 Benjamin Wüstenhagen: Son bisschen ist das dann bei Anthropic passiert. Die haben wohl diese Direktive von der amerikanischen Regierung

6:42 Benjamin Wüstenhagen: 17 Uhr 21 Eastern treiben. Also ist ja die Zeit, die in New York herrscht, bekommen. Also wirklich schon am am späten oder am Nachmittag, wo viele Menschen so aufm Weg nach Hause waren.

6:52 Moritz Heininger: Oder vielleicht aufm Weg in das und

6:56 Moritz Heininger: Beauty Retreat.

6:58 Moritz Heininger: Würdest Du Freitagnachmittag

6:59 Moritz Heininger: in Beauty Retreat fahren?

7:02 Benjamin Wüstenhagen: Könnte passieren, aber jetzt haben wir mehr zum Beauty Retreat.

7:05 Moritz Heininger: Also das zeigt nur son bisschen, wie persönlich grad dieser Krieg zwischen Anthropic und der amerikanische Regierung ist. Es wurde wohl von der amerikanischen Regierung an verschiedene Reporter mitgeteilt,

7:18 Moritz Heininger: dass Dario Amouday, also der CEO,

7:21 Moritz Heininger: ein Gründer von Anthropic,

7:22 Moritz Heininger: nicht verfügbar war für den Call. Also aufgrund der Sicherheitsbedenken,

7:26 Moritz Heininger: wir könnten gleich noch mal durch die Chronologie gehen,

7:29 Moritz Heininger: wurd er wohl einberufen und war nicht verfügbar,

7:32 Moritz Heininger: weil er sich's angeblich grade hat gutgehen lassen. Und damit will natürlich die Regierung ein sehr schlechtes Bild von ihm

7:39 Moritz Heininger: zeichnen. Und die Realität ist wohl, dass er und dann gibt's auch wieder relativ seriöse Journalisten, die darüber schreiben, die wohl auch informiert sind, dass er wohl tatsächlich im Office war von Anthropic, aber halt irgend eine Stunde 15 erst fürn Call,

7:54 Moritz Heininger: also erst dann quasi den Call nehmen konnte mit der Regierung. Warum? Keine Ahnung, ja. Gibt's vielleicht auch noch paar andere wichtige Menschen auf der Welt im Vergleich zu Donald Trump und

8:04 Moritz Heininger: dass das alles quasi erfunden und war.

8:07 Moritz Heininger: war. Und da ist natürlich sehr, sehr, sehr viel Stimmungsmache,

8:11 Moritz Heininger: grade die,

8:12 Moritz Heininger: wie heißt er, der

8:14 Moritz Heininger: der Hexet,

8:15 Moritz Heininger: der

8:17 Moritz Heininger: der Kriegsminister

8:18 Moritz Heininger: Ja. Ist natürlich immer noch angepisst,

8:21 Moritz Heininger: dass ein Tropic ihm nicht erlaubt hat, die Modelle zu verwenden. Hab dann auch irgendwie abends direkt noch mal getweetet, dass es

8:28 Moritz Heininger: jeden Tag ein Beweis dafür ist, dass es die richtige Entscheidung war, irgendwie ein Tropic zu nutzen, nicht zu nutzen.

8:35 Moritz Heininger: Und da ist, ja, sehr viel, glaub ich, sehr viel Gift und sehr viele persönliche

8:41 Moritz Heininger: Probleme und Egos,

8:42 Moritz Heininger: die am Ende zu so was Verrücktem geführt haben wie soner Exportdirektive.

8:47 Moritz Heininger: Aber vielleicht gehen wir einmal ganz kurz, haben wir schon viel gesagt, was son bisschen passiert ist,

8:51 Moritz Heininger: vielleicht noch einmal son bisschen die die Chronologie

8:55 Moritz Heininger: durch, so wie wir,

8:57 Moritz Heininger: ich sag mal, es wahrnehmen können von außen, ne. Also jeder

9:01 Moritz Heininger: sticht irgendwas anderes an die Presse durch.

9:03 Moritz Heininger: Wo da wirklich die Wahrheit liegt, wird sich noch zeigen.

9:07 Moritz Heininger: Da braucht's noch ein bisschen mehr investigativen Journalismus.

9:11 Moritz Heininger: Aber das Ganze ist gestartet angeblich mit 1

9:15 Moritz Heininger: Sicherheitsmeldung

9:16 Moritz Heininger: von AWS,

9:18 Moritz Heininger: also Amazon,

9:19 Moritz Heininger: dem CEO.

9:21 Moritz Heininger: Die interessanterweise ein viele Anteile an Tropic halten. Genau, die 1 der größten Investoren, friend Tropic sind

9:27 Moritz Heininger: auf

9:29 Moritz Heininger: und es es waren wohl noch son paar andere Unternehmen auch in diesem Glasswing Projekt, die einen sogenannten

9:35 Moritz Heininger: Jailbreak

9:36 Moritz Heininger: gefunden haben. Was heißt Jailbreak? Du hast ja schon gesagt, dass Mythos das Modell ist. Also es ist das extrem gute Modell,

9:45 Moritz Heininger: was so gefährlich ist, dass man's vorher all die ganzen Systeme sichern muss. Und dieses Modell,

9:50 Moritz Heininger: hattest Du ja auch gesagt, ist sone ist eine in Teilen abgeschreckte Variante.

9:54 Moritz Heininger: Und das Modell muss halt, wer's versteht, was stellst Du mir für eine Anfrage?

9:59 Moritz Heininger: Und wenn ich irgendwelche Anfragen stelle zum Thema

10:02 Moritz Heininger: irgendwie so Bio Hacking, irgendwie

10:03 Moritz Heininger: Hacking, irgendwie so Bioangriffe

10:05 Moritz Heininger: machen kannst. Oder ich hab selbst, wenn Du das Modell nutzen willst, ein neues Modell zu trainieren, dann schalt Du das automatisch direkt in das opus Modell runter als Sicherheitsmechanismus.

10:15 Benjamin Wüstenhagen: Genau, das opus Modell ist sozusagen aus' anderen Klasse,

10:18 Benjamin Wüstenhagen: aber das beste das beste andere Modell von Anthropic

10:22 Benjamin Wüstenhagen: und die haben jetzt wohl eingebaut. Also ich hab's, als ich selbst benutzt hab, Fable, kam immer, hey, Du darfst hier keine Security Fragen stellen beziehungsweise wenn, dann wirst Du runtergestuft und Du darfst auch keine

10:32 Moritz Heininger: irgendwie biologischen Geschichten haben. Du kannst jetzt nicht sagen, warum wir mal eine neue Biowaffe? Genau.

10:37 Moritz Heininger: Und was halt grundsätzlich erst mal Sinn macht, da gewisse,

10:41 Moritz Heininger: ich sag mal, Schutzmechanismen einzubauen.

10:43 Moritz Heininger: Und anscheinend haben ein paar Researcher unter anderem, die von AWS

10:47 Moritz Heininger: Wege gefunden,

10:48 Moritz Heininger: auch wohl recht komplizierte Wege,

10:50 Moritz Heininger: das zu unterbrechen, indem sie Anfragen in verschiedenen Sprachen gestellt haben,

10:55 Moritz Heininger: irgendwie skurrilische, chinesische Schriftzeichen und danach nur zu teilen irgendwie,

11:01 Moritz Heininger: weiß ich nicht, wenn eine Bombe aus 10 Teilen besteht, dann immer quasi einzelne Anfragen zu einzelnen Elementen sozusagen gestellt und dann am Ende des Modells sozusagen alles irgendwie zusammengeführt

11:11 Moritz Heininger: zu führen lassen.

11:13 Moritz Heininger: Also ich bin da auch überhaupt kein Experte, so Jailbreaking geht, aber irgendwie gibt's halt Wege, das dann doch hinzubekommen und... Ich kenn Jailbreak nur aus der Zeit, als man so Handys hatte mit' nem SIM Code, Ja. Ja, für irgendwie, keine Ahnung, E plus und dann hast Du hier jailbreak, sie mit jeder SIM Karte nutzen zu können. Ja. Ja, genau oder halt Hardware Jailbreaking. Ich hab damals meiner Playstation, so hatte ich son Chip angebaut, dass ich die kompletten Spiele auf der Playstation spielen kann und so gibt's halt Hardware

11:41 Moritz Heininger: Das ist schon mal fair, ja. Der Playstation 1 ist schon eine Weile her.

11:45 Moritz Heininger: Metty gecondet war das beste Spiel.

11:48 Moritz Heininger: Genau und es gibt halt sonen Prozess, dass halt die Unternehmen in diesem Projekt, die halt versuchen, diese Modelle zu,

11:55 Moritz Heininger: wenn sie's schaffen, das an die Regierung melden müssen. Ja. Also es ist zwar irgendwie komisch, dass in Tropic oder AWS sich selbst ins Bein schießt, indem sie ihr größtes Asset oder einzelne größten Asset sozusagen ankreiden oder anschwärzen.

12:07 Moritz Heininger: Aber ich glaub, auch da sollte man nicht zu viel Drama reininterpretieren,

12:10 Moritz Heininger: weil sie davor auch schon Sachen

12:12 Moritz Heininger: wohl veröffentlicht haben oder gemeldet haben.

12:15 Moritz Heininger: Und am Ende geht's ja auch darum zu gucken, wie kann man das Modell insgesamt besser machen, so Sachen zu vermeiden? Und das hat sich irgendwie hochgeschaukelt, ist

12:22 Moritz Heininger: ist bei der Regierung angekommen.

12:24 Moritz Heininger: Die haben das, glaube ich, auch son bisschen

12:27 Moritz Heininger: falsch interpretiert,

12:28 Moritz Heininger: also als...

12:32 Moritz Heininger: Also ist auch immer son bisschen die Frage, ja, wenn halt 1 sagt, hiermit könntest Du jetzt potenzielle Biowaffe bauen,

12:37 Moritz Heininger: wir haben's geschafft,

12:40 Moritz Heininger: dann ist halt auch, wenn das der anderen Seite bei der Regierung anscheinend jetzt nicht die

12:45 Moritz Heininger: smartesten Leute, ist wahrscheinlich das falsche Wort, aber Leute, die den richtigen Background haben, das wirklich einschätzen zu können, sitzen. Mhm. Haben die Panik, dann haben sie anscheinend mit Anthropic gesprochen,

12:56 Moritz Heininger: wohl auch schon in der Stunde, als der Dario noch nicht da war, mit den Researchern und haben Feedback bekommen und dann kam der der Dario wohl dazu.

13:04 Moritz Heininger: Und

13:05 Moritz Heininger: er scheint wohl auch nicht so der der Empathischste

13:08 Moritz Heininger: zu sein, der dann irgendwie und da die die

13:11 Moritz Heininger: Fronten schon verhärtet sind,

13:13 Moritz Heininger: hatte wohl dann

13:15 Moritz Heininger: sehr direkt irgendwie den Versuch beizubringen, wie dumm sie eigentlich sind, dass es alles überhaupt keinen Sinn ergibt und dass das dieser Jaypreak bei jedem anderen Modell auch funktioniert und Genau, das hat er ein Topiker auch selber in dem Statement geschrieben. Ja, genau. Und dann haben die Leute sich, glaub ich, son bisschen,

13:31 Moritz Heininger: ja, vielleicht als doof dargestellt gefühlt, haben sich in ihrer Erbe

13:34 Moritz Heininger: gekränkt

13:35 Moritz Heininger: gesehen und

13:37 Moritz Heininger: dann hat sich das wohl anscheinend son bisschen mit der Vorgeschichte an Tropic gegen die Regierung irgendwie hochgeschaukelt

13:43 Benjamin Wüstenhagen: und Dann hatten Sie 90 Minuten, das für alle Nichtamerikaner abzustellen. Genau. Und dann war halt diese Exportdirektive,

13:51 Moritz Heininger: das ist halt einfach wahrscheinlich das einfachste und schnellste durchzusetzenste

13:56 Moritz Heininger: Instrument

13:57 Moritz Heininger: von der Regierung. Ja. Und da ging's dann gar nicht darum, weil die wussten halt natürlich, dass ein Flopac das wahrscheinlich auch für Amerikaner schwer muss, weil sie's einfach nicht nicht können.

14:06 Moritz Heininger: Und das war wahrscheinlich ein Weg, das schnell durchzusetzen,

14:10 Moritz Heininger: dass dieses Modell halt jetzt erst mal gesperrt ist. Es war jetzt kein Move gegen die Europäer oder den Rest der Welt, sondern, glaub ich, eher so,

14:18 Moritz Heininger: wir

14:20 Moritz Heininger: stecken Anthropic im Stock in die Speichen

14:24 Benjamin Wüstenhagen: und gucken mal. Was ich daran auch so ironisch finde, ist, dass ja Europa dafür gescheuten wird,

14:30 Benjamin Wüstenhagen: KI zu stark zu regulieren.

14:34 Benjamin Wüstenhagen: Im

14:35 Benjamin Wüstenhagen: Prinzip

14:36 Benjamin Wüstenhagen: ja über Regulatorik jetzt grade aber voll ausgebremst wird Ja. Und die Regulatorik jetzt aber auch nicht,

14:42 Benjamin Wüstenhagen: weißte nicht kalkulierbar

14:44 Benjamin Wüstenhagen: ist.

14:45 Moritz Heininger: Ja. Weil wenn innerhalb von 19 Minuten so was entschieden wird, dann ist es eher unkalkulierbar

14:50 Moritz Heininger: aus meiner Sicht. Das große Problem

14:53 Moritz Heininger: unseres

14:54 Moritz Heininger: Kapitalismus,

14:55 Moritz Heininger: an dem wir so geglaubt haben, ist, dass Du jetzt eine komplett random amerikanische Regierung hast,

15:00 Moritz Heininger: die halt von heut auf morgen irgend ein Kram entscheidet,

15:03 Moritz Heininger: ohne irgendwie wichtiges Fundament.

15:06 Moritz Heininger: Noch kannst Du da mit irgendeinem irgendwas planen.

15:09 Moritz Heininger: Und

15:10 Moritz Heininger: die ganze Situation ist halt total komplex, ne. Auf der einen Seite hast Du die diese

15:15 Moritz Heininger: Accelerationists

15:17 Moritz Heininger: Movement

15:18 Moritz Heininger: von der ganzen Tech Lobby, in der sich ja auch, glaub ich, die die Regierung angeschlossen hat, America First, ja. Wir müssen hier irgendwie amerikanische Modelle und amerikanische Player und wir müssen den Kampf gegen die Chinesen gewinnen und

15:31 Moritz Heininger: wir dürfen irgendwie nicht, ne, zu langsam sein.

15:34 Moritz Heininger: Und son Move ist halt einfach ein komplette,

15:38 Moritz Heininger: ja, wie sagt man, eine Fahnenliparade

15:41 Moritz Heininger: sozusagen, Ja.

15:42 Moritz Heininger: Weil das ist ja eigentlich das Schlimmste, was passieren kann für

15:45 Moritz Heininger: für die für die großen amerikanischen Player, ne. Weil im Endeffekt hat, glaube ich, jetzt auch grade 1 von diesen

15:52 Moritz Heininger: AI Zargeist, der 6 oder irgendjemand bei den Amis auch gesagt, hey,

15:57 Moritz Heininger: vor Kurzem, weil die ja alle Pro OpenAI sind, Anti Enthropic,

16:01 Moritz Heininger: dass

16:02 Moritz Heininger: das

16:03 Moritz Heininger: 5 5 Cyber heißt das, meine ich, im Modell, ist ja genauso gut und genauso stark wie irgendwie das Mythos Modell.

16:10 Moritz Heininger: Wenn das der Fall wäre, warum ist dieses Modell dann nicht irgendwie

16:14 Moritz Heininger: gebannt, ne, also blockiert? Ja, genau. Weil das müsste es ja eigentlich dann genauso, aber das ist halt da ist so viel Politics auch noch hinten dran. Ich find's auch noch mal interessant aus der Ebene heraus, was macht es mit den auch Märkten?

16:27 Benjamin Wüstenhagen: Na. Wir hatten ja jetzt letzte Woche den

16:29 Benjamin Wüstenhagen: den den Börsengang von SpaceX und xAI

16:33 Benjamin Wüstenhagen: und dann ein Teil der Story wird auch sein, dass xAI jetzt seine Rechenzentren auslassen kann, unter anderem, weil Anthropic die nutzt. Mhm.

16:42 Benjamin Wüstenhagen: Und dann haben wissen wir auch, dass Anthropic als auch OpenAI an die Börse gehen wollen, möglichst noch in diesem Jahr. Ja.

16:50 Benjamin Wüstenhagen: Mal angenommen,

16:51 Benjamin Wüstenhagen: das bleibt jetzt gesperrt

16:53 Benjamin Wüstenhagen: und Anthropic kann seine besten Modelle

16:56 Benjamin Wüstenhagen: nicht in alle Welt verkaufen und mal angenommen, für OpenAI würde das Gleiche gelten müssen, wenn man ja dann denken. Ja. Ja, dann würde ja die Bewertung aus meiner Sicht zusammenfallen.

17:06 Benjamin Wüstenhagen: Total. Und wenn denn die Bewertung zusammenfällt und die diese Modelle nicht mehr ausliefern können an an alle anderen außer Amerikaner,

17:12 Benjamin Wüstenhagen: dann brauchen sie auch nicht mehr die Influencer.

17:14 Benjamin Wüstenhagen: Wenn sie die Influencer nicht mehr benötigen, brauchen sie auch nicht die Rechenzentren.

17:17 Benjamin Wüstenhagen: Wenn sie die Rechenzentren nicht benötigen, benötigen sie auch die Chips nicht mehr. Wenn die Chips nicht mehr benötigt werden, fällt die Bewertung von NVIDIA als wertvollstes Unternehmen der Welt zusammen.

17:27 Benjamin Wüstenhagen: Wenn NVIDIA, was 7 Prozent oder mehr als 7 Prozent des des S und P ausmacht, zusammenfällt,

17:33 Benjamin Wüstenhagen: was passiert dann mit dem S und P? Also da hast Du im Prinzip sone wunderbare Kettenreaktion,

17:36 Benjamin Wüstenhagen: die Du hinstellen kannst und überlegst,

17:38 Moritz Heininger: was macht ihr da? Ja, ich glaub, da hat keiner

17:42 Moritz Heininger: irgendwie richtig weit gedacht

17:44 Moritz Heininger: in dem Moment. Also

17:46 Moritz Heininger: ich kann mir das richtig bildlich vorstellen, wie die da in' Raum sitzen, alle aufeinander angepisst sind, die Emotionen hochkochen.

17:52 Moritz Heininger: Er sagt, ja okay, wenn Jens Robett nicht auf uns hört und sagt, wir wären dumm, was wir sagen, dann machen wir das jetzt und ziehen euch irgendwie in den Stecker und...

17:59 Moritz Heininger: Also es ist, wir haben son bisschen Kindergarten, also da da wär ich gerne mal dabei gewesen, mir das anzuschauen.

18:05 Moritz Heininger: Aber im Endeffekt gewinnt halt einfach keiner. Also weder die Regierung, wie Du sagst, damit

18:10 Moritz Heininger: amerikanische Wirtschaft,

18:12 Moritz Heininger: die schaden damit genauso' OpenAI,

18:14 Moritz Heininger: wenn man mal 2 Schritte weiterdenkt,

18:16 Moritz Heininger: auch wenn sie total pro OpenAI sind.

18:19 Moritz Heininger: Und

18:20 Moritz Heininger: am Ende,

18:21 Moritz Heininger: also allein wir Europäer, ne, sind ja, nächste Woche kommen wir noch mal da bisschen genauer drauf,

18:28 Moritz Heininger: sind ja irgendwie zwischen den Stühlen, zwischen den Amerikanern und chinesischen Modellen und

18:32 Moritz Heininger: Das haben wir hier auch schon oft diskutiert, Ja. Das ist. Und wenn Du halt, ich sag mal abgesehen davon, dass die vielleicht ein gewissen politischen Bias drin haben können, weil Du nicht weißt, was für Daten die am Ende trainiert sind, viele von denen zumindest,

18:44 Moritz Heininger: hast Du da Open Source Modelle, die fast genauso gut sind, die Du lokal laufen lassen kannst, die dich deutlich weniger kosten

18:51 Moritz Heininger: und dir, ich sag mal, eine gewisse... Also das hätten wir eigentlich kaum gedacht, ne, dass dir die Chinesen eine gewisse

18:58 Moritz Heininger: Planbarkeit

18:59 Moritz Heininger: geben,

19:00 Moritz Heininger: weil Du dich auf die Amerikaner nicht verlassen kannst, ne, aber das ist die Welt, in der wir halt leben können. Ich meine, was was unabhängig von Europa

19:08 Benjamin Wüstenhagen: da rauskommt, auch als, ja, Maßgabe fürs Unternehmen, für euch, die ihr irgendwie mit der AI arbeitet, arbeiten wollt, ist, ist klar, man muss irgendwie nur son Multimodell oder Multianbieter

19:18 Benjamin Wüstenhagen: Strategie haben, dass man schnell wechseln kann. Ja. Ja, und nicht irgendwie alles nur auf eine Sache konzentriert,

19:24 Benjamin Wüstenhagen: was ehrlicherweise jetzt bei Cloud gar nicht mal so einfach ist, wenn Du sagst, ich nutze superviel Cloud Code, ja, halt als Beispiel Ja, wobei Du

19:34 Moritz Heininger: Das hat uns unsere CTO jetzt gezeigt, muss es nur umsetzen. Wenn Du Credits hast auf irgend' ner Cloud oder auch wenn Du keine hast, kannst Du über Verseal

19:43 Moritz Heininger: andere Modelle

19:45 Moritz Heininger: in deiner Cloudumgebung laufen lassen. Okay. Also nicht Cloud Modelle,

19:49 Moritz Heininger: aber Du kannst beispielsweise auch und das machen wir jetzt, weil wir viele Credits haben und jetzt noch mal Credits

19:54 Moritz Heininger: geschenkt bekommen haben, dass wir halt die

19:58 Moritz Heininger: die ganzen Themen, die ganzen Rechenthemen über die Versal über Versal halt über unsere Google Cloud oder auch in der AWS Cloud ziehen,

20:05 Benjamin Wüstenhagen: halt da die Credits runterzuziehen und nicht ständig in dieses Overspending in vor Ort reinkommen. Ganz anderes Thema. Aber dennoch ist das ja, also man darf jetzt nicht blind nur sagen, ich nutze das, sondern ja, haben wir genau das Thema. Wir haben auch alle möglichen KI

20:18 Benjamin Wüstenhagen: Geschichten und ich bin immer dran, irgendwie die Modelle anzupassen und zu gucken, was passt wohin. Aber auch da relativ diagnostisch zu arbeiten, dass man sagen kann, ich nehm das Modell von dem Anbieter

20:28 Benjamin Wüstenhagen: und kann's auswechseln. Ja, ja. Und da gibt's ja auch Anbieter wie Open Router, die dann so was

20:33 Benjamin Wüstenhagen: Genau. Machen, ja. Wo einfach sagen kannst, welches Modell wir zum Beispiel nutzen. Aber das ist, glaub ich, eine Sache, die

20:39 Benjamin Wüstenhagen: die wichtig ist. Die 2. Sache, die wichtig ist, ist, dass man wirklich anschaut, okay, wenn's auch keine europäischen Modelle gibt, außer Mistral vielleicht,

20:46 Benjamin Wüstenhagen: dann muss man dennoch schauen, wie wie passt man seine Beschaffungsstrategie an?

20:50 Moritz Heininger: Ja. Und wie muss man sich auch mal chinesische Modelle anschauen? Vielleicht sogar Modelle, die dann lokal laufen?

20:57 Moritz Heininger: Also wenn überhaupt, dann glaube ich, Architekt lokal

21:00 Moritz Heininger: in Europa laufen. Also ich würd, glaub ich, nicht die DeepSeek App

21:05 Moritz Heininger: erlauben für mein Business, weil dann geht's ja auf jeden Fall auf chinesische Server und da wird alles gelesen. Aber grade diese die Open Source Modelle, ne? Wir haben jetzt

21:13 Moritz Heininger: also eigentlich wir haben

21:14 Moritz Heininger: eigentlich wir haben jetzt halt eigentlich kein Credit Shortage oder Credits, die

21:18 Moritz Heininger: die kann man fast gar nicht nutzen, glaube ich. Aber bis

21:21 Moritz Heininger: dahin

21:23 Moritz Heininger: haben wir auch schon oft die

21:25 Moritz Heininger: Entwicklungspläne

21:26 Moritz Heininger: halt mit dem OpenAI Modell gemacht oder mit dem besten Cloud Modell

21:30 Moritz Heininger: und haben die Entwicklung dann aber mit KI Modell gemacht, weil es einfach extrem gut mittlerweile einfach zu croden, zum Abarbeiten ist sozusagen

21:39 Moritz Heininger: und halt einfach ein Bruchteil der Kosten halt irgendwie, Und

21:44 Moritz Heininger: ja, also man braucht schon, also man muss schon sehr, sehr, sehr flexibel sein einfach und bleiben. Also dieses typische,

21:51 Moritz Heininger: für die klassischen IT Verantwortlichen

21:53 Moritz Heininger: ist das halt ein ultra, weil die setzen sich ja normalerweise hin und suchen irgendwie eine Infra aus und sagen, ja, jetzt haben wir die für die nächsten 5 Jahre und gucken wir dann noch mal und dann laden wir sie noch mal 5 Jahre.

22:04 Moritz Heininger: Da muss jetzt deutlich mehr Dynamik und Agilität auch einfach rein und gefordert werden von' c-Level, von der IT, ne. Also für die IT Abteilung auch nicht, das sind keine einfachen Entscheidungen, das ist jetzt nicht so, sei mal ein bisschen agiler.

22:18 Moritz Heininger: Und damit strugglen halt relativ viele auch. Aber ja, ich hab die...

22:24 Moritz Heininger: Das Drama wird weitergehen

22:26 Moritz Heininger: in den USA. Ist auch spannend, da mal was zu erzählen.

22:31 Moritz Heininger: Und dann bin ich mal gespannt, wenn wir uns das nächste Mal sehen, was bis dahin passiert ist, ob Fable

22:36 Moritz Heininger: dann wieder verfügbar ist oder nicht und ob vielleicht die OpenAI Modelle auch noch gesperrt werden.

22:42 Benjamin Wüstenhagen: Let's see. Was noch mal spannend ist, ist, dass wir probiert haben, der EU alles Mögliche zu durchdenken und mit dem AI App zu regeln, also Risiken, Verbote, Hochrisikoanwendung,

22:52 Benjamin Wüstenhagen: Transparenzpflicht,

22:53 Benjamin Wüstenhagen: jada, jada, jada, alles Mögliche.

22:55 Benjamin Wüstenhagen: Aber was wir nicht aufm Zettel hatten, war tatsächlich dieses,

22:58 Benjamin Wüstenhagen: was passiert eigentlich, wenn der mächtigste Modellzugang im Ausland ist? Was ist ein dann mit Resilienz?

23:03 Benjamin Wüstenhagen: Da also halt... Weiß nicht, ob man das regeln kann in sonem Act, aber es zeigt auch noch mal, hey,

23:09 Benjamin Wüstenhagen: auch so was muss agil werden, auch darauf muss man sich einstellen und sicherlich, wenn man jetzt drüber nachdenkt,

23:14 Benjamin Wüstenhagen: wirklich wichtige Prozesse

23:16 Benjamin Wüstenhagen: innerhalb des Staates

23:18 Benjamin Wüstenhagen: Mhm. Auf KI zu setzen, bis ich an sich ein Befürworter bin, muss man ja auch überlegen, auf wen setzt man da und wie wie schafft man das, dass man da resilient bleibt und eben nicht,

23:27 Moritz Heininger: dass ein anderer Staat alles abschalten kann, egal ob's jetzt gewollt ist oder nicht gewollt ist. Ja. Ja, aus soner Bierlaune heraus. Ja, also ich mein, das Ganze ist noch mal natürlich viel größere Diskussionen, ne. Wo fängst Du an oder hörst Du auf? Also ich glaub, wenn die USA irgendwann sagen würden, so, jetzt schalten wir euch alle in Outlook aus,

23:44 Moritz Heininger: dann auch gute Nacht deutsche Wirtschaft, ne? Also Ja. Ja, oder son Cloud Flair, ja, genau. Ja, ja. Und wenn Du halt da

23:51 Moritz Heininger: einen immer unzuverlässig

23:54 Moritz Heininger: werdenden Partner halt hast, dann ist halt die Frage, wo ist wo ist die Grenze? Ich sag mal, das Gute zumindest,

24:00 Moritz Heininger: statt jetzt noch, auch wenn wir uns mit den Folgen in Europa beschäftigen müssen, ist, dass es bisher nicht

24:07 Moritz Heininger: politisch

24:07 Moritz Heininger: zumindest

24:09 Moritz Heininger: antieuropäisch

24:10 Moritz Heininger: gerichtet war, diese Detektive, sondern

24:13 Moritz Heininger: reines internes Drama, glaube ich, in den USA, aber es zeigt uns, dass wir trotzdem Lösungen

24:18 Benjamin Wüstenhagen: finden müssen. Aber es zeigt trotzdem den Leverage. Wahrscheinlich hatten die's gar nicht aufm Zettel, aber merken jetzt, oh, die ganze Welt wird unruhig oder haben wir wahnsinnig in Leverage?

24:26 Moritz Heininger: Ja oder oh, die ganze Welt wafft jetzt langsam auf und wird

24:32 Moritz Heininger: weniger von euch von uns abhängig, weil wir eben grade gezeigt haben, wie abhängig sie eigentlich von uns sind. Wenn ihr noch mal in dieses ganze Thema China

24:39 Benjamin Wüstenhagen: versus USA, wo bleibt Europa reingehen wollt. Wir haben in Folge 30 dazu eine Folge

24:44 Benjamin Wüstenhagen: und

24:45 Benjamin Wüstenhagen: wir haben auch das Thema Kompetenzpflicht,

24:47 Benjamin Wüstenhagen: waren mit dem Anwalt durchdacht.

24:50 Benjamin Wüstenhagen: Artikel 4 vom AI Act in Folge 28 oder Folge 27 28 könnt ihr euch noch mal anschauen. Da geht's Pflichten, Risiken und Strafen und auch da muss man sich wahrscheinlich überlegen, was muss zu' KI Kompetenz schlicht noch dazukommen,

25:03 Benjamin Wüstenhagen: wenn man solche Risiken mitbedenken will?

25:07 Benjamin Wüstenhagen: Beim nächsten Mal geht's darum, was Europa jetzt machen kann. Also es gibt ein schönes Paper, was vor Kurzem rauskam

25:14 Benjamin Wüstenhagen: von Researchern, aber

25:16 Benjamin Wüstenhagen: aber auch von VCs. Das ist sone auch eine

25:18 Benjamin Wüstenhagen: auch eine keine Fabel, aber

25:21 Benjamin Wüstenhagen: in der Story geschrieben, da geht's so Europa 30 31 und was passiert, wenn wir nichts tun?

25:27 Benjamin Wüstenhagen: 20 31. 20, nee, ja, genau. 30 31

25:32 Benjamin Wüstenhagen: Da gibt's kein Europa mehr wahrscheinlich. Machen wir in der nächsten oder der übernächsten Folge. Ganz genau. Überlegen wir uns noch. Aber es kommt. Genau. Ansonsten wie immer, freuen uns über jeden Like oder jeden Kommentar.

25:42 Benjamin Wüstenhagen: Empfehlt uns weiter, wenn euch das gefallen hat und bis bald.

25:46 Bo Intelligence ist eine Produktion von the key academy in Zusammenarbeit mit SnipKI,

25:50 produziert im Constellation Studio in Berlin.

25:53 Redaktion und Moderation,

25:55 Benjamin Wüstenhagen,

25:56 Moritz Heininger. Ich

25:58 bin eine KI, falls ihr das nicht schon längst erraten habt. Einfach nur eine Stimme aus dem Algorithmus. Aber hey, immerhin eine Methode Timing. Wenn ihr mehr darüber erfahren wollt, abonniert diesen Podcast, keine Folge zu verpassen. Danke fürs Zuhören und bis zum nächsten Mal.