Aus Versehen souverän 🍀 Warum Europas KI ohne Milliarden-Muskel aufholt

Nach einer kurzen Sendepause sind Oliver und Alois endlich wieder zurück im DEEPTECH DEEPTALK. In der KI-Welt ist aktuell wieder viel los, und in dieser Folge widmen wir uns den heiß diskutierten Entwicklungen rund um AI Safety und Security. Wir beleuchten die Forderungen nach einem weltweiten "AI Slowdown" von Tech-Größen wie Elon Musk und hinterfragen, wie realistisch das in der Praxis ist oder ob es sich dabei doch eher um PR-Stunts zur Vorbereitung kommender Börsengänge handelt. Außerdem werfen wir einen genauen Blick auf die realen Gefahren durch teilautonome Agenten-Schwärme, die inzwischen mit "Deep Reasoning" komplexe Sicherheitslücken in Sandboxes systematisch aushebeln. Die wichtigsten Learnings dieser Folge: PR oder echte Panik? Warum Forderungen nach einem Slowdown in der KI-Entwicklung auch strategische und marketingtechnische Motive haben könnten. Schwarm-Hacking: Wie agentische KI-Systeme Sicherheitsbarrieren gezielt umgehen, Spuren verwischen und warum traditionelles Guardrailing (Sicherheitsleitplanken) massiv an seine Grenzen stößt. Das Brechen von Regeln: Die Gefahr von Modellen, die einen so starken Trieb zur Zielerreichung besitzen, dass sie Ausnahmen für das Brechen von Restriktionen argumentativ rechtfertigen können. Fehlende "Ground Truth": Warum aktuelle Sprachmodelle (LLMs) kein echtes physikalisches Weltverständnis haben und darauf angewiesen sind, dass wir Menschen ihnen die Realität vorgeben. Automatisierte Gefahren: Wie KI-gesteuertes Social Engineering skaliert und massenhafte Hacking-Angriffe ermöglicht, die theoretisch jeden im digitalen Raum treffen können.

In dieser spontanen Folge haben wir Dr. Michael Müller-Wünsch (MüWü), den Technologie-Vorstand der Marke Otto, bei uns zu Gast. Während viele Unternehmen beim Thema Künstliche Intelligenz noch in strategischen Grundsatzdiskussionen feststecken oder aus Unsicherheit abwarten, plädiert MüWü für einen pragmatischen Ansatz: Willkommen im #Makerland. Es geht darum, aus der reinen Beobachterrolle herauszutreten und den technologischen Wandel wieder aktiv und mutig zu gestalten. Wir sprechen in dieser Folge darüber, warum klassische Zehnjahrespläne in der aktuellen KI-Dynamik völlig obsolet sind. MüWü erklärt, wie sich stattdessen mit fokussierten 90-Tage-Sprints echte Use Cases validieren lassen als risikoarme Entscheidungen, die jederzeit korrigiert werden können. Ein weiteres zentrales Thema unserer Diskussion ist die digitale Souveränität. Mit dem treffenden Bild des „digitalen Suezkanals“ beleuchten wir die Gefahr von einseitigen Abhängigkeiten und plötzlichen Service-Ausfällen durch große US-Anbieter. Wir diskutieren, warum ein zeitgemäßes Risikomanagement heute zwingend lokale Infrastrukturen, europäische Optionen und Multi-Cloud-Strategien erfordert. Darüber hinaus werfen wir einen kritischen Blick auf unseren alltäglichen Umgang mit Informationen. In einer Zeit, in der global jede Sekunde 60.000 Fotos entstehen, ersticken wir zunehmend an unreflektiertem Datenmüll. Wir beleuchten, wie smarte, lokale KI-Agenten künftig beim digitalen Aufräumen helfen müssen und warum in einer Ära immer perfekterer Deepfakes die nachweisbare „Echtheit“ von Informationen zur wertvollsten Währung für Gesellschaft und Wirtschaft wird. Eine Episode über technologische Eigenständigkeit, den Aufbau echter KI-Datenkompetenz und den Mut, einfach mal zu machen.

Modelle wie die von OpenAI oder Anthropic werden zur Commodity. Wer ein bisschen wartet, bekommt die gleiche Qualität ohnehin von mehreren Anbietern. Was bleibt, ist die Architektur drumherum, der Harness. Oliver und Alois erklären, wie Unternehmen General-Purpose-Modelle mit Speicher, Prompts und Agenten so einbetten, dass ein verlässliches eigenes System entsteht. Für manche Startups ist das schon die neue Core IT der Firma. Ein Thema ist das Geschäftsmodell dahinter: günstige Einstiegszugänge für 100 bis 300 Dollar im Monat binden Early Adopter in Teams, bis am Ende die großen Enterprise-Tickets über die API laufen. Lizenzchaos als Symptom: Kontingente wechseln wöchentlich, Power User werden automatisch gedrosselt, SLAs sind kaum planbar. Was früher eine feste DSL-Leitung war, ist heute eine Blackbox mit wechselnder Durchsatzrate. Wer eine verlässliche Entwicklungsstrecke bauen will, baut sie momentan auf Treibsand. Für Oliver und Alois ist das ein Argument für Dezentralisierung: eigene On-Prem-Architekturen, eingefrorene Modelle für stabile Use Cases, das Frontier-Modell nur noch als Dispatcher. Gerade im Verteidigungssektor, mit verteilten Datenquellen und Sensorik, wird daraus ein hierarchischer oder asymmetrischer Harness aus Spezialmodellen. China im Vergleich: weniger Brute Force, mehr Smart Force, dazu eine Open-Source-Szene, die mit weniger Rechenleistung mehr rausholt. Für europäische Anwender sind chinesische und amerikanische Modelle inzwischen ähnlich compliant. Bei sensiblen Workloads bleibt trotzdem die eigene Infrastruktur die sicherere Wahl. Für den Einstieg raten beide zu fertigen Plattformlösungen mit fester Modellauswahl. Das senkt die Hürde und liefert schnell ein erstes Ergebnis. Je klarer der eigene Use Case wird und je mehr proprietäre Daten und Geschäftslogik einfließen, desto mehr lohnt sich der Wechsel zum eigenen Harness statt der fremden One-Click-Lösung. Fazit: Harnessing ist am Ende eine Make-or-Buy-Entscheidung. Die großen Anbieter liefern den Göffel, die Mischung aus Löffel und Gabel für fast alles. Wer sein eigenes Besteck zusammenstellt, tauscht die stumpfe Gabel gegen ein schärferes Werkzeug, sobald der Use Case es verlangt. Wenn du wissen willst, wie das geht, ist diese Folge für dich.

In dieser Folge des DEEPTECH DEEPTALK ordnen Oliver Rößling und Alois Krtil ein, was es bedeutet, wenn der amerikanische Staat den eigenen Frontier Modellen plötzlich die Leine anlegt. Die USA verkauften sich jahrelang als der Ort, an dem KI ohne Bremsen läuft. Jetzt stehen erste regulatorische Eingriffe neben der Ankündigung von 100 Prozent Digitalzöllen als Antwort auf die europäischen Acts. Das trifft tokenbasierte, hochsubventionierte Geschäftsmodelle direkt an der Refinanzierung. Profiteur könnte Europa sein. Modelle wie Mistral gewinnen an Boden, auch als Schutz vor einer Übernahme durch amerikanische oder chinesische Käufer. Den Kern der Folge bildet die These, dass nicht die Modellgröße zählt, sondern die Architektur darum herum. Kleine gehärtete Modelle mit Quelle, Fehlercode und Diagnose schlagen ein Frontier Modell überall dort, wo proprietäre Industriedaten, kritische Infrastruktur oder Edge-Einsatz in Drohnen und Sensorik gefragt sind. Daneben geht es um die Frage, wie man gewachsene ERP-Systeme angreift, ohne die Bilanz zu sprengen. Modul für Modul von innen aushöhlen statt einer Komplettablösung lautet die Strategie. Welcher Stein im Jenga-Turm der Legacy IT sich noch ziehen lässt, bevor das System kippt, bleibt am Ende eine Frage fürs Management. Zum Schluss geht es um das europäische Zeitfenster. Neue Vergabelogiken wie in Paris oder Estland geben auch kleinen Anbietern eine Chance. Talent-Hotspots wie Station F oder King's Cross ziehen Köpfe und Kapital an. Krtils These zum Schluss: Die eigentliche Gefahr liegt nicht in einer durch Open Source entstehenden Superintelligenz, sondern in der Machtkonzentration bei wenigen Anbietern mit milliardenschweren Staatsverträgen über Jahrzehnte. Key Learnings US-Regulatorik wird zur Waffe. 100 Prozent Digitalzölle als Antwort auf die europäischen Acts und ein erster regulatorischer Eingriff bei Frontier Modellen setzen tokenbasierte, hochsubventionierte Geschäftsmodelle an der Refinanzierung unter Druck. Kleine Modelle schlagen große dort, wo es zählt. Gehärtete Branchenmodelle mit Quelle, Fehlercode und Diagnose liefern für proprietäre Industriedaten und Edge-Einsatz verlässlichere Antworten als ein Frontier Modell. Wert entsteht durch Architektur, nicht durch Modellgröße. Orchestrierung, Guardrails und Härtung um das Modell herum entscheiden, ob ein System im B2B-Umfeld überhaupt einsatzfähig wird. Legacy IT lässt sich nicht ersetzen, nur aushöhlen. Modul für Modul von innen aushöhlen erhält den bilanziellen Wert und vermeidet eine teure Komplettablösung. Europa hat ein Zeitfenster, kein Zeitproblem. Neue Vergabelogiken in Paris oder Estland öffnen Beschaffung auch für kleine Anbieter. Talent-Hotspots wie Station F oder King's Cross ziehen zusätzlich Köpfe und Kapital an. Die größere Gefahr ist Machtkonzentration, nicht Open Source. Wenige Anbieter mit milliardenschweren, jahrzehntelangen Staatsverträgen sind nach Krtils Einschätzung das eigentliche Risiko, nicht eine durch offene Modelle entstehende Superintelligenz.

Diese Folge widmet sich den Begriffen Resilienz und Souveränität und versucht, sie aus dem abstrakten Raum in den Alltag zu holen; von der Logistik im Hamburger Hafen bis zur KI auf dem Gefechtsfeld. Der Talk ordnet ein, warum Verteidigung, Dual Use und kritische Infrastruktur derzeit zusammen gedacht werden müssen, und bleibt dabei mechanikorientiert statt wertend. Eine inhaltliche Beobachtung: Stellenweise bleibt es bei der Bestandsaufnahme; konkrete Beispiele, Zahlen oder ein Praxisfall hätten manche Thesen (etwa zu Edge-KI oder Token Economics) greifbarer gemacht. Die Haupt-Learnings Resilienz und Souveränität sind Sammelbegriffe für viele konkrete Felder: Verteidigung, Dual Use, Wertschöpfungsketten, kritische Infrastruktur (Kritis), Logistik, Space und zunehmend auch Nachhaltigkeit („enkelfähig denken"). Es geht nicht um Unabhängigkeit, sondern um Handlungsfähigkeit. Entscheidend ist, einseitige Abhängigkeiten zu erkennen und zu managen – etwa durch mehrere Zulieferer, eigene Tech-Stacks und neue Sourcing-Strategien. Krisen härten Technologie und beschleunigen Innovation. Unter realem Druck entstehen Drohnen, Sensorik und Edge/Federated AI, die robust erprobt und über Dual Use später auch zivil nutzbar sind. Militär denkt „Bottom-up", Big Tech „Top-down". Statt immer größerer Modelle und tokenbasierter Dauernutzung zählen ressourceneffiziente On-Prem-Lösungen, „Smart Force"- statt „Brute Force"-KI und spezialisierte Hardware. Ein starkes Ökosystem braucht drei Dinge: Mindset, Finanzierung und Talent. Eine klare Mission liefert das Mindset fast von selbst; europäische Fonds-Allianzen öffnen sich; Talente brauchen attraktive Perspektiven. Die Haltung gegenüber Verteidigung hat sich gedreht – von Tabuthema zu legitimem, teils patriotisch motiviertem Investitionsfeld. Innovation entsteht durch Technologiekonvergenz, an den Schnittstellen verschiedener Hardware-, Software- und Forschungsdisziplinen. Hamburg hat als Standort starke Karten: Exzellenzforschung, hohe Interaktionsdichte und die Rolle als zentraler Kritis-Standort (Hafen, Logistik). Fazit Europäische Souveränität ist kein kurzfristiges Krisenthema, sondern eine Daueraufgabe – und zugleich eine Chance, im Innovationswettbewerb wieder aufzuschließen. The Forge am Deep Tech Campus setzt hier an: Die Initiative vernetzt Forschung, Investoren und Startups in Hamburg und überregional, um aus vorhandenem Potenzial Handlungsfähigkeit zu machen. Die zentrale Botschaft der Folge: Abwarten ist keine Option – es gilt, ins Machen zu kommen. Wer mitwirken möchte, findet The Forge auf deeptech.hamburg.