AI Picks der 30 . KW

Diese Woche war hauptsächlich geprägt von Security und kleinen Sprüngen – nichts wirklich Weltbewegendes dabei. Die Wellen schlugen trotzdem hoch, und OpenAI konnte noch ein bisschen PR mitnehmen.

Also, total sicherheitsrelevant und nur kurz abgegangen: die Picks der 30. Kalenderwoche des Jahres 2026.

OpenAI Modell bricht aus Sandbox aus

Kommen wir zur Fortsetzung der OpenAI-Security-Fail-Festspiele: OpenAI schlägt neue Sicherheitsregeln für den Umgang mit KI-Modellen vor, nachdem sich gezeigt hat, dass KI-Systeme aus bisherigen Sandboxes ausbrechen können – vor allem derzeit ihre eigenen. GPT-5.6 Sol und ein stärkeres Pre-Release-Modell haben laut offiziellem Incident-Bericht während einer internen Evaluation eine Zero-Day-Lücke im Cache-Proxy der Paket-Registry verkettet, sich so Internetzugriff verschafft – und sind dann bei Hugging Face eingestiegen. Aber: Das Problem betrifft zunehmend autonome Agenten, bei denen die Isolation der Ausführungsumgebung versagt und klassische Schutzmechanismen nicht mehr ausreichen – und das ist nicht nur auf OpenAI bezogen.

Getroffen hat es Hugging Face, weil das Modell die Plattform als lohnendes Ziel erachtet hat, um an die Informationen zu kommen, die es benötigt – konkret die Lösungen zum laufenden Benchmark. Das Modell wollte schlicht schummeln, und wie aus dem Testlauf ein echter Cyberangriff wurde, liest sich bei Ars Technica wie ein Drehbuch. Und wenn man die Situation aus einem anderen Blickwinkel betrachtet, ist das gerade der feuchte Traum eines jeden Nachrichtendienstes.

Claude Security plugin

Anthropic schickt mit Claude Security ein neues Multi-Agenten-System zum Aufspüren von Schwachstellen im Code an den Start – als gemanagte Variante in der Public Beta für Enterprise-Kunden und als Plugin für Claude Code CLI auf allen Bezahl-Plänen. Statt üblichem Pattern-Matching setzt der Ansatz auf Repository-Inventarisierung, Bedrohungsanalyse und explizite Lückensuche – inklusive einer nachgeschalteten, adversariellen Verifizierungsphase, um die typische Schwemme an False Positives einzudämmen. Die Pipeline liefert bei Funden direkt passende .patch-Dateien zur manuellen Freigabe mit; automatisch angewendet wird nichts.

Im Terminal heißt das Ganze schlicht /claude-security. Nicht zu verwechseln mit dem separaten security-guidance-Plugin, das Hooks-basiert nach jedem Edit einen lokalen Pattern-Matcher ohne Modell-Kosten über die Dateien laufen lässt (Klassiker wie eval() inklusive) und Funde in einer Review-Schleife direkt in der Session fixt. Am Ende bleibt beides ein probabilistisches Hilfsmittel – saubere Bedrohungskataloge und deterministische SAST-Tools ersetzt das System naturgemäß nicht.

Codex Security-Plugin

Ähnliche Idee, andere Bude: Das Tool lässt sich wahlweise als Erweiterung in der Desktop-App von ChatGPT/Codex oder über das Codex CLI nutzen. Ziel des Setups ist das automatisierte Erkennen, Validieren und Beheben von Sicherheitslücken direkt auf Codebase- oder Branch-Ebene. Statt reiner Code-Analyse erstellt das Plugin zunächst ein bearbeitbares Bedrohungsmodell des Repositorys, prüft Angriffspfade und führt verdächtige Funde in einer isolierten Umgebung aus, um Falschmeldungen vor der manuellen Begutachtung auszusortieren.

Neben einfachen Repository-Scans deckt der Workflow die Triage bestehender Issue-Backlogs sowie die automatische Erstellung korrigierender .patch-Dateien ab. Über die Benutzeroberfläche oder generierte Berichte (report.md) werden Funde nach Schweregrad und Validierungsnachweisen sortiert. Unter der Haube greift der Prozess auf das Modell GPT-5.5 (mit der Option „Trusted Access for Cyber“) zu. Während der lokale Scan über CLI oder Desktop-App als geführter Workflow abläuft, ist die kontinuierliche GitHub-Anbindung über die „Codex Security Cloud“ aktuell als Research Preview angelegt.

Gemini 3.6 Flash, 3.5 Flash-Lite, and 3.5 Flash Cyber

Google baut seine LLM-Palette weiter aus und schiebt mit Gemini 3.6 Flash, 3.5 Flash-Lite und 3.5 Flash Cyber gleich mehrere Ableger ins Feld. Im Fokus stehen diesmal vor allem Token-Effizienz, Durchsatz und spezialisierte Agenten-Setups – also genau die Stellschrauben, die beim Skalieren im Produktivbetrieb tatsächlich auf die Rechnung schlagen. Die Cyber-Variante passt dazu hübsch ins Wochenthema: spezialisiert auf Schwachstellensuche, vorerst nur für Regierungen und ausgewählte Partner. Die passende Ankündigungs-Choreografie auf X gab es natürlich auch, einmal von Google selbst und einmal aus dem Antigravity-Lager.

Artificial Analysis war auch schon fleißig und hat gleich mal zum Launch Zahlen rausgelassen.

Was fehlt, ist Gemini 3.5 Pro, aber den Grund dafür kennen wir seit letzter Woche. Google verweist im Blogpost brav auf Partner-Tests und baldige Verfügbarkeit. Die Engelein singen allerdings, dass es unter Umständen, eventuell, vielleicht und möglicherweise einen Versionssprung direkt auf Gemini 4 Pro geben könnte (der Konjunktiv ist an dieser Stelle wichtig zu betonen).

The secret Trump administration battle to fight Chinese AI

Die US-Administration unter Trump erwägt Beschränkungen oder direkte Verbote für den Einsatz chinesischer Open-Weight-KI-Modelle. Auslöser für die neue Welle an Regulierungsdebatten ist Moonshots Kimi K3 – seit dem 16. Juli über Web und API verfügbar, die Open Weights sollen am 27. Juli folgen.

Dass der Vorstoß ausgerechnet jetzt kommt, wirkt allerdings wie getriebener Protektionismus, denn Open-Weight-Modelle, die erst einmal heruntergeladen wurden, lassen sich technisch kaum wirksam verbieten. Sogar Regierungsberater wie David Sacks warnen bereits vor regulatorischer Vereinnahmung, die der eigenen US-Wettbewerbsfähigkeit mehr schadet als nützt.

Moonshot AI distilled Anthropic's Fable (eventuell, möglicherweise, steht im Raum)

Herzlich willkommen zurück zu den Anthropic-Gossip-Wochen!

Wir gehen dann mal in die Verlängerung. Und der Nächste, der ausholt, ist Michael Kratsios, seines Zeichens oberster wissenschaftlicher Berater der US-Regierung. Und wenn ihr euch so fragt, was man für den Job braucht: ein B.A. in Politik und ein Zertifikat in Hellenischen Studien reichen unter Trump, aber beides hat er immerhin aus Princeton.

Man wirft Moonshot vor, für die Entwicklung ihres K3-Modells im großen Stil Fable destilliert zu haben – inklusive einer eigens gebauten Plattform, die zur Tarnung zwischen mehreren Zugangswegen wechselt. Das Treasury droht parallel schon mal mit Sanktionen. Das Framing als industrieller Diebstahl hat einen absurden Beigeschmack – schließlich trainieren die großen US-Schmieden ihre Basismodelle selbst mit massenhaft unlizenzierten Daten aus dem Netz, nur um dann nach der Regierung zu rufen, sobald jemand ihre Modelle abschöpft. Abseits der politischen Rhetorik belegt der Fall vor allem eine technische Realität: Der Burggraben der Frontier-Modelle ist deutlich flacher, als die Hersteller gerne behaupten. Wenn sich Modelle wie Fable in der Praxis trotz aller Beteuerungen derart umfangreich destillieren lassen, haben Anthropic und Co. ein handfestes betriebliches Problem – und nicht nur ein geopolitisches.

Claude Voice conversations jetzt auch auf Deutsch (u. a.)

Am 23. Juli frisch ausgerollt als Public Beta für Desktop- und Mobile-App sowie Web: ein deutlich ausgebautes Voice-Conversations-Feature mit erweiterter Unterstützung für mehrere Sprachen (darunter Spanisch, Französisch, Hindi, Japanisch und eben auch Deutsch). Neu ist obendrein die Modellwahl – statt fix Haiku lassen sich jetzt auch Opus und Sonnet ans Mikrofon holen.

Für die deutschsprachige Version gibt es zwei Stimmen zur Auswahl (einmal männlich, einmal weiblich), beide erfreulich unaufgeregt und eher seriös.

ChatGPT Voice is now in the desktop app

Klingt erst mal verdächtig nach der Claude-Voice-Meldung, funktioniert aber anders: Das hier ist die dedizierte Unterstützung für ChatGPT Work und Codex in der Desktop-App – per Stimme lassen sich mehrere laufende Agenten dirigieren, getragen von GPT-Live, das gleichzeitig sprechen, zuhören und Arbeit koordinieren soll. Voice Conversations an sich gibt es für GPT bereits ein Weilchen; neu ist der Unterbau für macOS und Windows.

MCP Grows Up

Das Model Context Protocol (MCP) bekommt am 28. Juli seine bislang umfassendste Überarbeitung – und bricht dabei bewusst mit der Abwärtskompatibilität. Die Spezifikation stellt das Protokoll auf eine vollständig zustandslose (stateless) Architektur um, erzwingt die Konvergenz auf Standard-HTTP-Semantiken und verankert OAuth 2.1 inklusive PKCE als festen Sicherheitsstandard. Sessions samt Handshake fliegen raus, Zustand wandert in explizite Handles, die als ganz normale Argumente durchgereicht werden. Was bisher primär als lockere Konvention für lokale Entwickler-Setups taugte, wird damit technisch auf die Anforderungen von Enterprise-Agenten-Infrastrukturen zurechtgerückt. Eine lesenswerte Aufarbeitung der Details gibt es bei Trilogy AI.

Custom agents are now just Markdown!

Die Antigravity CLI erlaubt es ab Version 1.1.6, eigene Agents als Markdown-Datei mit YAML-Frontmatter zu definieren. Die wandern dann schlicht über ~/.gemini/config/agents/<agent_name>/agent.md in die Ordner-Struktur. Damit zieht Google bei dem nach, was sich quer durch die Coding-Agents gerade als Quasi-Standard etabliert: Agent-Definitionen als lesbare Textdateien statt Konfigurations-Gefrickel.

The new rules of context engineering for Claude 5 generation models

Anthropic hat die Best Practices fürs Prompt- und Kontext-Design für seine neueste Modellgeneration („Claude 5“) überarbeitet. Die Kernbotschaft: weniger micromanagende Festlegungen im System-Prompt, mehr Zutrauen in die grundlegenden Fähigkeiten der Modelle und sauber strukturierte Interfaces. Statt Claude mit starren Verboten im Prompt einzuschränken oder Tools mit Dutzenden Beispielen zu überfrachten, setzt man jetzt auf präzise Tool-Beschreibungen und aussagekräftige Parameter-Namen. Zu viele Beispiele schränken den Explorationsraum des Modells inzwischen eher ein, als dass sie helfen. Anthropic will nach eigener Aussage über 80 % des Claude-Code-System-Prompts gestrichen haben – ohne messbare Einbußen in den Coding-Tests.

Beim Memory-Management gibt es ebenfalls Änderungen. Die bisherige Praxis, Projekt-Kontexte manuell in CLAUDE.md-Dateien zu stopfen oder schlichte Markdown-Pläne bereitzustellen, weicht automatisierten Memory-Funktionen und reichhaltigeren Referenzen wie HTML-Artefakten oder echtem Code. Wer seine bestehenden Setups aufräumen will, bekommt mit /doctor ein Werkzeug an die Hand, das veraltete und doppelte Anweisungen aus System-Prompts, Skills und Projektdateien herausfiltert.

Spark 4.2

Mit Apache Spark 4.2 versucht das Open-Source-Schwergewicht einmal mehr, spezialisierte Drittsysteme im Daten-Ecosystem obsolet in die Ecke zu stellen.

Das prominenteste Feature der neuen Version ist eine native Vektorsuche inklusive eingebauter Ähnlichkeitsfunktionen, Vektornormalisierung und dem neuen SQL-Operator NEAREST BY. RAG-Anwendungen und semantische Suchen lassen sich damit direkt auf dem Cluster abfackeln, was den typischen Extra-Aufwand spart, separate Vektordatenbanken wie Qdrant oder Pinecone kontinuierlich mit Daten zu befüllen und synchron zu halten. Ob Spark bei Performance und Latenz mit den dedizierten Systemen mithalten kann, bleibt im echten Betrieb allerdings erst noch zu beweisen.

Unter der Haube dreht Spark 4.2 zudem an den Schrauben für PySpark-Entwickler. PySpark User-Defined Functions (UDFs) laufen ab sofort standardmäßig über den Apache-Arrow-Ausführungspfad, was den Datenaustausch zwischen JVM und Python ohne manuelle Code-Anpassungen beschleunigt. Kleiner Bonus am Rande: Über das Arrow C Data Interface wandern DataFrames jetzt ohne Kopieren direkt zu Polars oder DuckDB.

AMD Launches Helios

Ihr habt gerade ein bisschen Platz im Serverraum, Geld und Strom übrig und wisst mit allen dreien nicht wohin? Dem kann jetzt Abhilfe geschaffen werden.

AMD hat das Rackscale-System „Helios“ angekündigt, das als Antwort auf Nvidias NVL72-Racks platziert wird. Die Plattform kombiniert 72 AMD Instinct MI455X GPUs mit hauseigenen EPYC-„Venice"-CPUs der 6. Generation und Pensando-Netzwerkkomponenten über eine UALoE-Fabric – macht in Summe 31 TB HBM4 und 2,9 ExaFLOPS FP4-Compute pro Rack. In den eigenen Vergleichen stellt AMD dem Hauptkonkurrenten Nvidia (Vera Rubin NVL72) die typischen prozentualen Vorsprünge gegenüber – darunter bis zu 15 % mehr AI-Compute und 50 % mehr HBM-Kapazität. Ob und wie sich die simulierten Durchsatzwerte bei realen Workloads bewahrheiten, sehen wir dann bei Drittmessungen von unabhängiger Stelle.

Und damit Schluss für diese Woche – bleibt wachsam, eure Sandboxes sind es offenbar nicht.