AI Picks der 29 . KW

Auch diese Woche kein Sommerloch, dafür wieder reichlich neue Modelle, inklusive Kimi K3 – das hatten wir schon separat abgehakt. Ansonsten so? Microsoft wirft der Konkurrenz Doppelmoral vor (eigentlich ein Thema für sich), Sicherheitsforscher drehen den Spieß bei Prompt Injections um, und die üblichen Verdächtigen melden sich ohnehin im Wochentakt. Langweilig wird uns im Sommer also nicht. Serviert werden hiermit, eiskalt, die Picks der 29. Kalenderwoche.

AutoMem teaches AI to actually remember

Stanford-Forschende haben mit AutoMem ein Framework entwickelt, das KI-Modellen strategisches Erinnern und Vergessen als erlernbare Fähigkeit beibringt. Statt das Kontextfenster stumpf zu vergrößern, steuert der Agent seine Speicherstruktur über zwei Optimierungsschleifen selbst – Lesen, Schreiben, Suchen und Anhängen werden zu ganz normalen Handlungen neben den eigentlichen Task-Aktionen. Das Ergebnis kann sich sehen lassen. In drei Langzeit-Benchmarks (Crafter, MiniHack, NetHack) stieg die Leistung der Agenten um das Zwei- bis Vierfache, ohne dass die Task-Fähigkeiten des Modells angefasst wurden. Ein offenes Qwen2.5-32B erreichte damit das Niveau von Claude Opus 4.5 oder Gemini 3.1 Pro Thinking – zumindest in diesen Umgebungen.

Memory-Management als eigenständige, trainierbare Disziplin neben Reasoning und Tool-Use. Das dürfte man in den kommenden Monaten noch öfter hören.

Now, defenders are embracing the prompt injection, too

Sicherheitsforschende von Tracebit haben einen pragmatischen Weg gefunden, Prompt Injections im Verteidigungsfall einzusetzen. Unter dem Namen „Context Bombing“ platzieren sie gezielt präparierte Prompts direkt neben sensiblen Ködern – etwa Passwörtern oder API-Schlüsseln – in AWS-Umgebungen. Stößt ein autonomer AI-Hacking-Agent bei seinem Angriff auf diese Daten, liest er den Prompt mit. Der triggert die harten Sicherheits-Guardrails des zugrundeliegenden LLM (bei westlichen Modellen etwa Biowaffen-Content, bei chinesischen eher politisch sensible Trigger) und provoziert eine sofortige Verweigerung. Der Agent bricht ab.

In den Tests über 152 Angriffsläufe und fünf Modelle hinweg zeigte das Konzept spürbare Wirkung gegen automatisierte LLM-Angriffe:

• Sicherheitsgewinn: Die Quote vollständiger Admin-Übernahmen sank von 57 % auf 5 %, komplette Kompromittierungen fielen von 36 % auf 1 %.
• Modellspezifischer Impact: Das stärkste getestete Modell, Opus 4.8, kam ohne Kontextbombe in 93 % der Läufe an Admin-Rechte – mit ihr scheiterte es in jedem einzelnen Durchlauf.

Natürlich ist das kein Allheilmittel gegen menschliche Angreifer, die ihre AI-Pipelines gezielt filtern. Aber es ist eine verdammt günstige Hürde gegen das unaufhaltsame Grundrauschen automatisierter KI-Angriffe.

Microsoft wirft KI-Unternehmen Doppelmoral vor

Microsoft-Chef Satya Nadella kritisiert die Konkurrenz für eine ziemliche Doppelmoral bei Trainingsdaten. Große KI-Anbieter wie OpenAI nutzen für ihre Modelle fleißig öffentlich zugängliche Daten unter dem Deckmantel des Fair-Use-Prinzips, verbieten ihren Kunden im Gegenzug aber strikt, aus den generierten Ausgaben eigene, lokale Modelle abzuleiten. Nadella nennt das ein „umgekehrtes Informationsparadoxon“ – Unternehmenskunden zahlen für die Technologie, während ihr Firmenwissen über Prompts, Workflows und Korrekturen unbemerkt in die Cloud-Infrastruktur der Betreiber abwandert.

Die Kritik kommt allerdings mit einem gewohnt strategischen Beigeschmack. Microsoft positioniert sich im selben Atemzug als vermeintlicher Retter, der genau für dieses Dilemma geschützte, firmeninterne Lernumgebungen fürs Modelltraining bereitstellen will. Nadella fordert zusammen mit Palantir-Chef Alex Karp ein Recht auf volle Kontrolle über eigene Daten und Modellausgaben, damit das geschäftskritische Know-how der Firmen nicht bei den Infrastruktur-Monopolisten landet.

Microsoft und Palantir, das musste ich auch mental erst einmal verarbeiten.

Soofi

Das deutsche Konsortium um den KI Bundesverband hat den Pretraining-Report für Soofi S (30B-A3B) vorgelegt – ein staatlich mit rund 20 Millionen Euro gefördertes, in München trainiertes Sprachmodell. Unter der Haube steckt diesmal kein generischer Llama-Klon, sondern ein Hybrid aus Mamba-2 und Mixture-of-Experts (MoE). Ganz ehrlich muss man dazusagen: Selbst entworfen ist die Architektur nicht, das Konsortium übernimmt Nvidias Nemotron-3-Nano-Referenzdesign unverändert. Das Eigenständige steckt im Trainingsrezept – bewusst hochgewichtetes Deutsch, offene Datenpipeline, komplette Dokumentation. Rechnerisch geht das Konzept auf, denn nur 6 der 52 Layer schleppen einen klassischen KV-Cache mit, der Speicherbedarf bleibt selbst bei langen Kontexten klein und der Durchsatz hoch. In den Benchmarks des Reports schlägt sich der zweisprachige (Deutsch/Englisch) Kandidat als stärkstes vollständig offenes Modell und zieht an Olmo 3 32B und Apertus 70B vorbei, gegen modernere Architekturen wie Qwen3.5 verliert er weiterhin. Da es sich um ein reines Base-Modell ohne Alignment handelt, taugt der Release ohnehin nur für Entwickler, die eigene Feintunings aufsetzen wollen – und aktuell ist das Ganze auf Hugging Face auch nur eine gated Preview.

Technische Eckdaten:

• Parameter: 31,6 Mrd. gesamt, ca. 3,2 Mrd. aktiv pro Token (128 Experten, 6 aktiv)
• Architektur: Hybrid aus Mamba-2 / MoE / GQA nach Nemotron-3-Nano-Vorlage (52 Layer, davon 23 Mamba-2, 23 MoE, 6 GQA)
• Pretraining-Daten: rund 26,68 Billionen Token (bis zu 15,3 % deutscher Anteil)
• Kontextfenster: bis zu 1 Mio. Token
• Infrastruktur: trainiert auf Nvidia B200 GPUs in der Telekom-Cloud

Schön, dass wir mal etwas für die digitale Souveränität tun, aber die Software ist nur der eine Teil vom Kuchen. Und noch mehr würde ich ein echtes europäisches Projekt begrüßen, das die Kompetenzen über Deutschland hinaus bündelt – die hiesigen Unis von Darmstadt bis Würzburg sitzen ja bereits im Konsortium. Aber Soofi ist ein Anfang und ein Schritt in die richtige Richtung.

Inkling: Our open-weights model

Mit Inkling wirft das Thinking Machines Lab von Ex-OpenAI-CTO Mira Murati sein erstes Open-Weights-Modell in den Ring, positioniert als klassischer, breiter Generalist und ausdrücklich nicht als Benchmark-König einer einzelnen Disziplin. Die technische Basis ist ein Mixture-of-Experts-Transformer mit stattlichen 975 Milliarden Parametern insgesamt, wovon 41 Milliarden aktiv genutzt werden. Der Kontext liegt bei bis zu 1 Million Token, trainiert wurde auf 45 Billionen Token aus Text, Bildern sowie Audio- und Videodaten. Ergänzt wird die Veröffentlichung durch eine Vorschau auf Inkling-Small, ein kleineres Modell mit 276 Milliarden Parametern total und 12 Milliarden aktiven. Die vollen Gewichte liegen auf Hugging Face, Fine-Tuning läuft über die hauseigene Tinker-Plattform – und genau da liegt auch das Geschäftsmodell.

Announcing Bonsai 27B

PrismML versucht mit Bonsai 27B – einem auf Qwen3.6 27B basierenden Modell – den klassischen Hardware-Flaschenhals lokaler LLMs zu knacken. Durch aggressive Quantisierung schrumpft das Modell in zwei extreme Ausführungen. Die Ternary-Variante kommt mit 1,71 Bit pro Parameter aus (5,9 GB laut Pressemeldung – das real ausgelieferte GGUF-Paket liegt bei rund 7,2 GB), die noch drastischere 1-Bit-Version mit effektiv 1,125 Bit und 3,9 GB soll sogar auf einem iPhone 17 Pro laufen. Die herstellereigenen Benchmarks versprechen im „Thinking Mode“ sportliche 95 % (Ternary) bzw. 90 % (1-Bit) der FP16-Originalleistung – ein Wert, den man angesichts des massiven Gewichtsverlusts traditionell mit einer gesunden Portion Skepsis lesen darf.

In der Praxis kommt das Release mit einer Mischung aus ambitionierten Specs und handfesten Software-Hürden an. Beide Varianten setzen derzeit die hauseigenen Forks von PrismML voraus (llama.cpp für CUDA/Metal, MLX für Apple Silicon), Mainline-Support gibt es bisher nicht. Die nackten Zahlen im Überblick:

• Architektur & Kontext: multimodales Vision-Modell mit vollem 262K-Kontextfenster und Speculative Decoding
• Ressourcen-Schonung: ein 4-Bit KV Cache drückt den RAM-Bedarf bei langen Kontexten weiter – das volle 262K-Fenster passt damit in unter 13 GB
• Performance-Realitätscheck: Die offiziellen Durchsatz-Messungen stammen ausnahmslos von Apple Silicon und Nvidia-GPUs. Für gewöhnliche x86-CPUs ohne Beschleunigung für Ternary-Matrizen gibt es bislang nur Community-Basteleien am Kernel-Code – dort verpufft der theoretische Gewinn im Alltag noch.

Neue Claude Code Artifacts Features

Artifacts in Claude Code lassen sich nun auch öffentlich teilen, und mehrere Team-Mitglieder können gemeinsam daran arbeiten – inklusive Erstellung über den Claude Tag in Slack.

Außerdem können die Artifacts jetzt MCP-Konnektoren aufrufen und sich damit bei jedem Aufruf frische Daten ziehen, statt einen statischen Snapshot anzuzeigen. Die Einschränkung dabei: Mit öffentlich geteilten Artifacts funktioniert das nicht. Verfügbar ab dem Pro-Plan.

Claude Fable 5 will be included in all Max and Team

Anthropic macht dann mal die Rolle rückwärts: Fable 5 wandert ab dem 20. Juli fest in alle Max- und Team-Premium-Tarife. Die zu erwartende Einschränkung liefert Anthropic gleich mit, denn Fable gibt es dort für 50 % der Nutzungslimits. Pro- und Team-Standard-Nutzer bleiben bei den Credits und bekommen als Trostpflaster einmalig 100 $ gutgeschrieben.

The Decoder weist auf den Haken hin: Am selben Tag endet die Bonus-Phase und die regulären Limits sinken um rund ein Drittel – die 50 % beziehen sich also auf bereits gekürzte Kontingente. Und der Zeitpunkt des Sinneswandels dürfte kein Zufall sein, seit GPT-5.6 Sol vergleichbare Leistung zu einem Drittel des Preises liefert, wäre ein 200-$-Abo ohne das beste Hausmodell schwer zu verkaufen gewesen.

Google Gemini 3.5 launch verspätet sich

Google hängt beim Release von Gemini 3.5 Pro laut einem Bloomberg-Bericht Monate hinter dem eigenen Zeitplan – Sundar Pichai hatte das Flaggschiff auf der I/O noch für Juni angekündigt. Der Grund liegt vor allem bei den Coding-Fähigkeiten – da hängt man wohl ein wenig hinter der direkten Konkurrenz. Ein Trainingsdaten-Update Ende Juni verfehlte die intern gesteckten Performance-Ziele, berichtet Reuters unter Berufung auf Bloomberg; parallel testet Google ein aktualisiertes Flash-Modell mit Partnern. Zehn aktuelle und ehemalige Mitarbeiter beschreiben wachsende Frustration im Konzern, zumal konkurrierende Teams von DeepMind bis Cloud jeweils eigene AI-Coding-Tools bauen und sich dabei wohl intern um Rechenkapazität prügeln. Und das ist noch das Lustige an der Meldung.

Am Vorsprung bei den günstigen Arbeitstier-Modellen ändert das erstmal wenig. Aber an der Spitze läuft Google gerade hinterher, und das weiß man dort offenbar selbst am besten.

LiteParse Desktop

LlamaIndex liefert neben Vercel ja regelmäßig Interessantes auf GitHub ab – so auch dieses Mal.

LiteParse Desktop ist eine Desktop-Anwendung zum Parsen von PDF-Dokumenten in strukturiertes Markdown oder JSON mit Bounding-Boxes. Mit Drag-and-Drop, Side-by-Side-Prüfung gegen die Originalseite und einigen anderen Features. Das Parsing läuft komplett lokal über die hauseigene Rust-Crate, ohne Netzwerk-Calls. Zum Betrieb brauchst du Node, pnpm, Rust und die Tauri-Voraussetzungen auf deiner Kiste.

LogWerk 1.3.0

Mein eigenes kleines Projekt hat seit der letzten Erwähnung ein paar neue Features bekommen:

• System- oder manuell gesteuerter Light/Dark-Mode – damit gibt es nun auch ein helles Interface (Version 1.3.0)
• Die Bot-Erkennung wurde um eine Handvoll spezifischer KI-Bots erweitert, z. B. OAI-SearchBot, Perplexity-User, Bytespider und cohere-ai (kam mit 1.2.1)

Und es gibt jetzt eine Live-Demo mit anonymisiertem Beispiel-Log – direkt im Browser, der Quellcode liegt auf GitHub.

How to use GPT-5.6 (mit Codex)

Das mit den drei GPT-5.6-Modellen trägt nicht gerade zur allgemeinen Klarheit bei, was man denn nun wofür nutzen soll – die Unverbesserlichen (viel hilft viel) schießen eben mit Sol im Anschlag auf alles, was sich bewegt. Ben Tossell fährt Codex nach eigener Aussage aktuell mit Sol Medium für den Bau- und Kreativkram, Luna Extra High für die Alltagsproduktivität, und die richtig harten Aufgaben wandern bei ihm in Background Agents. Vom Ultra-Modus rät er durch die Blume eher ab, da das Budget saugt, wie die Mücken Blut in lauen Sommernächten – zum ersten Mal überhaupt sei er in Codex fast ins Usage-Limit gelaufen.

Thibault „Tibo“ Sottiaux empfiehlt auf X, Sol Medium als Daily Driver zu nehmen und für wirklich harte Probleme auf Extra High zu schalten. Ultra nennt er „a beast“ – für alle, die keine Angst haben, ihre Usage durchzubrennen. Nicht vergessen, das kommt von jemandem, der für die Bude arbeitet. Mit anderen Worten: Wenn ihr Tokens mit dem fetten Modell auf Ultra verheizt, profitiert in erster Linie OpenAI davon.

GPT-5.6 Sol schießt ein wenig quer

Ist definitiv kein Massenphänomen, aber t3n berichtet von einigen Vorfällen, bei denen Sol ein wenig, na ja, sagen wir mal, übereifrig war.

Einer der Betroffenen ist Matt Shumer, Gründer und CEO von OthersideAI (der Firma hinter HyperWrite). Nachdem Sol im Vollzugriff-Modus fast seinen kompletten Mac leergeräumt hatte – Auslöser war ein falsch aufgelöster Shell-Variablen-Fehler samt rekursivem Löschbefehl –, meldete das Modell brav „Ich habe einen ernst zu nehmenden Datenverlust verursacht.“ Immerhin ehrlich. Entwickler Bruno Lemos verlor derweil seine komplette Produktionsdatenbank an einen „zerstörerischen Integrationstest“, den Sol eigenmächtig gegen die Live-Umgebung fuhr.

Pikant ist, was t3n aus OpenAIs eigenen Tests referiert. Dort sollte Sol drei virtuelle Maschinen mit den Nummern eins bis drei löschen, fand die Bezeichnungen nicht – und löschte kurzerhand drei andere VMs mit den Nummern fünf bis sieben, inklusive laufender Prozesse und Arbeitsdaten. OpenAI betont, so etwas trete nur sporadisch auf.

Ähm, sporadisch hin oder her, aber eine solide Vertrauensbasis schafft das so nicht gerade im Moment.

Codex Micro

Den Nutzerwert des Ganzen hatte ich schon im Teaser hinterfragt und die Fragezeichen werden eher größer als kleiner:

Jede Agenten-Taste leuchtet mit einem Echtzeit-RGB-Status aus Codex auf, sodass du erkennst, was gerade nachdenkt, ausgeführt wird, wartet oder fertig ist – noch bevor du überhaupt den Chat wechselst.

So steht es auf der Produktseite von OpenAI.

Das wichtigste Sekundär-Feature, also die beleuchteten Tasten, hat gegenwärtig einen (dokumentierten) Anwendungsfall, in einer einzigen App, für die ich es produktiv einsetzen kann. Und dafür soll ich 230 $ zahlen? … Wie wär's mit Nein!?

Dabei ist genau das gerade der einzige Vorteil gegenüber einem Stream Deck, dem Loupedeck Live oder der MX Creative Console (mit der ich übrigens ziemlich zufrieden bin, im Gegensatz zu einigen anderen Logitech-Produkten).

Gut, immerhin hat das Codex Micro von Work Louder vernünftige mechanische Switches sowie wechselbare Tastenkappen spendiert bekommen, und die sind sogar aus PBT und PC – Materialqualität, die Logitech seiner teuren MX-Serie bis heute nicht gönnt, obwohl die eigene Gaming-Sparte längst Double-Shot-PBT verbaut.

Und damit Schicht für diese Woche.