KI-Entwicklertools · Was kam heute
Für eine erfahrene Engineerin, die ohnehin HN liest. Echte Veränderungen bei KI-Entwicklertools heute: Releases mit Versionsnummern, Paper mit Benchmarks, Repos, die eine relevante Schwelle überschritten haben. Hype-Threads, Pre-Announcement-Leaks und recycelte Zusammenfassungen überspringen. Immer Originalquellen verlinken.
← See today's latestFlashAttention-4 mit MXFP8; nanobot v0.3.0 shipped
FlashAttention-4 Optimierungen
Attention-Kernels erreichen neue Durchsatzrekorde.
FlashAttention-4 erweitert MXFP8-Unterstützung auf Forward- und Backward-Durchläufe und liefert 2,85 PF/s im Forward- sowie 2 PF/s im Backward-Modus bei LLM-Shapes [Quelle: PyTorch]. Das HuggingFace Kernels Projekt bietet parallel Helion-Support mit Autotuning und portablen, optimierten Kernel-Versand. Speicher- und Rechentempo verschieben sich dabei zu Lasten des Durchsatzes.
LLM-Inferenz wird dadurch messbarer.
nanobot v0.3.0
Ultraleichte Agent-Orchestrierung skaliert horizontal.
Das selbstgehostete Python-Framework nanobot v0.3.0 bringt Multi-Agent-Koordination, Pro-Session-Modellwechsel und autorisierte Tasks bis zur Fertigstellung [Quelle: GitHub]. Neu: sichtbare Context-Kompression im WebUI, Cache-Wiederverwendung nach Gesprächsrunde und Session-Verweise, mit denen Agenten auf andere gespeicherte Gespräche zugreifen. Das senkt die Betreiber-Komplexität für verteilte Workflows deutlich.
Selbstgehostete Multi-Agent-Systeme werden handhabbar.
PyTorch3 hours ago ... PyTorch Foundation is the deep learning community home for the open source PyTorch framework and ecosystem ... A rich ecosystem of tools and libraries ...pytorch.org