HARDWARE & KI ·
NVIDIA kombiniert ein kompaktes KI-Modell mit Modell-Routing
NVIDIA veröffentlicht Nemotron 3.5 Lightning für spezialisierte KI-Agenten und die quelloffene Bibliothek NeMo Switchyard. Sie verteilt einzelne Aufgaben auf geeignete Modelle und kann lokal, im Rechenzentrum oder in der Cloud eingesetzt werden.
Für Entwickler ist nicht automatisch das größte Modell die beste Wahl. Modell-Routing kann Kosten, Latenz und Datenschutz verbessern; die Leistungsangaben stammen jedoch von NVIDIA und sollten mit eigenen Aufgaben und eigener Hardware geprüft werden.
Die wichtigsten Punkte
- Nemotron 3.5 Lightning ist ein Mixture-of-Experts-Modell mit 30 Milliarden Parametern
- NeMo Switchyard ist als Open-Source-Bibliothek für Modell-Routing verfügbar
- Das Modell kann unter anderem auf RTX-PCs, DGX-Systemen und Jetson-Geräten laufen
Stand: 11. August 2026. Diese Kurzmeldung wird bei relevanten Änderungen erneut geprüft und sichtbar aktualisiert.