NVIDIA heeft twee nieuwe Jetson Thor-modules aangekondigd voor robots, autonome machines en andere toepassingen waarbij AI-modellen lokaal moeten draaien. De Jetson T3000 en T2000 zijn gebaseerd op de Blackwell-architectuur en moeten de rekenkracht van het Thor-platform beschikbaar maken in compactere en goedkopere systemen.
De modules zijn bedoeld voor onder meer humanoïde robots, autonome mobiele robots, industriële robotarmen, visuele inspectiesystemen en intelligente verkeers- en retailtoepassingen. NVIDIA verwacht dat de behoefte aan dergelijke systemen toeneemt nu robots steeds vaker buiten onderzoeksomgevingen worden ingezet.
De krachtigste nieuwe module is de Jetson T3000. Deze levert volgens NVIDIA 865 FP4-teraflops aan AI-rekenkracht en is ongeveer half zo groot als de bestaande T5000-module. Ook het energieverbruik ligt ongeveer de helft lager. De module bevat een Blackwell-GPU, een achtkernige Arm Neoverse-processor, 32 GB LPDDR5X-geheugen, een geheugenbandbreedte van 273 GB per seconde en een 25GbE-netwerkaansluiting.
Naast de Jetson-uitvoering komt er een IGX T3000-module voor toepassingen waarbij functionele veiligheid een rol speelt. Deze variant ondersteunt NVIDIA Halos, het veiligheidsplatform van het bedrijf voor robots en autonome machines die in de nabijheid van mensen werken.
Ondanks het kleinere geheugen en formaat zou de T3000 bij verschillende multimodale toepassingen ongeveer dezelfde inferentieprestaties bieden als de T5000. NVIDIA noemt daarbij grote taalmodellen, vision-language-modellen, vision-language-action-modellen en wereldmodellen. De kleinere configuratie moet fabrikanten helpen de hardwarekosten te beperken, onder meer doordat minder geheugen nodig is.
T2000 voor bredere groep machines
De Jetson T2000 is gericht op systemen waarvoor minder rekenkracht nodig is. De module levert 400 FP4-teraflops en beschikt over 16 GB geheugen. NVIDIA positioneert het systeem als instapmodel voor ontwikkelaars van visuele AI-agents, mobiele robots, industriële manipulators en andere machines die lokaal beelden en sensorgegevens verwerken.
Met de introductie van de twee modules loopt het aanbod van NVIDIA voor edge-AI volgens het bedrijf uiteen van systemen met 70 TOPS tot Thor-configuraties met 2.000 teraflops. Fabrikanten kunnen daardoor verschillende prestatieniveaus binnen dezelfde softwareomgeving gebruiken.
NVIDIA noemt onder meer 1X, Agile Robots, Amazon Robotics, Boston Dynamics, FANUC, Hitachi en Techman Robot als bedrijven die systemen op basis van Jetson AGX Thor ontwikkelen. De nieuwe modules moeten het eenvoudiger maken om varianten van dergelijke systemen te bouwen voor grotere productieaantallen of toepassingen met strengere beperkingen aan ruimte, energieverbruik en kosten.
Software moet geheugengebruik verlagen
Naast de hardware introduceert NVIDIA zogeheten Jetson agent skills. Deze softwarefuncties gebruiken AI-agents om het geheugengebruik, de systeemconfiguratie en de implementatie van modellen te optimaliseren. De hulpmiddelen zijn beschikbaar voor zowel Jetson Thor als oudere Jetson Orin-systemen.
Volgens NVIDIA kunnen ontwikkelaars hierdoor modellen op Jetson-modules met minder geheugen uitvoeren. UBTech, Agile Robots en hardwareleverancier Connect Tech zouden het geheugengebruik in bepaalde toepassingen met maximaal 15 GB hebben verlaagd. Daardoor konden zij overstappen van een Jetson AGX Orin-module met 64 GB geheugen naar een uitvoering met 32 GB.
Retailtechnologiebedrijf SandStar verminderde het geheugengebruik volgens NVIDIA met maximaal 4 GB en kon daardoor een Jetson Orin NX-module met 8 GB gebruiken in plaats van een versie met 16 GB. Verkeersplatform NoTraffic meldt een vermindering van 30 procent op een Jetson TX2 NX-systeem. Het vrijgekomen geheugen kan worden gebruikt om extra AI-functies toe te voegen zonder de hardware te vervangen.
Cosmos-model draait lokaal op Thor
NVIDIA brengt ook een kleinere uitvoering van zijn Cosmos 3-wereldmodel naar het Thor-platform. Cosmos 3 Edge telt vier miljard parameters en is bedoeld om robots lokaal camerabeelden te laten interpreteren, situaties te laten beoordelen en mogelijke acties te voorspellen.
Ontwikkelaars kunnen het model aanpassen aan specifieke robots, sensoren en werkomgevingen. Volgens NVIDIA kan deze nabewerking in ongeveer een dag plaatsvinden. Het aangepaste model kan vervolgens op Jetson Thor draaien voor realtime beeldverwerking en robotbesturing zonder dat voortdurend een verbinding met een datacenter nodig is.
Ontwikkelaars kunnen de nieuwe modules voorlopig simuleren met de bestaande Jetson AGX Thor-ontwikkelkit. Emulatie van de T3000 wordt later in juli toegevoegd aan JetPack 7.2.1. Ondersteuning voor het emuleren van de T2000 volgt in een latere softwareversie.
De Jetson T3000 en T2000 moeten in het eerste kwartaal van 2027 beschikbaar komen. Hardwarepartners zoals ADLINK, Advantech, AAEON, Connect Tech, Seeed Studio en Aetina werken al aan systemen op basis van Thor. Softwarebedrijven waaronder Antmicro, REBOTNIX en RidgeRun ontwikkelen hulpmiddelen voor de overstap naar de nieuwe modules.
