Microsoft e NVIDIA annunciano nuovi strumenti per sviluppare applicazioni di Intelligenza Artificiale sui PC Windows RTX AI. Questi tool permetteranno agli sviluppatori di sfruttare la potenza delle GPU RTX per accelerare i workflow dell’IA in applicazioni come agenti virtuali, assistenti e digital human.
NVIDIA ha sviluppato modelli linguistici multimodali di piccole dimensioni che consentono ai digital human di elaborare testo e immagini, comprendere l’ambiente circostante e fornire risposte più contestuali. Il modello NVIDIA Nemovision-4B-Instruct e la famiglia Mistral NeMo Minitron 128k Instruct offrono opzioni flessibili per ottimizzare le interazioni umane digitali sui PC RTX AI.
Gli aggiornamenti di NVIDIA TensorRT Model Optimizer (ModelOpt) per Windows permettono di ottimizzare i modelli per la distribuzione di ONNX Runtime, riducendo l’ingombro di memoria e migliorando le prestazioni sulle GPU RTX. Ciò consente l’esecuzione dei modelli di IA su una gamma più ampia di PC, rendendo l’Intelligenza Artificiale locale più accessibile.
Questi nuovi strumenti trasformeranno il modo in cui gli utenti interagiscono quotidianamente con l’IA, dai PC Windows RTX AI ai server Azure alimentati da NVIDIA Blackwell.