Nutanix, lo specialista dell’hybrid multicloud computing, ha presentato nuove funzionalità per Nutanix GPT-in-a-Box, inclusa l’integrazione con i microservizi di inferenza NVIDIA NIM e con la libreria Large Language Models (LLM) di Hugging Face. Inoltre, l’azienda ha annunciato il programma per i partner Nutanix AI, che ha l’obiettivo di riunire i principali partner di soluzioni e servizi di AI per supportare i clienti che desiderano eseguire, gestire e proteggere le applicazioni di Ai generativa (GenAI) su Nutanix Cloud Platform e GPT-in-a-Box. Nutanix GPT-in-a-Box è una soluzione full-stack creata appositamente per semplificare l’adozione dell’AI nelle aziende, grazie alla sua integrazione con Nutanix Objects e Nutanix Files per l’archiviazione di modelli e dati.
“Il lancio di Nutanix GPT-in-a-Box ha ottenuto un grande consenso, confermando la necessità dei clienti Enterprise di soluzioni software on-premise che semplifichino l’implementazione e la gestione dei modelli AI e degli endpoint di inferenza“, ha dichiarato Thomas Cornely, Senior Vice President of Product Management di Nutanix. “L’ambito Enterprise è la nuova frontiera delle GenAI e siamo entusiasti di collaborare con il nostro ecosistema di partner in rapida crescita, per rendere il più semplice possibile l’esecuzione di applicazioni GenAI on premise su larga scala, mantenendo il controllo su privacy e costi“.
Nutanix GPT-in-a-Box 2.0
L’azienda ha annunciato GPT-in-a-Box 2.0, in grado di offrire un supporto più esteso all’elaborazione accelerata di NVIDIA e agli LLM, oltre a una gestione semplificata dei modelli di base e a piena integrazione con i microservizi NVIDIA NIM e la libreria LLM Hugging Face. GPT-in-a-Box 2.0 includerà un’interfaccia utente unificata per la gestione dei modelli fondamentali, la creazione di endpoint API, la gestione delle chiavi di accesso dell’utente e l’integrazione di Nutanix Files and Objects, oltre alle GPU NVIDIA Tensor Core.
GPT-in-a-Box 2.0 porterà la semplicità di Nutanix nell’esperienza dell’utente grazie a un’interfaccia grafica integrata, il controllo dell’accesso basato sui ruoli, la verificabilità e il supporto dei siti nascosti, oltre ad altri numerosi benefici. Fornirà inoltre un’interfaccia utente point-and-click per implementare e configurare NVIDIA NIM, parte della piattaforma software NVIDIA AI Enterprise per lo sviluppo e l’implementazione di AI di livello produttivo, per distribuire ed eseguire facilmente carichi di lavoro GenAI in azienda e all’edge.
“Abbiamo scelto Nutanix come partner tecnologico di riferimento per realizzare i nostri obiettivi in termini di intelligenza artificiale e per promuovere un futuro in cui la tecnologia sia al servizio dell’umanità“, ha dichiarato Khalid Al Kaf, COO di Yahsat. “Non ci limitiamo a stare al passo con il futuro, ma lo stiamo plasmando attivamente, sfruttando Nutanix GPT-in-a-Box, che ci fornisce semplici funzionalità di gestione end-to-end e la possibilità di mantenere il controllo sui nostri dati“.
La partnership con Hugging Face offre accesso integrato alla libreria di LLM
Nutanix ha inoltre annunciato una partnership con Hugging Face che contribuirà ad accelerare il percorso di adozione dell’AI da parte dei clienti, fornendo accesso integrato alla libreria di Hugging Face e all’esecuzione di LLM per i clienti Nutanix. I clienti comuni potranno sfruttare Nutanix GPT-in-a-Box 2.0 per utilizzare facilmente gli LLM convalidati da Hugging Face ed eseguirli in modo efficiente.
Grazie a questa partnership, Nutanix e Hugging Face svilupperanno un’integrazione personalizzata con Text Generation Inference, la famosa libreria open-source di Hugging Face per l’implementazione in produzione di LLM, e renderanno disponibili i modelli di generazione del testo sull’hub di Hugging Face all’interno di Nutanix GPT-in-a-Box 2.0. Il sistema offrirà un flusso di lavoro continuo per la distribuzione di LLM IA convalidati da Hugging Face con il pieno supporto di Nutanix, ampliando in modo significativo il numero di LLM supportati. Così facendo, si creerà un flusso di lavoro convalidato e supportato congiuntamente per le librerie e gli LLM di Hugging Face, garantendo ai clienti un unico punto di gestione per l’inferenza coerente dei modelli.
Piattaforma di dati non strutturati potenziata per AI/ML di Nutanix
Nutanix ha inoltre potenziato la sua piattaforma di dati non strutturati per AI/ML e altre applicazioni con prestazioni, densità e TCO superiori. Nutanix Unified Storage (NUS) supporta ora una nuova piattaforma all-NVMe da oltre 550 Terabyte e un throughput di lettura sequenziale fino a 10 Gigabyte/secondo da un singolo nodo (quasi la velocità di una porta Ethernet da 100 Gigabit), consentendo letture di dati più rapide e un uso più efficiente delle risorse delle GPU. Nutanix offrirà inoltre il supporto per NVIDIA GPUDirect Storage per velocizzare ulteriormente le applicazioni AI/ML. Inoltre, per proteggere i dati di importanza strategica e spesso riservati, come i set di dati utilizzati per l’addestramento e l’elaborazione dei carichi di lavoro AI/ML, Nutanix Data Lens estende la protezione agli oggetti oltre che ai dati dei file. Un nuovo punto di accesso di Data Lens a Francoforte consente una più ampia adozione da parte dei clienti dell’UE, soddisfacendo le loro esigenze di conformità.
Nutanix ha collaborato con i principali OEM di server per offrire ai clienti un’ampia scelta con una vasta gamma di GPU ottimizzate per l’AI e di sistemi GPU ottimizzati per la densità. Queste GPU ottimizzate per l’AI, tra cui le GPU NVIDIA L40S, H100, L40 e L4, sono oggi supportate da Nutanix GPT-in-a-Box. Nutanix supporta anche i sistemi di GPU ottimizzati per la densità di Dell, HPE e Lenovo al fine di ridurre il TCO, consentendo ai clienti di implementare un numero inferiore di sistemi per soddisfare le loro esigenze in termini di carichi di lavoro. L’azienda ha inoltre annunciato di aver in programma il supporto di NX-9151, basato sull’architettura di riferimento NVIDIA MGX.
Programma per i partner Nutanix AI
Per supportare ulteriormente le strategie AI dei clienti, il nuovo programma per i partner Nutanix AI offre un accesso semplificato a un ecosistema ampliato di partner AI per fornire soluzioni di GenAI concrete. I partner supporteranno le aziende nella creazione, nell’esecuzione, nella gestione e nella protezione di applicazioni GenAI di terze parti e sviluppate in casa su Nutanix Cloud Platform e sulla soluzione Nutanix GPT-in-a-Box, mirate ai principali casi d’uso dell’intelligenza artificiale.
Questo ampio ecosistema di partner contribuirà a soddisfare diversi casi d’uso, tra cui le operations, la cybersecurity, il rilevamento delle frodi e l’assistenza ai clienti, in settori verticali come la sanità, servizi finanziari, servizi legali e professionali. I primi partner dell’iniziativa includono: Codeium, DataRobot, DKube, Instabase, Lamini, Neural Magic, Robust Intelligence, RunAI e UbiOps.
I benefici per i partner includono:
- Certificazione Nutanix AI Ready: tutti i partner riceveranno la certificazione Nutanix AI Ready a dimostrazione dell’interoperabilità con l’infrastruttura cloud Nutanix, l’hypervisor Nutanix AHV e la piattaforma Nutanix Kubernetes.
- Soluzioni full-stack: i partner del programma godranno di briefing individuali sulle soluzioni che evidenziano i benefici della soluzione Nutanix e dei partner. Inoltre, i partner riceveranno una scheda tecnica, una guida alle best practice o un’architettura di riferimento per semplificare l’implementazione con i clienti comuni.
- Allineamento promozionale e go-to-market: i partner beneficeranno di attività di go-to-market e di demand generation focalizzate sul caso d’uso dell’AI per le aziende. Avranno accesso a opportunità promozionali e di go-to-market, tra cui la creazione di contenuti, post blog, webinar, podcast e altre iniziative, per contribuire alla sensibilizzazione e alla domanda di casi d’uso.
Nutanix GPT-in-a-Box 2.0 sarà disponibile nella seconda metà del 2024. Il supporto per NVIDIA GPU Direct e NX-9151 è attualmente in fase di sviluppo. Le funzionalità aggiuntive annunciate in NUS e Data Lens sono attualmente disponibili per i clienti. Ulteriori informazioni sono disponibili sul sito di Nutanix.
“La nostra partnership con Nutanix contribuirà a portare Hugging Face a un maggior numero di aziende che desiderano un controllo privato e sicuro dei propri LLM“, ha affermato Clem Delangue, CEO e co-fondatore di Hugging Face. “La nostra missione è quella di permettere alle aziende di tutte le dimensioni di creare la propria AI con l’open source. La nostra collaborazione con Nutanix semplificherà lo sviluppo di applicazioni AI on premise, sfruttando Text Generation Inference“.
“I clienti che intendono sfruttare la GenAI hanno il dovere di mantenere il controllo sui dati sensibili e privati“, ha dichiarato Dave Pearson, Research Vice President for Infrastructure di IDC. “Grazie a queste nuove funzionalità e partnership, Nutanix vuole permettere alle aziende di creare una piattaforma AI privata e sicura e accelerare l’adozione di GenAI nelle aziende“.