Per H2O.ai, un’azienda di machine learning, democratizzare l’intelligenza artificiale generativa non è un motto vuoto, ma una missione che richiede azioni concrete. E per agire è necessario mettere modelli, strumenti automatizzati e analytics nelle mani di persone che possano utilizzarli per sperimentare, iterare e creare nuovi usi delle tecnologie AI. 

L’obiettivo principale di H2O.ai è semplificare l’accesso dei clienti ai dati per il training dei modelli AI e l’inferenza, salvaguardando la privacy dei dati e riducendo il trasferimento dei dati. A tal fine, H2O.ai offre il suo motore ML all’avanguardia e una serie di ulteriori funzionalità Gen AI per la creazione e il fine‐tuning di GPT personalizzati, tra cui il motore H2O Driverless AI AutoML, H2O LLM Studio e starter pack per machine learning, LLMs di Gen AI e modellazione predittiva, sotto forma di Snowflake Native Apps sul Marketplace Snowflake. 

Snowflake Native App Framework integrato con Snowpark Container Services (attualmente in public preview) consente a H2O.ai di semplificare e accelerare il processo di implementazione dei modelli AI e ML negli ambienti dei clienti.

“Snowflake Native Apps integrato con Snowpark Container Services facilita l’intero processo”, dichiara Luis Boldizsar, Channel Manager North America di H2O.ai. “Abbassa la soglia di accesso e consente ai clienti di utilizzare facilmente un’app all’interno di Snowflake, accedere alla tecnologia e utilizzarla per creare nuovi insight sui dati.”

H2O.ai ha compreso il potenziale di Snowpark Container Services sin dai primi briefing di progettazione con Snowflake. Snowpark Container Services, un servizio container completamente gestito, ha offerto a H2O.ai un modo per distribuire le sue soluzioni direttamente all’interno Snowflake, vicino ai dati con cui interagisce. Snowpark Container Services racchiude la complessità delle orchestrazioni, integrazioni, dipendenze e gestione associata, semplificando la distribuzione ed eliminando la necessità di spostare i dati tra ambienti esterni a Snowflake.

Successivamente, con Snowflake Native Apps ha appianato i problemi dell’infrastruttura e reso “incredibilmente facile per un utente iniziare a utilizzare un’applicazione all’interno di Snowflake”, afferma Boldizsar. Adesso il team di H2O.ai può lanciare nell’ambiente di produzione del cliente una delle proprie app native e un prodotto in 20-30 minuti invece di diversi giorni.

“Questo tipo di tempistica è uno dei principali vantaggi per i clienti”, afferma Boldizsar, osservando che H2O.ai è stata in grado di ridurre al minimo i “tempi morti” quando i team devono attendere che l’infrastruttura diventi disponibile o stanno entrando in produzione. Poiché le Snowflake Native Apps vengono eseguite all’interno dell’account del cliente, possono beneficiare delle funzionalità di governance di Snowflake e i clienti possono verificare, approvare e integrare nuove app più rapidamente. 

Snowflake Native Apps integrato con Snowpark Container Services consente inoltre a H2O.ai di includere artefatti (che vengono generati automaticamente) insieme al codice. Ciò significa che quando un data scientist passa un modello a un data engineer, quest’ultimo riceve anche informazioni utili aggiuntive, come un esempio di come invocarlo in SQL o un frammento di codice e un esempio di come utilizzarlo in Python.

“Potrebbe sembrare un’inezia, ma conosco clienti che hanno impiegato un’ora o più durante un handoff per spiegare come chiamare un modello o quali dati passare”, dice Boldizsar. “Ridurre il tempo impiegato per tutti questi task aiuta i clienti a portare i modelli in produzione e iniziare a ricavare valore dall’utilizzo di questi modelli e di questi dati. E poi inizia a girare a gonfie vele: perché i clienti possono svolgere un’attività più velocemente e in modo sicuro, e hanno tempo di occuparsi di un altro progetto.”

H2O.ai ha creato un processo innovativo utilizzando modelli per accelerare lo sviluppo delle sue app. Incorporando Snowpark Container Services nei suoi modelli Snowflake Native App, H2O.ai può eliminare i complessi processi di caricamento dei container e sfruttare Snowflake Native App Framework per semplificare il processo di installazione.

Ulteriori vantaggi del modello di H2O.ai emergono quando è il momento di distribuire aggiornamenti e nuove release. Il disaccoppiamento dello sviluppo delle immagini dal codice della Snowflake Native App riduce notevolmente il tempo totale di sviluppo e consente aggiornamenti rapidi, così sia H2O.ai che i suoi clienti possono tenere il passo con la frequenza di rilascio delle nuove funzionalità delle applicazioni. Questo è un notevole progresso nel machine learning e nell’elaborazione dei dati che consente a H2O.ai di fornire soluzioni estremamente efficienti, scalabili e facili da usare. 

Il fatto che le Snowflake Native Apps vengano eseguite nell’ambiente del cliente e non richiedano lo spostamento dei dati o accesso esterno è particolarmente vantaggioso per i clienti di H2O.ai nel settore altamente regolamentato dei servizi finanziari. Allo stesso tempo, i clienti non possono frugare nel codice dell’app e apportare modifiche che, nonostante le buone intenzioni, potrebbero produrre un effetto collaterale imprevisto. 

"Siamo in grado di installare il nostro modello nel modo in cui lo abbiamo configurato e sappiamo che funziona per avere la certezza che le nostre app funzioneranno come previsto”, dichiara Boldizsar. “La stessa funzionalità protegge anche il cliente, perché sa che nemmeno noi possiamo vedere il suo codice o i suoi dati.” 

“A volte un servizio completamente gestito fornisce più funzionalità, ma il suo funzionamento e la collaborazione diventano anche più complessi, sia per noi e che per i nostri clienti. Una piattaforma semplificata come Snowflake, invece, rimuove parte di questo ‘avanti e indietro’ e può risultare più facile da gestire,” spiega Boldizsar.

La funzionalità release directive di Snowflake Native App Framework consente a H2O.ai di fornire diverse versioni delle app ai clienti perché possano testarle direttamente. H2O.ai inserisce il numero di versione dell’app nel titolo, in modo che il cliente possa scegliere se conservare l’app corrente, e applicare le patch per rimanere conforme alle normative che richiedono versioni specifiche del motore, o se invece aggiornare e installare la versione più recente.

Se ti interessano le app Gen AI di H2O.ai sviluppate con Snowflake Native App Framework integrato con Snowpark Container Services puoi provarle gratuitamente sul Marketplace Snowflake. 

Nel frattempo, il team di H2O.ai continua a esplorare il potenziale delle Snowflake Native Apps con Snowpark Container Services, sperimentando con la pacchettizzazione ed esaminando diverse configurazioni che potrebbero offrire agli utenti l’intera gamma di funzionalità ML e AI in un unico servizio. 

“Questo è un buon esempio di democratizzazione dell’accesso all’AI: consentire ai data scientist di creare nuovi modelli e risolvere problemi che non avevano mai affrontato in precedenza, grazie all’estrema semplificazione dell’accesso agli strumenti giusti”, afferma Boldizsar.