H2O.ai vereinfacht Datenverarbeitung für KI mit Snowflake Native Apps und Snowpark Container Services

Die Demokratisierung generativer KI (GenAI) ist für H2O.ai, ein Unternehmen für maschinelles Lernen, kein leeres Motto, sondern eine Mission, die Handlungsbedarf erfordert. Und um handeln zu können, müssen Unternehmen Modelle, automatisierte Tools und Analytik in die Hände von Mitarbeitenden bringen, die damit experimentieren, iterieren und neue Anwendungsmöglichkeiten für KI -Technologie entwickeln können. 

Das Hauptziel von H2O.ai besteht darin, Kunden einfacheren Zugang zu Daten für das Training und die Inferenz von KI-Modellen zu ermöglichen und gleichzeitig den Datenschutz der Kunden zu wahren und weniger Daten bewegen zu müssen. Zu diesem Zweck bietet H2O.ai seine hochmoderne ML-Engine und eine Reihe zusätzlicher GenAI-Funktionen zur Erstellung und Optimierung benutzerdefinierter GPT als Snowflake Native Apps im Snowflake Marketplace an. Dazu gehören auch die Engine H2O Driverless AI AutoML, H2O LLM Studio und Starterpacks für maschinelles Lernen, GenAI-LLMs und prädiktive Modellierung. 

Das Snowflake Native App Framework in Integration mit Snowpark Container Services (derzeit in Public Preview) ermöglicht H2O.ai einen einfacheren und schnelleren Prozess der Einführung und Ausführung von KI und ML-Modellen in Kundenumgebungen.

„Die in Snowpark Container Services integrierten Snowflake Native Apps vereinfachen den gesamten Prozess“, so Luis Boldizsar, Channel Manager, North America bei H2O.ai.. „Sie senken die Messlatte für den Einstieg und erleichtern es Kunden, eine App innerhalb von Snowflake zu nutzen, auf die Technologie zuzugreifen und sie zu nutzen, um neue Dateneinblicke zu gewinnen.“

H2O.ai hat das Potenzial von Snowpark Container Services bei ersten technischen Einweisungen mit Snowflake erkannt. Snowpark Container Services ist ein vollständig verwaltetes Containerangebot und bietet H2O.ai die Möglichkeit, seine Lösungen direkt in Snowflake bereitzustellen − dort wo sich auch die Daten befinden, mit denen sie interagieren. Snowpark Container Services bündelt die Komplexität der Orchestrierungen, Integrationen, Abhängigkeiten und des damit verbundenen Hin und Her beim Datenmanagement. Dies erleichtert die Bereitstellung und sorgt dafür, dass das Verschieben von Daten zwischen Umgebungen außerhalb von Snowflake nicht notwendig ist.

Snowflake Native Apps beseitigen Infrastrukturprobleme und machen es „unglaublich einfach für Anwender:innen, eine Applikation innerhalb von Snowflake zu nutzen“, so Boldizsar. Das H2O.ai-Team benötigt jetzt nur noch 20 bis 30 Minuten, um eine seiner nativen Apps und ein Produkt in der Kundenumgebung bereitzustellen und auszuführen, was vorher mehrere Tagen in Anspruch genommen hat.

„Ein solcher Zeitrahmen ist ein großer Vorteil für die Kunden“, so Boldizsar und merkt an, dass H2O.ai die „Totzeit“ minimieren konnte, die bei Teams zum Beispiel durch die Wartezeit aufgrund von eingeschränkter Infrastrukturverfügbarkeit oder beim Übergang in die Produktion vorlag. Da Snowflake Native Apps innerhalb des Kundenkontos ausgeführt werden, können sie von Snowflakes Governance-Funktionen profitieren. Kunden können so neue Apps schneller prüfen, genehmigen und einsetzen. 

Durch die Integration von Snowflake Native Apps mit Snowpark Container Services ist es H2O.ai außerdem möglich, dem Code Artefakte (die automatisch generiert werden) beizufügen. Wenn Data Scientists also ein Modell an Data Engineers weitergeben, erhalten sie zusätzlich nützliche Informationen, z. B. wie man es in SQL oder einem Code aufruft und wie man es in Python verwendet.

„Es mag wie eine Kleinigkeit erscheinen, aber ich kenne Kunden, die während einer Übergabe eine Stunde oder mehr damit verbracht haben, Dinge zu erklären, wie man ein Modell aufruft oder welche Daten weitergegeben werden müssen“, so Boldizsar. „Wenn wir den Zeitaufwand für all diese Aufgaben verringern, helfen wir unseren Kunden, Modelle in Produktion zu bringen und einen Nutzen aus der Verwendung dieser Modelle und Daten zu ziehen. Und dies wirkt sich dann wiederum positiv auf andere Aspekte aus: Da sie Aufgaben schneller und sicherer erledigen, können sie die eingesparte Zeit jetzt für andere Projekt aufwenden.“

H2O.ai hat einen innovativen Prozess entwickelt, indem es Vorlagen verwendet, um die Entwicklung seiner Apps zu beschleunigen. Durch die Integration von Snowpark Container Services in die Snowflake Native App-Vorlagen kann H2O.ai auf komplexe Container-Ladeprozesse verzichten und das Snowflake Native App Framework nutzen, um den Installationsprozess zu vereinfachen.

Weitere Vorteile der H2O.ai-Vorlage ergeben sich bei der Bereitstellung von Updates und neuen Releases. Die Entkopplung der Image-Entwicklung vom Snowflake Native App-Code reduziert die Entwicklungszeit erheblich und ermöglicht schnelle Updates. So können sowohl H2O.ai als auch seine Kunden mit den häufigen Releases neuer Funktionen in den Applikationen Schritt halten. Es ist ein bedeutender Fortschritt in der Verarbeitung von ML und Daten, der es H2O.ai ermöglicht, äußerst effiziente, skalierbare und benutzerfreundliche Lösungen bereitzustellen. 

Besonders vorteilhaft für die Kunden von H2O.ai in der stark regulierten Branche der Finanzdienstleistungen ist die Tatsache, dass Snowflake Native Apps in der Umgebung ihrer Kunden ausgeführt werden und keine Daten verschoben oder extern zugänglich gemacht werden müssen. Gleichzeitig können Kunden nicht durch den Code der App stöbern und Variationen entwickeln, die zwar gut gemeint sind, aber einen unerwarteten Nebeneffekt verursachen können. 

„Mit Snowflake Native Apps können wir unsere Vorlage so installieren, wie wir sie eingerichtet haben und wie wir wissen, dass sie funktioniert. Das gibt uns die Zuversicht, dass unsere Apps wie erwartet funktionieren“, so Boldizsar. „Diese Funktion schützt auch unsere Kunden, da sie wissen, dass wir weder ihren Code noch ihre Daten sehen können. 

„Manchmal bietet ein vollständig verwalteter Dienst mehr Funktionen, aber die Ausführung und Zusammenarbeit ist für uns und unsere Kunden auch komplexer. Eine vereinfachte Plattform, wie sie Snowflake bietet, eliminiert etwas davon“, so Boldizsar.

Mit der Target-Release-Richtlinie des Snowflake Native App Framework kann H2O.ai verschiedene Versionen seiner Apps bereitstellen, sodass Kund:innen sie direkt testen können. H2O.ai gibt die Versionsnummer der App in den Titel, sodass Kund:innen wählen können, ihre aktuelle App beizubehalten und zu Patchen, um die Vorschriften einzuhalten, die bestimmte Engine-Versionen erfordern, oder die neueste Version zu aktualisieren und zu installieren.

Wer sich für die GenAI-Apps von H2O.ai interessiert, die mit dem Snowflake Native App Framework in Integration mit Snowpark Container Services entwickelt wurden, kann sie kostenlos auf Snowflake Marketplace testen. 

Des Weiteren lotet das Team von H2O.ai das Potenzial von Snowflake Native Apps mit Snowpark Container Services weiter aus, experimentiert mit Paketierung und untersucht verschiedene Konfigurationen, die Nutzenden die gesamte Bandbreite an ML- und KI-Funktionen in einem Service bieten könnten. 

„Das ist ein gutes Beispiel für die Demokratisierung des Zugangs zu KI: Data Scientists können neue Modelle entwickeln und Probleme angehen, an denen sie sich bisher gar nicht versucht haben – einfach dadurch, dass sie Zugang zu Tools haben, die das möglich machen“, so Boldizsar.