Snowflake Cortex AI bringt Unternehmens-KI weiter voran

Generative KI (GenAI) kann für Unternehmen von grundlegender Bedeutung sein. Unternehmen können GenAI nutzen, um mehr Nutzen aus ihren Daten zu ziehen und dialogorientierte Schnittstellen für Kunden- und Mitarbeiteranwendungen zu entwickeln. Die Einführung von KI-Lösungen kann die allgemeine Effizienz steigern. Mit GenAI können Mitarbeitende Aufgaben auf Unternehmensebene schneller und präziser erledigen und so Produktivität und Engagement steigern. Darüber hinaus können Unternehmen dank der Implementierung robuster Datensicherheitskontrollen und der Einhaltung gesetzlicher Anforderungen KI zuverlässig integrieren und gleichzeitig Compliance-Standards einhalten. Das Angehen fehlender interner KI-Kenntnisse und die Vereinfachung von KI-Prozessen können die Einführung erleichtern. Indem Unternehmen diese Möglichkeiten nutzen, können sie mit GenAI mehr Erfolg erzielen. 

Hier kommt Snowflake ins Spiel. Snowflake Cortex AI ist ein vollständig verwalteter Dienst, der entwickelt wurde, um das Potenzial der Technologie für alle innerhalb eines Unternehmens zu erschließen, unabhängig von ihrem technischen Fachwissen. Es bietet Zugang zu branchenführenden Large Language Models (LLMs), mit denen Benutzer:innen ganz einfach KI-gestützte Anwendungen entwickeln und bereitstellen können. Durch den Einsatz von Cortex können Unternehmen KI direkt zu den kontrollierten Daten bringen, um Zugriffs- und Governance-Richtlinien schnell auf die Modelle auszuweiten.  

Wir haben kürzlich Updates für Cortex AI angekündigt, darunter die allgemeine Verfügbarkeit von LLM-Funktionen, die serverlosen Zugriff auf Foundation- und Embed-Modelle bieten. 

Damit Unternehmen generative KI weiterhin effizient, einfach und zuverlässig nutzen können, führen wir eine neue Welle von Komponenten in Cortex AI ein, darunter: 

• Cortex Analyst (demnächst in Public Preview): Bieten Sie geschäftlichen Nutzenden die Möglichkeit, über natürliche Sprache mit strukturierten Daten zu interagieren. So können sie Antworten schneller finden, die nötigen Einblicke per Self-Service gewinnen und wertvolle Zeit sparen. 
• Cortex Search (demnächst in Public Preview): Finden Sie auf schnelle und sichere Weise die richtigen Informationen in bestimmten Unternehmensdokumenten – durch Verwendung des neuesten Arctic Embed-Modells. 
• Cortex Fine-Tuning (Public Preview): Passen Sie LLMs auf sichere und einfache Weise an, um die Modellgenauigkeit und -performance in spezifischen Anwendungsfällen zu steigern – mit serverlosem Tuning. Optimierte Modelle können mit der Snowflake Model Registry verwaltet werden.
• Snowflake AI & ML Studio für LLMs (Private Preview): Geben Sie Anwender:innen aller technischen Niveaus die Möglichkeit, KI ohne Programmieraufwand zu nutzen. Für die Entwicklung von ML-Modellen befindet sich Studio in Public Preview.
• Snowflake Cortex Guard (demnächst allgemein verfügbar): Nutzen Sie LLM-basierten Schutz, um schädliche Inhalte zu filtern und zu kennzeichnen und so die Sicherheit und Tauglichkeit der Modelle zu gewährleisten.

Weitere Verbesserungen sind das Hinzufügen von REST-APIs zur programmatischen Integration von Cortex AI-Funktionen in jede Applikation Ihrer Wahl und die Unterstützung für AI21 Labs-Modelle (demnächst verfügbar).

Unten sind die Details für jedes dieser Updates aufgeführt.

Cortex Analyst, entwickelt mit den Modellen Llama 3 und Mistral Large von Meta, liefert Ihnen die nötigen Einblicke aus Ihren strukturierten Daten, indem Sie einfach Fragen in natürlicher Sprache stellen. Cortex Analyst ermöglicht es App-Entwickler:innen, Anwendungen für geschäftliche Benutzer:innen auf der Grundlage von in Snowflake gespeicherten analytischen Daten zu erstellen. Entwickler:innen können dialogorientierte, KI-gestützte Datenapplikationen entwickeln, die dazu beitragen, Datensilos aufzubrechen, und jedem im Unternehmen schnellen Zugriff auf Antworten und Erkenntnisse aus den Daten geben.

Cortex Analyst unterstützt alle Benutzer:innen bei der Suche nach Antworten in Snowflake. Sie hilft Ihren Teams, schneller und effizienter zu arbeiten, indem sie Self-Service-Dateneinblicke und Entscheidungsfindung ermöglicht. Um hochpräzise Ergebnisse zu liefern, denen Geschäftsteams vertrauen können, verwendet Cortex Analyst semantische Modelle, die auf Ihr Unternehmen zugeschnitten sind, um die spezifischen Begriffe und Datenstrukturen zu verstehen, die im Kontext eines Unternehmens verwendet werden. Das führt zu genaueren und relevanteren Ergebnissen. 

Snowflake Cortex Analyst wurde entwickelt, damit Sie aus jeder Anwendung, mit der Sie interagieren, Fragen stellen können, um die Antworten zu erhalten, die Sie benötigen. Es dient im Vergleich zum Snowflake Copilot-Assistenten einem weiteren Geschäftszweck, bei dem SQL-Entwickler:innen die Entwicklung aus der Snowflake-Benutzeroberfläche heraus beschleunigen, indem sie Text in SQL umwandeln. 

Cortex Search ist eine vollständig verwaltete Suchlösung, die zahlreiche Funktionen zum Indizieren und Abfragen unstrukturierter Daten und Dokumente bietet. Cortex Search verwaltet den End-to-End-Workflow für die Datenerfassung, Einbettung, Abruf, Reranking und Generierung. Der Einbettungsprozess ist zur einfachen Konfiguration vollständig automatisiert. Unsere moderne hybride Suche ermöglicht bessere Ergebnisse.

Cortex Search vereinfacht die Implementierung und Integration der Suche in Ihren Anwendungen. Konkret bietet es:

1. Integrierte Dokumentenvorverarbeitung: Um das Extrahieren von Text aus Dateien (PDF-zu-Text) und das Aufteilen von Text in Stapel vor der Indizierung zu optimieren, wird Snowflake Cortex demnächst zwei verwaltete Funktionen in Private Preview hinzufügen. Solch eine Vorverarbeitung sorgt dafür, dass Entwickler:innen keine benutzerdefinierten Funktionen implementieren oder bereitstellen müssen, um Text vorbereitet zu haben vor der Einbettung. 

2. Vollständig verwaltete Vektor-Einbettung und -Verwaltung: Mit Cortex Search ist keine separate API oder ein separater Dienst zur Generierung von Vektoreinbettungen erforderlich. Dadurch entfällt der Aufwand für die Umwandlung von Text in Vektorformat. Mithilfe der Snowflake-Datenverarbeitungsinfrastruktur wird der Service durch die automatische Aktualisierung bei der Generierung neuer Dokumente auf dem neuesten Stand gehalten.

3. Modernste Suche und Ranking: Um genauere Ergebnisse zu liefern, nutzt Cortex Search modernste Abruf- und Ranking-Techniken. Mithilfe einer Kombination aus semantischer Suche und Keyword-Suche, basierend auf der neuesten Technologie von Neeva und den Arctic Embed-Modellen, die vom Snowflake AI Research-Team entwickelt wurden, kann Cortex Search den Benutzer:innen hochwertige Ergebnisse ohne betriebliche Komplexität bieten. Hinter den Kulissen führt Snowflake Cortex parallel Suchvorgänge durch, bei denen die Ergebnisse zusammengeführt und gerankt werden, um präzise Ausgaben auf der Grundlage der relevanten Dokumentinformationen zu erhalten. 

4. Sicherheit und Governance: Da Cortex Search in die Plattform von Snowflake integriert ist, können einheitliche Governance-Richtlinien sowohl für Rohdokumente als auch für Vektoreinbettungen gelten. Das minimiert das Datenrisiko und reduziert den Zeitaufwand für die Pflege separater Datensicherheits-Frameworks. 

Cortex Search unterstützt Unternehmen mit vollständig verwalteten Vektoren und Abrufvorgängen dabei, die RAG-Architekturen (Retrieval Augmented Generation) zu optimieren, mit denen private, aktuelle Informationen zu LLMs gebracht werden, um genauere Ergebnisse zu erzielen. In diesem Modell ruft Cortex Search anhand der eingegebenen Frage zunächst relevante Dokumente oder Passagen aus einer Wissensquelle ab. Anschließend kann die entsprechende Ergebnismenge an ein LLM in Snowflake Cortex übergeben werden, um genaue und kontextrelevante Antworten zu generieren.

Cortex Search vereinfacht nicht nur die Entwicklung von RAG-basierten Chatbots, sondern kann auch die Produktivität von Teams steigern, die regelmäßig nach Informationen suchen, die über große Dokumentenkorpusse verstreut sind. Im Einzelnen können Sie Folgendes durchführen: 

1. „Needle-in-a-haystack“-Suche: Finden Sie die Antwort, die Sie brauchen, versteckt in großen Mengen von Dokumenten.

2. Multidoc-Synthese und logisches Denken: Beantwortung von Fragen, die sich über mehrere Dokumente erstrecken. Sie könnten beispielsweise fragen: „Wie sind die Einnahmen meines Unternehmens zwischen 2022 und 2023 gewachsen?“

3. Tabellendaten, Zahlenzusammenfassung: Erhalten Sie Antworten von nicht-freitextfähigen Strukturen in Ihren Daten – z. B. speziell formatierte Daten, die oft in gängigen Datenspeichersystemen wie Datenbanken und Tabellenkalkulationen zu finden sind.

Mit Cortex Fine-Tuning können Sie branchenführende Modelle von Meta und Mistral AI optimieren. Einfach ausgedrückt: Bei der Optimierung eines KI-Modells handelt es sich um kleine Anpassungen am Modell, um die Performance bei einer bestimmten Aufgabe oder einem Dataset zu verbessern. So können Entwickler:innen die Genauigkeit für bestimmte Aufgaben, wie z. B. Zusammenfassungen, verbessern oder bessere Ergebnisse für die Aufgabe generieren, an der sie arbeiten. Mit Cortex Fine-Tuning können Sie ein relativ kleines Basismodell optimieren, um die gleiche Genauigkeit zu erzielen wie ein größeres Modell. Dadurch können Sie bei oft wiederholten, spezialisierten Aufgaben eine geringere Inferenzlatenz und geringere Kosten erzielen.

Mit Cortex Fine-Tuning können Sie die Optimierung durch Aufruf einer API- oder SQL-Funktion vornehmen, und das alles ohne den Aufwand der Verwaltung einer Infrastruktur. Wählen Sie einfach das Basismodell aus und stellen Sie Ihr Trainings-Dataset bereit, und Cortex erstellt das für Sie optimierte Modell. Sobald das optimierte Modell verfügbar ist, können Sie es in Ihre Anwendung integrieren. Die optimierten Modelle sind sicher, da Sie den Zugriff auf die Modelle mit Snowflake Role-Based Access Control (RBAC) verwalten können. 

Ist die Optimierung abgeschlossen, kann auf das Modell über Cortex COMPLETE zugegriffen werden, wie jedes andere LLM.

Snowflake macht KI für Nutzende aller Kenntnisstufen zugänglich. Mit Studio können Entwickler:innen ganz einfach LLMs testen, Modelle mit ihren Daten optimieren und mit Dokumenten interagieren – alles über die Konsole. Studio ermöglicht auch eine beschleunigte Bereitstellung von Anwendungen, indem die Produktivität der Entwickler:innen verbessert wird.

Im Snowflake AI Studio können Benutzer:innen:

• Completions über mehrere LLMs hinweg vergleichen (Private Preview): Mithilfe des Chat-Playground können geschäftliche Benutzer:innen ganz einfach LLM-Modelle testen und bewerten, um die beste und kostengünstigste Lösung für ihre spezifischen Anforderungen zu finden. So können Anwender:innen die Produktivität steigern, indem sie schnell die richtigen Einstellungen und das richtige LLM für ihre Anwendung finden. 
• Fine-Tuning von LLMs mit Benutzeroberfläche (Private Preview): Nutzende können ihre Modelle über eine benutzerfreundliche Oberfläche optimieren. Benutzer:innen können individuelle Modelle entweder über die No-Code-Click-Through-Erfahrung von Studio oder für diejenigen, die Code bevorzugen, über die dafür vorgesehene Fine-Tuning-Funktion entwickeln.

Darüber hinaus können Benutzer:innen über eine vorkonfigurierte Chatoberfläche Fragen zu vorhandenen indexierten Dokumenten stellen – erstellt mit Cortex Search.

Snowflake führt Cortex Guard ein, eine neue Funktion, mit der Unternehmen schädliche Inhalte filtern und kennzeichnen können, um die Modellsicherheit und Tauglichkeit mit Llama Guard von Meta zu gewährleisten. Wir haben Cortex Guard entwickelt, weil Kunden uns gesagt haben, dass KI-Sicherheit entscheidend für die Bereitstellung von KI-Anwendungen in der Produktion ist. So wollen Unternehmen beispielsweise ihre Anwendungen vor potenziell unsicheren KI-Antworten schützen, die sich auf ihre Services und letztlich ihr Geschäft auswirken. Die neue Cortex Guard-Funktion wurde speziell für diese Anwendungsfälle entwickelt. Cortex Guard wertet die Antworten eines Sprachmodells aus, bevor die Ausgabe an die Applikation zurückgegeben wird. Mit nur einem Klick können Kunden nun den neuen Cortex Guard-Parameter aktivieren, der innerhalb der COMPLETE-Funktion verfügbar ist.

Mit REST APIs (demnächst verfügbar) können Sie programmatisch über Ihre Anwendungen auf LLMs auf Cortex zugreifen. Sie können einen Prompt konfigurieren und Inferenz mit einem der LLMs ausführen. Alternativ können Sie aus den vorkonfigurierten Funktionen auswählen, um Text zusammenzufassen, Stimmung zu erkennen oder Eingaben zu übersetzen.

Mit generativer KI können Unternehmen ihre Daten umfassender nutzen und die allgemeine Effizienz schneller steigern. Snowflake Cortex AI erleichtert es Unternehmen, GenAI-Funktionen zu nutzen, indem sie mit ihren Daten chatten und vieles mehr. 

Wir haben die Tools und die Infrastruktur hinzugefügt, die Sie benötigen, um KI-gestützte Anwendungen in einer sicheren Umgebung zu entwickeln und bereitzustellen. Durch die Entwicklung dieser KI-gestützten Apps mit Snowflake Cortex AI können sie nun fundierte Entscheidungen treffen, Abläufe optimieren und Ihren Kund:innen und Interessengruppen personalisierte Erfahrungen bieten. Wir haben es Unternehmen wie Ihrem nicht nur einfach, sondern auch effizient und sicher gemacht, das volle Potenzial generativer KI auszuschöpfen.

Um Ihnen den Einstieg in Snowflake Cortex AI zu erleichtern, empfehlen wir Ihnen einen dieser Quickstarts:

• Batch-Textverarbeitung
  • Fassen Sie Text im JSON-Format mit Snowflake Arctic zusammen
  • Analysieren Sie Kundenrezensionen mit Snowflake Cortex AI
• RAG-basierte Chatbots:
  • Erstellen Sie eine Wartungsprotokoll-App mit Snowflake Cortex AI
  • Erstellen Sie einen Assistenten zu Dokumentensuche mit Streamlit und Snowflake Cortex AI

Um die Entwicklung für geschäfts- und branchenspezifische Anwendungsfälle zu beschleunigen, können Snowflake-Kunden über unsere vertrauenswürdigen Partner auf Cortex AI zugreifen. Klicken Sie hier, um mehr über ihre Lösungen auf der Webseite zu Snowflake Cortex zu erfahren.