Prognosen für 2025: KI als Cybersecurity-Tool und -Ziel

Obwohl KI (noch) das angesagteste Technologiethema ist, ist es 2025 nicht das übergeordnete Thema für die Unternehmenssicherheit. Fortschrittliche KI wird neue Angriffsvektoren erschließen und auch neue Tools zum Schutz von Unternehmensdaten liefern. Doch die zugrunde liegende Herausforderung ist die schiere Menge an Daten, mit der überarbeitete Cybersicherheitsteams konfrontiert sind, wenn sie versuchen, grundlegende Fragen zu beantworten wie: „Werden wir angegriffen?“

In „Snowflake AI + Data Predictions 2025“ bespreche ich mit einem Dutzend Expert:innen und Führungskräften, welche Veränderungen insbesondere KI in den nächsten Jahren bewirken wird. Und aus Sicherheitssicht gibt es gute und schlechte Nachrichten. KI ist nicht nur ein Grund für das Problem – mehr zu schützende Daten, mehr Angriffsfläche –, sondern auch ein potenzieller Segen, da sie Tools bereitstellt, um Datenmengen zu verwalten, die Menschen allein nicht bewältigen können. Unser Bericht nennt unter anderem vier Imperative für Cybersicherheit im Zeitalter der KI.

Sicherheitsexperten müssen sich ständig weiterentwickeln, um sicherzustellen, dass sie mit den richtigen Daten Schwachstellen und Vorfälle erkennen. Der Security Data Lake wird als kostengünstige Möglichkeit, große Datenmengen aus verschiedenen Quellen zu bündeln, weiter an Beliebtheit gewinnen. Innerhalb des Security Data Lake können Teams maschinelles Lernen und fortschrittliche Analytik einbringen. Und indem es erschwinglicher wird, mehr Daten länger aufzubewahren, können Teams die Forensik verbessern. Im Vergleich zu herkömmlichen Tools für Sicherheitsvorfälle und Ereignismanagement (Security Information and Event Management, SIEM) sind Security Data Lakes im Allgemeinen flexibler, skalierbarer und kostengünstiger. SIEMs eignen sich auch besser für KI-Lösungen. Deshalb erwarten wir, dass der Security Data Lake letztendlich das SIEM ersetzen wird.

Letztes Jahr haben wir ein KI-Sicherheitsframework veröffentlicht, das 20 Angriffsvektoren gegen Large Language Models und generative KI-Systeme identifiziert. Darin besprechen wir drei Ebenen der KI, die zur Angriffsfläche werden können. Den ersten Punkt, die zentrale Plattform, haben wir im letztjährigen Bericht „Prognosen“ diskutiert. Wir haben festgestellt, dass Automatisierung Fehlkonfigurationen auf Produktionsebene verhindert und Entwicklungsumgebungen ein vergleichsweise weicheres Ziel werden. Aber zu diesem Zeitpunkt verfestigt sich auch diese Infrastruktur ganz gut.

Im kommenden Jahr wird die nächste Ebene, der Modellbetrieb, voraussichtlich ein immer wichtigeres Ziel werden. Sicherheitsexpert:innen müssen sich genau überlegen, wie das Modell zunächst trainiert wird und wie es neue Daten in die Produktion integriert. Wir müssen uns den Lebenszyklus des gesamten Modells ansehen, aber auch den Lebenszyklus der Daten, mit denen es gefüttert wird. Sicherheitsteams müssen ihre Ansätze für neue KI-Technologien standardisieren, um die Sicherheit ihrer allgemeinen Unternehmensinfrastruktur zu gewährleisten.

Eine dritte Angriffsebene, die wir im weiteren Verlauf noch verstärken wollen, interagiert direkt mit KI, um sie dazu zu bringen, sensible Daten preiszugeben, die vielleicht nicht in das Modell hätten integriert werden sollen. Aus diesem Grund sehen wir die neue Methode des Data Security Posture Management, die eine bessere Transparenz des Standorts, der Verwendungen und der Sicherheit der Daten im gesamten Unternehmen bietet.

Künstliche Intelligenz wird auch neue Tools zum Schutz des Unternehmens bereitstellen, und Sicherheitsteams experimentieren bereits mit ersten Möglichkeiten. Ein LLM mit einer Schnittstelle für generative KI (GenAI) ermöglicht es, in natürlicher, menschlicher Sprache Fragen zur allgemeinen Sicherheitslage oder zu bestimmten Warnungen und Mustern zu stellen. Diese Erfahrung als Sicherheits-Copilot wird reifen und zu einem effektiveren Assistenten für ständig unterbesetzte Sicherheitsteams werden. Insbesondere werden KI-gestützte Tools jungen Sicherheitsexpert:innen dabei helfen, Ideen schnell in Abfragen und Analysen umzusetzen. So können komplexe Abfragelogiken schneller erlernt und Antworten auf unmittelbare Sicherheitsbedenken gegeben werden.

Insbesondere die Fähigkeit von KI-Systemen, Sicherheitsvorfälle zusammenzufassen, wird ein großer Fortschritt sein. Stellen Sie sich vor, die KI sagt Ihnen: „Ich habe ein seltsames Muster in der Datenbewegung gesehen – so viele Daten dieser Art werden normalerweise zu dieser Tageszeit nicht von diesem Ort übertragen.“ Diese übergeordnete Beschreibung ist viel hilfreicher als eine Benachrichtigung, die effektiv sagt: „Sehen Sie sich die VPN-Protokolle, die Speicherprotokolle und Ihre E-Mail-Protokolle an – dann ziehen Sie selbst Ihre Schlüsse.“ Das ist so ziemlich, wo wir uns heute befinden.

Fortschrittliche KI wird Sicherheitsteams dabei helfen, Anomalien zu verstehen, sobald sie erkannt werden, und nach einem Ereignis forensische Analysen durchzuführen, um vollständig zu verstehen, was passiert ist und ähnliche Ereignisse zu verhindern. Letztlich wird sie nicht nur für die Vorfallanalyse, sondern auch für das allgemeine Datensicherheitsmanagement eingesetzt, da KI viel komplexere Systeme analysieren kann als bestehende Tools oder menschliche Operatoren.

Es ist bereits üblich, dass Sicherheitstools die Reaktion auf bestimmte Vorfälle automatisieren und Angriffe schneller beenden, als Menschen es könnten. Theoretisch könnte generative KI komplexere Entscheidungen treffen und größere, umfassendere Maßnahmen ergreifen. Doch das wird erst nach einiger Zeit geschehen. GenAI-Cybersicherheitstools werden menschliches Urteilsvermögen für endgültige Entscheidungen erfordern, insbesondere wenn ethische Fragen und komplexere Risikofaktoren berücksichtigt werden müssen.

Insgesamt würde ich sagen, die Zukunft der Cybersicherheitsteams sieht vielversprechend aus. Es gibt noch mehr zu tun und mehr Daten zu schützen, aber das gilt immer. Während Standards und neue Ansätze entwickelt werden, um KI-gestützte Unternehmen besser zu schützen, sind es die neuen Tools, die neuen Möglichkeiten, unsere Daten in den Griff zu kriegen, und unsere Sicherheitslage am spannendsten.

In „Snowflake AI + Data Predictions 2025“ erfahren Sie mehr über Cybersicherheit, Softwareentwicklung und Dateninfrastruktur im Zeitalter der KI.