Künstliche Intelligenz wird zunehmend in Unternehmensprozesse integriert. Ob interne Chatbots, automatisierte Dokumentenverarbeitung oder intelligente Assistenzsysteme – immer mehr Unternehmen nutzen externe KI-Modelle. Doch wie sicher sind diese Modelle tatsächlich?

Mit MetaDefender Aether können Unternehmen auch KI-Modelle gezielt auf potenzielle Cyberbedrohungen untersuchen.

Was ist OPSWAT MetaDefender Aether?

MetaDefender Aether ist eine fortschrittliche Sandbox- und Malware-Analyseplattform, mit der Unternehmen bekannte und unbekannte Cyberbedrohungen sowie Zero-Day-Angriffe erkennen können.

Eine Sandbox untersucht verdächtige Dateien in einer geschützten Umgebung und analysiert deren Verhalten, ohne produktive Unternehmenssysteme direkt zu gefährden.

MetaDefender Aether kombiniert hierfür mehrere Sicherheitstechnologien:

• Threat Reputation: Abgleich mit bekannten Bedrohungsinformationen 
• Statische Analyse: Untersuchung verdächtiger Dateien ohne Ausführung
• Adaptive Sandbox: Analyse des Dateiverhaltens durch Emulation
• Threat Scoring: Bewertung potenzieller Sicherheitsrisiken
• Threat Hunting: Erkennung und Einordnung komplexer Bedrohungsmuster

Dadurch erhalten IT-Sicherheitsteams detaillierte Informationen über mögliche Bedrohungen und können Risiken besser bewerten.

Neu: LLM Scanning für KI-Modelle

Mit MetaDefender Aether 3.3.0 erweitert OPSWAT seine Sicherheitsanalysen um die Untersuchung von Large Language Models (LLMs). Die neue Funktion bietet zwei zentrale Analyseverfahren.

1. Statische Analyse von KI-Modellen: Die Modelldateien werden auf verdächtige Bestandteile, versteckten Schadcode und potenzielle Manipulationen überprüft, ohne das Modell auszuführen. Unterstützt werden verschiedene verbreitete Modelldateiformate, darunter PyTorch, TensorFlow, ONNX und SafeTensors. 
2. Dynamische Analyse des KI-Verhaltens: Laufende Sprachmodelle werden mit gezielten Testanfragen, sogenannten adversarialen Prompts, auf potenzielle Schwachstellen untersucht. So lässt sich beispielsweise überprüfen, ob ein KI-Modell durch manipulierte Eingaben Sicherheitsregeln umgeht oder unerwünscht vertrauliche Informationen preisgibt. 

Welchen Nutzen bietet MetaDefender Aether für Unternehmen?

Gerade beim Einsatz externer KI-Modelle entstehen neue Herausforderungen für die IT-Sicherheit. Ein Praxisbeispiel: Ein Unternehmen möchte ein extern entwickeltes KI-Modell für einen internen Chatbot einsetzen. Bevor das Modell produktiv verwendet wird, kann MetaDefender Aether die Modelldatei auf Sicherheitsrisiken untersuchen und das Verhalten des laufenden Modells überprüfen.

Die Lösung unterstützt Unternehmen insbesondere bei:

• der Erkennung bekannter und unbekannter Malware
• der Analyse von Zero-Day-Bedrohungen
• der Sicherheitsprüfung externer KI-Modelle
• der Identifikation potenzieller Schwachstellen in LLMs
• der Reduzierung von Risiken in der KI-Lieferkette
• der Verbesserung bestehender Cybersecurity-Prozesse.

Die Sicherheitsprüfungen helfen, Risiken frühzeitig zu erkennen. Eine vollständige Sicherheit aller geprüften KI-Modelle kann dadurch jedoch nicht garantiert werden.

Fazit: Next-Generation-Sandbox trifft KI-Sicherheit

Mit der neuen LLM-Scanning-Funktion entwickelt OPSWAT MetaDefender Aether über die klassische Sandbox-Analyse hinaus weiter. Unternehmen können nicht nur verdächtige Dateien und Schadsoftware analysieren, sondern auch KI-Modelle vor ihrem produktiven Einsatz auf Sicherheitsrisiken untersuchen. Damit adressiert OPSWAT eine zunehmend wichtige Herausforderung moderner IT-Sicherheit: Nicht nur die IT-Infrastruktur muss geschützt werden, sondern auch die künstliche Intelligenz, die darin eingesetzt wird.

Mehr erfahren

• Unverbindliche Anfrage
• Über OPSWAT
• Cybersecurity bei ProSoft