TrojAI

TrojAI ist eine Plattform, die auf die Sicherung von KI-Modellen (Artificial Intelligence) und Anwendungen vor Risiken und potenziellen Angriffen spezialisiert ist. Die Plattform verfügt über zwei Hauptkomponenten: TrojAI::DETECT und TrojAI::DEFEND. TrojAI::DETECT integriert sich in KI- und MLOps-Workflows, um KI-Modelle automatisch zu penetrieren, bevor sie in die Produktion gehen, und hilft Unternehmen, verborgene Risiken und Schwachstellen zu identifizieren, um eine reibungslose KI-Adoption und Compliance zu gewährleisten. TrojAI::DEFEND schützt gegen Echtzeit-Angriffe mit einer Regel-Engine, die von Data Science untermauert wird. Es ermöglicht auch die sichere Nutzung öffentlicher KI-Dienste durch Filterung des Datenverkehrs zu und von Diensten, um Aktivitäten zu blockieren, zu schwärzen und zu prüfen. Darüber hinaus unterstützt die Plattform Organisationen bei der Navigation durch komplexe regulatorische Rahmenwerke und Benchmarks für KI und hilft dabei, die Compliance zu gewährleisten, ohne die KI-Adoption zu verlangsamen. Es testet Modelle vor der Bereitstellung, um einen potenziellen Verlust sensibler Daten zu verhindern, sobald die Anwendungen eingesetzt sind.