Prompt Security, Inc. gibt seine Partnerschaft mit F5 zur Bereitstellung einer Firewall für KI-Anwendungen auf F5 Distributed Cloud Services bekannt. Diese gemeinsame Lösung zielt darauf ab, den wachsenden Bedarf an Schutz für Anwendungen, die durch generative KI (GenAI) betrieben werden, zu decken, da diese Anwendungen Unternehmen einer völlig neuen Angriffsfläche aussetzen. Die Firewall für KI von Prompt Security, die jetzt auf dem Distributed Cloud Services App Stack von F5 verfügbar ist, wird Unternehmen in vier Schlüsselbereichen der GenAI-Sicherheit einen Mehrwert bieten: Adressierung von GenAI-spezifischen Sicherheitsrisiken: GenAI hat eine Reihe neuer Sicherheitsrisiken mit sich gebracht, wie z.B. Prompt Injection, Jailbreaking, Denial of Wallet und mehr.

Der gesamte Datenverkehr zu GenAI-Anwendungen wird durch Prompt Security geleitet und bietet vollständige Transparenz und Schutz für eingehende Prompts. Sicherstellung des Datenschutzes und Verhinderung von Datenlecks: Um ein optimales Benutzererlebnis zu bieten, haben GenAI-Anwendungen in der Regel Zugriff auf Unternehmensressourcen, aber auch auf LLMs und Vektordatenbanken von Drittanbietern. Prompt Security kann alle sensiblen Daten im laufenden Betrieb filtern und verschleiern, so dass Unternehmen ihre Daten geheim halten und die Vorschriften einhalten können.

Moderation der von LLMs produzierten Inhalte: Genauso wichtig wie die Überprüfung von Benutzer-Prompts, bevor sie in die Systeme des Unternehmens gelangen, ist es, sicherzustellen, dass die von LLMs erzeugten Antworten sicher sind und keine schädlichen oder schädlichen Inhalte enthalten, die dem Unternehmen schaden könnten. Implementierung von Governance und Transparenz: App-Entwickler und Sicherheitsteams müssen den ein- und ausgehenden Datenverkehr von GenAI-Apps an allen möglichen Stellen überwachen. Dies wird mit der Verschärfung der Vorschriften rund um KI immer wichtiger werden.

Prompt Security bietet eine vollständige Protokollierung jeder Interaktion mit selbst entwickelten GenAI-Apps, einschließlich Benutzer, Eingabeaufforderung, Antwort, Ergebnisse und mehr.