Persistent Systems kündigte die Einführung von GenAI Hub an, einer innovativen Plattform, die die Erstellung und den Einsatz von generativen KI-Anwendungen (GenAI) in Unternehmen beschleunigen soll. Die Plattform lässt sich nahtlos in die bestehende Infrastruktur, Anwendungen und Daten eines Unternehmens integrieren und ermöglicht die schnelle Entwicklung maßgeschneiderter, branchenspezifischer GenAI-Lösungen. GenAI Hub unterstützt die Einführung von GenAI über verschiedene Large Language Models (LLMs) und Clouds hinweg, ohne sich an einen Anbieter zu binden.

Um das Potenzial von GenAI effektiv zu nutzen und Ideen in greifbare Geschäftsergebnisse umzusetzen, müssen Unternehmen GenAI nahtlos in ihre bestehenden Systeme integrieren. Mit einer breiten Palette von KI-Modellen, die von umfangreich bis spezialisiert reichen, benötigen Kunden eine robuste Plattform wie den GenAI Hub. Diese Plattform vereinfacht die Entwicklung und Verwaltung mehrerer GenAI-Modelle und beschleunigt die Marktreife durch vorgefertigte Softwarekomponenten, während gleichzeitig verantwortungsvolle KI-Prinzipien eingehalten werden. Der GenAI Hub besteht aus fünf Hauptkomponenten: Playground ist ein No-Code-Tool für Domänenexperten, um GenAI mit LLMs auf Unternehmensdaten zu erforschen und anzuwenden, ohne dass Programmierkenntnisse erforderlich sind.

Es bietet eine einheitliche Schnittstelle zu LLMs von privaten Anbietern wie Azure OpenAI, AWS Bedrock und Google Gemini sowie zu offenen Modellen von Hugging Face wie LLaMA2 und Mistral. Agents Framework bietet eine vielseitige Architektur für die Entwicklung von GenAI-Anwendungen und nutzt Bibliotheken wie LangChain und LlamaIndex für innovative Lösungen, einschließlich Retrieval Augmented Generation (RAG). Evaluation Framework verwendet einen "KI zur Validierung von KI"-Ansatz und kann automatisch Basisfragen generieren, die von einem Menschen in der Schleife überprüft werden.

Es setzt Metriken ein, um die Leistung der Anwendung zu verfolgen und misst alle Abweichungen und Verzerrungen, die behoben werden können. Gateway dient als Router zwischen den LLMs, ermöglicht Anwendungskompatibilität und verbessert die Verwaltung von Serviceprioritäten und Lastausgleich. Außerdem bietet es detaillierte Einblicke in den Token-Verbrauch und die damit verbundenen Kosten.

Custom Model Pipelines erleichtern die Erstellung und Integration von maßgeschneiderten LLMs und Small Language Models (SLMs) in das GenAI-Ökosystem und unterstützen einen rationalisierten Prozess für die Datenaufbereitung und die Feinabstimmung von Modellen, der sich sowohl für Cloud- als auch für On-Premises-Implementierungen eignet. Der GenAI Hub vereinfacht die Entwicklung von Anwendungsfällen für Unternehmen. Er bietet eine schrittweise Anleitung und eine nahtlose Integration von Daten in LLMs und ermöglicht so die schnelle Erstellung von effizienten und sicheren GenAI-Lösungen im großen Maßstab, sei es für Endbenutzer, Kunden oder Mitarbeiter.