just AI
plugnpl.ai das Konzept hinter dem Supporthub
Der Supporthub basiert auf dem von just experts entwickelten plugnpl.ai-Konzept. Die Grundidee ist es, maximale Flexibilität bei der Integration von beliebigen Datenquellen, AI-Modellen und Funktionen zu gewährleisten und diese direkt nutzen zu können: anschließen und loslegen.
Das plugnpl.ai-Konzept und die Anforderungen und Ziele modernster Software-Entwicklung sind die Basis des Supporthubs, der von just experts entwickelten AI-Plattform.
Anforderungen und Ziele
Die 3 Prinzipien von plugnpl.ai sind Flexibilität, Agilität und Geschwindigkeit.
Dafür wird die Plattform den folgenden Anforderungen gerecht:
- Die Kernanwendung wird regelmäßig gewartet und zentral aktualisiert. Essentielle Updates werden zentral entwickelt und können in verschiedene Umgebungen und an verschiedene Organisationen ausgerollt werden.
- Enable custom development
- Jedes Unternehmen kann seine eigenen AI-basierten Komponenten entwickeln, die leicht in die Plattform integriert werden können. Dadurch kann plugnpl.ai je nach Bedürfnissen individuell angepasst werden. Diese individuellen Entwicklungen können im Rahmen der Supporthub-Community mit anderen Entwickler:innen geteilt und erweitert werden
AI ermöglicht es den Menschen effizienter zu arbeiten. Als Grundlage dazu sind alle Anwendungen sofort verfügbarund verfügen über eine angemessene Geschwindigkeit, ohne Verzögerung.
Stateless Components sind Elemente, die keine internen Daten speichern oder verändern. Sie funktionieren ausschließlich auf Basis der ihnen übergebenen Informationen und liefern stets das gleiche Ergebnis für die gleichen Eingaben. Dadurch sind sie in der Regel einfacher zu verstehen und zu testen und sorgen für eine bessere Performance.
Weiterentwicklungen und Updates von plugnpl.ai können „one-click“ ausgerollt werden. Keine aufwendigen und manuellen Deployments.
Sobald es neue Services und Funktionen in der Infrastruktur gibt, werden diese sofort in Deine Infrastrukturkomponenten integriert. Dadurch werden technische Komplikationen vermieden und schnelle Weiterentwicklungen ermöglicht.
Flexibilität macht unsere Plattform aus. Individuelle Features oder spezifische Funktionen können mit wenig Aufwand integriert werden, so kannst du z.B. dein Ticket-System mit der Plattform verbinden oder mögliche Qualitätsprobleme in der Produktion durch vortrainierte LLMs erkennen lassen. Solange Du es dir vorstellen kannst, können wir es auch umsetzen, es gibt keine Grenzen!
Sicherheit steht bei uns an vorderster Stelle. Die Software wurde von Anfang an, in allen Elementen sicher und integriert gestaltet. Sichere Code-Entwicklung, kontinuierliche und integrierte Authentifizierung – interaktiv und nicht-interaktiv
In der Supporthub Oberfläche integrieren wir Dein Logo und Deine Markenfarben nach Deinen Vorstellungen, um die Lösung nahtlos in Dein CI und deine Systeme einzufügen. Auch Funktionen wir die Integration eines Firmenprofil und industriespezifische Prompt-Eigenschaften lassen sich nahtlos einbinden.
Weißt Du, was die nächsten großen AI-Trends sein werden? Nein? Wir auch nicht! Aber wir sind bereit, diese in unsere Plattform zu integrieren, was auch immer es sein mag.
Das Betriebsmodell des Supporthubs ist maßgeschneidert für deine Organisation und kann für jeden Bedarf und jede Skalierung angepasst werden: Von deinem Code auf deiner Infrastruktur bis hin zu einem schlankem SaaS-Modell.
Entwickler sollten sich auf das Entwickeln konzentrieren und ihre Zeit nicht mit händischen Integration und Deployment Aufgaben, aufwendiger Konfiguration oder Netzwerkproblemen verschwenden. Automatisierungen, Standardisierung und eine hohe Integrierbarkeit senken diese Aufgabe auf ein absolutes Minimum.
10 Benutzer:innen oder 10.000 Benutzer:innen pro Tag, die Performance der Plattform bleibt gleich hoch.
Alles automatisieren, was mehr als einmal gemacht werden muss. Repetitive Aufgaben oder Prozessschritte übernimmt die Plattform.
Lange warten bis Deine Antwort vom LLM vollständig generiert wurde? Nicht auf der plugnpl.ai Plattform – Alle Antworten werden Geräte und Session-übergreifend sofort und verhalten sich synchron. Parallel von Handy und Laptop eine Anfrage versenden? Auch kein Problem – deine Anfragen werden gleichzeitig bearbeitet!
Multi Layer Architecture
Eine Multi-Layer-Architektur ist ein umfassendes Systemdesign, das verschiedene Schichten umfasst, um spezifische Aufgaben zu bewältigen und eine effiziente, flexible und leicht zu wartende Infrastruktur zu schaffen.
Diese Ebene bezieht sich auf die Menschen, die mit dem System interagieren. Sie umfasst:
- Comprehensive Training Concept: Ein umfassendes Schulungskonzept, das sicherstellt, dass alle Nutzer gut vorbereitet sind, um die Systeme effektiv zu nutzen.
- Seamless SSO with Entra ID / Graph Integration: Eine nahtlose Single Sign-On (SSO) Lösung, die den Zugriff auf das System vereinfacht und sicherstellt, dass Benutzer sich nur einmal anmelden müssen, um auf alle Ressourcen zuzugreifen.
Diese Schicht enthält die Anwendungen und Dienste, die Endbenutzer direkt nutzen. Dazu gehören:
- Supporthub Web App: Eine Webanwendung, die verschiedene Support-Funktionen wie Websearch, übersetzen oder umformulieren bietet.
- Customer Specific ERP Integration: Integration mit spezifischenS ERP-Systemen, um die Geschäftsprozesse zu optimieren.
- Power Automate Integration: Automatisierung von Workflows und Prozessen durch Integration mit Power Automate.
- Teams Client Integration: Integration in Microsoft Teams, um die Zusammenarbeit und Kommunikation zu verbessern und Daten und Informationen aus Teams nutzen zu können.
- Edge Integration: Ermöglicht Anwendungen, direkt mit Geräten am Rand des Netzwerks, wie Sensoren oder Maschinen, zu kommunizieren und Daten in Echtzeit zu verarbeiten. Dies führt zu schnelleren Reaktionen und effizienteren Abläufen, da die Daten nicht erst durch das gesamte Netzwerk gesendet werden müssen.
Diese Schicht stellt sicher, dass verschiedene Systeme nahtlos miteinander kommunizieren können. Sie umfasst:
- Supporthub API: Eine API, die den Zugriff auf die Funktionen von Supporthub ermöglicht.
- „Feature XY“ API-Scope: Spezifische API-Scopes, die die Anpassung und Erweiterung der Funktionen ermöglichen.
Diese Schicht ist für die Verarbeitung und Analyse von Daten verantwortlich. Hierzu gehören:
- Optimized ChatGPT Connect: Optimierte Verbindungen zu ChatGPT, um leistungsstarke KI-Funktionen bereitzustellen.
- Generic LLM Connect: Verbindungen zu generischen Large Language Models (LLMs) für verschiedene Anwendungsfälle.
- Analytics Tool for SQL: Werkzeuge zur Analyse von SQL-Daten.
- Websearch: Suchfunktionen im Web zur Anbindung aktuellster Informationen.
- Sales Agent: AI-gesteuerte Vertriebsagenten, die den Verkaufsprozess unterstützen.
Diese Schicht umfasst beliebige Large Language Models (LLMs), die für verschiedene Aufgaben genutzt werden können:
- ChatGPT on Azure: Bereitstellung von ChatGPT auf der Azure-Plattform.
- ChatGPT on OpenAI: Nutzung von ChatGPT über die OpenAI-Plattform.
- Self Hosted, Self Trained LLM: Eigene gehostete und trainierte LLMs.
- Jede 3rd-Party LLM-API (wie z.B. groq (Llama 3) oder Google Gemini): Nutzung von LLMs von Drittanbietern wie groq oder Google.
Diese Schicht ist für die Speicherung und Verwaltung von Daten verantwortlich:
Persistente Datenspeicherung (z.B. Kontext oder Softwarenutzung): Dauerhafte Speicherung von Daten, die für den Kontext und die Nutzung relevant sind.
Diese Schicht umfasst die spezifischen Datenstrukturen des Unternehmens:
Diese Multi-Layer-Architektur ermöglicht es, unterschiedliche Aufgaben effizient zu verwalten und flexibel auf sich ändernde Anforderungen zu reagieren. Jede Schicht ist auf bestimmte Funktionen spezialisiert und trägt dazu bei, dass das Gesamtsystem robust, skalierbar und einfach zu warten ist.
Operating Model
Unser Betriebsmodell bietet flexible Lösungen, die sich einfach an Deine individuellen Bedürfnisse und Skalierungsanforderungen anpassen lassen. Es umfasst mehrere Migrationspfade und Infrastrukturoptionen, die speziell auf verschiedene Szenarien zugeschnitten sind:
als SaaS
(Software as a Service)
- Eigene Datenbank, unser Entra ID (B2C/B2B)
- Enthaltene Dienste:
- Entra Identity
- Static Apps
- Chat-Service
- Dedizierte SQL-Datenbank
- Gemeinsame Umgebung, Deine Entra ID
- Enthaltene Dienste:
- Entra Identity
- Static Apps
- Chat-Service
- Dedizierte SQL-Datenbank
- Eigene Umgebung, Ihre Entra ID
- Enthaltene Dienste:
- Entra Identity
- Static Apps
- Chat-Service
- Dedizierte SQL-Datenbank
oder Deine Infrastruktur
- Eigene Datenbank, unser Entra ID (B2C/B2B)
- Enthaltene Dienste:
- Entra Identity
- Static Apps
- Chat-Service
- Dedizierte SQL-Datenbank
- Eigene Repositories, eigener Kundenbranch (dev/stage/prod)
- Enthaltene Dienste:
- Entra Identity
- Static Apps
- Chat-Service
- Dedizierte SQL-Datenbank
Unser Modell erleichtert die Migration und bietet eine nahtlose Integration Deiner bestehenden Infrastruktur. Egal ob Du eine geteilte Umgebung oder eine dedizierte Umgebung bevorzugst, wir haben die passende Lösung für Dich.
Design Prinzipien
Die Design Prinzipien der Architektur sind darauf ausgerichtet, Flexibilität und Agilität zu maximieren, während Risiken minimiert werden.
Multi Layer Architecture
In einer mehrschichtigen Softwarearchitektur besteht das System aus verschiedenen Ebenen oder Layers (multi-layer architecture), die jeweils dedizierte Aufgaben erfüllen. Jede dieser Ebenen kann individuell angepasst werden, indem z.B. kundenspezifische Module hinzugefügt werden, ohne die Funktionsfähigkeit des gesamten Systems zu beeinträchtigen.
Wenn sich die technologische Umgebung ändert, aktualisiert sich die betroffene Ebene, ohne dass die anderen Ebenen davon beeinflusst werden. Das bedeutet, dass das System flexibel und anpassbar bleibt, auch wenn sich die Anforderungen oder Technologien ändern. Einzelne Ebenen und Funktionen können beliebig integriert werden: anderes Frontend? Dann schließe dich direkt an das Integration Layer an; eigenes LLM? Dann kann dieses in das LLM Layer integriert werden.
SaaS or Azure Subscription
Wir bieten Dir die Möglichkeit, unsere Software entweder als SaaS (Software–as–a–Service) zu nutzen oder die Plattform in Deinem eigenen Azure-Abonnement zu hosten. Bei der SaaS-Option kümmern wir uns um die gesamte Infrastruktur und Wartung, sodass Du ohne eigenes Hosting auf die Software zugreifen kannst. Wenn Du die Plattform in Deinem eigenen Azure-Abonnement hostest, hast Du die Kontrolle über die Installation und Verwaltung der Software in Deiner eigenen Cloud-Umgebung. Unabhängig davon, welche Option Du wählst, können alle Benutzer regelmäßige Updates erhalten, um sicherzustellen, dass die Software immer auf dem neuesten Stand ist und die bestmögliche Leistung bietet.
All modular units
Alle Komponenten wurden als stateless, eigenständige Module, um Anpassungen zu ermöglichen. Zustandslos bedeutet, dass die Dienste keine Daten speichern und unabhängig arbeiten. Die Module sind kleine, separate Teile, die leicht angepasst oder separiert werden können. Alles ist parametriert, was flexible Einstellungen erlaubt, um auf unterschiedliche Anforderungen zu reagieren.
Entra ID integrated
Blitzschnelles und sicheres Anmelden über Entra ID (ehem. Azure Active Directory) ermöglicht eine integrierte Anmeldung via Single SignOn (SSO), inkl. Multifaktor Authentifizierung wenn eingerichtet.
Graph API integrated
Das Supporthub kennt deinen Entra-Nutzer – Profilbild, Anzeigeame, Gruppenmitgliedschaften werden synchronisiert. Eine native Darstellung der Teams inklusive Kanäle u.v.m. ist über die Integration der Microsoft Graph Schnittstelle problemlos im User-Kontext möglich.
API contracts
Um robuste und zukunftssichere API-Verträge zu entwerfen, werden klare und stabile Schnittstellen definiert, die sich leicht erweitern lassen. Dies ermöglicht eine einfache Integration neuer Funktionen und Erweiterungen sowohl im Backend als auch im Frontend, ohne bestehende Implementierungen zu beeinträchtigen. Zudem sind detaillierte Dokumentationen und Versionierungssysteme vorhanden, um eine reibungslose Weiterentwicklung und eine Erweiterung der Nutzung der API an verschiedenen Stellen zu gewährleisten.
Floating platform
Wenn ein Teil der Plattform z.B. von einem der Hyperscaler einfacher und/ oder besser gelöst wird, ist das kein Problem: Wir nutzen und integrieren die Innovation, anstatt zu versuchen, die führenden Innovatoren zu übertreffen. Unser Fokus liegt darauf, die besten Lösungen für unsere Kunden zu bieten, unabhängig davon, wer sie entwickelt hat. Durch diese Herangehensweise können wir stets die fortschrittlichsten Technologien nutzen und unser Angebot kontinuierlich verbessern.
All Infrastructure as Code (IaC)
Alle Infrastrukturkomponenten werden von Anfang an als „Infrastructure as Code“ (IaC) definiert, um eine mühelose Bereitstellung und Skalierung zu ermöglichen. So kann jede Änderung der Infrastruktur automatisiert, konsistent und nachvollziehbar durchgeführt werden.
All Zero Trust
Wir implementieren Zero-Trust-Design-Prinzipien von der ersten Codezeile an. Zero Trust geht davon aus, dass niemandem vertraut wird, egal ob innerhalb oder außerhalb des Netzwerks. Jede Anfrage wird überprüft und authentifiziert, bevor Zugriff gewährt wird.
Pay per Usage
Wir entwickeln alle Systemkomponenten so, dass sie nur bei Nutzung Kosten verursachen. Das senkt feste Kosten und ermöglicht flexible, effiziente Ausgaben.
Infrastruktur
Unsere Infrastruktur gewährleistet eine nahtlose Integration und bietet dir eine hoch performante, flexible und skalierbare Lösung. Die Benutzeroberfläche beginnt mit dem User, der über Static Apps (Frontend),APIs und HTTP (HTTP, ) auf unsere Services zugreift.
- Die Entra ID verwaltet die Authentifizierung, während der API Management Service dafür sorgt, dass alle API-Anfragen effizient und sicher abgewickelt werden.
Der Chat-Service ermöglicht Echtzeitkommunikation und interagiert über WebSockets mit Web PubSub für das Streamingund Broadcasting. Die Daten werden sicher im SQL-Server gespeichert und verwaltet.
Für die Nutzung modernster AI-Technologien bieten wir OpenAI on Azure, dass über die Chat Completion API integriert ist und Streaming (SSE) ermöglicht.
Unsere Infrastruktur umfasst zudem wichtige Dienste wie Application Insightsfür die Überwachung und Analyse, Key Vault für die sichere Verwaltung von Schlüsseln und Graph API für komplexe Datenabfragen und Interaktionen.
Die gesamte Infrastruktur wird über Terraform verwaltet, was eine konsistente und wiederholbare Bereitstellung ermöglicht.
Diese umfassende Architektur stellt sicher, dass deine Anwendungen nicht nur sicher und zuverlässig sind, sondern auch jederzeit an neue Anforderungen angepasst werden können.
CI/CD
Continuous deployment and integration
Wir haben einen umfassenden kontinuierlichen Integrations- und Bereitstellungsprozess aufgebaut, der blitzschnelle Deployments ohne Ausfallzeiten ermöglicht und die Entwicklung individueller Lösungen unterstützt. Unser Prozess ist in zwei Hauptbereiche unterteilt:
- Entwicklungsumgebung und
- Kundenumgebung
Entwicklungsumgebung
- Deine Entwickler schreiben den Code und checken ihn in Azure Repos ein.
Der Code wird sicher in Azure Repos gespeichert.
- Der Code durchläuft eine Reihe von Tests:
- Linting
- Unit-Tests
- End-to-End-Tests
- PR-Überprüfung
- Der geprüfte Code wird weiterverarbeitet:
- Bereitstellung in der Staging-Umgebung
- Akzeptanztests
- Bereitstellung in der Produktionsumgebung
Kundenumgebung
- Du checkst Deinen Code in das Customer Repos ein.
Der Code durchläuft ebenfalls Tests (ähnlich wie in der Entwicklungsumgebung).
Der Code wird in verschiedene Umgebungen bereitgestellt:
- Dev: Chat-Service, Static Apps, Infrastruktur via IaC/Terraform
- Stage: Chat-Service, Static Apps, Infrastruktur via IaC/Terraform
- Prod: Chat-Service, Static Apps, Infrastruktur via IaC/Terraform
- Prod Customer: Chat-Service, Static Apps, Infrastruktur via IaC/Terraform
Deine Kundenumgebung kann entweder als SaaS (Software-as-a-Service) oder über Dein eigenes Azure-Abonnement betrieben werden.
Entwicklungspartnerschaft
Let’s start
together
Profitiere von den Errungenschaften der Plugnpl.ai-Community und werde ein aktiver Teil der Zukunft der AI!