Die Herausforderung
Unternehmen wollen die Produktivitätsvorteile von ChatGPT & Co. nutzen, stehen aber vor Hürden:
- Datenschutz: Sensible Unternehmensdaten dürfen nicht zu OpenAI oder Anthropic
- DSGVO-Compliance: Verarbeitung muss in der EU erfolgen
- AI Act: Schulungspflichten und Dokumentation sind erforderlich
- Integration: Anbindung an interne Systeme (SharePoint, Datenbanken, APIs) ist komplex
- Erweiterbarkeit: Proprietäre Lösungen lassen sich kaum anpassen
Die Lösung
CompanyGPT ist ein erweiterbarer KI-Assistent auf Open-Source-Basis, der vollständig in der Cloud des Kunden läuft. innFactory liefert die technische Implementierung und den laufenden Betrieb.
Multi-Model Support
Alle führenden LLMs in einer Oberfläche - der Kunde wählt, welche Modelle aktiviert werden:
| Provider | Modelle |
|---|---|
| OpenAI | GPT-4o, GPT-4o-mini, o1, o3 |
| Anthropic | Claude 3.5 Sonnet, Claude 3 Opus |
| Gemini 2.0 Flash, Gemini 1.5 Pro | |
| AWS Bedrock | Claude, Titan, LLama |
| STACKIT | LLama 3 (souverän) |
Erweiterbarkeit mit MCP & n8n
Model Context Protocol (MCP) ermöglicht die Anbindung beliebiger Datenquellen:
- SharePoint-Integration mit Berechtigungssynchronisation
- Datenbank-Anbindung (SQL, CosmosDB, PostgreSQL)
- REST-API-Integration für interne Services
- Websuche mit Quellenangaben
n8n Automation für KI-gestützte Workflows:
- Automatische Dokumentenerstellung
- E-Mail-Klassifizierung und -Beantwortung
- Ticket-Routing und -Zusammenfassung
Enterprise-Features
- SSO-Anbindung (Entra ID, Keycloak, OIDC)
- Corporate Branding der Oberfläche
- Agent Marketplace für interne KI-Agenten
- Memory-Funktion für kontextbewusste Gespräche
- Audit-Logging für Compliance
Open Source & GitOps
CompanyGPT basiert auf LibreChat und anderen Open-Source-Komponenten:
- Keine Vendor-Lock-In durch proprietäre Software
- Volle Transparenz über den Code
- GitOps-Deployment mit Flux CD
- Automatische Updates über GitHub Actions
Technische Architektur (Azure)
| Layer | Technologie |
|---|---|
| Cloud | Microsoft Azure (auch AWS/STACKIT) |
| Container | AKS (Azure Kubernetes Service) |
| Datenbank | CosmosDB, Azure Postgres |
| Storage | Azure Blob Storage |
| Auth | Entra ID (Azure AD) |
| LLMs | Azure OpenAI, Vertex AI, Bedrock |
| Deployment | Flux CD, GitHub Actions |
| Monitoring | Azure Monitor, Grafana |
Unsere Leistungen
- Architektur-Design für kundenspezifische Cloud-Umgebung
- Kubernetes-Setup (AKS/EKS) für hochverfügbaren Betrieb
- SSO-Integration mit Entra ID oder Keycloak
- MCP-Server-Entwicklung für Custom-Integrationen
- n8n-Workflow-Entwicklung für Automatisierungen
- GitOps-Pipeline mit Flux CD
- DevOps & SRE für laufenden Betrieb
- AI-Act-Schulungen für Mitarbeiter
Referenzkunden
CompanyGPT ist bei über 20 Unternehmen verschiedener Branchen im Einsatz:
- Schön Kliniken - Medizinische Dokumentation
- Rohrdorfer - Wissensmanagement in der Baustoffindustrie
- AVG Mercedes - Kundenservice im Automotive-Bereich
- Duschl Ingenieure - Technische Dokumentation
- ift Rosenheim - Forschungsdokumentation
- Huber & Sohn - Projektplanung im Holzbau
- und weitere…
Warum CompanyGPT?
| Aspekt | ChatGPT/Claude | CompanyGPT |
|---|---|---|
| Datenhoheit | Bei OpenAI/Anthropic | In Ihrer Cloud |
| DSGVO | Problematisch | Vollständig konform |
| Erweiterbar | Begrenzt | Unbegrenzt (MCP, n8n) |
| Branding | Nicht möglich | Vollständig |
| Open Source | Nein | Ja (LibreChat) |
| AI Act | Unklar | Inklusive Schulung |
Verknüpfte Leistungen: KI & Machine Learning | Azure Cloud | AWS Cloud | STACKIT Cloud
