Software Engineering

Serverless

Industrien

Banken & Versicherungen

Öffentlicher Sektor

Transport & Logistik

Automobil & produzierendes Gewerbe

Sei Teil unserer Community

Arbeit als Cloud Consultant

Kundenstory

Azure OpenAI RAG: Produktivitätssteigerung in Instandhaltung und Wartung

Optimierung des Kunden-Supports durch KI-gestützte Technologie.

Branche

Motorenbau

Firmengröße

> 5.000 Mitarbeiter

Firmenumsatz

2,1 Mrd. EUR
P

Reduktion der Supportkosten

Die erhöhte Erstlösungsquote führte zu einer Reduzierung der internen Supportanfragen und damit verbundenen Kosten.

P

Produktivitätssteigerung

Durch die beschleunigte und effizientere Informationsbeschaffung wurde eine signifikante Produktivitätssteigerung in der gesamten Organisation erzielt.

P

Erhöhte Mitarbeiterzufriedenheit

Schnellere und präzisere Antworten durch den AI-Chatbot verbesserten die Arbeitszufriedenheit und die Effizienz der Mitarbeiter.

P

Stärkung der Wettbewerbsfähigkeit

Die Implementierung fortschrittlicher AI-Technologien positionierte das Unternehmen als Innovationsführer in seiner Branche.

P

Verbesserung des Wissensmanagements

Die dynamische Wissensdatenbank ermöglichte eine bessere Strukturierung und Zugänglichkeit von Unternehmenswissen.

P

Datenschutzkonformität

Die Lösung gewährleistete hohe Standards im Datenschutz und sicherte so die Einhaltung relevanter Vorschriften und Sicherheitsbestimmungen.

 

Projekt-Zusammenfassung:

Für einen führenden deutschen Hersteller von Diesel-, Gas-, Wasserstoff- und elektrifizierten Motoren mit mehr als 5.000 Mitarbeitern haben wir ein innovatives Projekt zur Implementierung eines internen AI-Chatbots realisiert.

Ziel des Projekts war es, die interne Wissensabfrage aus Dokumentationen erheblich zu verbessern, um die Antwortzeiten um 30% zu reduzieren und den Zugang zu Informationen effizienter zu gestalten. Durch den Aufbau und die kontinuierliche Erweiterung einer dynamischen Wissensdatenbank konnte zudem die Lösungsquote bei Erstanfragen um 40% gesteigert werden. Diese Optimierungen tragen maßgeblich zur Entlastung der internen Wissensträger und des Supports bei.

Die Realisierung erfolgte durch die Entwicklung eines lokalen LLM-Modells auf Basis der Azure OpenAI GPT 3.5 Turbo Technologie, ergänzt durch eine spezialisierte Web-Applikation und zugehörige Azure-Infrastruktur.

Herausforderungen:

Lange Antwortzeiten: Der Kunde stand vor der Herausforderung, dass die Antwortzeiten auf interne Anfragen in Bezug auf technische Dokumentationen und Prozesse ineffizient waren. Dies führte zu Verzögerungen in der Informationsbeschaffung, was wiederum die Produktivität und Reaktionsfähigkeit des Unternehmens beeinträchtigte.

Unzureichende Erstlösungsquote: Eine niedrige Lösungsquote bei Erstanfragen belastete zusätzlich die internen Wissensträger und den Support. Mitarbeiter mussten häufig mehrere Anläufe unternehmen oder auf die Hilfe von Experten warten, um die benötigten Informationen zu erhalten. Diese Situation führte zu einer erhöhten Arbeitsbelastung und verlängerten Wartezeiten.

Datenzugriff und -sicherheit: Die sichere Verwaltung und der gezielte Zugriff auf unternehmensinterne Dokumente stellten eine weitere Herausforderung dar. Notwendig war eine Lösung, die es ermöglichte, relevante Dokumente effizient zu indizieren und gleichzeitig den Datenschutz und die Informationssicherheit nach Abteilungen und Benutzergruppen zu gewährleisten.

Lösungen:

Entwicklung eines lokalen LLM-Modells: Um die internen Anforderungen an Datenschutz und Effizienz zu erfüllen, haben wir ein lokales Large Language Model (LLM) auf Basis von Azure OpenAI GPT 3.5 Turbo entwickelt. Dieses Modell wurde speziell für die Verarbeitung und Beantwortung interner Anfragen konfiguriert und auf einer virtuellen Maschine innerhalb der Azure-Infrastruktur des Kunden implementiert.

Aufbau einer dynamischen Wissensdatenbank: Parallel zur Entwicklung des LLM-Modells wurde eine umfangreiche Wissensdatenbank aufgebaut. Diese Datenbank ermöglicht es, kontinuierlich Informationen zu sammeln, zu aktualisieren und den Mitarbeitern zugänglich zu machen. Durch diese ständige Erweiterung konnte die Erstlösungsquote signifikant verbessert werden.

Erstellung einer maßgeschneiderten Web-Applikation: Zur optimalen Nutzung des AI-Chatbots wurde eine benutzerfreundliche Web-Applikation entwickelt. Diese Plattform ermöglicht es den Mitarbeitern, auf einfache Weise Anfragen zu stellen und schnell präzise Antworten sowie relevante Dokumentationen zu erhalten. Die Applikation unterstützt auch die Visualisierung von Antworten mit Abbildungen und direkten Verweisen auf die entsprechenden Seiten in den Dokumenten.

Schulung der Anwender im Prompt Engineering: Ein wichtiger Aspekt des Projekts war die Schulung der Mitarbeiter in der effektiven Nutzung des AI-Chatbots durch gezieltes Prompt Engineering. Dieses Training versetzte die Anwender in die Lage, ihre Anfragen so zu formulieren, dass sie präzise und relevante Antworten erhalten, was die Nutzung des Systems weiter optimierte.

Ergebnisse des Projektes:

  • Reduzierte Antwortzeiten: Durch den Einsatz des AI-Chatbots konnten die Antwortzeiten auf Anfragen um 30% reduziert werden, was zu einer erhöhten Effizienz und Produktivität führte.

  • Verbesserte Erstlösungsquote: Die Lösungsrate bei Erstanfragen erhöhte sich um 40%, was eine signifikante Entlastung für den internen Support und die Wissensträger bedeutete.

  • Erhöhtes Datenschutzniveau: Durch die kapselnde Informationsverwaltung wurden die Datenschutzanforderungen des Unternehmens effektiv umgesetzt, wobei Informationen sicher und gezielt zugänglich gemacht wurden.

  • Kompetenzaufbau im Bereich GenAI: Das Projekt ermöglichte es dem Kunden, umfangreiches Know-How im Bereich der generativen KI-Technologien zu entwickeln, was eine Grundlage für weitere Innovationen innerhalb des Unternehmens schafft.

Geschäfts-Ergebnisse des Projektes:

  • Reduktion der Supportkosten: Die erhöhte Erstlösungsquote führte zu einer Reduzierung der internen Supportanfragen und damit verbundenen Kosten.

  • Produktivitätssteigerung: Durch die beschleunigte und effizientere Informationsbeschaffung wurde eine signifikante Produktivitätssteigerung in der gesamten Organisation erzielt.

  • Erhöhte Mitarbeiterzufriedenheit: Schnellere und präzisere Antworten durch den AI-Chatbot verbesserten die Arbeitszufriedenheit und die Effizienz der Mitarbeiter.

  • Stärkung der Wettbewerbsfähigkeit: Die Implementierung fortschrittlicher AI-Technologien positionierte das Unternehmen als Innovationsführer in seiner Branche.

  • Verbesserung des Wissensmanagements: Die dynamische Wissensdatenbank ermöglichte eine bessere Strukturierung und Zugänglichkeit von Unternehmenswissen.

  • Datenschutzkonformität: Die Lösung gewährleistete hohe Standards im Datenschutz und sicherte so die Einhaltung relevanter Vorschriften und Sicherheitsbestimmungen.

Technology Stack:

  • Azure OpenAI GPT 3.5 Turbo: Kernkomponente für das lokale LLM-Modell zur Verarbeitung von Sprachanfragen.

  • Azure Virtual Machines: Hosting der AI-Modelle und der Anwendungsinfrastruktur in der Cloud.

  • Ada-002 Embeddings: Verwendung für effiziente Dokumentenindizierung und -suche.

  • Microsoft Azure Cloud Services: Umfassende Nutzung für die Bereitstellung der Web-Applikation, Datenbankmanagement und weiterer Services.

  • Web-Applikation Frameworks: Entwicklung einer benutzerzentrierten Schnittstelle für den AI-Chatbot.

  • Prompt Engineering Tools: Einsatz spezieller Software-Tools zur Schulung der Anwender in der effektiven Interaktion mit dem AI-System.

  • Datenbanksysteme für Wissensmanagement: Implementierung dynamischer Datenbanksysteme zur Verwaltung der Wissensdatenbank.

  • Sicherheits- und Datenschutztechnologien: Einsatz von Technologien zur Gewährleistung der Sicherheit und des Datenschutzes der in der Cloud gespeicherten Daten.

Warum Pexon Consulting?

Pexon Consulting hat sich voll und ganz Ihrem Erfolg verschrieben und wir glauben daran, dass wir immer für jeden unserer Kunden die Extrameile gehen:

PexonConsulting 32 min

Hingabe zum Erfolg

Wir glauben, dass Erfolg dreifach ist: für unsere Kunden, ihre Kunden und die Gemeinschaften, die sie beeinflussen.
PexonConsulting 33 min

Fokus auf Leistung

Wir werden Ihr engagierter Partner. Das bedeutet, dass wir ein Projekt erst dann abschließen, wenn sowohl Sie als auch wir zu 100 % zufrieden sind.

PexonConsulting 31 min

Engineering mit Leidenschaft

Wir sind ein Netzwerk von Innovatoren. Wir entwickeln mutige Lösungen für die kompliziertesten Herausforderungen unserer Kunden.

Sie suchen einen Partner für Ihr Projekt?

Wir geben unser Bestes, um Sie zufrieden zu stellen.

Whitepaper: Enterprise ChatGPT in der Praxis

3 Anwendungsfälle mit OpenAI – datenschutzkonform & Referenzarchitektur.

Kostenloses Handbuch: ESG Reporting

Von Grundlagen bis zum automatisierten Report – Alles, was Sie wissen müssen.