TÜV NORD GPT: Entwicklung der KI-Assistenz
Foto: Henning Scheffen/TÜV NORD AG
GenAI für den Prüfkonzern
Neue Technologien prüfen und selbst nutzen
Der Prüfkonzern TÜV NORD GROUP agiert weltweit, seine mehr als 14.000 Mitarbeitenden verfügen über ein umfangreiches Wissen. „Unser Ansatz als TÜV-Unternehmen besteht darin, neue Technologien für den Masseneinsatz zugänglich zu machen, indem wir sie prüfen und damit die Sicherheit unterstützen. Neue Technologien wie die generative KI GPT, die uns überzeugen und die sicher einsetzbar sind, nutzen wir auch selbst,“ beschreibt Leroy Racette, Bereichsleiter EDV der TÜV NORD Service, die Zielsetzung des Projekts.
- Microsoft Azure
- OpenAI
- Postgres in Azure
- Terraform
- Python
- FastAPI
- Langchain
- React
- Azure WebApp
- seit September 2023
- Data Scientisten und Software Engineers
Technologien
Projektdauer
Team
Fotos: Henning Scheffen/TÜV NORD AG, Udo Geisler/TÜV NORD AG, Eric Shambroom/TÜV NORD , Armin Huber/TÜV NORD AG, DMT, Daniela Kleiber/TÜV NORD , TÜV NORD AG, Antoine Heusse/ALTER, Enrique Gomes Nuñez/ALTER
Unser Vorgehen
User können mit ihren Dokumenten chatten
Wir haben ein Frontend und ein Backend über Microsoft Azure App Service bereitgestellt. Im nächsten Schritt, „Chat with your PDF“, geben wir dem Nutzer die Möglichkeit, Dokumente hochzuladen. Diese werden dann in Echtzeit indiziert und als semantische Vektoren in einer Azure-managed PostGres Vektordatenbank abgespeichert. Somit kann der Chatbot auf sprachlicher Ebene Informationen aus den Dokumenten ziehen.
Unsere Herausforderung
Sicherer Betrieb in der Microsoft Azure Cloud
Foto: Henning Scheffen/TÜV NORD AG
Unser Ergebnis
KI-Assistenz fördert Wissens-Management im Konzern
„Die Mitarbeitenden können TÜV NORD GPT vielseitig als persönliche Assistenz einsetzen, etwa um sich durch umfangreiche Dokumente zu arbeiten, die eigene Recherche zu unterstützen oder für zum Beispiel die Produktentwicklung neuen Input zu generieren“, betont Leroy Racette, Bereichsleiter EDV der TÜV NORD Service, und fügt hinzu, dass „die Weiterentwicklung eines eigenen Firmen-GPTs der richtige Weg in eine zukunftsorientierte Richtung ist“.
Inzwischen erfreut sich die KI-Hilfe immer größerer Beliebtheit, was dies unterstreicht: Im ersten Monat der Einführung (Februar 2023) verzeichnete TÜV NORD über 33.000 Anfragen an das System im produktiven Einsatz, zunehmend auch in den 40 Auslandsgesellschaften.
Die TÜV NORD Akademie begleitete den Start von TÜV NORD mit Schulungen und Sensibilisierungskampagnen. .
„Die letzten vier Monate zeigen eine zunehmend intensivere Nutzung des Systems und vor allem ein Auseinandersetzen mit den Möglichkeiten. Nachdem wir die letzte Zeit genutzt haben, um TÜV NORD GPT auf ein gutes Fundament zu setzen, freuen sich die Mitarbeitenden aus den Business Units über bald folgende Custom GPTs – so können wir unsere Fachbereiche mit gemeinsam befragbaren Dokumenten befähigen effizienter in einer Vielzahl von Unterlagen zu suchen und damit zu arbeiten“ stellt Philipp Tetzlaff, Abteilungsleiter TÜV NORD Service, in Aussicht.
Referenz?
Referenz?
Mehr erfahren