TTK25 KI & Digitalisierung Dr. Thomas Eisenbarth und Michael Leimstädtner – makandra
Dr. Thomas Eisenbarth und Michael Leimstädtner geben beim Technologietransfer-Kongress am 8. April 2025 wertvolle Informationen, wie eine datenschutzfreundliche KI-Nutzung durch lokale LLMs gleingen kann.
"Lokale Sprachmodelle (LLMs) ermöglichen es, KI direkt auf eigenen Rechnern oder Servern auszuführen"
Cloudbasierte KI-Dienste sind praktisch, aber auch ein Datenschutzrisiko. Sensible oder vertrauliche Daten landen auf fremden Servern, oft außerhalb der eigenen Kontrolle. Doch es gibt eine Lösung: Lokale Sprachmodelle (LLMs) ermöglichen es, KI direkt auf eigenen Rechnern oder Servern auszuführen – ohne dabei Datenschutz und Sicherheit aufs Spiel zu setzen.
In diesem Vortrag zeigt Dr. Thomas Eisenbarth (Gründer und Geschäftsführer makandra GmbH) wie Unternehmen KI sicher und datenschutzkonform einsetzen können. Ein besonderer Fokus liegt auf Retrieval Augmented Generation (RAG) – einer Technik, mit der KI unternehmensinterne Informationen gezielt verarbeiten und für Kundenanfragen nutzen kann. So gelingt der effektive und sichere Einsatz von KI, ohne Abhängigkeit von Cloud-Diensten