Die Nutzung von Künstlicher Intelligenz (KI) revolutioniert zahlreiche Lebens- und Arbeitsbereiche. Insbesondere LLMs eröffnen neue Möglichkeiten, Aufgaben effizienter zu lösen. Cloudbasierte KI-Dienste werfen regelmäßig Fragen zum Datenschutz auf, da sensible Daten auf externen Servern verarbeitet werden, die oft außerhalb der Kontrolle der Nutzer:innen liegen.

Die Präsentation demonstriert, wie lokal ausgeführte Large Language Models (LLMs) eine datenschutzkonforme Alternative darstellen und Unternehmensprozesse durch den Einsatz von KI effizienter gestaltet werden können. Mit diesen Modellen lassen sich leistungsstarke KI-Funktionen nutzen, ohne dass personenbezogene oder vertrauliche Daten in die Cloud übertragen werden müssen. Dadurch können sowohl unternehmensinterne Daten als auch Daten von Kundinnen und Kunden sicher verarbeitet werden.

Anhand konkreter Beispiele wird gezeigt, wie Open-Source-Modelle wie LLaMA, Mistral oder Gemma lokal eingesetzt werden können und welche Hardware dafür erforderlich ist. Zusätzlich wird erläutert, wie Retrieval Augmented Generation (RAG) verwendet werden kann, um Informationen zu integrieren, die dem Modell nicht bekannt sind, wie etwa sensible unternehmensinterne Daten oder spezifische Kundenanfragen.

Weitere Informationen und die Anmeldung finden Sie hier.