Eigene KI statt Cloud? Chancen, Kosten und Grenzen lokaler Sprachmodelle
- Presentation
- Artificial Intelligence (AI) in Technical Communication
-
Torsten Kuprat
- Acolada GmbH
Contents
ChatGPT und andere KI-Dienste sind inzwischen fester Bestandteil vieler Arbeitsabläufe. Mit steigender Nutzung wachsen jedoch auch Kosten, Datenschutzfragen und die Abhängigkeit von externen Anbietern.
Der Vortrag zeigt, welche Möglichkeiten lokale KI-Systeme bieten und ob sie eine praktikable Alternative zu cloudbasierten Lösungen darstellen können. Anhand eines praxisnahen Beispiels mit einer lokalen KI wird Schritt für Schritt erklärt, wie eine lokale KI-Umgebung eingerichtet wird – von der Auswahl eines geeigneten Modells bis zum ersten Chat.
Dabei werden unterschiedliche Modelle und Konfigurationen verglichen, die Einbindung eigener Dokumente demonstriert sowie typische Steuerungs- und Anpassungsmöglichkeiten vorgestellt. Abschließend wird bewertet, für welche Einsatzgebiete lokale KI bereits sinnvoll nutzbar ist und wo aktuell noch Grenzen bestehen.
Takeaways
Der Vortrag zeigt, wie lokale KI-Modelle eingerichtet, genutzt und angepasst werden können – inklusive Modellwahl, Dokumenteneinbindung sowie Chancen und Grenzen.