Open WebUI: Lokaler Chatbot für Large Language Models (LLMs)

Wichtigsten Informationen

Mit Open WebUI (Open Web User Interface) kannst du einen lokalen Chatbot auf deinem Computer einrichten und mit Hilfe dieses Chatbots entweder mit lokalen Large Language Models oder über eine API-Schnittstelle mit ChatGPT zu kommunizieren.OpenWEBUI sendet keine Daten über das Internet. Deine Chats und Dokumente sind vor fremden Blicken geschützt und nur für dich zugänglich.

Die Lokalen Large Language Models können direkt in Open WebUI installiert und verwaltet werden. Für die Installation der Software sind keine Programmierkenntnisse erforderlich. 

Website:
https://docs.openwebui.com/

Was ist Open WebUI?

Open WebUI ist eine kostenlose Open Source Software, die lokal einen Chatbot installiert, der entweder mit lokalen Large Languag Modellen oder über eine API mit GPT kommunizieren kann.

Der Installationsprozess ist einfach, aber Open WebUI benötigt zwei weitere kostenlose Programme. Das erste ist Ollama, eine Software, die Large Languag Modelle zur Verfügung stellt und auf dem Computer hostet, und das zweite ist Dockers, eine Software, die es dem Chatbot ermöglicht, in einer geschützten Umgebung zu laufen.

Was auf den ersten Blick kompliziert aussieht, ist in der Praxis sehr einfach. Die Large Languag Modelle werden direkt in Open WebUI verwaltet und können dort auch direkt installiert und deinstalliert werden. Alle bekannten Sprachmodelle stehen zur Verfügung. Durch die Verwendung von Dockers kann der Chatbot zusammen mit anderen Chatbots verwendet werden, ohne dass es zu Konflikten kommt.

OpenWebUI bietet sehr interessante Möglichkeiten für den Chat mit Künstlicher Intelligenz, die ständig weiterentwickelt werden. So kannst du z.B. eigene Dokumente auf deinem Computer für den Chat verwenden, Webseiten für den Chat einlesen, eigene KI-Agenten entwickeln oder KI-Agenten aus der Community nutzen und eine Prompt-Datenbank aufbauen.

Installation und Einrichtung von Open WebUI

Du kannst Open WebUI sowohl auf deinem Mac als auch auf deinem Windows-PC installieren.

Voraussetzung:

Damit Open WebUI auf deinem Computer funktioniert, sind zwei zusätzliche kostenlose Programme notwendig.

1. 1. Docker
      Mit Docker können lokale KI-Chatbots in geschützten Containern direkt auf dem Computer genutzt werden. Docker ermöglicht es, mehrere KI-Modelle gleichzeitig zu verbinden und Konflikte mit anderen Programmen zu vermeiden.
      Weitere Informationen findest du hier: http://ki-wissen.local/ki/blog/chatbot-docker/
   2. Ollama
      Ollama ist eine kostenlose Software, mit der man die bekannten Open Source Large Langage Models auf seinen Computer herunterladen und nutzen kann.
      Weiter Informationen findest du hier:  Wie du Large Language Models mit Ollama auf deinem Computer installierst.

Mit diesem Link  (https://youtu.be/vBu7H-wjM9A?si=aF6Cw2-MJeBsbX19&t=75) gelangst du zu der Stelle im Video, das dir Schritt für Schritt zeigt, wie du Dockers, Ollama und OpenWebUI auf deinem Computer installierst.

Sobald Ollama und Docker installiert sind, kannst du Open WebUI ganz einfach mit einem Befehl im Terminal installieren.

Die Installation erfolgt durch Eingabe des Installationskommandos im Terminal. Den entsprechenden Befehl findest du hier (GitHub)

Mit ein paar wenigen Schritten kannst du Open WebUI auf deinem Computer installieren und die Welt der Large Language Models erkunden.

Tipp: Wenn du Hilfe bei der Installation benötigst, findest du in der Open WebUI-Dokumentation (https://docs.openwebui.com/) und in der Community viele hilfreiche Ressourcen.

Die wichtigsten Funktionen von Open WebUI

Open WebUI bietet eine Vielzahl von Funktionen, die es zu einem leistungsfähigen lokalen Chatbot mit Large Language Models (LLMs) macht.

Die wichtigsten Features sind:

Benutzerfreundlichkeit
Open WebUI hat eine intuitive Benutzeroberfläche, die es auch Anfängern leicht macht, mit LLMs zu arbeiten.

Datenschutz
Mit OpenWEBUI kannst du einen lokalen Chatbot auf deinem Computer laufen lassen, der lokale Large Language Models verwendet und keine Daten ins Internet sendet. Auf diese Weise sind deine lokalen Chats und Dokumente geschützt und nur für dich zugänglich.

Flexibilität
Open WebUI unterstützt eine Vielzahl von LLMs, so dass Sie das Modell auswählen können, das Ihren Bedürfnissen am besten entspricht.

Kosten und Einsatzgebiete
Da es sich bei Open WebUI um Open Source handelt, kann man die kostenlose Software sowohl privat als auch beruflich nutzen und die Anwendungsbereiche an die eigenen Bedürfnisse anpassen.

Community
Es gibt eine große und aktive Open WebUI Community, die dir bei Fragen oder Problemen weiterhelfen kann.

Hier sind einige konkrete Beispiele, wie du Open WebUI verwenden kannst:

Text generieren
Du kannst Open WebUI verwenden, um mithilfe von Large Language Modellen verschiedene Arten von Text zu generieren, z.B. Blogbeiträge, Schulungsmaterial, Skripte, E-Mails und Briefe.

Lokale Dokumente verwenden
Mit dem Chatbot von Open WebUI kann man datenschutzkonform auf eigene lokale Dokumente zugreifen und diese mit Hilfe von künstlicher Intelligenz und den lokalen Large Languange Models auswerten oder mit ihnen chatten.

KI-Agenten verwenden

Du kannst ganz einfach deine eigenen KI-Agenten erstellen oder vorgefertigte Modelle aus der Community importieren und in deinem lokalen Chatbot verwenden.

Prompts verwalten
Open WebUI bietet eine einfache Möglichkeit, Prompts in einer Bibliothek zu speichern und dann in Chats auf die gespeicherten Prompts zuzugreifen.

Mit einfachen Befehlen können Sprachmodelle in Ollama über das Terminal geladen, gestartet, aktualisiert und auch gelöscht werden. Die wichtigsten Befehle für Ollama sind hier aufgelistet. Weitere Befehle sind in der Dokumentation zu finden.

Lokale Dokumente mit Large Language Models datenschutzgerecht nutzen

Mit Open WebUI können Dokumente datenschutzkonform in jeden Chat einzeln hochgeladen oder eine Dokumentenbibliothek erstellt werden, auf die in jedem Chat zugegriffen werden kann. Die Software ermöglicht es, mehrere Dokumente für Chats zu gruppieren, KI-Agenten zur Unterstützung im Chat zu erstellen, wiederkehrende Prompts mit Variablen zu speichern und sogar Webseiten in den Chat einzubinden. Open WebUI funktioniert ohne Internet (es sei denn, eine externe API wird verwendet) und weder die Daten des Chats noch die Daten der lokalen Dokumente verlassen den Computer. Alles bleibt lokal.