Lokale KI & Modelle

Schritt-für-Schritt-Tutorials zu lokaler KI: Sprachmodelle mit Ollama auf dem eigenen Computer betreiben und in deine Tools einbinden.

✓ Ohne Programmierkenntnisse · ✓ Schriftliche Anleitungen frei — Videos mit Pro

Was ist lokale KI? Lokale KI bedeutet, dass ein KI-Modell vollständig auf deinem eigenen Gerät läuft, statt auf den Servern eines Anbieters. Deine Texte, Dokumente und Fragen verlassen den Rechner nicht. Du brauchst kein Abo und keine Internetverbindung, sobald das Modell installiert ist.

Grundlagen

Was ist lokale KI?

Die meisten KI-Dienste wie ChatGPT oder Claude laufen in der Cloud: Du tippst etwas, es wird an einen Server geschickt, dort verarbeitet und die Antwort kommt zurück. Bei lokaler KI passiert all das auf deinem eigenen Rechner. Das Modell wird einmal heruntergeladen und arbeitet danach eigenständig — auch ohne Internet.

Das Herzstück ist ein LLM (Large Language Model, also ein großes Sprachmodell). Viele dieser Modelle sind Open Source und frei verfügbar, etwa Llama, Mistral oder Qwen. Um sie bequem zu nutzen, brauchst du ein Programm, das sie verwaltet und startet. Das verbreitetste ist Ollama: ein kostenloses Tool, das Modelle herunterlädt und dir eine einfache Oberfläche gibt. Wie das Schritt für Schritt geht, zeigt dir die Anleitung Ollama von A bis Z — lokale Sprachmodelle auf dem eigenen Computer.

Lokale Modelle gibt es in sehr unterschiedlichen Größen — von rund einer Milliarde bis über 70 Milliarden Parametern. Kleine Modelle sind schnell und genügsam, große liefern bessere Antworten, brauchen aber mehr Arbeitsspeicher.

Nutzen

Für wen lohnt sich lokale KI?

Der wichtigste Grund für lokale KI ist die Kontrolle über die eigenen Daten. Weil nichts an einen externen Server geht, bleiben sensible Inhalte dort, wo sie hingehören: bei dir. Das macht lokale KI besonders interessant, wenn du mit vertraulichen Informationen arbeitest.

Praxis & Beratung

Patienten-, Mandanten- oder Klientendaten bleiben auf dem eigenen Rechner. Kein Cloud-Upload, keine Weitergabe an Dritte.

Zuhause & privat

Persönliche Notizen, Tagebücher oder Finanzen verarbeiten, ohne dafür ein Konto bei einem Anbieter zu brauchen.

Kleine Unternehmen

Interne Dokumente, Angebote und Kundendaten lokal auswerten — unabhängig von Abo-Kosten und Anbieter-Richtlinien.

Wenn deine Daten besonders sensibel sind, ist lokale KI nicht der einzige Weg. Du kannst Inhalte vor der Nutzung persönliche Daten automatisch anonymisieren, oder bei Cloud-Tools auf europäische Server setzen — etwa indem du Claude Desktop mit EU-Servern nutzt oder Claude Desktop über Amazon Bedrock in Frankfurt betreibst. Lokal heißt: die Daten bleiben physisch auf deinem Gerät — die stärkste Form der Kontrolle.

Voraussetzungen

Was brauchst du dafür?

Lokale KI läuft auf ganz normaler Hardware — entscheidend ist vor allem der Arbeitsspeicher (RAM). Als Faustregel: Je größer das Modell, desto mehr RAM. Ein eigener Grafikchip (GPU) beschleunigt die Antworten zusätzlich, ist aber kein Muss. Auf aktuellen Apple-Macs mit M-Chip läuft lokale KI dank des gemeinsamen Speichers besonders rund.

Modellgröße	Empfohlener RAM	Wofür geeignet
Klein (ca. 1–3 Mrd. Parameter)	ab 8 GB	Einfache Texte, Zusammenfassungen, erstes Ausprobieren
Mittel (ca. 7–14 Mrd. Parameter)	ab 16 GB	Der praktische Alltag: Schreiben, Recherche, Auswertung
Groß (ab ca. 30–70 Mrd. Parameter)	ab 32–64 GB	Anspruchsvolle Aufgaben, Qualität nahe an Cloud-Modellen

Für den Einstieg reichen also schon 16 GB RAM völlig aus. Wer lokale KI dauerhaft als persönliche Wissensbasis nutzen will, findet im Beitrag Second Brain mit KI aufbauen — lokal, kostenlos und ohne Cloud einen kompletten Aufbau. Wer Ollama direkt in seinen Editor holen will, nutzt die Anleitung Ollama in der Codex App integrieren.

Die besten lokalen Modelle

Welches Modell ist das richtige für deinen Rechner und deine Aufgabe? Unsere kuratierte Bestenliste vergleicht die wichtigsten lokalen Sprachmodelle — auf Deutsch erklärt, mit Datenschutz-Einordnung und Erklär-Video.

Bestenliste — folgt in Kürze

Häufige Fragen

Häufige Fragen zur lokalen KI

Was ist lokale KI?

Lokale KI ist ein KI-Modell, das vollständig auf deinem eigenen Computer läuft, statt auf den Servern eines Anbieters. Deine Eingaben werden lokal verarbeitet und verlassen das Gerät nicht. Sobald das Modell installiert ist, funktioniert es auch ohne Internetverbindung.

Welche Hardware brauche ich für lokale KI?

Entscheidend ist der Arbeitsspeicher. Für kleine Modelle reichen 8 GB RAM, für den praktischen Alltag sind 16 GB empfehlenswert, große Modelle brauchen 32 GB oder mehr. Eine eigene Grafikkarte beschleunigt die Antworten, ist aber nicht zwingend nötig.

Ist lokale KI kostenlos?

Ja. Die gängigen Tools wie Ollama und die meisten Open-Source-Modelle sind kostenlos. Es fallen keine Abo-Gebühren und keine Kosten pro Anfrage an — du brauchst nur einen ausreichend ausgestatteten Rechner.

Bleiben meine Daten bei lokaler KI auf dem Gerät?

Ja. Da das Modell lokal läuft, werden deine Eingaben auf dem eigenen Rechner verarbeitet und nicht an einen externen Anbieter gesendet. Das gibt dir die volle Kontrolle über deine Inhalte, ganz ohne automatischen Datenabfluss in die Cloud.

Was ist Ollama?

Ollama ist ein kostenloses Programm, mit dem du lokale Sprachmodelle herunterlädst, verwaltest und startest. Es nimmt dir die technische Einrichtung ab und ist der gängigste Einstieg in lokale KI.

Ist lokale KI so gut wie ChatGPT oder Claude?

Große lokale Modelle kommen an die Qualität der Cloud-Dienste heran, brauchen dafür aber kräftige Hardware. Kleinere Modelle sind etwas schwächer, dafür schnell und genügsam. Der entscheidende Vorteil lokaler KI ist nicht die maximale Leistung, sondern dass deine Daten auf dem eigenen Rechner bleiben.