KI Glossar Signet KI Glossar Ein Wissensprojekt von starke-ki.de

Was ist

Ollama?

KI-Modelle lokal betreiben

Ollama ist ein kostenloses Werkzeug, mit dem sich offene KI-Modelle (etwa Llama, Qwen, DeepSeek) einfach auf dem eigenen Rechner oder Server betreiben lassen – ohne Cloud, ohne externe Schnittstelle.

Statt ein Modell über die Schnittstelle eines Anbieters zu nutzen, läuft es lokal auf eigener Hardware (GPU). Das eignet sich für Tests, datensensible Anwendungen und Unabhängigkeit von Anbietern – begrenzt durch die verfügbare Rechenleistung.

Lokale Modelle sind ein Hebel für Datenschutz und Datensouveränität: sensible Daten verlassen das Haus nicht (Datenschutz & DSGVO). Gleichzeitig braucht es eigene Hardware, Pflege und Kompetenz – eine bewusste Abwägung statt Reflex.

„Lokal ist automatisch sicherer.“ Lokal verlagert die Verantwortung ins eigene Haus – Sicherheit entsteht erst durch saubere Einrichtung und sauberen Betrieb.

Zuletzt aktualisiert: · Redaktion: Lukas Starke, starke-ki.de

← → Pfeiltasten zum Blättern · Esc zur Übersicht← Wischen zum Blättern →