DeepSeek via Ollama als Addon in HA?

Hi zusammen,

hat sich schon jemand damit beschäftigt wie ich DeepSeek lokal gehostet am besten integrieren kann.

Ich weiß Ollama installieren und dann einbinden.
Ich würde aber lieber gerne auf meinem HA-OS ein ein custom addon (Docker) installieren, wie die vielen Addons die man bei „# HA Add-ons by alexbelgium“ bekommt.

Hätte mal längere suchen sollen:

==>werde es mal testen

1 „Gefällt mir“

Kannst gerne einmal berichten, wie du das zusammen mit Ollama umsetzen wirst bzw. hast. :slight_smile: Denke auch DeepSeek wird bestimmt ziemlich schnell was eigenes für HA bekommen, da Quelloffen.

das deepseek model hat noch kein tools flag. es wird also nicht möglich sein Home Assistant damit zu steuern.

1 „Gefällt mir“

Die Ollama Addon installation lief einwandfrei. Gleicher Port wie üblich (konfigurierbar)
Danach noch die Ollama integration (die ist ja seit einigen Monaten offiziell verfügbar. Dort habe ich die IP Adresse des HA+Port eingegeben und als Modell deepseek-r1:7b manuel eingegeben (war nicht in der Liste der verfügbaren Modelle vorbelegt)

Dann noch Sprachassistent wie üblich in HA einrichten.

Lief auch gleich, wobei trotz mobilen
АMD Ryzen 7 5825U(8C/16T, bis zu 4,5 GHz) eine Frage wie: „was ist 1+1“ gefühlt fast eine Minute gedauert hat.

(Auf meinem PC lief das gleiche Setup mit der gleichen Frage in wenigen Sekunden)

1 „Gefällt mir“