Das kann ich respektieren :D

Bist drüben immer willkommen, auch mit .de account ;)

Davon hält dich niemand ab, aber es gibt gute Gründe umzuziehen. Der alte server wird nicht gewartet und niemand weiß wie lange er überhaupt noch läuft. Er ist zudem höllisch langsam und man kann keine Bilder hochladen. Außerdem werden die meisten communities bereits umgezogen.

Jede*r Zuhausi die/den wir zum Umziehen bewegen können ist ein Gewinn für feddit und das Fediverse allgemein :)

Los geht’s Freunde, auf ins gelobte Land! Darauf haben wir lange gewartet.

Ihr Leute werdet bezahlt?

Ich weise diese Unterstellungen zurück

https://youtu.be/lfcGEQRyaqI

Glad i could help ;)

You can get different results, sometimes better sometimes worse, most of the time differently phrased (e.g. the gemma models by google like to do bulletlists and sometimes tell me where they got that information from). There are models specifically trained / finetuned for different tasks (mostly coding, but also writing stories, answering medical questions, telling me what is on a picture, speaking different languages, running on smaller / bigger hardware, etc.). Have a look at ollamas library of models which is outright tiny compared to e.g. huggingface.

Also, i don’t trust OpenAI and others to be confidential with company data or explicit code snippets from work i feed them.

If you’re lucky you just set it to the wrong version, mine uses 10.3.0 (see below).

I tried running the docker container first as well but gave up since there are seperate versions for cuda and rocm which comes packaged with this as well and therefor gets unnecessary big.

I am running it on Fedora natively. I installed it with the setup script from the top of the docs:

curl -fsSL https://ollama.com/install.sh | sh

After that i created a service file (also stated in the linked docs) so that it starts at boot time (so i can just boot my pc and forget it without needing to login).

The crucial part for the GPU in question (RX 6700XT) was this line under the [service] section:

Environment="HSA_OVERRIDE_GFX_VERSION=10.3.0"

As you stated, this sets the environment variable for rocm. Also to be able to reach it from outside of localhost (for my server):

Environment="OLLAMA_HOST=0.0.0.0"

I have my gaming pc running as ollama host when i need it (RX 6700XT with rocm doing the heavy lifting). PC idles at ~50W and draws up to 200W when generating an answer. It is plenty fast though.

My mini pc home server is running openwebui with access to this “ollama instance” but also OpenAIs api when i just need a quick answer and therefor don’t turn on my pc.

I hope it went well :) i was completely ready to go back changing the image tag to v2 but didn’t need to.

Das muss daran liegen dass du nicht einer der 5 roboter warst, die da von früh bis spät sachen wiederpfostieren.

An sich ist das vernünftig, habe hier daheim ein ähnliches setup. Das Netzwerk des Speedport ist dann die sog. Demilitarisierte Zone (DMZ), wo normalerweise Dinge laufen die übers Internet erreichbar sind. Wenn hier was kompromittiert wird, ist das private Netzwerk (hinter der Fritzbox) erstmal noch sicher.

Bei meiner Fritzbox kann man unter Freigabe ein Gerät aussuchen (raspi), und weiter unten dann die ports mappen. Heißt du suchst dir einen externen port aus, über den du dich dann mit der Fritzbox verbindest (was auch immer der speedport ihr für eine IP gegeben hat + der Port den du ausgesucht hast) und einen internen port / “port am gerät” (der am raspi den du freigeben möchtest, bspw. 8096 für jellyfin)

VPN am speedport einrichten falls das geht (bei der fritzbox geht das ja) und Port forwarding an der Fritzbox auf den Raspi.

Oder VPN auf dem raspi und zwei mal port weiterreichen (am speedport und an der Fritzbox), halte ich aber für umständlich. Quelle: hab sowas ähnliches mal gemacht (fritzbox - openwrt - raspi).

Oder “Modernerer” Ansatz: tailscale, zerotier, twingate (wähle eins oder probier alle mal durch :D). Kannst du auf deinem raspi installieren und auf dem client deiner wahl. Benötigt aber einen externen Dienst um die Geräte zueinander zu vermitteln.

… oder zumindest “nicht gut genug assimiliert”

Kann ich was zu essen haben? - Nein.

Im so looking forward to this. When i tried to use tmpfs / ramdisk, the transcoding would simply stop because there was no space left.

Alles gut Brudi, lass dir Zeit und lass dir nicht vom Schwarm den Spaß an der Sache verderben ;)

Yes, since we have similar gpus you could try the following to run it in a docker container on linux, taken from here and slightly modified:

#!/bin/bash

model=microsoft/phi-2
# share a volume with the Docker container to avoid downloading weights every run
volume=<path-to-your-data-directory>/data

docker run -e HSA_OVERRIDE_GFX_VERSION=10.3.0 -e PYTORCH_ROCM_ARCH="gfx1031" --device /dev/kfd --device /dev/dri --shm-size 1g -p 8080:80 -v $volume:/data ghcr.io/huggingface/text-generation-inference:1.4-rocm --model-id $model

Note how the rocm version has a different tag and that you need to mount your gpu device into the container. The two environment variables are specific to my (any maybe yours also) gpu architecture. It will need a while to download though.

Huggingface TGI is just a piece of software handling the models, like gpt4all. Here is a list of models officially supported by TGI, although they state that you can try different ones as well. You follow the link and look for the files section. The size of the model files (safetensors or pickele binaries) gives a good estimate of how much vram you will need. Sadly this is more than most consumer graphics cards have except for santacoder and microsoft phi.