passepartout

Relevante Liste für den Adblocker:

https://github.com/autinerd/anti-axelspringer-hosts

If I only had the guts lol.

I distrohopped for a little while when i built my new gaming rig two years ago and can confirm:

Fedora KDE spin is the way.

Yes, since we have similar gpus you could try the following to run it in a docker container on linux, taken from here and slightly modified:

#!/bin/bash

model=microsoft/phi-2
# share a volume with the Docker container to avoid downloading weights every run
volume=<path-to-your-data-directory>/data

docker run -e HSA_OVERRIDE_GFX_VERSION=10.3.0 -e PYTORCH_ROCM_ARCH="gfx1031" --device /dev/kfd --device /dev/dri --shm-size 1g -p 8080:80 -v $volume:/data ghcr.io/huggingface/text-generation-inference:1.4-rocm --model-id $model

Note how the rocm version has a different tag and that you need to mount your gpu device into the container. The two environment variables are specific to my (any maybe yours also) gpu architecture. It will need a while to download though.

Huggingface TGI is just a piece of software handling the models, like gpt4all. Here is a list of models officially supported by TGI, although they state that you can try different ones as well. You follow the link and look for the files section. The size of the model files (safetensors or pickele binaries) gives a good estimate of how much vram you will need. Sadly this is more than most consumer graphics cards have except for santacoder and microsoft phi.

I tried Huggingface TGI yesterday, but all of the reasonable models need at least 16 gigs of vram. The only model i got working (on a desktop machine with a amd 6700xt gpu) was microsoft phi-2.

I have a 5800X processor and 6700XT GPU which the site claims is barely ok. In reality my CPU is hardly ever doing anything when gaming while the GPU is at 100% usage all the time.

For a higher GPU, like the 7900XT (which i believe will have the power of a speculative 8800XT which i want to buy) the site claims the CPU to be the bottleneck.

Now i know that there is more to it than just the usage in the control center, but does this seem sketchy to someone else?

I recently bought a second external drive to do a backup of the first one. In the process I'm going to switch to btrfs. It can do data scrubbing which allows for self repair of corrupted data, which can occur if you leave a drive unpowered in a closet for some years.

Die Regelstudienzeit betrifft nur die Zeit in der du keine Urlaubssemester machst. Das ist wichtig für den Prüfungsanspruch.

Aber jo, ist dem AG später egal.

Hatte schon vor Corona den Wunsch mein Leben im Home Office zu fristen und bin da auf einem guten Weg. Mein Mitleid für Investoren und Führungsetagen die auf return to office drängen hält sich in Grenzen.

Vielleicht schafft man ja, obwohl das von der Bauart der Gebäude her schwierig ist, diese als Wohnraum umzunutzen.

Meine Oma mütterlicherseits ist damals aus Preußen (heute Polen) nach Deutschland geflohen. Habe ich jetzt einen Migrationshintergrund oder ist das bei Preußen anders? Sorry für den dummen joke. Hab schon von so vielen Freunden hören müssen wie sie Rassismus erlebt haben, wäre trotzdem hohl mir zuzusprechen dass ich wüsste wie sich das anfühlt.

Aber da es bei diesem Gespräch in Potsdam auch um "nicht gut genug assimilierte Deutsche" ging die sie abschieben wollen, sehe ich mich als urdeutsche Kartoffel auch etwas in der Gefahr das bald am eigenen Leib zu spüren.