Kryptovalutaticker:
sysadmin från MakeUseOf.com

I decided my 10-year-old mini PC hadn’t suffered enough, so I made it run a local LLM

Gregory Gibson
17 hours ago
37 Visningar
0 Kommentarer
I decided my 10-year-old mini PC hadn’t suffered enough, so I made it run a local LLM

I’ve wanted to try local AI in my homelab, but the expense of setting it all up has unfortunately been putting me off. From what I can see, local AI would require me to spend thousands on a server with multiple GPUs, a lot of memory, and power consumption equal to that of a small supermarket.

Läs hela artikeln hos källan.

Delta i diskussionen — kommentera, rösta och dela länkar.

Registrera
Var detta hjälpsamt?
Dela:

Kommentarer (0)

Vänligen logga in eller registrera dig för att delta i diskussionen

Inga kommentarer ännu. Bli först med att kommentera!