Gemeinsamer GPU speicher?
Moin Moin,
Ich versuche aktuell einen Chatbot auf meinem Rechner aufzusetzen, das Problem dabei, sobald ich ein Sprachmodell laden möchte was rund 80 Gigabyte groß ist kommt der GPU speicher schnell an seine Grenzen und mir ist es nichtmal möglich das Sprachmodell vollständig zu laden. Ich habe 64 Gigabyte RAM und 24 Gigabyte VRAM, also 56 Gigabyte gesamten GPU Speicher der mir zu Verfügung steht. Jetzt ist meine Frage ob ich den Gemeinsamen GPU speicher unter Windows erhöhen kann, so dass die Grafikkarte auf mehr als nur den halben Arbeitsspeicher zugriff hat.