Wie gut müsste meine Infrastruktur (Computer, eventl. server) sein um eine KI zu hosten die große Datenmengen erlernt bekommt und ähnlich "schlau" ist wie GPT?
Wenn meine KI nicht für die Massen skalierbar sein muss sonder nur lokal für mich als einziger Nutzer...
Wie sehen da so die Zahlen aus bzgl. Speicher, CPU anzahl etc.
Die Anforderungen sind genau genommen:
Eine KI die ähnlich schlau wie GPT ist für einen Nutzer.
(Dass es aufwendig ist die Daten zu sammeln ist mir bewusst, die Frage ist hypotetisch)
1 Antwort
Nutzer, der sehr aktiv auf gutefrage ist
Für GPT3 Bräuchte man schon über 300GB Grafikspeicher da müsste man einige sehr teure GPUs in Reihe schalten. Wären wir bei 4*17000 Euro ca schon wenn wir ne Nvidia A100 als Beispiel nehmen. Das dürfte mit Abstand das teuerste daran sein