reicht nicht, mit ne Nvidia knapp 1/2 KW im IDLE und in Nutzung 1,2 bis 1,5 KW
Irgendwie reden wir aneinander vorbei. 150W im Idle ohne Nvidia GPU. Die käme dann noch on top. Wenn mir 150W im Idle bereits zu viel sind, brauche ich mich mit dem Verbrauch einer Nvidia GPU erst gar nicht mehr zu beschäftigen.
Ansonsten hätte ich geschrieben „Epyc mit 64 Cores / 128 Threads und Nvidia GPU…“
Die GPU ist da bei rund 50 W im Idle
Ich helfe gerne, aber… Du hattest mich schon in deinem ersten Zitat nicht vollständig zitiert. Ich sprach von „Dual Epyc“. Du zitierst „Epyc…“ und kommst dann mit einer Idle Power von 50W „um die Ecke“. Jetzt nimmst du das x2. Dann bist du schon bei 100W im Idle. RAM, Mainboard, Netzteilverluste, interne Grafikkarte, Dual-NIC etc. …dann bist du bei 150W im Idle.
BTW…ich durfte es messen! Live und in Farbe! Ich muss mich da also nicht auf geschönte Specs verlassen.
Es gibt noch andere Firmen, die sich gerade intensiv mit KI beschäftigen. 
Als Auditor arbeite ich nach der Devise: „Ohne Messung / Evidenz, nur 'ne Meinung.“ Heißt nun nicht, dass ich fehlerfrei bin (furchtbarer Gedanke)…
Sorry, Tippfehler „GPU“ hat 50 W Idle und max 350W der Server hat Dual-Epyc, 6 NVMEe, 512 GB RAM - der liefert die Leistungsaufnahme über ILO-Board, das sind im IDLE knapp unter 500 W, unter Last auch mal 1,2 KW, im Peak bis 1,5 KW
Ich kenne dein / euer Setup nicht und du nicht das Unsere. Auch weiß ich nach wie vor nicht, ob du dich auf Datenblätter oder Messungen beziehst. Ich habe 150W im Idle auf dem Messgerät gesehen und da war für mich klar, dass das für meinen Privatgebrauch nicht in Frage kommt.
Ob nun mit oder Tippfehler, mit oder ohne GPU… 150W im Idle is too much.