Schätzungen zufolge kostet jede Antwort von Chat-GPT etwa 36 Cent, was einer Größenordnung von 2-4 kWh entspricht. Da Open Assistant nur ca. halb so viele Parameter hat, wird sich der Verbrauch wahrscheinlich auch in etwa halbieren: Grob geschätzt brauchen 100 Antworten dann etwa 150 kWh. Wenn man die 0,4 TFLOPS/Watt der NVIDIA V100 annimmt kommen **100 Anfragen** auf **67 Peta FLOPS** Rechenleistung.
Bitte beachten: Der Rechnung liegen grobe Schätzungen zu Grunde. Das Ergebnis dient nur zum Abschätzen der Größenordnung der Rechenleistung.
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence