A vLLM egyetlen NVL72 rackben skálázta fel a DeepSeek V4.1 Flasht
A nyílt kiszolgálómotor a DeepSeek saját motorjához közeli dekódolási tempót és nagy rackes áteresztést mért, de az összevetések hardvere és terhelése nem mindenhol azonos.
A nyílt kiszolgálómotor a DeepSeek saját motorjához közeli dekódolási tempót és nagy rackes áteresztést mért, de az összevetések hardvere és terhelése nem mindenhol azonos.
A NorForge egy nyitva hagyott Cairn-rendszeren figyelte meg a kampányt; a Reuters azonosította több érintett cég oldalát, az adatszivárgás mértéke nem ismert.
A DeepInfer a modell futtatását, a deepseek-recipe a kérések és válaszok átalakítását teszi hozzáférhetővé; az üzemeltetés több feladata a fejlesztőre marad.
A DHS a DeepSeek termékei mellett az ezekre épülő külső szolgáltatások eltávolítását és beszerzésük leállítását is elrendelte.