04.02.2025

DeepSeek fáanlegt sem NVIDIA NIM

DeepSeek-R1 líkanið er nú fáanlegt sem NVIDIA NIM og keyrir á NVIDIA HGX H200 þjónum, sem gerir forriturum kleift að gera tilraunir á öruggan hátt með gervigreind.

DeepSeek-R1 er opið líkan sem sem kalla mætti háþróað röksemdarlíkan. Í stað þess að notast við bein svör við fyrirspurnum eins og við eigum að venjast, fara svokölluð röksemdarlíkön eins og DeepSeek-R1 í gegnum margar ályktanir og beita rökhugsun til að komast að bestu niðurstöðunni.

Að framkvæma röð af ályktunum, eða að nota rök til að komast að besta svari, er þekkt sem „test-time scaling“ á ensku. DeepSeek-R1 er fullkomið dæmi um þetta, og sýnir hvers vegna hraðari tölvuvinnsla er mikilvæg krafa í gervigreind.

Þegar líkön fá að „hugsa“ sig í gegnum vandamálið, verður til meiri vinnsla á bakvið tjöldin, og gæði líkansins eykst.  Mikið afl og reiknigeta eru nauðsynleg, bæði til að svörun í rauntíma sé möguleg og til að fá betri svör frá röksemdarlíkönum eins og DeepSeek-R1.

Nú fáanlegt sem NIM

DeepSeek-R1 líkanið er nú fáanlegt sem NVIDIA NIM og keyrir á NVIDIA HGX H200 þjónum, sem gerir forriturum kleift að gera tilraunir á öruggan hátt með gervigreind.

NVIDIA Blackwell arkitektúr mun stórlega bæta líkön eins og DeepSeek-R1 með allt að 20 petaflops af vinnslugetu með fimmtu kynslóðar Tensor Cores og 72-GPU NVLink uppsetningu.

Fleiri fréttir

Viltu vita meira?

Tölum saman

Viltu vita meira? Sendu okkur fyrirspurn.