04.02.2025

DeepSeek fáanlegt sem NVIDIA NIM

DeepSeek-R1 líkanið er nú fáanlegt sem NVIDIA NIM og keyrir á NVIDIA HGX H200 þjónum, sem gerir forriturum kleift að gera tilraunir á öruggan hátt með gervigreind.

DeepSeek-R1 er opið líkan sem sem kalla mætti háþróað röksemdarlíkan. Í stað þess að notast við bein svör við fyrirspurnum eins og við eigum að venjast, fara svokölluð röksemdarlíkön eins og DeepSeek-R1 í gegnum margar ályktanir og beita rökhugsun til að komast að bestu niðurstöðunni.

Að framkvæma röð af ályktunum, eða að nota rök til að komast að besta svari, er þekkt sem „test-time scaling“ á ensku. DeepSeek-R1 er fullkomið dæmi um þetta, og sýnir hvers vegna hraðari tölvuvinnsla er mikilvæg krafa í gervigreind.

Þegar líkön fá að „hugsa“ sig í gegnum vandamálið, verður til meiri vinnsla á bakvið tjöldin, og gæði líkansins eykst.  Mikið afl og reiknigeta eru nauðsynleg, bæði til að svörun í rauntíma sé möguleg og til að fá betri svör frá röksemdarlíkönum eins og DeepSeek-R1.

Nú fáanlegt sem NIM

DeepSeek-R1 líkanið er nú fáanlegt sem NVIDIA NIM og keyrir á NVIDIA HGX H200 þjónum, sem gerir forriturum kleift að gera tilraunir á öruggan hátt með gervigreind.

NVIDIA Blackwell arkitektúr mun stórlega bæta líkön eins og DeepSeek-R1 með allt að 20 petaflops af vinnslugetu með fimmtu kynslóðar Tensor Cores og 72-GPU NVLink uppsetningu.

Fleiri fréttir

Blogg
04.03.2025
Útvaldir samstarfsaðilar fá að halda sannkallaðar áhorfsveislur og sýna beint frá opnunarræðunni á NVIDIA GTC. Advania er þar á meðal.
Fréttir
26.02.2025
Hildur Einarsdóttir er nýr forstjóri Advania á Íslandi, stærsta upplýsingatæknifyrirtækis landsins. Hún tekur við starfinu af Ægi Má Þórissyni, sem gegnt hefur starfinu í tæp tíu ár en tekur nú við lykilhlutverki í framkvæmdastjórn Advania-samstæðunnar.
Fréttir
23.02.2025
Advania hefur verið samstarfsaðili Héðins á þeirra stafrænu vegferð og meðal annars aðstoðað með netöryggi, sjálfvirknivæðingu ferla, betrumbætur á flæði og fleira.
Viltu vita meira?

Tölum saman

Viltu vita meira? Sendu okkur fyrirspurn.