Så testar du Nemotron 3 Nano med Prime Intellect Lab

Efter guiden kan du sätta upp Prime CLI, köra en första eval på Nemotron 3 Nano och starta en enkel träningskörning från en TOML-konfiguration.

Målgrupp: utvecklare och modellteam som redan arbetar med Python, CLI-verktyg och extern compute.

Förkunskaper: du behöver kunna jobba i terminal, förstå miljövariabler och vara bekväm med att läsa träningsloggar.

Du behöver:

• Ett Prime Intellect-konto och inloggning via prime login.
• Python 3.13 enligt NVIDIAs källa.
• uv installerat.
• Tillgång till compute hos Prime Intellect.
• En projektmapp där du kan spara konfigurationsfiler.

Slutkontroll: guiden är klar när du har fått ett eval-resultat för Nemotron 3 Nano och kunnat starta en träningskörning från en egen TOML-fil.

Varför detta är värt att testa

NVIDIAs post är intressant därför att den kortar vägen från modellnamn till ett faktiskt testflöde. Det viktiga här är inte att alla ska börja finjustera en 30B-modell direkt, utan att du snabbt ska kunna avgöra om det här är ett rimligt nästa steg för ditt team.

Det här behöver du

• Ett terminalfönster med nätåtkomst.
• En tom mapp för testet.
• Rättigheter att logga in mot Prime Intellect.
• Förståelse för att både eval och träning kostar compute.

Steg 1: Installera uv, Python 3.13 och Prime CLI

Mål: få samma grundverktyg som NVIDIAs exempel använder.

Gör så här: kör installationskommandona i ordning.

curl -LsSf https://astral.sh/uv/install.sh | sh
uv python install 3.13
uv tool install --python 3.13 --force "prime==0.6.17"
uv --version
prime --version

Kontrollera att det fungerar: du ska få versionsutskrift för både uv och prime utan fel.

Vanligt fel: om prime inte hittas efter installationen saknas ofta den lokala verktygskatalogen i din PATH.

Steg 2: Logga in och skapa projektmappen

Mål: förbereda ett rent arbetsutrymme för eval och träning.

Gör så här: logga in och kör sedan Prime Labs setup i en ny mapp.

prime login
mkdir -p nemotron-customization
cd nemotron-customization
prime lab setup
uv run python --version

Kontrollera att det fungerar: uv run python --version ska svara med Python 3.13 i den nya mappen.

Vanligt fel: om prime lab setup stoppar beror det ofta på att du inte är inloggad eller saknar rätt projektbehörighet.

> Första gången: stanna här tills mappen finns och uv run python --version fungerar. Resten av guiden bygger på den miljön.

Steg 3: Inspektera miljön och lås beroendet

Mål: se vilken evalmiljö du ska använda och lägga till rätt paket i projektet.

Gör så här: inspektera den fördefinierade miljön och lägg sedan till paketet.

prime env info primeintellect/math-python --version 0.1.10
prime env inspect primeintellect/math-python@0.1.10 README.md

uv add "math_python==0.1.10" \
 --index https://hub.primeintellect.ai/primeintellect/simple/
uv lock --check

Kontrollera att det fungerar: uv lock --check ska avslutas utan fel.

Vanligt fel: om beroendet inte hittas använder du troligen fel index-URL eller har ingen åtkomst till Prime Intellects package index.

Steg 4: Kör en första eval på Nemotron 3 Nano

Mål: bevisa att modellen går att köra i det här upplägget innan du tränar något.

Gör så här: exportera miljövariablerna och kör eval-kommandot från källan.

export NANO="nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16"
export MATH_EVAL_ARGS='{"dataset_name":"math","dataset_split":"test","num_train_examples":-1,"max_turns":5,"sandbox_client_max_workers":8}'
export MATH_SAMPLING='{"max_tokens":2048,"temperature":1.0,"extra_body":{"chat_template_kwargs":{"enable_thinking":false}}}'
prime eval run math-python \
 --provider prime \
 --model "$NANO" \
 --num-examples 32 \
 --rollouts-per-example 1 \
 --max-concurrent 8 \
 --env-args "$MATH_EVAL_ARGS" \
 --sampling-args "$MATH_SAMPLING" \
 --timeout 300 \
 --max-retries 2 \
 --save-results \
 --disable-tui \
 --abbreviated-summary

Kontrollera att det fungerar: du ska få en sammanfattning med reward-värden i terminalen och sparade resultat från eval-körningen.

Vanligt fel: om evalen fastnar eller timear ut ligger problemet ofta i compute-tillgång, samtidighetsnivå eller att modellen inte är tillgänglig i ditt konto.

Steg 5: Skapa en enkel träningskonfiguration

Mål: gå från en passiv eval till en första reproducerbar träningskörning.

Gör så här: skapa mappen configs/rl och spara filen configs/rl/nemotron-3-nano-math-python-100step.toml med innehållet nedan.

name = "nemotron-3-nano-math-python-100step"
model = "nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16"
loss = "rl"
max_steps = 100
batch_size = 32
rollouts_per_example = 8
max_inflight_rollouts = 32
learning_rate = 2e-5
lora_alpha = 16

[sampling]
max_tokens = 2048
temperature = 1.0
enable_thinking = false

[adapters]
interval = 0
keep_last = 1

[[env]]
id = "primeintellect/math-python@0.1.10"
args = { dataset_name = "math", dataset_split = "train", num_train_examples = -1, max_turns = 5 }

Kontrollera att det fungerar: filen ska finnas i rätt mapp och gå att läsa tillbaka.

python - <<'PY'
from pathlib import Path
p = Path('configs/rl/nemotron-3-nano-math-python-100step.toml')
print('finns' if p.exists() else 'saknas')
PY

Vanligt fel: om Prime senare inte hittar konfigurationen ligger filen ofta i fel katalog eller med fel filnamn.

Steg 6: Starta träningen

Mål: starta en riktig träningskörning från din konfiguration.

Gör så här: kör kommandot nedan från projektmappen.

prime train configs/rl/nemotron-3-nano-math-python-100step.toml

Kontrollera att det fungerar: du ska se att träningsjobbet accepteras och att loggar eller jobbinformation börjar skapas.

Vanligt fel: ett tidigt stopp betyder ofta att evalmiljön inte är korrekt tillagd, att compute saknas eller att modellen inte är åtkomlig för just den körningen.

Felsökning

Problem: prime: command not found. Trolig orsak: CLI:n installerades men binärkatalogen finns inte i din PATH. Lösning: öppna ett nytt terminalfönster eller lägg till katalogen från uv tool i din shell-konfiguration. Testa: kör prime --version igen.

Problem: evalen returnerar ingen användbar sammanfattning. Trolig orsak: modellen, compute eller samtidighetsnivån passar inte ditt konto. Lösning: sänk --max-concurrent, kontrollera kontoåtkomst och börja med mindre belastning. Testa: kör om steg 4 med samma modell men färre samtidiga jobb.

Problem: träningen hittar inte miljön primeintellect/math-python@0.1.10. Trolig orsak: beroendet lades inte till korrekt eller konfigfilen refererar fel id. Lösning: kör steg 3 igen och kontrollera TOML-filen rad för rad. Testa: kör uv lock --check och läs tillbaka konfigfilen från terminalen.

Video-tutorial

Video-tutorial kan läggas till här.

Källor

• NVIDIA Technical Blog: Start Customizing NVIDIA Nemotron 3 Nano with Prime Intellect Lab in Minutes