AWS додала налаштування NVIDIA Nemotron 3 без керування серверами у SageMaker AI

Amazon SageMaker AI додала кероване налаштування відкритих моделей NVIDIA Nemotron 3 Nano та Nemotron 3 Super. Командам не потрібно самостійно розгортати кластери графічних процесорів, налаштовувати розподілене навчання або відновлення перерваних завдань: SageMaker бере цю інфраструктуру на себе й нараховує оплату за фактичне використання. Nano має 30 млрд параметрів, із яких під час роботи активні 3 млрд, а Super — 120 млрд і 12 млрд активних відповідно.

Три способи налаштування

Сервіс підтримує донавчання під наглядом на розмічених прикладах, навчання з підкріпленням із перевірюваними винагородами та навчання з підкріпленням на основі зворотного зв’язку від іншої моделі ШІ. Перший підхід підходить для засвоєння галузевої термінології чи формату відповіді. Другий дає змогу оцінювати результат за однозначною правильною відповіддю, а третій — узгоджувати поведінку моделі там, де якість складніше описати одним числом.

Nemotron 3 поєднує шари Mamba-2, трансформерну увагу та архітектуру «суміші експертів», активуючи лише частину параметрів для окремого запиту. Моделі підтримують контекст до одного мільйона токенів. Nano орієнтована на масові агентні завдання, де важливі затримка й вартість, тоді як Super має більше ресурсів для програмування, складного міркування та аналізу кібербезпеки.

Це продовжує ширшу роботу навколо сімейства Nemotron. Раніше KONTUR розповідав, як NVIDIA і LangChain налаштували агентне середовище для Nemotron 3 Ultra без повторного навчання самої моделі. У SageMaker відповідальність за набір даних, оцінювання результатів і вибір методики також залишається на команді: керована інфраструктура спрощує запуск, але не гарантує якості спеціалізованої моделі.