Oak Lab показала роботу NetworkIDBD на зашумленому потоці NoisyMNIST

Oak Lab 13 липня оприлюднила технічний матеріал про NetworkIDBD — розширення алгоритму Incremental Delta Bar Delta для нейронних мереж, розраховане на вибіркове призначення внеску помилки окремим сигналам. У контрольованому потоці NoisyMNIST мережа з NetworkIDBD посилила зв’язки лише з тією частиною входу, де містилася передбачувана інформація. Мережа зі стохастичним градієнтним спуском, або SGD, натомість збільшила ваги зв’язків від усіх вхідних ознак і переносила шум до прихованого шару.

Для перевірки автори вбудували цифри MNIST розміром 28 × 28 пікселів у центр поля 64 × 64. Цифра з’являлася на 10% кроків; ціль дорівнювала +1 для непарної цифри, −1 для парної та нулю, коли цифри не було. Решта пікселів створювала випадковий шум, а до цільових значень додали гаусівський шум із нульовим середнім і дисперсією п’ять. Вхід подавався на прихований шар із 10 000 нелінійних блоків ReLU.

Як NetworkIDBD відрізняє корисний сигнал

SGD і його поширені варіанти на кшталт Adam та RMSProp зменшують помилку за всіма цілями й призначають її параметрам із ненульовим градієнтом. У потоці, де частина відхилень принципово непередбачувана, це може закріплювати випадкові асоціації у вагах. IDBD натомість адаптує внесок різних сигналів і може не розподіляти помилку, якщо ціль не вдається передбачити. У візуалізації NoisyMNIST NetworkIDBD зосередив змінені ваги на центральній області 28 × 28, тоді як SGD розподілив їх по всьому входу.

Результат стосується спеціально сконструйованого експерименту й демонструє механізм вибіркового призначення внеску, а не готового універсального агента. Oak Lab пов’язує цю роботу зі своєю програмою безперервного навчання без зберігання або повторного відтворення даних. Наступним окремим напрямом лабораторія називає подієві нейронні мережі та алгоритми навчання з розміром пакета один; докладний матеріал про них на офіційній сторінці поки позначений як майбутній.