Neural Structured Learning (NSL) — це структура в TensorFlow, яка дозволяє навчати нейронні мережі за допомогою структурованих сигналів на додаток до стандартних вхідних даних. Структуровані сигнали можуть бути представлені у вигляді графів, де вузли відповідають екземплярам, а ребра фіксують зв’язки між ними. Ці графіки можна використовувати для кодування різних типів інформації, наприклад подібності, ієрархії або близькості, і їх можна використовувати для регулярізації процесу навчання нейронних мереж.
Структурний вхід у нейронному структурованому навчанні справді можна використовувати для регулярного навчання нейронної мережі. Включаючи інформацію на основі графіків під час навчання, NSL дає змогу моделі навчатися не лише на необроблених вхідних даних, але й на основі зв’язків, закодованих у графіку. Це додаткове джерело інформації може допомогти покращити можливості узагальнення моделі, особливо в сценаріях, коли дані з мітками обмежені або мають шум.
Одним із поширених способів використання вхідних даних структури для регулярізації є використання методів регулярізації графів. Регулярізація графа заохочує модель створювати вбудовування, які поважають структуру графа, таким чином сприяючи плавності та узгодженості вивчених представлень. Цей термін регулярізації зазвичай додається до функції втрат під час навчання, штрафуючи відхилення від очікуваних залежностей на основі графіка.
Наприклад, розглянемо сценарій, коли ви тренуєте нейронну мережу для класифікації документів. Окрім текстового вмісту документів, ви також маєте інформацію про подібність документів на основі їхнього змісту. Побудувавши графік, де вузли представляють документи, а ребра представляють зв’язки подібності, ви можете включити цю структуру вхідних даних у NSL, щоб керувати процесом навчання. Потім модель може навчитися не тільки класифікувати документи на основі їхнього вмісту, але й враховувати схожість документів, закодовану на графіку.
Крім того, введення структури може бути особливо корисним у сценаріях, де дані демонструють природну структуру графа, наприклад у соціальних мережах, мережах цитування чи біологічних мережах. Зображуючи внутрішні зв’язки в даних за допомогою графіка, NSL може допомогти впорядкувати процес навчання та покращити ефективність моделі в задачах, які передбачають використання цих зв’язків.
Структурний вхід у Neural Structured Learning можна ефективно використовувати для регулярізації навчання нейронної мережі шляхом включення інформації на основі графіків, яка доповнює необроблені вхідні дані. Ця техніка регулярізації може підвищити можливості узагальнення та продуктивність моделі, особливо в сценаріях, де доступні структуровані сигнали, і може надати цінну інформацію для навчання.
Інші останні запитання та відповіді щодо Основи EITC/AI/TFF TensorFlow:
- Як можна використовувати шар вбудовування для автоматичного призначення правильних осей для графіка представлення слів як векторів?
- Яка мета максимального об’єднання в CNN?
- Як процес виділення ознак у згортковій нейронній мережі (CNN) застосовується до розпізнавання зображень?
- Чи необхідно використовувати функцію асинхронного навчання для моделей машинного навчання, що працюють у TensorFlow.js?
- Що таке параметр максимальної кількості слів TensorFlow Keras Tokenizer API?
- Чи можна використовувати TensorFlow Keras Tokenizer API для пошуку найчастіших слів?
- Що таке TOCO?
- Який зв’язок між кількома епохами в моделі машинного навчання та точністю передбачення від виконання моделі?
- Чи створює API сусідів пакетів у Neural Structured Learning TensorFlow розширений навчальний набір даних на основі даних природного графіка?
- Що таке API сусідів пакетів у нейронно-структурованому навчанні TensorFlow?
Дивіться більше запитань і відповідей у EITC/AI/TFF TensorFlow Fundamentals