Що таке регулярізація та генералізація?

Регуляризація стосується тонкого налаштування або вибору бажаного рівня складності моделі, щоб модель краще працювала при прогнозуванні (узагальненні). Узагальнення — це концепція в машинному навчанні, яка показує, наскільки добре модель працює на нових даних або на даних, які раніше не бачили.

акт зміни ситуації чи системи таким чином, щоб вони відповідали законам чи правилам або ґрунтувалися на розумі: Вони вимагають підвищення зарплат і нормалізації умов праці.

Загалом регулярізація є процес, у якому вводиться додаткова штрафна функція для вирішення неправильно поставленої проблеми або запобігання переобладнанню моделі [315]. По суті, це гарантує, що модель скінченних елементів не переповнює виміряні дані за рахунок фізики в моделі скінченних елементів.

Вступ до методів регресії для охорони здоров’я з використанням узагальнення R посилається на використання моделі для прогнозування значень результатів для випадків, яких не було у вашому наборі даних. Узагальнюйте лише випадки, подібні до тих, що використовувалися для адаптації моделі.

Термін «узагальнення» стосується здатність моделі адаптуватися та належним чином реагувати на раніше невидимі нові дані, які були взяті з того самого розподілу, який використовувався для побудови моделі.

Підводячи підсумок, нормалізація – це техніка попередньої обробки даних, яка регулює масштаб значень ознак, тоді як регулярізація – це метод, який використовується для запобігання переобладнанню шляхом додавання штрафного терміну до функції втрат.

Уможливлення використання більш складних моделей: регулярізація іноді дозволяє практикам використовувати більш складні моделі, ніж вони могли б. Наприклад, такі методи регулярізації, як dropout можна використовувати в нейронних мережах для навчання глибоких мереж без переобладнання, оскільки вони допомагають запобігти коадаптації нейронів.