Автокодери + обмежені машини Больцмана для глибоких нейронних мереж у Theano, + t-SNE та PCA
Цей курс є наступним логічним кроком у моїй серії "глибоке навчання, наука про дані та машинне навчання". Я прочитав багато курсів про глибоке навчання, і я щойно випустив курс про неконтрольоване навчання, де я говорив про кластеризацію та оцінку щільності. Отже, що Ви отримуєте, коли складаєте ці 2 разом? Неконтрольоване глибоке навчання!
У цьому курсі ми почнемо з деяких дуже базових речей-аналізу основних компонентів (PCA) та популярного методу зменшення нелінійної розмірності, відомого як t-SNE (t-розподілене стохастичне вбудовування сусідів).
Далі ми розглянемо особливий тип неконтрольованої нейронної мережі, який називається автокодером. Описавши, як працює автокодер, я покажу вам, як ви можете зв'язати їх разом, щоб сформувати глибокий стек автокодера, що призводить до підвищення продуктивності контрольованої глибокої нейронної мережі. Автокодери схожі на нелінійну форму PCA.
Нарешті, ми розглянемо обмежені машини Больцмана (RBMs). Це ще одна популярна неконтрольована нейронна мережа, яку ви можете використовувати так само, як автокодери, для попереднього навчання вашої контрольованої глибокої нейронної мережі. Я покажу вам цікавий спосіб навчання обмежених машин Больцмана, відомий як вибірка Гіббса, особливий випадок ланцюга Маркова Монте-Карло, і я продемонструю, як, хоча цей метод є лише грубим наближенням, він все одно призводить до зниження інших функцій витрат, таких як той, який використовується для автокодерів. Цей метод також відомий як контрастна дивергенція або CD-k. Як і у фізичних системах, ми визначаємо поняття, яке називається вільною енергією, і намагаємось мінімізувати цю кількість.
Нарешті, ми зведемо всі ці поняття разом, і я наочно покажу вам, що відбувається, коли ви використовуєте PCA та t-SNE для функцій, вивчених автокодерами та RBM, і ми побачимо, що навіть без міток результати вказують на те, що шаблон був знайдений.
Усі матеріали, що використовуються в цьому курсі, безкоштовні. Оскільки цей курс є 4-м у серії deep learning, я припускаю, що ви вже знаєте математичне числення, лінійну алгебру та Програмування на Python. Ви захочете встановити Numpy, Theano та Tensorflow для цього курсу. Це важливі елементи у вашому наборі інструментів для аналізу даних.
Якщо ви зацікавлені в глибокому навчанні і хочете дізнатися про сучасні розробки глибокого навчання, крім простого зворотного розповсюдження, включаючи використання неконтрольованих нейронних мереж для інтерпретації того, які функції можуть бути автоматично та ієрархічно вивчені в системі глибокого навчання, цей курс для вас.
Цей курс стосується "як створювати та розуміти", а не просто "як користуватися". Будь-хто може навчитися використовувати API за 15 хвилин після прочитання деякої документації. Йдеться не про" запам'ятовування фактів", а про те, щоб" побачити все своїми очима " за допомогою експериментів. Це навчить вас, як візуалізувати те, що відбувається всередині моделі. Якщо ви хочете більше, ніж просто поверхневий погляд на моделі машинного навчання, цей курс для вас.
Посилання
https://privatelink.de/?https://www.udemy.com/unsupervised-deep-learning-in-python/