в курс входить тільки те, що зазначено в описі. Ніякі 10 годин зверху, про які говорять в коментарях, сюди не входять!
Які нейронні мережі ви напишете:
Які нейронні мережі ви напишете:
- Розпізнавання рукописних цифр
- Розпізнавання марок машин
- Класифікація письменників
- Класифікація звернень до органів держ. влади по Москві
- Передбачення, чи вийде розповідь у фінал літературного конкурсу
- Визначення вартості машини по оголошенню на Юлі
- Визначення зарплати людини по резюме на hh.ru
- Визначення вартості квартири
- Визначення рейтингу статті на habr.ru за текстом
- Передбачення акцій лукойл
- Розпізнавання стилів музики
- Розпізнавання диктора по голосу
- Визначення шахрайських операцій за картками
- Генерація рукописних цифр
- Генерація зображень неба і літаків
- Сегментація зображень з реєстратора для автопілотів автомобілів
- Сегментація літаків
- Інтелектуальний чат-бот
- Сегментація договорів
- Розподіл вантажів по фурам
- Бот для проходження лабіринту
- Автоматичний підбір архітектури нейронної мережі
- Кластеризація резюме на hh.ru
- Кластеризація продажів інтернет-магазину косметики і розумний upsale
- Навчання нейронної мережі грі в пінг-понг за допомогою навчання з підкріпленням
- Перенесення стилю зображення
- Розпізнавання мови
- Розпізнавання голосових команд для розумного будинку
1. Базові теми
1.1 введення в нейронні мережі
Опис заняття: введення в програму курсу. Знайомство з нейронними мережами і методикою їх написання на прикладі бази рукописних цифр. Робота з математичною моделлю. Прописання архітектури, шарів. Пояснювальні коментарі: що з себе представляють різні параметри і характеристики шарів. Розгляд елементів, що входять в нейронну мережу, навчання мережі, Перевірка на працездатність. Мета заняття-показати, що написання нейронних мереж крім розробки математичної моделі включає в себе обробку бази даних, за допомогою яких і буде відбуватися навчання.
1.2 повнозв'язні мережі, навчальна та тестова вибірки
Опис заняття: знайомство з ключовими поняттями теорії навчання нейронних мереж. Приклади активаційних функцій, їх призначення та особливості. Побудова нейронних мереж з простими архітектурами. Розгляд поняття нейрон зміщення( bias), його призначення. Розгляд різних способів формування навчальної та перевірочної вибірок з використанням набору рукописних цифр MNIST. Створення та навчання нейронної мережі для розпізнавання рукописних цифр, перевірка та візуалізація якості навчання мережі. Розгляд питання перенавчання нейронної мережі і способів боротьби з перенавчанням. Розгляд додаткових можливостей щодо збільшення якості розпізнавання. Створення нейронної мережі для вирішення реального завдання: передбачення цін машин з сайту YOULA.RU.
1.3 згорткові нейронні мережі
Опис заняття: переваги згорткових нейронних мереж на тлі інших архітектур по відношенню до розпізнавання об'єктів. Мета заняття-показати, що може включати попередня обробка вибірки, як привести її до потрібної форми для того, щоб на ній перевірити згорткову нейронну мережу. Вивчення архітектури згорткових нейронних мереж: які елементи беруть участь, що використовується, навіщо використовується, як перевіряються дані на цих архітектурах і порівняння результатів. Робота зі стандартними наборами-базою рукописних цифр і базою Cifar10.
1.4 Обробка текстів за допомогою нейромереж
Опис заняття: розгляд основних завдань, пов'язаних з обробкою текстів, які здатні вирішувати нейронні мережі. Знайомство з основними архітектурами нейронних мереж, що застосовуються для обробки текстових даних. Розгляд способів векторизації тексту для перетворення текстових даних в Числові (розряджені і щільні вектора, векторні уявлення слів). Демонстрація попередньо навчених векторних уявлень слів: CloVe (Global Vectors), Word2Vec, FastText. Рішення практичного завдання з класифікації текстів на базі звернень громадян: парсинг вихідної бази для створення навчальної та перевірочної вибірок, створення повнозв'язної мережі та мережі з Embedding-шаром для вирішення поставленого завдання, порівняння результатів роботи мереж. Рішення практичного завдання з класифікації письменників: парсинг бази письменників, створення навчальної та перевірочної вибірок, демонстрація перетворення даних за принципом BagOfWords, створення повнозв'язної мережі та мережі з Embedding-шаром для класифікації письменників, розпізнавання перевірочної вибірки.
1.5 рекурентні нейронні мережі та одновимірні згорткові мережі для обробки текстів
Опис заняття: переваги рекурентних нейронних мереж для вирішення завдань на знаходження послідовностей. Розгляд пристрою рекурентної нейронної мережі: що собою являє елемент запам'ятовування в цій мережі, яким чином вибудовується Архітектура рекурентних мереж, що необхідно знати про роботу з кожним з типів і як їх можна комбінувати з іншими архітектурами. Робота на базі письменників. Завдання заняття-Класифікація письменників за допомогою рекурентної мережі, яка за рахунок запам'ятовування послідовності між словами, визначить стиль кожного з письменників, також рішення задачі класифікації письменників за допомогою одновимірної згорткової мережі.
1.6 нейронні мережі для вирішення задачі регресії
Опис заняття: розгляд терміна регресія в області нейронних мереж. Виділення відмінностей при вирішенні задач регресії і розглянутих раніше завдань класифікації. Рішення практичного завдання з визначення вартості квартир з використання набору даних Boston Housing. Рішення аналогічної задачі з визначення вартості квартир на власній інформаційній базі: парсинг бази, перетворення наявних даних (як числових, так і текстових) до необхідного числовому поданню, формування навчальної вибірки, нормування даних. Побудова нейронної мережі для вирішення поставленого завдання і оцінка отриманих результатів. Рішення практичного завдання з оцінки зарплати по базі з HeadHunter: парсинг бази, створення навчальної вибірки, створення різних архітектур нейронних мереж для вирішення завдання і порівняння результатів їх роботи.
1.7 Повнозв'язні та рекурентні нейронні мережі для прогнозування часових рядів
Опис заняття: тимчасові ряди - це окрема глава у вивченні нейронної мережі. З одного боку, завдання нагадує регресію, так як необхідно передбачити число. Наприклад, необхідно передбачити ціну на бензин, трафік на сайті, якусь змінну в часі. З іншого боку, необхідно враховувати, що відбувалося до цього. Розгляд які з раніше вивчених архітектур оптимальніше підходять для баз з тимчасовими рядами. Передбачення значень часових рядів. Робота з базами прогнозування акцій "Лукойлу" і цін на бензин.
1.8 прямі та згорткові нейронні мережі для обробки аудіо сигналів
Опис заняття: розгляд специфіки обробки аудіо за допомогою нейронних мереж. Знайомство з популярними бібліотеками по обробці аудіо. Демонстрація роботи з бібліотекою librosa для параметризації аудіо, Витяг ознак з аудіосигналу: перетин з нулем, спектральний Центроїд, спектральний спад частоти, крейда-частотні спектральні коефіцієнти, частота кольоровості. Рішення практичного завдання з класифікації жанрів музики.: формування навчальної вибірки, створення нейронної мережі для вирішення поставленого завдання, перевірка розпізнавання жанрів музики на основі різних ознак.
1.9 Автокодировщики
Опис заняття: після розгляду типів шарів і базових архітектур можливий перехід до більш високорівневих архітектур, які виконують конкретну функцію - до автокодувальників. Знайомство з автокодировщиками. Розгляд особливостей і функцій автокодувальників. Приклад: очищення від шуму зображень рукописних цифр. Рішення завдання на виявлення шахрайських операцій.
1.10 варіаційні автокодувальники, генеративні моделі на базі автокодувальників
Опис заняття: розгляд відмінностей варіаційного та класичного автокодувальників. Завдання, що вирішуються на варіаційному автокодувальнику. Опис застосування для вирішення завдань варіаційними автокодувальниками. Розгляд можливості задавати параметри і генерувати дані з заданими умовами.
1.11 генеративні змагальні мережі
Опис заняття: розгляд питання генерації різного контенту з використанням нейронних мереж (GAN). Виділень основних складнощів і способів їх подолання при вирішенні завдань генерації. Знайомство з принципово новим підходом в побудові архітектур нейронних мереж: створення двох" конкуруючих " між собою частин однієї мережі (генератор і Дискримінатор). Опис процесу навчання кожної з частин і формування навчальних вибірок. Розгляд генеративних змагальних мереж з умовою (с). Рішення практичного завдання з генерації рукописних цифр на основі набору MNIST. Створення різних архітектур дискримінатора і генератора і порівняння якості їх роботи. Рішення аналогічної задачі для генерації зображення на основі набору CIFAR10. Створення генератора з умовою для генерації рукописних цифр.
2. Просунуті теми
2.1 сегментація зображень
1.1 введення в нейронні мережі
Опис заняття: введення в програму курсу. Знайомство з нейронними мережами і методикою їх написання на прикладі бази рукописних цифр. Робота з математичною моделлю. Прописання архітектури, шарів. Пояснювальні коментарі: що з себе представляють різні параметри і характеристики шарів. Розгляд елементів, що входять в нейронну мережу, навчання мережі, Перевірка на працездатність. Мета заняття-показати, що написання нейронних мереж крім розробки математичної моделі включає в себе обробку бази даних, за допомогою яких і буде відбуватися навчання.
1.2 повнозв'язні мережі, навчальна та тестова вибірки
Опис заняття: знайомство з ключовими поняттями теорії навчання нейронних мереж. Приклади активаційних функцій, їх призначення та особливості. Побудова нейронних мереж з простими архітектурами. Розгляд поняття нейрон зміщення( bias), його призначення. Розгляд різних способів формування навчальної та перевірочної вибірок з використанням набору рукописних цифр MNIST. Створення та навчання нейронної мережі для розпізнавання рукописних цифр, перевірка та візуалізація якості навчання мережі. Розгляд питання перенавчання нейронної мережі і способів боротьби з перенавчанням. Розгляд додаткових можливостей щодо збільшення якості розпізнавання. Створення нейронної мережі для вирішення реального завдання: передбачення цін машин з сайту YOULA.RU.
1.3 згорткові нейронні мережі
Опис заняття: переваги згорткових нейронних мереж на тлі інших архітектур по відношенню до розпізнавання об'єктів. Мета заняття-показати, що може включати попередня обробка вибірки, як привести її до потрібної форми для того, щоб на ній перевірити згорткову нейронну мережу. Вивчення архітектури згорткових нейронних мереж: які елементи беруть участь, що використовується, навіщо використовується, як перевіряються дані на цих архітектурах і порівняння результатів. Робота зі стандартними наборами-базою рукописних цифр і базою Cifar10.
1.4 Обробка текстів за допомогою нейромереж
Опис заняття: розгляд основних завдань, пов'язаних з обробкою текстів, які здатні вирішувати нейронні мережі. Знайомство з основними архітектурами нейронних мереж, що застосовуються для обробки текстових даних. Розгляд способів векторизації тексту для перетворення текстових даних в Числові (розряджені і щільні вектора, векторні уявлення слів). Демонстрація попередньо навчених векторних уявлень слів: CloVe (Global Vectors), Word2Vec, FastText. Рішення практичного завдання з класифікації текстів на базі звернень громадян: парсинг вихідної бази для створення навчальної та перевірочної вибірок, створення повнозв'язної мережі та мережі з Embedding-шаром для вирішення поставленого завдання, порівняння результатів роботи мереж. Рішення практичного завдання з класифікації письменників: парсинг бази письменників, створення навчальної та перевірочної вибірок, демонстрація перетворення даних за принципом BagOfWords, створення повнозв'язної мережі та мережі з Embedding-шаром для класифікації письменників, розпізнавання перевірочної вибірки.
1.5 рекурентні нейронні мережі та одновимірні згорткові мережі для обробки текстів
Опис заняття: переваги рекурентних нейронних мереж для вирішення завдань на знаходження послідовностей. Розгляд пристрою рекурентної нейронної мережі: що собою являє елемент запам'ятовування в цій мережі, яким чином вибудовується Архітектура рекурентних мереж, що необхідно знати про роботу з кожним з типів і як їх можна комбінувати з іншими архітектурами. Робота на базі письменників. Завдання заняття-Класифікація письменників за допомогою рекурентної мережі, яка за рахунок запам'ятовування послідовності між словами, визначить стиль кожного з письменників, також рішення задачі класифікації письменників за допомогою одновимірної згорткової мережі.
1.6 нейронні мережі для вирішення задачі регресії
Опис заняття: розгляд терміна регресія в області нейронних мереж. Виділення відмінностей при вирішенні задач регресії і розглянутих раніше завдань класифікації. Рішення практичного завдання з визначення вартості квартир з використання набору даних Boston Housing. Рішення аналогічної задачі з визначення вартості квартир на власній інформаційній базі: парсинг бази, перетворення наявних даних (як числових, так і текстових) до необхідного числовому поданню, формування навчальної вибірки, нормування даних. Побудова нейронної мережі для вирішення поставленого завдання і оцінка отриманих результатів. Рішення практичного завдання з оцінки зарплати по базі з HeadHunter: парсинг бази, створення навчальної вибірки, створення різних архітектур нейронних мереж для вирішення завдання і порівняння результатів їх роботи.
1.7 Повнозв'язні та рекурентні нейронні мережі для прогнозування часових рядів
Опис заняття: тимчасові ряди - це окрема глава у вивченні нейронної мережі. З одного боку, завдання нагадує регресію, так як необхідно передбачити число. Наприклад, необхідно передбачити ціну на бензин, трафік на сайті, якусь змінну в часі. З іншого боку, необхідно враховувати, що відбувалося до цього. Розгляд які з раніше вивчених архітектур оптимальніше підходять для баз з тимчасовими рядами. Передбачення значень часових рядів. Робота з базами прогнозування акцій "Лукойлу" і цін на бензин.
1.8 прямі та згорткові нейронні мережі для обробки аудіо сигналів
Опис заняття: розгляд специфіки обробки аудіо за допомогою нейронних мереж. Знайомство з популярними бібліотеками по обробці аудіо. Демонстрація роботи з бібліотекою librosa для параметризації аудіо, Витяг ознак з аудіосигналу: перетин з нулем, спектральний Центроїд, спектральний спад частоти, крейда-частотні спектральні коефіцієнти, частота кольоровості. Рішення практичного завдання з класифікації жанрів музики.: формування навчальної вибірки, створення нейронної мережі для вирішення поставленого завдання, перевірка розпізнавання жанрів музики на основі різних ознак.
1.9 Автокодировщики
Опис заняття: після розгляду типів шарів і базових архітектур можливий перехід до більш високорівневих архітектур, які виконують конкретну функцію - до автокодувальників. Знайомство з автокодировщиками. Розгляд особливостей і функцій автокодувальників. Приклад: очищення від шуму зображень рукописних цифр. Рішення завдання на виявлення шахрайських операцій.
1.10 варіаційні автокодувальники, генеративні моделі на базі автокодувальників
Опис заняття: розгляд відмінностей варіаційного та класичного автокодувальників. Завдання, що вирішуються на варіаційному автокодувальнику. Опис застосування для вирішення завдань варіаційними автокодувальниками. Розгляд можливості задавати параметри і генерувати дані з заданими умовами.
1.11 генеративні змагальні мережі
Опис заняття: розгляд питання генерації різного контенту з використанням нейронних мереж (GAN). Виділень основних складнощів і способів їх подолання при вирішенні завдань генерації. Знайомство з принципово новим підходом в побудові архітектур нейронних мереж: створення двох" конкуруючих " між собою частин однієї мережі (генератор і Дискримінатор). Опис процесу навчання кожної з частин і формування навчальних вибірок. Розгляд генеративних змагальних мереж з умовою (с). Рішення практичного завдання з генерації рукописних цифр на основі набору MNIST. Створення різних архітектур дискримінатора і генератора і порівняння якості їх роботи. Рішення аналогічної задачі для генерації зображення на основі набору CIFAR10. Створення генератора з умовою для генерації рукописних цифр.
2. Просунуті теми
2.1 сегментація зображень
https://neural-university.ru/kurs_neural_pro
Останнє редагування модератором: