Придбаний [МФТІ] Transformer: робота з текстом. NLP 2023 (Ілля Тихонов)

[Gadzhi]

Тривалість: 5 годин

Ви навчитеся довчати Трансформери для типових завдань НЛП, дізнаєтеся як влаштована Архітектура зсередини і сучасні тренди її розвитку.

Для кого цей інтенсив:
Для тих, хто вже знайомий з пристроєм
і принципом роботи нейромереж і хоче розширити свої знання і навички в роботі з Transformer за допомогою практичних завдань, заснованих на реальних прикладах

• Дата-саєнтисти.
• інженери машинного навчання.
• розробники.

Трансформери - це найбільш просунута архітектура в області обробки природної мови (NLP) на сьогоднішній день, і являють собою тисячі попередньо навчених моделей для виконання завдань в різних модальностях, таких як текст, зір і звук.
в результаті Ви:

• познайомитеся з основними трендами Natural Language Processing (NLP) 2018-2021 років (всі моделі з інтенсиву доступні для донавчання і вільного використання на практиці, частина з них преднавчена для російської мови).
• будете розбиратися, як влаштована архітектура (в теорії і на практиці) в її реалізації з нуля.
• Навчіться довчати Трансформери для типових завдань НЛП.

програма інтенсиву:
1 день. Тема 1. Пристрій трансформерів і його донавчання.
2 день. Тема 2. Трансформерні архітектури.

https://privatelink.de/?https://fpmi-edu.ru/transformers