RationalAnswer | Павел Комаровский ：Как работает ChatGPT: объясняем нейросети просто

Подпишись на авторов видео в Телеграме, чтобы не пропустить новые материалы: Павел Комаровский https://t.me/RationalAnswer и Игорь Котенков https://t.me/seeallochnaya

Следующие видео из серии про ИИ:
– Что нового привнесла GPT-4 — https://www.youtube.com/watch?v=Aaaf6CzG_3Y
– О противостоянии человечества и ИИ — https://www.youtube.com/watch?v=fnVy03_XyBc

Текстовая версия материала про эволюцию языковых моделей: https://vc.ru/future/623774

Лекция Игоря Котенкова про принципы работы трансформеров: https://www.youtube.com/watch?v=iOrNbK2T92M

Прослушать выпуск как аудиоподкаст:
– SoundCloud — https://soundcloud.com/rationalanswer/94-how-chatgpt-works
– Яндекс Музыка — https://music.yandex.ru/album/23836417
– Другие агрегаторы подкастов — https://pod.link/1457434451/episode/1ad51e60c2ca70e7d221674239a6fc12

Поддержи проект RationalAnswer:
– Patreon (в валюте) – https://www.patreon.com/RationalAnswer
– Boosty (в рублях) – https://boosty.to/RationalAnswer

СОДЕРЖАНИЕ:
00:00 – Интро
00:31 – T9: языковая модель в телефоне
02:43 – Откуда нейросети берут вероятности слов?
05:41 – Почему языковые модели умеют в творчество
08:16 – 2018: GPT-1 и архитектура Трансформера
11:47 – 2019: GPT-2, или 7000 Шекспиров в нейросети
15:25 – Как измеряется сложность и размер моделей
22:07 – 2020: GPT-3, или Невероятный Халк
26:13 – Промпты, или как правильно уламывать модель
28:06 – Январь 2022: InstructGPT, или воспитание строптивой
33:51 – Ноябрь 2022: ChatGPT – хайпуют все!
38:05 – Подводим итоги