Язык: Английский
Полное руководство по получению и реализации word2vec, GloVe, вкраплений слов и анализа настроения с помощью рекурсивных сетей
Чему вы научитесь:
- Понять и реализовать word2vec
- Понять метод CBOW в word2vec
- Понять метод пропусков в word2vec
- Понять оптимизацию отрицательной выборки в word2vec
- Понимание и реализация GloVe с использованием градиентного спуска и чередования наименьших квадратов
- Использование рекуррентных нейронных сетей для тегирования частей речи
- Использование рекуррентных нейронных сетей для распознавания именованных сущностей
- Понимание и реализация рекуррентных нейронных сетей для анализа настроения
- Понимание и реализация рекурсивных нейронных тензорных сетей для анализа настроений
- Использовать Gensim для получения предварительно обученных векторов слов и вычисления сходства и аналогий
- Понимание важных основ OpenAI ChatGPT, GPT-4, DALL-E, Midjourney и Stable Diffusion
Требования:
- Установите Numpy, Matplotlib, Sci-Kit Learn и Theano или TensorFlow (теперь это должно быть очень просто).
- Понять, что такое обратное распространение и градиентный спуск, уметь самостоятельно вывести и закодировать уравнения
- Создайте рекуррентную нейронную сеть из базовых примитивов в Theano (или Tensorflow), особенно функцию сканирования
- Кодирование нейронной сети с обратной связью в Theano (или Tensorflow).
- Полезно иметь опыт работы с древовидными алгоритмами
