DeepLearning Tutorial

1. Вводная информация

Полный маршрут обучения ИИ, наиболее подробное расположение ресурсов на китайском и английском языках. :star:

AiLearning: Машинное обучение — Машинное обучение — ОД, Глубокое обучение — Глубокое обучение — ОБ, Обработка естественного языка НО

Математическая основа

• Матричное исчисление
• Математические основы машинного обучения
• CS229 Основы линейной алгебры и теории вероятностей

Основы машинного обучения

Быстрый старт

• Рекомендуемый порядок спереди назад
• Карта алгоритмов машинного обучения
• Машинное обучение Эндрю Нг Coursera Личные заметки  && Видео (включая официальные заметки)  
• Раздаточный материал курса CS229 Перевод на китайский язык && Машинное обучение Wu Enda cs229 личные заметки && Официальный сайт (примечания)  && Видео (китайские субтитры)  
• Сотни страниц машинного обучения

Глубокое понимание

• Рекомендуемый порядок спереди назад
• "Статистические методы обучения" Ли Ханг
• «Распознавание образов и машинное обучение» Кристофер Бишоп
• «Машинное обучение» Чжоу Чжихуа
• «Машинное обучение в действии» Пелер Харрингтон
• Список книг по машинному обучению и глубокому обучению

Основы глубокого обучения

Быстрый старт

• Рекомендуемый порядок спереди назад
• Интеллект-карта глубокого обучения && Карта алгоритма глубокого обучения
• «Базовый курс глубокого обучения Стэнфордского университета» Эндрю Нг (Ву Энда)
• Глубокое обучение Ву Энда Личные заметки  && видео
• Основы глубокого обучения Массачусетского технологического института — видеокурс 2019 г.
• Курс профессора Ли Хунъи Национального Тайваньского университета (NTU)
• Графическое углубленное обучение _Grokking-deep-learning
• Нейронные сети и глубокое обучение Майкла Нильсена    
• CS321-Hinton
• CS230: Deep Learning
• CS294-112

компьютерное зрение

• CS231 Li Feifei Авторизованные личные заметки о переводе && видео
• исследование компьютерного зрения

обработка естественного языка

• CS224n: Natural Language Processing with Deep Learning
• Руководство по началу работы с НЛП
• Рекомендуемые книги для знакомства с НЛП (издание 2019 г.)

глубокое обучение с подкреплением

• CS234: Reinforcement Learning

Глубокое понимание

• «Глубокое обучение» Йошуа Бенжио. Ян Гудфеллоу:star:  
• Обработка естественного языка Джейкоба Эйзенштейна
• «Обучение с подкреплением» && второе издание
• Блог о глубинном обучении Hangdong, рекомендуемая статья
• Practical Deep Learning for Coders, v3
• «Реальная боевая среда Tensorflow для глубокого обучения Google», Чжэн Цзэюй Гу Сию

некоторые списки книг

• Последнее в 2019 году - глубокое обучение, генеративное противостояние, отличная рекомендация Pytorch по учебнику.

Инженерные возможности

• LeetCode && решение проблемы с литкодом && Реализация алгоритмов на С++ в разделе "Введение в алгоритмы"
• Алгоритмы машинного обучения на практике
• Фреймворк глубокого обучения
• Как стать инженером-алгоритмом && От Xiaobai до алгоритма начального уровня, я поделюсь с вами своим опытом ~ && Мой аспирант за последние три года :star:
• «Руководство инженера по алгоритмам ИИ»
• Как подготовиться к собеседованию на инженера-алгоритма и получить предложение о работе в области машинного обучения от первоклассной интернет-компании?
• [END] Изучение глубины исследования Алгоритма CV инженер от начала начала первичного интервью, вероятно, 25 статей
• Техническое собеседование, связанное с компьютером, обязательно && Заметки по алгоритму собеседования — китайский язык
• Интервью инженера-алгоритма
• Вопросы для интервью по глубокому обучению
• Глубокое обучение 500 вопросов
• Стратегия поиска работы алгоритма ИИ
• Каггл в действии
  • Общие алгоритмы:
    • Разработка функций: продолжить переменную && категориальную переменную
    • Классический алгоритм машинного обучения: LR, KNN, SVM, случайный лес, GBDT(XGBoost&&LightGBM), машина факторизации, машина факторизации с учетом полей, нейронная сеть
    • Перекрестная проверка, выбор модели: поиск по сетке, случайный поиск, гипероптимизация
    • Ensemble learning
  • Проект Kaggle в действии (учебник) = документация + код + видео
  • Серия Kaggle Getting Started: (1) Создание среды машинного обучения && Введение в Kaggle: (2) Введение в Kaggle && Серия записей Kaggle (3) Первая попытка Титаника
  • Войдите в Kaggle от 0 до 1
  • Начало работы с Kaggle
  • Единая структура практически для любой задачи машинного обучения && Approaching (Almost) Any Machine Learning Problem | Abhishek Thakur
  • Вы попадете в рейтинг Kaggle Top 1% за считанные минуты
  • Как попасть в топ-2% соревнований Kaggle? Вот пост об опыте исследования функций
  • Как попасть в топ-10% в опенере Kaggle?
• Рекомендации для конкурсов, связанных с большими данными и машинным обучением

2. Обзор моделей нейронных сетей

• 1. Разобраться с 25 моделями нейронных сетей в одной статье
• 2. Обзорный документ DNN: подробное объяснение методов прямой, сверточной и рекуррентной нейронной сети.
• 3. colah's blog
• 4. Model Zoom
• 5. Обзор DNN
• 6. От базовых принципов к градиенту спуска, учебное пособие по нейронным сетевым учебным понять, что новички могут понять
• Коллекция обзорных проектов по машинному обучению/глубокому обучению на GitHub.

CNN

история развития

• 1. 94-страничный обзор статьи «Сверточные нейронные сети: от базовой технологии к исследовательским перспективам».
• 2. От LeNet-5 к DenseNet
• 3. Краткая история сегментации изображений CNN: от R-CNN до Mask R-CNN
• 4. Прошлое и настоящее обнаружения целей в глубоком обучении (Mask R-CNN)
• 5. Обзор облегченных сверточных нейронных сетей: SqueezeNet, MobileNet, ShuffleNet, Xception
• 6. Комплексный обзор моделей обнаружения объекта глубокого обучения: быстрее R-CNN, R-FCN и SSD
• 7. Исследование семантической сегментации изображений
• 7. От RCNN до SSD это должен быть самый полный перечень алгоритмов обнаружения целей.
• 8. Исследование семантической сегментации изображений
• 9. Обзор развития семантической сегментации
• Сеть классификации глубокого обучения
• Заметки по углубленному изучению (11) Network Incept, Xception, Mobilenet, Shuffet, ResNext, Squeezenet, EfficientNet, Mixconv
• Развитие сетевой структуры CNN
• Эволюция структуры сверточной нейронной сети (от Hubel и Wiesel до SENet)
• От VGG до NASNet: обзор сетей классификации изображений
• From RCNN to YOLO:начальство,Вниз
• В эпоху после R-CNN обзор обнаружения целей по правилам различных вариантов Faster R-CNN, SSD и YOLO: победила ли серия Faster R-CNN?
• Обнаружение объектов - сводка исходного кода 20 моделей
• Трилогия обзора алгоритма обнаружения объектов
  • Обзор алгоритмов обнаружения целей на основе глубокого обучения (1)
  • Обзор алгоритмов обнаружения целей на основе глубокого обучения (2)
  • Обзор алгоритмов обнаружения целей на основе глубокого обучения (3)
• Как подойти к глубокому обучению распознаванию лиц? Вам нужен этот сверхдлинный обзор | с открытым исходным кодом
• Обзор алгоритмов обнаружения и распознавания лиц      
  • Обзор алгоритмов распознавания лиц          
  • Предыстория внедрения и состояние разработки распознавания лиц
  • История развития алгоритмов распознавания лиц
  • CascadeCNN  
  • MTCNN
  • awesome-Face_Recognition
  • Обзор исследований гетерогенного распознавания лиц
  • Босс идет: распознавание лиц + мобильный телефон, вы сразу узнаете, когда босс придет.&& Научите вас, как использовать Python для реализации распознавания лиц && Проект распознавания лиц, сетевая модель, функция потерь, сводка по набору данных
  • Обзор технологии распознавания лиц на основе глубокого обучения && Как подойти к глубокому обучению распознаванию лиц? Вам нужен этот супер длинный обзор && Обзор функций потери распознавания лиц (с реализацией с открытым исходным кодом)
• Обзор сверхвысокого разрешения изображений для глубокого обучения
• История развития обнаружения объектов
• Прочитайте все 21 последнюю статью по обнаружению целей в одной статье (Tencent/Google/Shangtang/Megvii/Tsinghua/Zhejiang University/CMU/Huake/Chinese Academy of Sciences и т. д.
• Алгоритм обнаружения объектов без привязки: Первая статья: arxiv2015_baidu_DenseBox,Как оценить новейшую модель обнаружения объектов без привязки FoveaBox?, FCOS: новейший одноэтапный алгоритм попиксельного обнаружения объектов. && Последняя модель обнаружения целей без привязки FCOS теперь с открытым исходным кодом! && Китайская академия наук Оксфорд Huawei Ной предложил CenterNet, одноэтапный детектор может достигать 47AP, был с открытым исходным кодом! && AnchorFreeDetection
• FPN Оптимизация алгоритма обнаружения объектов Обзор
• Разговор о «Прошлом и настоящем» Анкора (Часть 1)&&Разговор о «Прошлом и настоящем» Анкора (Часть 2)
• [Официальное сообщение CVPR2019] Документ, удостоверяющий личность пешехода,Ежегодный обзор прогресса в области повторной идентификации пешеходов за 2019 год
• Обзор обнаружения текста CVPR 2019 г.
• От SRCNN до EDSR: обобщить историю развития сквозных методов сверхвысокого разрешения для глубокого обучения.
• [Официальное сообщение CVPR2019] Документ, удостоверяющий личность пешехода
• Обзор технологии обнаружения и распознавания текста в естественных сценах
• Awesome-Image-Colorization
• Awesome-Edge-Detection-Papers
• OCR обработка текста
• awesome-point-cloud-analysis
• Обзор графовой нейронной сети (GNN)
• Краткий обзор обучения
• Сверхполный подробный анализ изображений с глубоким обучением: проекты, обзоры и учебные пособия за один раз
• Десятилетие поиска изображенийначальство,Вниз

руководство

• Как работают сверточные нейронные сети
• «Подарок фестиваля Циси»: понимание сверточных нейронных сетей за один день
• A Comprehensive Introduction to Different Types of Convolutions in Deep Learning&& перевести:начальство,Вниз
• Деформированное ядро ​​свертки, отделимая свертка
• Понимание разделимой по глубине свертки, групповой свертки, расширенной свертки, транспонированной свертки (деконволюции)
• различные извилины
• Сколько существует типов свертки? Одна статья, чтобы понять различные свертки в глубоком обучении
• Обломки
• Сеть свертки и ее варианты (деконволюция, расширенная свертка, причинная свертка, свертка графа)
• Как вы оцениваете последнюю версию Octave Convolution?
• Основы глубокого обучения — типы свертки
• Расширенная/Атрозная извилистая извилина/Атрозная извилина
• ShuffleNet модели CNN
• Краткое введение в ResNet и его многочисленные варианты
• Рисетящий разбор
• Новаторская работа по внедрению CNN в обнаружение целей: R-CNN
• Глубокое обучение (18) Обнаружение объектов на основе R-CNN
• Подробное объяснение статьи R-CNN
• Глубокое обучение (64) Более быстрое обнаружение объектов R-CNN
• Сначала поймите, как работает Mask R-CNN, а затем создайте приложение для заполнения цветом.
• Сегментация экземпляра - Маска RCNN Подробное объяснение (функция ROI Align / Loss)
• Быстрый старт сверточных нейронных сетей для семантической сегментации
• Как работает семантическая сегментация изображений и изменения архитектуры CNN
• Серия «Начало работы с CapsNet»
  • CapsNet Primer Series One: интуитивное понимание капсульных сетей
  • CapsNet Primer Series 2: как работают капсулы
  • Третья серия записей CapsNet: алгоритм динамической маршрутизации между капсулами
  • CapsNet Начало работы, серия 4: Капсульная сетевая архитектура
• YOLO
• Обнаружение цели | Принцип и реализация YOLOv2 (с YOLOv3)
• Вышла модель обнаружения целей YOLO v3
• Attention,1,2,3,4,5
• Статья для понимания ядра свертки 1x1 в сверточной нейронной сети
• CornerNet для обнаружения целей, 1, 2, 3
• Показатели оценки производительности для обнаружения объектов && Порог достоверности и порог IoU для расчета NMS и mAP && Народная карта
• подсчет толпы, 1, 2, 3
• RelationNetwork
• ShuffleNet V2 и четыре руководства по проектированию сетевой архитектуры
• [Tensorflow] Как tf.nn.depthwise_conv2d реализует свертку по глубине?
• Tensorflow] Как tf.nn.atrous_conv2d реализует жесткую свертку?
• [Tensorflow] Как tf.nn.separable_conv2d реализует свертку с разделением по глубине?
• [TensorFlow] Как tf.nn.conv2d_transpose реализует деконволюцию?
• Как лучше понять «Фокусную потерю» Хэ Юймин?
• Как рассчитываются вычислительная мощность (флопы) и количество параметров (параметров), необходимых для модели CNN?

Action

• Сначала прочитайте архитектуру CapsNet, а затем реализуйте ее с помощью TensorFlow.
• Руководство по API обнаружения объектов TensorFlow
  • Учебник по API обнаружения объектов TensorFlow 1
  • Учебное пособие по API обнаружения объектов TensorFlow 2
  • Учебное пособие по API обнаружения объектов TensorFlow 3
  • Учебное пособие по API обнаружения объектов TensorFlow 4
  • Учебное пособие по API обнаружения объектов TensorFlow 5
• Пошаговая реализация механизма внимания с использованием пула RoI в среде TensorFlow+Keras
• Как mxnet просматривает количество параметров && просмотр mxnet FLOPS

GAN

• Блог Су Цзяньлиня, объясненный остро и ярко

история развития

• Странные варианты GAN
• Ландшафт GAN: потери, архитектуры, регуляризация и нормализация
• Восходящие звезды глубокого обучения: основные принципы, приложения и тенденции GAN
• Обзор изображений, сгенерированных GAN

руководство

• 1. Примечания к изучению принципа GAN
• 2. Состязательные генеративные сети для экстремального сжатия изображений
• 3. Учебное пособие по GAN, автор Ли Хунъи, Тайваньский национальный университет.
  • Basic
  • Improving
• 4. Резюме документа, связанного с компьютерным зрением GAN, 2017 г.
• 5. Внедрение GAN на Keras: создание приложения, удаляющего размытие с изображений.
• 6. CycleGAN: Стиль изображения, измените его, если хотите | Интерпретация статьи ICCV 2017
• 7. Wasserstein GAN
• Унифицированное понимание генеративных моделей с вариационным выводом (VAE, GAN, AAE, ALI)

Action

• 1. Учебное пособие по GAN: от принципиального входа до производства и создания демоверсии
• 2. Проект Heart of Machines GitHub: полная теоретическая разработка и реализация GAN.

RNN

история развития

• Начиная с SRNN в 1990-х годах, обзор 27-летнего прогресса исследований рекуррентных нейронных сетей.

руководство

• Полностью иллюстрированный RNN, варианты RNN, Seq2Seq, механизм внимания
• Введение в рекуррентные нейронные сети (RNN, рекуррентные нейронные сети)
• Введение и формулы RNN и LSTM
• Глубокое обучение и его пять повторяющихся нейронных сетей                      
• Сжатие файлов без потерь с помощью рекуррентных нейронных сетей: DeepZip, предложенный Стэнфордским университетом
• Курс Эндрю Нг по моделированию последовательности
  • Примечания к курсу «Модель последовательности» от Coursera Wu Enda (1) -- Рекуррентная нейронная сеть (RNN)
  • Coursera Wu Enda "Модель последовательности" Примечания к курсу (2) -- НЛП и встраивание слов
  • Заметки к курсу "Модель последовательности" от Coursera Wu Enda (3) -- Модели последовательности и механизм внимания
• Word2Vec
  • принцип word2vec (1) основа модели CBOW и Skip-Gram
  • Принцип word2vec (2) Иерархическая модель на основе Softmax
  • Принцип модели word2vec (3), основанной на отрицательной выборке
  • Изучение word2vec с gensim
• Разговор о трансформерах

Action

• Анализ исходного кода RNNcell в tensorflow и способ настройки RNNCell
• Правильный способ открыть реализацию RNN в TensorFlow
• RNN-код TensorFlow
• Коллекция глубоких моделей НЛП, реализованных Tensorflow.
• nlp-tutorial

LSTM

руководство

• 1. (Перевод) Понимание нейронных сетей с долговременной кратковременной памятью (LSTM)
• 2. Разберитесь с LSTM и RNN в одной статье
• 3. Изучение LSTM: основные понятия внутренней структуры
• 4. Перевод: глубокое понимание серии LSTM            
  • Глубокое понимание сети LSTM (1)
  • Глубокое понимание сети LSTM (2)
• LSTM

Action

• Как предсказать цены акций с помощью tensorflow LSTM
• Практика многоуровневой LSTM TensorFlow
• Генерация текста «Анна Каренина» — построение модели LSTM с помощью TensorFlow

GNN

история развития

• Обзор графовой нейронной сети (GNN)
• Графовые модели в эпоху глубокого обучения, Цинхуа опубликовал обзор графовых сетей
• Обзор графовых нейронных сетей в Университете Цинхуа: модели и приложения
• Обзор графовой нейронной сети Третий пункт: обзор GNN от IEEE Fellow
• Самая полная документация GNN && Awesome-Graph-Neural-Networks

руководство

• Как понять граф сверточной сети (GCN)
• Краткое введение в графовые сверточные сети (GCN)
• Полное руководство по графовым сверточным сетям (GCN) Деревня для начинающих

Action

• Как работает сеть свертки графа, это минималистская реализация Numpy
• DGL

3. Оптимизация глубокой модели

• 1. Обзор алгоритмов оптимизации
• 2. От градиентного спуска к Адаму
• 3. От градиентного спуска к квазиньютоновскому методу: инвентаризация пяти алгоритмов обучения для обучения нейронных сетей
• 4. Краткое изложение методов регуляризации
  • Самый полный обзор и анализ технологии регуляризации в истории — часть 1
  • Самые всесторонние технологии регуляризации и анализ и анализ в истории - PAPT2
• 5. Серия алгоритмов оптимизации (математика)
• 6. Исчезновение градиента и взрыв градиента в обучении нейронной сети        
• 7. Оптимизация и обучение нейронной сети
• 8. Общее объяснение отзыва и точности, Всесторонний обзор: показатель точности, показатель точности, показатель отзыва, показатель точности, показатель отзыва, ложноположительный результат, истинно положительный результат, PRC, ROC, AUC, F1
• 9. Список функций активации
• 10. Курс «Оптимизация глубоких нейронных сетей» от Coursera Wu Enda (3) — Отладка гиперпараметров, пакетная регуляризация и среда программирования
• 11. Машинное обучение различной энтропии
• 12. Меры расстояния и подобия.
• 13. Черная магия в машинном обучении: нормализация, стандартизация, регуляризация
• 14. Проблема градиента с серией LSTM
• 15. Отделка функции потерь
• 16. Объясните, почему остаточный блок помогает решить проблему дисперсии градиента
• 17. FAIR He Yuming и др. предложили групповую нормализацию: вместо нормализации партии она не ограничивается размером партии.
• 18. Пакетная нормализация (BN):1 ,2 ,3 ,4 , 5, 6, 7
• 19. Объясните нормализацию в глубоком обучении, а не только в BN && Как отличить и запомнить несколько распространенных алгоритмов нормализации
• 20. BFGS
• 21. Подробно объясните причины исчезновения и взрыва градиента в глубоком обучении и их решения.
• 22. Dropout, 1, 2, 3
• 23. Понимание спектральной нормализации,Общая векторная норма и матричная норма,Понимание регуляризации спектральной нормы
• 24. Регуляризация L1 и регуляризация L2
• 25. Зачем выбирать кросс-энтропию вместо MSE

4. Те вещи об алхимиках

Опыт настройки

• Обученная нейронная сеть не работает? Одна статья проведет вас через эти 37 ям
• Трюк с обучением нейронной сети
• Серия «Глубокое обучение и компьютерное зрение» (8)_Обучение нейронных сетей и внимание
• Набор причин, по которым потери на обучение нейронной сети не уменьшаются
• Глубокое обучение: несколько решений проблемы недообучения &&Проблемы переобучения и недообучения
• Машинное обучение: как найти оптимальную скорость обученияивыполнить
• Несбалансированные методы обработки набора данных: один, Второй, третий
• Согласована ли экспрессивная способность одной и той же нейронной сети с использованием разных функций активации?
• Обзор алгоритмов оптимизации градиентного спуска, 1, 2
• Увеличение данных бумажных заметок: путаница
• Руководство по избеганию ловушек: 13 распространенных ошибок, которые совершают новые специалисты по данным
• Зачем доверять результатам CNN? -- Визуализация
  • Зачем доверять тебе, моя модель CNN? (Часть 1: CAM и Grad-CAM)
  • Зачем доверять тебе, моя модель CNN? (Часть 2: Панацея ЛАЙМ)
  • Примечания к статье: Grad-CAM: визуальные пояснения из Deep Networks с помощью локализации на основе градиента
  • Резюме: используйте обученную модель hdf5 для обнаружения целей на основе Keras для достижения градкама (визуализации) выражения или пола в выходной модели.
• Большое ядро ​​свертки или маленькое ядро ​​свертки? 1, 2
• Плохая интерпретируемость модели? Вы рассмотрели все виды неопределенностей?
• Серия заметок по алхимии
  • Алхимия Примечание 1: Образец дисбаланса
  • Alchemy Note II: очистка данных
  • Алхимия Примечание 3: Улучшение данных
  • Alchemy Notes 4: Проблема с небольшим образцом
  • Alchemy Notes 5: Маркировка данных
  • Alchemy Notes 6: Регулировка параметров
  • Alchemy Notes Seven: проектирование модели сверточной нейронной сети

Трюки и приемы чистки таблицы лидеров

• Самый полный анализ шести основных соревнований Kaggle (Часть 1)

• Наиболее полный анализ шести основных соревнований Kaggle (ниже)

классификация изображений

• Алхимия Примечание 3: Улучшение данных && Увеличение данных
• 【Технический обзор】 Расширение данных в глубоком обучении (часть 1) && [Технический обзор] Увеличение данных в глубоком обучении (часть 2)
• «Сумка трюков для классификации изображений с помощью CNN»&& pdf
• Трюк с обучением нейронной сети
• Обмен решениями Kaggle
  • Начало работы с задачей классификации изображений Kaggle с 0: подробное объяснение решения Champion
  • Конкурс классификации изображений Kaggle Iceberg подходит к концу, давайте посмотрим, каков план команды-чемпиона
  • [Обмен чемпионами Kaggle] Соревнования по распознаванию и классификации изображений, алгоритмы улучшения данных и оптимизации
  • Идентификация горбатых китов, интерпретация решения на первое место в конкурсе Kaggle
  • Итоги первой золотой медали Kaggle
  • 16-летний старшеклассник выиграл конкурс Kaggle Landmark Search Challenge! И это оказался ветеран Kaggle
  • 6 соревнований Kaggle по компьютерному зрению после соревнований
  • Kaggle побеждает третьим в первом бою — распознавание спутниковых изображений

Обнаружение цели

• ensemble
• deformable
• sync bn
• ms train/test
• Хитрости стратегии оптимизации для задачи обнаружения объектов
• Маленькие хитрости по обнаружению целей — пример обработки дисбаланса
• Общие приемы в алгоритмах обнаружения целей
• Kaggle: Автоматическая система диагностики рака легких 3D Deep Leaky Noisy-or Network Paper Reading
• Галантерея | Бог учит, как участвовать в соревнованиях kaggle - прогнозирование рака легких на основе компьютерной томографии

V. Годовой отчет

• Новогоднее веселье: Heart of the Machine 2018 High Score Tutorial Collection
• Обзор прогресса методов обнаружения целей в CVPR2019

6. Связанные с исследованиями

Фреймворк глубокого обучения

Python3.x (предварительный)

• The Python Tutorial
• Учебник Ляо Сюэфэн по Python
• учебник для новичков    
• Краткое руководство по Python для начинающих по глубокому обучению — основы
• Python — от новичка до мастера за 100 дней

Нампи (предварительно)

• Quickstart tutorial

• Numpy Quick Start (официальный документ Numpy 1.14, китайский перевод)

• Документация Numpy на китайском языке

• Краткое руководство по Python для начинающих по глубокому обучению — Numpy и Matplotlib

Opencv-python

• OpenCV-Python Tutorials
• Официальный учебник OpenCV Китайская версия (для Python)
• Серия цифровой обработки изображений
• обработка изображений python + OpenCV
• Краткое руководство по Python для начинающих по глубокому обучению — дополнительная история Python-OpenCV

Pandas

• Вводный учебник по науке о данных Python: Pandas

Tensorflow

• Как эффективно изучать код TensorFlow
• учебник китайского языка
• Официальная документация TensorFlow
• CS20:Tensorflow for DeepLearning Research
• Эндрю Нг, специальный курс TensorFlow
• [Товары] Самая полная коллекция учебных ресурсов Tensorflow в истории.
• «21 проект для игры в глубокое обучение — подробная практика на основе TensorFlow»  
• Наиболее полное вводное руководство по Tensorflow2.0 постоянно обновляется.

MXNet

• Gluon
• GluonCV
• GluonNLP

PyTorch

• Pytorch Edition практическое глубокое обучение

• Документация PyTorch на китайском языке

• WELCOME TO PYTORCH TUTORIALS

• Самая полная коллекция учебных ресурсов PyTorch в истории

• [Товары] Самая полная коллекция учебных ресурсов PyTorch в истории.

• Hands-on tour to deep learning with PyTorch

Визуализация Python

• 50 лучших визуализаций matplotlib — основные графики (с полным кодом Python)
• Учебник по Python MatPlotLib
• Начните работу с matplotlib за десять минут и начните визуализацию Python
• Краткое руководство по Python для начинающих по глубокому обучению — Numpy и Matplotlib

Инструмент аннотации

• Инструмент аннотации обнаружения объектов
  • labelImg
• Инструмент аннотации семантической сегментации
  • labelme

набор данных

• 1. 25 общедоступных наборов данных, связанных с глубоким обучением
• 2. Наборы данных обработки естественного языка (NLP)
• 3. Полные стихи Тан (43030)
• 4. Публичный набор данных Беркли
• 5. Ресурс ACL 2018: более 100 предварительно обученных векторов китайских слов.
• 6. Предварительное обучение векторов китайских слов
• 7. Семенной банк общедоступных данных
• 8. Компьютерное зрение, глубокое обучение, сопоставление набора данных интеллектуального анализа данных
• 9. Наборы данных CV, известный набор данных для компьютерного зрения
• 10. Наборы данных и конкурсы, связанные с компьютерным зрением
• 11. Это очень полный набор данных с открытым исходным кодом, вы действительно этого хотите?
• 12. Характеристики и сравнение существующих основных наборов данных для оценки плотности скопления людей.
• 13. DANBOORU2017: A LARGE-SCALE CROWDSOURCED AND TAGGED ANIME ILLUSTRATION DATASET
• 14. Набор данных переидентификации человека
• 15. Наиболее полное сопоставление и совместное использование общих наборов данных и документов по обработке естественного языка.
• 16. paper, code, sota
• 17. Выпущен большой набор данных Megvii RPC!
• 18. Отчет CVPR 2019 «квазиполный балл»: NVIDIA запускает первый набор данных для отслеживания автомобилей с несколькими камерами (Car Re-ID).
• 19. [Технология OCR] Массовая генерация текстовых обучающих наборов
• 20. Набор данных семантического анализа — MSRA

Список конференций

• Список дат международной конференции
• ai-deadlines
• Keep Up With New Trends
• рейтинг компьютерных конференций
• Китайская компьютерная федерация (CCF) рекомендует международные академические журналы и конференции

инструменты для написания эссе

• Windows: Texlive+Texstudio
• Ubuntu: Texlive+Texmaker

Инструмент для рисования тезисов

• Visio2016
• Matplotlib

учебник по написанию эссе

• Лю жюань_ как написать квалифицированную бумагу NLP
• Лю Ян_Как написать статью_V7
• Как написать научно-исследовательскую работу от начала до конца - Цю Сипэн
• Введение в диссертацию Написание части 1, Введение в диссертацию Написание части 2, Введение в диссертацию Написание части 3
• Как написать дипломную работу

ResearchGo

• ResearchGo: первая нить исследовательской жизни — поиск и управление литературой.
• ResearchGo: Research Life Second Post — Чтение литературы
• ResearchGo: Research Life Post 3 - Помощь в чтении
• ResearchGo: четвертая нить исследовательской жизни — изучение литературы
• ResearchGo: Research Life Post 5 - Обзор литературы
• ResearchGo: Шестая нить исследовательской жизни — как представить статью
• ResearchGo: Седьмая нить исследовательской жизни — патентный поиск и заявка
• ResearchGo: Восьмая нить исследовательской жизни - набор необходимых инструментов для написания рефератов, PPT и документов

Макет дипломной работы

• Учебник по набору диссертации (полная версия), рекомендуемый для сбора кровавой рвоты
• Как написать дипломную работу - как изменить формат дипломной работы

---

---

Машинное обучение, базовая теория глубокого обучения

теория информации

• 1. Различные виды энтропии в машинном обучении    
• 2. От энтропии Шеннона к ручному расхождению KL: обзор теории информации в машинном обучении.

преобразование Фурье

• Фурье-анализ удушения (полная версия) обновлено 06.06.2014
• Как кратко резюмировать преобразование Фурье?
• От ряда Фурье с непрерывным временем к быстрому преобразованию Фурье
• Очень простое и понятное БПФ (быстрое преобразование Фурье)
• Процесс вывода ряда Фурье

Некоторые области изучения глубокого обучения

многозадачное обучение

• Резюме модели-14 Многозадачное обучение-Обзор многозадачного обучения
• (Перевод) Обзор многозадачного обучения в глубоких нейронных сетях

Обучение нулевому выстрелу

• Начало работы с нулевым обучением

Небольшое обучение

• Что такое обучение в несколько выстрелов
• Начало работы с нулевым обучением
• Краткий обзор обучения
• Few-Shot Learning in CVPR 2019
• Когда небольшие выборки встречаются с машинным обучением

Многопрофильное обучение

• Обучение с несколькими представлениями Начало работы с обучением с несколькими представлениями
• Многопрофильное обучение

Embedding

• Внедряются все, от классического word2vec до базового метода глубокого обучения item2vec.
• Встраивание слов YJango — введение

word2vec

• принцип
  • НЛП понимает сущность вектора слов Word2vec за секунды
  • Простое для понимания слово2vec
  • Встраивание слов YJango — введение
  • Сравнение векторов слов в nlp: word2vec/glove/fastText/elmo/GPT/bert
  • Вложения слов (word2vec)
  • Расскажите о принципе Google word2vec
  • Почему в Word2Vec используется отрицательная выборка?
• тренировочное слово векторов
  • Упражнение - word2vec
  • Реализация и применение метода word2vec
  • Введение в обработку естественного языка word2vec Используйте tensorflow для самостоятельного обучения векторов слов
  • Используйте tensorflow для реализации векторного обучения китайскому слову word2vec
  • Как тренировать векторы слов с помощью TensorFlow

передача обучения

• 1. Трансферное обучение: анализ классических алгоритмов
• 2. Что такое трансферное обучение? Какова историческая перспектива развития этого месторождения?
• 3. Передача учебных личных заметок  
• Краткое изложение трансферного обучения (обучение одним выстрелом, обучение нулевым выстрелом)

адаптация домена

• Видеоруководство по адаптации домена (с PPT) и обмен классическими статьями
• Резюме модели 15 Адаптация предметной области Адаптация предметной области, однократное/нулевое обучение Обзор
• [Глубокое обучение] Бумажный документ: адаптация неконтролируемого домена (Сеть глубокой передачи: адаптация неконтролируемого домена)
• [Примечания к чтению доклада] Исследование неконтролируемой адаптации домена на основе обратного распространения
• [Первый выпуск конференции Valse] Адаптация предметной области и ее применение в распознавании лиц
• CVPR 2018: обнаружение объектов на основе адаптации предметной области слабо контролируемое обучение

метаобучение

• OpenAi предлагает новые типы методов метаобучения EPG, настраивая функцию потерь для реализации быстрого обучения новым задачам.      

обучение с подкреплением

• Организация знаний по обучению с подкреплением
• Обучение с подкреплением от входа до отказа
• Начало работы с обучением с подкреплением
  • Введение в обучение с подкреплением Лекция 1 MDP
• Обучение с подкреплением — что произошло от Q-Learning до DQN?
• От обучения с подкреплением к глубокому обучению с подкреплением (часть 1)                  
• От обучения с подкреплением к глубокому обучению с подкреплением (ниже)
• Эта статья поможет вам понять стратегию поиска Q-Learning.

Рекомендуемая система

• Документация по алгоритмам рекомендаций
• Десять обязательных к прочтению статей по встраиванию от новичка до эксперта
• Путь к рекомендательным системам
  • Путь к рекомендательной системе (1): встать на путь рекомендательной системы
  • Дорога к системе рекомендаций (2): кластеризация продуктов

Обработка естественного языка (NLP)

• Обучение векторов слов на основе word2vec (1)
• Обучение векторов слов на основе word2vec (2)
• Механизм самоконтроля при обработке естественного языка    
• Обзор механизмов внимания при обработке естественного языка
• Встраивание слов YJango — введение
• CMU и Google Brain предлагают новую модель ответов на вопросы QANet

Алгоритмы, связанные с семантической сегментацией

• Галантерея | Обзор основных сетей семантической сегментации
• IU, IoU (Intersection over Union) в глубоком обучении
• Selective Search for Object Detection (перевод)
• NMS — Немаксимальное подавление
• Подробная регрессия ограничивающей рамки

Теория и практика машинного обучения

• Принципы машинного обучения:star:
• ID3, C4.5, CART, случайный лес, бэггинг, повышение, Adaboost, GBDT, сводка алгоритма xgboost
• Краткое описание десяти лучших алгоритмов интеллектуального анализа данных,Введение в десять классических алгоритмов машинного обучения,[Модель алгоритма] Легко понять десять распространенных алгоритмов машинного обучения
• AdaBoost для серии GBDT
  • Когда мы говорим о GBDT: от AdaBoost до повышения градиента
  • Когда мы говорим о GBDT: повышение градиента для классификации и регрессии
  • Пока мы говорим о GBDT: другие алгоритмы обучения ансамблю
• Понимание концепций бэггинга, укладки, повышения в ансамблевом обучении

Теория машинного обучения

логистическая регрессия

• [Вопросы для интервью по машинному обучению] Логистическая регрессия

Древо решений

• Python3 «Практика машинного обучения» Учебные заметки (2): основы дерева решений Начнем со свидания вслепую
• Примечания к изучению Python3 «Практика машинного обучения» (3): глава по практике дерева решений для себя с контактной линзой
• Практическое руководство по машинному обучению (13): Алгоритм CART и обрезка дерева в основах регрессии дерева
• «Машинное обучение реальному бою» на основе теории информации алгоритма дерева решений (ID3, C4.5, CART)
• Поговорим об алгоритме обрезки дерева решений
• Машинное обучение в действии Глава 9 Древовидная регрессия
• Значение дерева решений ID3, реализация C4.5
• Реализация значения дерева решений CART

случайный лес

• Рандомный лес (Random Forest) Начало работы и бой

Метод опорных векторов (SVM)

• Популярное введение в SVM, июль (эта статья — лучшее введение в SVM, которое я читал)      
• Примечания к изучению Python3 «Практика машинного обучения» (8): линейный SVM с ручным разрывом в принципе машины опорных векторов (процесс обучения SMO изложен ясно и легко)      
• Понимание и выбор функции ядра svm
• Функция ядра и функция радиального базиса -- RBF                        
• Функция ядра SVM        

PCA

• Подробное объяснение принципа анализа главных компонентов (PCA)
• Иллюстрированное руководство по PCA
• Математические принципы PCA

SVD

• Мощная матричная декомпозиция по сингулярным значениям (SVD) и ее приложения

• Разложение по сингулярным значениям (SVD)

• Подробное объяснение и вывод принципа разложения по сингулярным числам (SVD)    

• Подробное применение SVD в системе рекомендаций и построении алгоритмов

LDA

• Почему LDA в учебнике выглядит так?

Алгоритм распространения метки

• Распространение меток и реализация Python
  • использованная литература

Дерево поиска Монта-Карло

• Руководство для начинающих по поиску по дереву Монте-Карло

Марковское решение

• Марковские процессы марковских процессов принятия решений
• Марковский процесс вознаграждения марковского процесса принятия решений
• Уравнение Беллмана марковского процесса принятия решений
• Марковский процесс принятия решений Марковский процесс принятия решений
• Функция оптимального значения и оптимальная стратегия марковского процесса принятия решений

GBDT

• LightGBM против XGBoost
• Обзор сходств и различий между XGBoost, Light GBM и CatBoost  
• Дерево решений с градиентным усилением
• Принцип и применение GBDT
• Принципы XGBOOST
• Введение и практика xgboost (принцип) && Введение и реальный бой xgboost
• [Коллекция галантерейных товаров] Популярное понимание kaggle game killer xgboost
• Принцип и реализация Python классификации GBDT
• Принцип GBDT и использование GBDT для создания новых функций — реализация Python
• Битва алгоритмов Python+GBDT — точность прогнозов достигает 100 %

Ансамбль

• Метод бэггинга и метод бустинга метода ансамблевого обучения
• Bagging,Boosting,Stacking && Введение в часто используемые методы интеграции моделей: бэггинг, бустинг, стекирование

EM (Максимизация ожиданий)

• Алгоритм ЭМ, который знают все
• Вводная статья об алгоритме EM                      

Модель гауссовой смеси (GMM)

• Математические принципы и примеры применения гауссовской модели смеси и алгоритма ЭМ
• Модель гауссовой смеси (GMM)

Условное случайное поле (CRF, дискриминантная модель)

• Как легко и радостно понимать условные случайные поля
• Как объяснить модели условного случайного поля (CRF) на простых и понятных примерах? Чем он отличается от ХММ?
• Преимущества, недостатки и отличия HMM, MHMM, CRF

TSNE

• Потоковое обучение — сокращение объемных данных и визуализация
• tSNE

Культура спектра

• Введение в алгоритм спектральной кластеризации
• Кластеризация 5 - Спектральная и спектральная кластеризация

Обнаружение выбросов

• Каковы общие алгоритмы «обнаружения аномалий» в интеллектуальном анализе данных?
• Обзор алгоритмов обнаружения выбросов

алгоритм уменьшения размерности

• Алгоритмы уменьшения размерности данных — от PCA до LargeVis

Машинное обучение на практике

• 15 минут, чтобы познакомить вас со sklearn и машинным обучением — алгоритмом классификации && Как выбрать наиболее подходящий метод машинного обучения для вашей задачи регрессии?
• Десять минут, чтобы начать работу со sklearn: установка, сбор данных, предварительная обработка данных && Десять минут, чтобы начать работу со sklearn: извлечение функций, общие модели, перекрестная проверка
• Machine Learning Course with Python
• Машинное обучение Python3

некоторые планы

• Когда у вас есть время, реорганизуйте структуру всего списка, а затем соберите серию руководств по вводному глубокому обучению и машинному обучению с реализацией кода и постарайтесь приступить к работе всесторонне и легко.
• Закончил "docker_practice" в этом семестре