ситуация:
1. Очистка данных, улучшение качества набора данных, будетaccuracyПоказатель достиг более 90%, и после большой тяжелой работы его трудно превзойти.
-
GPUЭто не очень полезно, для проверки эксперимента требуется день или два. - И моя цель - быть выше 95%
останавливаться
В случае с узкими местами лучше сначала остановиться, переосмыслить направление улучшения показателей и углубиться в модель, чтобы понять каждое звено
вдохновение
в то время как отладка другого включаетViTв проекте,OneCycleLRВ процессе настройки параметров у меня вдруг появилось вдохновение, да?learning rateНа самом деле настройка недостаточно разумнаlossЕще есть место для упадка
Сразу проверил, ждал больше часа, не ждал первогоepochsЕсть сюрприз, он на 0,5% выше, чем предыдущий индекс лучшей модели, и в последующем должны быть возможности для снижения.
ПС: хочу узнать большеViT,Нажмите на ссылку - Vision Transformer