Используемое программное обеспечение и версии:Pytorch1.8,torchtext0.9и Python3.7
Конфигурация среды
① Чтобы установить Pytorch, см.Веб-сайт Pytorchинструкция по установке на .
② Чтобы установить torchtext, сделайте следующее:
pip install torchtext
③Если скорость установки низкая, вы можете изменить следующую команду:
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple torchtext
④ Кроме того, мы будем использовать spaCy для маркировки данных. Чтобы установить spaCy, следуйтеофициальный сайт spaCyинструкции по установке
- spaCy — это модуль Python с открытым исходным кодом для обработки больших объемов текста на естественном языке. Например, что является ключом к фрагменту текста? Что означает контекст в абзаце? Кто что кому сделал? К чему конкретно относятся эти названия компаний и продуктов? Насколько одно слово похоже на другие слова? Человеку легче понять естественный язык, но если компьютер должен понять смысл текста, это неизбежная проблема.
- spaCy помогает вам использовать программы-калькуляторы для обработки ипониматьИнструменты для массивного текста. В настоящее время он известен как самый быстрый продукт промышленного класса, более подходящий для практического применения. spaCy может помочь вам построитьИзвлечение информации, понимание естественного языка и предварительная обработка для глубокого обучения
conda install -c conda-forge spacy
conda install -c conda-forge cupy
python -m spacy download zh_core_web_sm
python -m spacy download en_core_web_sm
Могут возникнуть следующие проблемы:
При установке обнаруживается, что соединение с сервером было прервано, и решение не может быть установлено.
anaconda предоставила загрузку модели spacy.
conda install -c conda-forge spacy-model-en_core_web_lg
或者运行
conda install -c conda-forge/label/cf202003 spacy-model-en_core_web_lg
Где en_core_web_lg можно заменить на en_core_web_sm или en_core_web_md.
⑤ Библиотеку трансформаторов можно установить следующими способами (перейдите на исходный код Tsinghua):
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple transformers
В этих руководствах используются преобразователи версии 4.3.