Большие датасеты и быстрые временные файлы

Не распаковывайте большие архивы и не создавайте миллионы мелких временных файлов непосредственно в ~/project, если результат можно восстановить. Постоянный workspace надёжен, но медленнее локального /tmp.

Рекомендуемая схема#

~/project.

~/project.

1. Храните код, requirements.txt, конфигурацию и финальные результаты в

2. Загружайте или копируйте рабочий датасет в /tmp.

3. Направляйте кэши библиотек в /tmp.

4. Обучайте модель с рабочими файлами в /tmp.

5. Периодически копируйте чекпоинты в ~/project.

6. Перед остановкой убедитесь, что финальный результат находится в

export TMPDIR=/tmp
export HF_HOME=/tmp/huggingface
export TORCH_HOME=/tmp/torch

mkdir -p /tmp/dataset ~/project/checkpoints

Для долгого запуска сохраняйте чекпоинт не только в конце эпохи, но и через разумный интервал времени. Любой файл, оставшийся только в /tmp, считается одноразовым.

Когда всё же хранить датасет в ~/project#

Храните постоянную копию, если датасет:

• нельзя повторно скачать;

• был размечен или подготовлен вручную;

• нужен в нескольких будущих сессиях;

• должен быть зафиксирован вместе с экспериментом.

Учитывайте его объём в тарификации хранилища.