Skip to content

Общие сведения о динамических СХД

ПО РСК БазИС СХД позволяет создавать динамические СХД типа NFS и Lustre по запросу пользователей кластера под конкретную задачу. Для использования такого функционала потребуется немного изменить конфигурацию SLURM (см. Раздел "Установка РСК БазИС СХД"), а также настроить окружение интегрированное с планировщиком SLURM (далее SLURM-env, slurm-env) для создания динамических СХД.

Топология окружений

Slurm-Env-Topology

В топологии storage есть специальная группа slurm-env. Ниже по графу расположены объекты окружения, которые представляют собой сконфигурированные платформы для создания динамических СХД. На текущий момент ПО РСК БазИС СХД позволяет создавать окружения двух типов:

  • для СХД типа Lustre
  • для СХД типа NFS

Причем окружения могут сосуществовать одновременно. Каждому окружению принадлежит:

  • одна группа узлов (которые берут на себя роль серверов хранения)
  • одна или несколько групп дисков одного размера (одной гранулярности)

⚠ Группы дисков нужно создавать с учетом гранулярности! Это означает, что в одну группу дисков должны входить диски одинакового размера.

После запуска окружений пользователям кластера будут доступны динамические СХД по запросу через нативный плагин BurstBuffer планировщика SLURM. Пример запуска задачи с использованием СХД по запросу описан здесь

Процесс

Процедура создания динамических СХД проще, чем процедура создания статических СХД. При создании динамической СХД достаточно указать группу узлов, которые будут серверами хранения, а также группу дисков, которые будут использоваться для создания устройств хранения (таргетов) динамических СХД Lustre. Группа узлов хранения должна называться default. Все таргеты подключаются к узлам данной группы равномерно.

Жизненный цикл динамической СХД Lustre устроен следующим образом. Пользователь посредством запуска скрипта sbatch запрашивает необходимый для задачи объем СХД (см. раздел "Демонстрация работы с динамической СХД Lustre" Руководства пользователя). Система РСК БазИС СХД резервирует необходимое количество дисков с учетом гранулярности в один диск и создает на каждом диске файловую систему zfs.

Созданную файловая система делится на два датасета. Один датасет используется для создания MDT-таргета, второй - для OST-таргета. Диски с датасетами равномерно распределяются по всем узлам из группы узлов default. Для каждой динамической СХД Lustre создается уникальное название файловой системы Lustre.

После монтирования таргетов, система РСК БазИС СХД выполняет процесс StageIn, т.е. загрузку указанных пользователем файлов в созданную динамическую СХД Lustre.

После окончания задачи система РСК БазИС СХД выполняет процесс StageOut, т.е. выгрузку указанных пользователем данных из созданной SoD в постояную СХД вычислительного кластера. После этого созданная динамическая СХД Lustre разбирается и уничтожается.

SOD introduction