StorageReview.com

Fio – гибкий тестер ввода-вывода, синтетический бенчмарк

Fio — это сокращение от Flexible IO (гибкий ввод-вывод), универсальный генератор рабочих нагрузок ввода-вывода. В 2005 году Йенс Акбо, создатель и разработчик стека ввода-вывода в ядре Linux, устал от постоянного написания разовых тестовых программ для оценки производительности или проверки изменений в подсистеме ввода-вывода Linux. В результате был создан fio, чтобы значительно упростить эту задачу. Он был достаточно гибким, чтобы позволять детальную настройку рабочих нагрузок, и содержал необходимую отчетность для анализа данных по завершении работы. Йенс продолжил работу над fio, когда присоединился к Oracle, а позже — к Fusion-io. Сегодня сообщество пользователей fio активно участвует в разработке, и, следовательно, постоянно совершенствует fio и внедряет новые функции. Более 100 человек внесли свой вклад в fio, и многие делали это неоднократно. Благодаря этой преданности делу, новая версия fio выпускается примерно каждые 4-6 недель, и fio широко используется в качестве отраслевого стандарта для оценки производительности, инструмента стресс-тестирования и для проверки ввода-вывода.

Основной набор функций и возможностей

Две основные характеристики хорошего бенчмарка — это возможность запуска нужной рабочей нагрузки и получение желаемых единиц выходных данных. Гибкость была (и остается) главным приоритетом fio. Он поддерживает варианты рабочих нагрузок, недоступные в других бенчмарках, а также предоставляет подробную статистику ввода-вывода. Легко определить любое сочетание случайного и последовательного ввода-вывода, или чтения/записи. Внутренняя структура fio также отличается гибкостью. Определение рабочей нагрузки полностью отделено от механизма ввода-вывода (термин, используемый fio для обозначения способа передачи ввода-вывода ядру). Например, если вы хотите запустить рабочую нагрузку с нативным асинхронным вводом-выводом в Linux, а затем сравнить ту же рабочую нагрузку в Windows, просто измените строку с единственным механизмом ввода-вывода на нативную версию для Windows. Или, если вам нужна более подробная статистика процентилей задержки в конце дистрибутива, это тоже легко. Просто укажите точные процентили, которые вас интересуют, и fio будет отслеживать их для вас.

Хотя fio изначально разрабатывался для Linux, области, не привязанные к функциям конкретной ОС, работают на любой платформе, от Windows до HP-UX и Android. Также имеются собственные механизмы ввода-вывода для Linux, Windows, Solaris и т. д. Это ключевая особенность для смешанных сред, где необходимо запускать (почти) идентичные рабочие нагрузки в разных операционных системах. Кроме того, хотя fio обычно запускается непосредственно на целевой машине, он также поддерживает сетевые подключения. Вы можете запустить серверную часть на целевой машине (машинах), а интерфейс сбора данных — на клиентской машине. Это упрощает управление, особенно если fio часто используется на нескольких машинах.

Fio — это преимущественно текстовое CLI-приложение, хотя на начальном этапе существует поддержка кроссплатформенного графического интерфейса пользователя на основе GTK (gfio). На момент публикации gfio включен в последнюю версию Fio, v2.1, и должен быть достаточно стабильным. Он может служить графическим интерфейсом пользователя для любой рабочей нагрузки, поддерживаемой CLI-клиентом. Он также обеспечивает базовую поддержку редактирования параметров заданий и рабочих нагрузок в графическом интерфейсе, хотя полная поддержка все еще находится в разработке, поскольку gfio — это проект, находящийся в стадии разработки.

Fio также поддерживает три различных формата вывода. «Классический» формат — это формат по умолчанию, который выводит статистику рабочей нагрузки в конце её выполнения. Также поддерживается формат CSV, хотя его использование постепенно сокращается в пользу формата вывода на основе JSON. Последний гораздо более гибкий и имеет преимущество в простоте обработки как для людей, так и для компьютеров.

Благодаря синергии активного сообщества пользователей и разработчиков, Fio стремительно развивается. Он проще в управлении, чем конкурирующие проекты, достаточно гибок для выполнения задач пользователей и имеет достаточно низкие накладные расходы, чтобы обеспечить работу любой системы хранения данных на полной скорости. В сочетании с более широкими возможностями и системами отчетности, чем у любых других решений на рынке, Fio представляет собой превосходный инструмент.

Почему StorageReview.com использует FIO

По мере увеличения количества и глубины наших обзоров корпоративных систем хранения данных, нам потребовался более совершенный инструмент для точного измерения производительности различных продуктов хранения данных в разных операционных системах. Традиционные программы для генерации рабочих нагрузок, такие как Iometer или Vdbench, имеют ограниченную совместимость со своими операционными системами, не являющимися их родными, или же испытывают трудности с масштабированием нагрузок для высокопроизводительных устройств хранения данных, таких как ускорители приложений PCIe или высокопроизводительные сетевые хранилища. С момента внедрения FIO мы решили многие из этих проблем и даже пошли дальше, поддерживая написание скриптов для длительных периодов тестирования. Благодаря этой функциональности, FIO стал нашим предпочтительным инструментом для синтетического тестирования во всех обзорах корпоративных систем.

Для наших обзоров мы используем FIO для измерения производительности устройства хранения данных в течение заданного периода времени. Для большинства продуктов это включает 6 часов предварительной подготовки перед началом основных тестов. Для более крупных устройств хранения данных PCIe, которые могут не перейти в стационарный режим в течение многих часов тестирования, мы проводим предварительную подготовку в два раза дольше — 12 часов — перед началом основных тестов. Наш процесс синтетического тестирования производительности корпоративных устройств хранения данных начинается с анализа того, как накопитель работает во время тщательной фазы предварительной подготовки. Каждое из сравниваемых устройств сначала подвергается безопасному удалению данных с помощью инструментов производителя, а затем предварительно подготавливается к стационарному режиму с той же рабочей нагрузкой, с которой устройство будет тестироваться, при высокой нагрузке в 16 потоков с очередью из 16 операций на поток. Завершая процесс, мы затем проводим тестирование через заданные интервалы в нескольких профилях глубины потоков/очередей, чтобы показать производительность при легком и интенсивном использовании.

Предварительная подготовка и первичные испытания в стационарном режиме:

  • Пропускная способность (суммарные операции ввода-вывода при чтении и записи)
  • Средняя задержка (среднее значение задержки чтения и записи)
  • Максимальная задержка (пиковая задержка чтения или записи)
  • Стандартное отклонение задержки (усредненное стандартное отклонение чтения и записи)

Наш анализ синтетической нагрузки для корпоративного сектора включает в себя различные профили, отражающие реальные задачи. Эти профили были разработаны для упрощения сравнения с нашими предыдущими тестами, а также с широко опубликованными значениями, такими как максимальная скорость чтения и записи 4K и 8K 70/30, которая обычно используется для корпоративного оборудования.

  • 4k
    • 100% чтение или 100% запись
    • 100% 4 тыс.
    • fio –filename=/dev/sdx –direct=1 –rw=randrw –refill_buffers –norandommap –randrepeat=0 –ioengine=libaio –bs=4k –rwmixread=100 –iodepth=16 –numjobs=16 –runtime=60 –group_reporting –name=4ktest
  • 8k 70/30
    • 70% чтение, 30% письмо
    • 100% 8 тыс.
    • fio –filename=/dev/sdx –direct=1 –rw=randrw –refill_buffers –norandommap –randrepeat=0 –ioengine=libaio –bs=8k –rwmixread=70 –iodepth=16 –numjobs=16 –runtime=60 –group_reporting –name=8k7030test

В настоящее время для тестирования производительности Linux мы используем FIO версии 2.0.7 (x64) в CentOS 6.3, а для тестирования производительности Windows — FIO версии 2.0.12.2 (x64) в Windows Server 2008 R2 SP1.

StorageReview Корпоративные платформы тестирования

Решения для хранения данных тестируются с помощью синтетического теста FIO в лаборатории StorageReview Enterprise Test Lab с использованием автономных серверов. Мы используем HP ProLiant DL380/DL360 Gen9 для демонстрации реалистичной производительности, меняя только адаптер хранения или сетевой интерфейс для подключения наших DL380/DL360 к различным устройствам хранения данных. DL380/DL360 доказали свою отличную совместимость с устройствами сторонних производителей, что делает их превосходной платформой для такой разнообразной среды тестирования.

Lenovo ThinkServer RD240 (Gen1)

  • 2 процессора Intel Xeon X5650 (2.66 ГГц, 12 МБ кэш-памяти)
  • Чипсет Intel 5500+ ICH10R
  • Память – 8 ГБ (2 x 4 ГБ) 1333 МГц DDR3 Registered RDIMM
  • Windows Server 2008 Standard Edition R2 SP1 64-бит и CentOS 6.2 64-бит
  • LSI 9211 SAS/SATA 6.0Gb/s HBA

Lenovo ThinkServer RD630 (Gen2)

  • 2 процессора Intel Xeon E5-2620 (2.0 ГГц, 15 МБ кэш-памяти, 6 ядер)
  • Набор микросхем Intel C602
  • Память – 16 ГБ (2 x 8 ГБ) 1333 МГц DDR3 Registered RDIMM
  • Windows Server 2008 R2 SP1 64-бит, Windows Server 2012 Standard, CentOS 6.3 64-бит
  • LSI 9207-8i SAS/SATA 6.0Gb/s HBA (для тестирования производительности SSD или HDD)

(Gen3) HP ProLiant DL380 / DL360 Gen9

  • Два процессора Intel E5-2667 v3 (3.2 ГГц, 8 ядер, 20 МБ кэш-памяти) 
  • 256 ГБ оперативной памяти (16 ГБ x 16 DDR4, 128 ГБ на каждый процессор)
  • Windows Server 2012 R2, CentOS 7.0
    • SSD-накопитель объемом 400 ГБ для загрузки Windows
    • 300 ГБ загрузочный жесткий диск – Linux
  • LSI 9300-8e SAS/SATA 12.0Gb/s HBA (Для тестирования производительности SSD или HDD)
  • Supermicro SuperChassis 846BE1C-R1K28B SAS3 JBOD (для подключения SSD или HDD)