StorageReview.com

Тест производительности хранилища баз данных NoSQL от MarkLogic

MarkLogic 6 — это корпоративная NoSQL-база данных («не только SQL»), обладающая гибкостью и масштабируемостью для решения современных задач обработки данных, для которых базы данных на основе SQL не были предназначены. Она также имеет возможности корпоративного уровня, такие как поиск, ACID-транзакции, отказоустойчивость, репликация и безопасность, для запуска критически важных приложений. MarkLogic объединяет функциональность базы данных, поиск и сервисы приложений в единой системе. Она предоставляет предприятиям функциональность, необходимую для создания ценности. MarkLogic использует существующие инструменты, знания и опыт, обеспечивая при этом надежную, масштабируемую и безопасную платформу для критически важных данных.

Компании и организации из самых разных отраслей, включая государственный сектор, СМИ и финансовые услуги, получили выгоду от уникальной архитектуры MarkLogic. Любая среда, сталкивающаяся с сочетанием объема данных, скорости их обработки, разнообразия и сложности — задача, известная как «большие данные» — может быть улучшена с помощью MarkLogic. Примеры решений, построенных на основе MarkLogic, включают в себя анализ разведывательной информации, поддержку принятия решений в режиме реального времени, управление рисками, управление цифровыми активами, цифровую цепочку поставок и доставку контента.

Тест производительности MarkLogic

Используемый нами бенчмарк разработан внутри компании MarkLogic и применяется для оценки как аппаратных конфигураций, так и будущих версий программного обеспечения MarkLogic. Рабочая нагрузка разделена на две отдельные части:

  1. Этап загрузки, на котором большой набор данных с индексами вставляется в базу данных MarkLogic.
  2. Этап запроса, на котором к вставленному набору данных применяются поиск, обновление представлений и удаление. В этих запросах также используются функции MarkLogic, такие как фасеты, пагинация и закладки.

В качестве корпуса используется общедоступная коллекция XML-файлов Википедии. Файлы хранятся на диске в заархивированном формате. Для загрузки данных мы используем MarkLogic Content Pump (mlcp).  

Фаза приема пищи, в частности, характеризуется высокой интенсивностью потребления и выделения жидкости. Потребление и выделение жидкости подразделяются на три категории:

  1. Первоначально документы загружаются в память, и единственные операции записи на диск — это сохранение в журнале событий.
  2. Заполненная память быстро переполняется, и данные постоянно записываются на диск в качестве данных для сохранения. Это процесс экономии памяти.
  3. По мере увеличения количества дисковых файлов MarkLogic должен объединять их, чтобы уменьшить накладные расходы на запросы. Объединение включает в себя чтение нескольких дисковых файлов, запись объединенной версии и удаление исходных файлов.

Для обеспечения высочайшей точности и принудительного перехода каждого устройства в стабильное состояние мы повторяем этапы приема и запроса данных 24 раза для устройств на основе флэш-памяти. Для ускорителей приложений PCIe каждый интервал занимает от 60 до 120 минут, таким образом, общее время тестирования составляет от 24 до 48 часов. Для устройств с меньшей пропускной способностью ввода-вывода общее время тестирования может составлять несколько дней. В этом тесте мы сосредоточимся на оценке общей задержки каждого решения для хранения данных по четырем интересующим нас параметрам: запись в журнал (J-lat), запись при сохранении (S-lat), а также слияние при чтении (MR-lat) и слияние при записи (MW-lat).

На приведенной выше диаграмме показаны пути ввода-вывода и задержки в MarkLogic:

  • Журнал записей фиксирует изменения в базе данных. При выполнении запроса на обновление все внесенные им изменения в состояние базы данных записываются в журнал. Эти изменения можно повторно применить из журнала, не выполняя запрос заново. Обновления могут включать добавление, замену или удаление документов. Журнал защищает от сбоев, гарантируя его работоспособность даже после сбоя системы. Задержка записи в журнал фиксируется в метрике J-lat.
  • После загрузки достаточного количества документов память, в которой хранятся данные, заполняется, и данные записываются на диск. Эта запись на диск называется сохранением (Save). Задержка записи при сохранении измеряется в S-lat.
  • По мере роста общего числа дисковых файлов возникает проблема повышения эффективности. Для чтения одного списка терминов MarkLogic должен прочитать данные списка терминов из каждого отдельного файла и объединить результаты. Чтобы поддерживать количество файлов на приемлемом уровне, MarkLogic выполняет слияния в фоновом режиме. Слияние считывает (Merge Read) часть файлов на диске и создает из них новый единый файл (Merge Write), объединяя и оптимизируя индексы и данные, а также удаляя любые ранее удаленные фрагменты. Задержка при чтении слиянием измеряется в MR-lat, а задержка при записи слиянием — в MW-lat.

В процессе загрузки данных MarkLogic также индексирует все документы, создает списки терминов и т. д. Эта деятельность требует ресурсов ЦП, что обеспечивает оптимальный баланс между высокой интенсивностью операций ввода-вывода и высокой загрузкой ЦП в бенчмарке.

Данные из Википедии были выбраны также потому, что они содержат неанглийский и не-ASCII текст, из которых мы используем: арабский, голландский, французский, немецкий, итальянский, японский, корейский, персидский, португальский, русский, испанский, упрощенный китайский и традиционный китайский. Эти варианты подчеркивают многоязычные возможности MarkLogic. Наконец, использование статических данных делает бенчмарк воспроизводимым, что крайне важно для сравнения производительности на разных версиях программного обеспечения и с различными конфигурациями оборудования.

Тестовая среда MarkLogic

Решения для хранения данных тестируются с помощью бенчмарка MarkLogic NoSQL в лаборатории StorageReview Enterprise Test Lab с использованием нескольких серверов, соединенных высокоскоростной сетью. Для различных сегментов среды тестирования MarkLogic NoSQL мы используем серверы EchoStreams и Lenovo, а для коммутационной сети, соединяющей оборудование, мы используем коммутаторы и сетевые карты Mellanox InfiniBand.

Решение для хранения данных разделено на три секции: хост хранения, кластер баз данных NoSQL MarkLogic и клиент базы данных MarkLogic. В качестве хоста хранения мы используем 2U Lenovo ThinkServer RD630 для предоставления ускорителей приложений PCIe, групп из четырех твердотельных накопителей SATA/SAS и хоста для оборудования NAS/SAN, который предоставляет их в сети InfiniBand. Для кластера баз данных MarkLogic мы используем четырех узловой сервер EchoStreams GridStreams, оснащенный восемью процессорами Intel Xeon E5-2640, для обеспечения вычислительных ресурсов, необходимых для эффективной нагрузки на самые быстрые устройства хранения. На стороне клиента мы используем 1U серверы Lenovo ThinkServer RD530, которые предоставляют рабочие данные, загружаемые в системную память и передаваемые в кластер баз данных NoSQL по нашей высокоскоростной сети. Все эти серверы объединены в сеть Mellanox 56 Гбит/с InfiniBand, включающую коммутаторы и сетевые карты, что обеспечивает нам высочайшую скорость передачи данных и минимальную задержку, не ограничивая производительность высокопроизводительных устройств хранения данных.

Для обеспечения максимальной производительности и эффективности сети использовались межсоединения Mellanox InfiniBand, гарантирующие, что подключенные устройства не будут ограничены пропускной способностью сети. Рассматривая только решения для хранения данных на базе PCIe, можно увидеть, что один ускоритель приложений PCIe легко обеспечивает скорость передачи данных в сети от 1 до 3 ГБ/с. Однако, если перейти к полностью флэш-накопителю с пиковой скоростью передачи данных более 10-20 ГБ/с, быстро становится ясно, как быстро может быть исчерпана пропускная способность сетевого канала, что ограничивает общую производительность всей платформы. Высокоскоростные каналы InfiniBand позволяют передавать максимальный объем данных по минимальному количеству каналов, обеспечивая реализацию всех возможностей системы.

Помимо более высокой пропускной способности сети, InfiniBand также обеспечивает более высокую общую эффективность кластера. InfiniBand использует iSER (iSCSI-RDMA) и SRP (протокол SCSI RDMA) для замены неэффективного стека TCP iSCSI на функциональность удаленного прямого доступа к памяти (RDMA), что позволяет добиться почти такого же времени доступа к внешним хранилищам. iSER и SRP обеспечивают большую эффективность во всей кластерной среде, позволяя сетевому трафику обходить процессоры систем и копировать данные из памяти отправляющих систем непосредственно в память принимающих систем. В сравнении с этим, традиционная работа iSCSI направляет сетевой трафик через сложный процесс многократного копирования и передачи, потребляя ценные циклы ЦП и пространство памяти, а также значительно увеличивая задержки передачи данных. В нашей среде MarkLogic NoSQL мы используем протокол SCSI RDMA для подключения каждого узла к целевой подсистеме SCSI для Linux (SCST), работающей на нашем хосте хранения. 

Оборудование для бенчмаркинга MarkLogic

  • Четырехузловой кластер базы данных EchoStreams GridStreams
    • Восемь процессоров Intel E5-2640 (по два на узел, 2.5 ГГц, 6 ядер, 15 МБ кэш-памяти) 
    • 256 ГБ ОЗУ (64 ГБ на узел, 8 ГБ x 8 Micron DDR3, 32 ГБ на процессор)
    • 4 x 100GB Micron RealSSD P400e (По одному на каждый узел, встроенный SATA-интерфейс)
    • 4 адаптера Mellanox ConnectX-3 InfiniBand
    • 6.3 CentOS
  • Lenovo ThinkServer RD530 Клиент базы данных
    • Два процессора Intel E5-2640 (2.5 ГГц, 6 ядер, 15 МБ кэш-памяти)
    • 64 ГБ оперативной памяти (8 ГБ x 8 Micron DDR3, 32 ГБ на каждый процессор)
    • 200 ГБ x 3 Toshiba 10k SAS RAID5 (через LSI 9260-8i)
    • 1 адаптера Mellanox ConnectX-3 InfiniBand
    • 6.3 CentOS
  • Lenovo ThinkServer RD630 Хост хранилища
    • Два процессора Intel E5-2680 (2.7 ГГц, 8 ядер, 20 МБ кэш-памяти)
    • 32 ГБ оперативной памяти (8 ГБ x 4 DDR3, 16 ГБ на каждый процессор)
    • 100 ГБ Micron RealSSD P400e SSD (через LSI 9207-8i)
    • 1 адаптера Mellanox ConnectX-3 InfiniBand
    • 6.3 CentOS
    • Внешний JBOD: iXsystems Titan iX-316J
  • Коммутатор Mellanox SX6036 InfiniBand
    • 36 портов FDR (56 Гбит/с)
    • Совокупная коммутационная способность 4 Тбит/с

Основная цель этой платформы — продемонстрировать производительность корпоративных систем хранения данных в реальной корпоративной среде и при реальных рабочих нагрузках, а не полагаться на синтетические или псевдосинтетические рабочие нагрузки. Генераторы синтетических рабочих нагрузок отлично показывают, насколько хорошо работают устройства хранения данных с помощью непрерывного синтетического шаблона ввода-вывода, но они не учитывают другие внешние переменные, которые показывают, как устройства работают в производственной среде. Преимущество генераторов синтетических рабочих нагрузок заключается в том, что они многократно демонстрируют чистый шаблон ввода-вывода, но никогда не смогут воспроизвести реальную производственную среду. Внедрение производительности приложений поверх продуктов хранения данных позволяет оценить, насколько хорошо система хранения взаимодействует со своими драйверами, локальной операционной системой, тестируемым приложением, сетевым стеком, сетевыми коммутаторами и внешними серверами. Это переменные, которые генератор синтетических рабочих нагрузок просто не может учесть, и они также на порядок более ресурсоемки и требуют больше инфраструктуры с точки зрения оборудования, необходимого для выполнения этого конкретного теста.

Результаты производительности MarkLogic

Мы тестируем широкий спектр решений для хранения данных с помощью бенчмарка MarkLogic NoSQL, которые соответствуют минимальным требованиям тестовой среды. Для участия в тестировании устройство хранения данных должно иметь полезную емкость более 650 ГБ и быть ориентировано на работу в условиях высокой нагрузки в корпоративной среде. Это включает в себя новые ускорители приложений PCIe, группы из четырех корпоративных SSD-накопителей SAS или SATA, а также большие массивы жестких дисков, подключенные локально или по сети. Ниже приведены общие показатели задержки, полученные от всех протестированных на данный момент устройств. В обзорах продуктов мы более подробно рассматриваем конкурирующие продукты и сравниваем их напрямую, а наш основной список показывает структуру различных решений для хранения данных. 

 

Устройство Средняя общая задержка Ю-широта J-лат МР-лат MW-лат
Dell R720 ExpressFlash 350GB
JBOD x 4 (SLC)
1.24 1.56 1.56 0.46 1.37
Huawei Tecal ES3000 2.4TB
4 Раздела (MLC)
1.31 1.41 1.53 0.98 1.32
Huawei Tecal ES3000 1.2TB
4 Раздела (MLC)
1.43 1.42 1.76 1.20 1.33
EchoStreams FlacheSAN2 w/ Intel SSD 520
Программный RAID0, 4 группы по 8 SSD-накопителей по 180 ГБ (MLC)
1.48 1.65 2.01 0.81 1.46
Micron P320h 700GB
4 раздела (SLC)
1.49 1.62 2.13 0.79 1.41
Fusion ioDrive2 Duo MLC 2.4TB
Программный RAID0, высокопроизводительный режим, 4 раздела (MLC)
1.70 1.73 2.57 0.97 1.51
Fusion ioDrive2 Duo SLC 1.2TB
Программный RAID0, высокопроизводительный режим, 4 раздела (SLC)
1.72 1.78 2.69 0.90 1.52
OCZ Z-Drive R4 1.6TB
4 Раздела (MLC)
1.73 1.67 2.38 1.43 1.42
Твердотельный накопитель Hitachi Ultrastar SSD400S.B 400 ГБ
JBOD x 4 (SLC)
1.77 1.75 2.72 1.11 1.51
Smart Optimus 400GB
JBOD x 4 (MLC)
1.82 1.69 2.74 1.36 1.49
EchoStreams FlacheSAN2 w/ Intel SSD 520
Программный RAID10, 4 группы по 8 SSD-накопителей по 180 ГБ (MLC)
2.02 2.12 3.02 1.17 1.79
Virident FlashMAX II 2.2TB
Высокопроизводительный режим, 4 раздела (MLC)
2.26 2.30 3.39 1.57 1.81
Твердотельный накопитель Hitachi Ultrastar SSD400M 400 ГБ
JBOD x 4 (MLC)
2.58 2.09 4.49 2.07 1.68
OCZ Talos 2 400GB
JBOD x 4 (MLC)
2.62 2.10 4.33 2.28 1.78
Intel DC S3700 200GB
JBOD x 4 (MLC)
3.27 2.71 5.80 2.59 1.95
OCZ Talos 2 200GB
JBOD x 4 (MLC)
3.53 2.62 6.16 3.40 1.96
Твердотельный накопитель Intel SSD 910 800 ГБ
Без RAID, JBOD x 4 (MLC)
4.29 3.21 8.27 3.43 2.23
Fusion ioDrive2 MLC 1.2TB
Программный RAID0, высокопроизводительный режим, 4 раздела (MLC)
4.69 3.58 9.15 3.74 2.28
OCZ Deneva 2 200GB
JBOD x 4 (MLC)
6.65 5.38 13.48 4.54 3.18
Кингстон E100 200 ГБ
JBOD x 4 (MLC)
8.00 6.82 16.22 5.46 3.49
Smart CloudSpeed ​​500 240GB
JBOD x 4 (MLC)
11.06 9.07 22.74 7.19 5.23
Micron P400m 400GB
JBOD x 4 (MLC)
12.60 9.70 27.51 8.70 4.51
Fusion ioDrive Duo MLC 1.28TB
Программный RAID0, высокопроизводительный режим, 4 раздела (MLC)
12.89 10.52 26.77 9.70 4.58
Micron P400m 200GB
JBOD x 4 (MLC)
14.98 11.99 31.93 10.54 5.46
Toshiba 15K MK01GRRB 147GB
Аппаратная микросхема LSI 9286-8e x 16, RAID10 x 4
16.58 7.85 40.61 12.25 5.61
LSI Nytro WarpDrive 800GB
4 Раздела (MLC)
17.39 17.08 31.42 13.63 7.43
Toshiba 10K MBF2600RC 600GB
Аппаратная микросхема LSI 9286-8e x 16, RAID10 x 4
24.20 10.89 57.94 20.61 7.35
Toshiba 15K MK01GRRB 147GB
Программный RAID x 16, RAID10 x 4
61.40 54.33 126.77 45.21 19.28

Страница продукта MarkLogic