StorageReview.com

Recenze akcelerátoru aplikací Micron P320h 2.5″ PCIe

Enterprise  ◇  SSD

V březnu loňského roku společnost Micron oznámila nový 2.5" formát pro svou kartu akcelerátoru aplikací P320h . Karty PCIe se staly de facto standardem pro všechny podniky, které chtějí ze svého úložiště vytěžit maximální odezvu. Tento formát však trpí problémy, které tradiční 2.5" a 3.5" formáty netrápí, jako je například možnost výměny za provozu. Jen zřídka je praktické vypnout server a vyjmout ho z racku, aby se mohl opravit úložiště uvnitř. 2.5" formát PCIe tak umožňuje rychlost, kterou rozhraní PCIe dokáže poskytnout, a zároveň údržbu, kterou nabízejí standardní disky. Nové rozhraní samozřejmě bez podpory serverů nic neznamená a v rámci oznámení společnosti Micron společnost Dell zvýšila podporu pro nové disky v mnoha svých serverech PowerEdge 12. generace. Servery Dell, jako například náš Dell PowerEdge R720 12G s Express Flash (označení Dell pro 2.5" PCIe), nabízejí až čtyři 2.5" disky P320h, které jsou standardně přístupné v přední části serveru přes specializovanou zadní desku.

Protože 2.5" PCIe disky jsou v podstatě poloviční verzí větších sourozenců, jsou i jejich kapacity odpovídajícím způsobem sníženy. Společnosti Micron a Dell nabízejí disky v kapacitách 175 GB a 350 GB, což v 1.2G serveru PowerEdge umožňuje až 12 TB úložiště, které obsadí všechny čtyři sloty. Je zajímavé, že výkon disků není snížen přesně na polovinu, i když mají 4 linky, na rozdíl od 8 linek u karet plné velikosti. Obě kapacity nabízejí počet IOPS při náhodném čtení v rozsahu 415 000, oproti 785 000 u karty plné velikosti, a sekvenční propustnost čtení je až 1.75 Gb/s, oproti 3.2 Gb/s.

I když servery mohou získat výkon PCIe flash paměti v přední části systému, je zde určitý kompromis. Propojovací deska zabírá prostor obvykle vyhrazený pro druhou sadu 8 x 2.5" pozic pro disky, které se běžně nacházejí například v 2U serveru. V případě 2U tedy lze server konfigurovat až se čtyřmi 2.5" flash disky P320h a až s 8 standardními 2.5" pozicemi pro disky. Dalším zřejmým potenciálním problémem je, že tyto disky nelze kvůli rozhraní konfigurovat v hardwarovém RAIDu. Lze je však zapojit do softwarového RAIDu.

Společnost Dell se těmito problémy zabývá několika způsoby. Zaprvé, kompromisy, jako je počet pozic pro disky nebo celková kapacita, jsou obecně akceptovány těmi, kteří tuto platformu nasazují, protože se spíše zajímají o dosažení určité úrovně úložného výkonu aplikací a zároveň o využití výhod v podobě provozuschopnosti. Pro ty, kteří mají databáze příliš velké na to, aby je zvládl jeden 2.5" disk P320h, a softwarové pole RAID není proveditelné, vydala společnost Dell software Fluid Cache , který umožňuje 2.5" disku (diskům) P320h akcelerovat pevné disky s vyšší kapacitou v ostatních pozicích. Za zmínku také stojí, že toto konkrétní nasazení není pro každého; stále se jedná o velmi nově vznikající řešení, které spojuje nejlepší hardware a nabízí něco, co jinak na trhu serverů neexistuje.

V této recenzi naše konfigurace zahrnuje Dell R720 se všemi čtyřmi sloty Express Flash osazenými 350GB 2.5" disky Micron P320h.

Specifikace Micron P320h 2.5" PCIe

  • Kapacity
    • 175 GB (MTFDGAL175SAH-1N3AB)
    • 350 GB (MTFDGAL350SAH-1N3AB)
  • Micron SLC NAND (34nm)
  • Rozhraní: x4 PCIe Gen2
  • Konektor: Kombinace SATA/SAS/PCIe
  • Technologie Micron RAIN (redundantní pole nezávislých NAND)
  • Podpora sady příkazů pro technologii Self-Monitoring, Analysis, and Reporting Technology (SMART)
  • Výkon
    • Sekvenční výkon čtení/zápisu: Až 1.75/1.1 GB/s
    • Výkon náhodného čtení/zápisu: Až 415 000/145 000 IOPS
    • Latence: <50 μs
  • Výkon
    • Aktivní spotřeba energie: 25 W (max.)
    • Spotřeba energie v klidovém/pohotovostním/režimu spánku (průměrná): 6.5 W
  • Provozní teplota: 0 °C - 70 °C – podpora omezení teploty
  • Nárazy a vibrace
    • Ráz: 400G při 2.0 ms
    • Vibrace: 3.1 Grms, 5–500 Hz, 30 minut na osu
  • Neopravitelná bitová chybovost: <1 sektor na 1017 bitové čtení
  • MTTF: 2 milionu hodin provozu zařízení
  • Výdrž – Životnost disku: 12.5 PB (175 GB), 25 PB (350 GB)
  • Podpora serverů Dell – propojovací deska PowerEdge 12G podporuje až čtyři disky 
  • Rozměry (V x Š x D): 15 x 69.85 x 100.5 mm
  • Hmotnost: 172 g (175 GB), 175 g (350 GB)

Design a budování

Když se zamyslíme nad 2.5" deskou Micron P320h, je to v podstatě, jako by Micron rozpůlil standardní PCIe P320h a přebalil ho do 15mm 2.5" provedení. Na první pohled by si toho většina lidí nikdy nevšimla; dokonce i port vypadá docela podobně jako standardní rozhraní SAS. Kouzlo však spočívá ve specializované základní desce, jak vidíme na R720 níže. 

Specializovaná základní deska podporuje až čtyři 2.5" disky P320h, které jsou připojeny k rozšiřující kartě PCIe v zadní části serveru. Rozložení uvnitř R720 je čisté a snadno se udržuje. Společnost Dell dokonce potvrdila, že základní desku, rozšiřující kartu a kabeláž lze s vývojem úložiště upgradovat, konkrétně na NVMe. Flexibilita platformy je lákavá pro ty, kteří chtějí mít možnost migrovat svá úložiště na nejnovější a nejlepší technologie.

Při zkoumání jednotlivých disků je zřejmé, že skříň je vyrobena z masivního hliníku a její šedá barva má trvalý, industriální vzhled. Horní kryt je opatřen štítkem s informacemi o produktu Dell, který obsahuje všechny relevantní informace (kapacita, model atd.). Boční profily ukazují čtyři otvory pro šrouby, které umožňují montáž disku do hot-swap rámečků. V zadní části jednotky se nachází konektor Express Bay SFF-8639, který je podobný konektoru SAS nebo SATA, ale také přenáší signál x4 PCIe.

Spodní strana skříně je vroubkovaná, aby se napomáhalo pasivnímu chlazení disku. Po rozebrání disku vidíme, že vnitřek dna skříně je pokryt několika tepelnými podložkami. Tyto tepelné podložky nasávají teplo, které se poté rozptýlí skrz skříň.

Uvnitř 2.5" Micron P320h se nachází vlastní 16kanálový ASIC řadič Micron/IDT, podobný tomu, který se používá v plné velikosti HHHL Micron P320h, ale s polovičním počtem paměťových kanálů. Micron také dodává NAND pouzdra, která jsou rozložena na dvou deskách plošných spojů, celkem 512 GB, což je nadbytečně využitelných 350 GB.

Horní deska plošných spojů obsahuje konektor, řadič, DRAM a 8 NAND pamětí. Spodní deska plošných spojů má zjednodušené uspořádání s 12 NAND pamětí lemujícími střed na jedné straně a 12 na druhé. Na každé straně desky plošných spojů jsou také dva konektory pro připojení obou dceřiných desek.  

Testovací pozadí

Jako testovací platformu pro 2.5" Micron P320h jsme použili náš Dell PowerEdge R720 12G, protože byl vybaven konfigurací Dell Express Flash, která využívá Micron SSD. Náš testovací systém byl konfigurován s následujícím hardwarem:

  • 2 x Intel Xeon E5-2640 (2.6 GHz, 15 MB mezipaměti, 6 jader)
  • Čipová sada Intel C602
  • Paměť – 192 GB (24 x 8 GB) 1333 MHz DDR3 registrované RDIMM
  • CentOS 6.3 64bitový
    • 8 x 300GB Seagate Savvio 15K.3 v RAID10 pro bootování

Analýza výkonu aplikací

Na podnikovém trhu je obrovský rozdíl mezi tím, jak si produkty vedou na papíře, a jak si vedou v produkčním prostředí. Ve StorageReview chápeme důležitost rozšíření o testování aplikací, přičemž naším prvním testem byl MarkLogic NoSQL Database Storage Benchmark . I když syntetické testy budou i nadále důležitou součástí našich recenzí, plánujeme rozšířit naše aplikační testy tak, aby pokrývaly širokou škálu oblastí, včetně výkonu VDI, generování zátěže virtuálních strojů, rozšířených testů výkonu databází a mnoha dalších oblastí.

V našem prostředí databáze MarkLogic NoSQL testujeme skupiny čtyř SATA nebo SAS SSD disků, což jsou jednotlivá plnohodnotná řešení PCIe s použitelnou kapacitou větší nebo rovnou 200 GB. Protože náš server Dell PowerEdge R720 12G byl vybaven čtyřmi disky Express Flash SSD, využili jsme je všechny v našem testu MarkLogic a vyhradili jsme jeden pro každý databázový cluster. Naše databáze NoSQL vyžaduje pro svou práci zhruba 650 GB volného prostoru, rovnoměrně rozděleného mezi čtyři databázové uzly. V našem testovacím prostředí používáme hostitele SCST (který R720 plnil jako součást) a každý jednotlivý SSD disk prezentujeme v JBOD, přičemž každý databázový uzel je přidělen jeden disk. Test se opakuje ve 24 intervalech, což pro SSD disky v této kategorii vyžaduje celkem 30–36 hodin. Měřením interních latencí zaznamenaných softwarem MarkLogic zaznamenáváme jak celkovou průměrnou latenci, tak i intervalovou latenci pro každý SSD disk.

Dell PowerEdge R720 12G je prvním serverem v segmentu výpočetních zařízení, který jsme podrobili testu MarkLogic NoSQL a který nabízí vysoce výkonnou flash paměť z výroby. Dosáhl průměrné celkové latence 1.239 ms, což bylo vynikající a v našem celkovém hodnocení se umístil na prvním místě.

Při pohledu na celkovou průměrnou latenci v každé měřené oblasti jsme zaznamenali špičky až 16 ms, přičemž většina špičk měřila mezi 3 a 11 ms.

Analýza syntetické pracovní zátěže v podniku

Výkon flash paměti se v průběhu fáze předběžné přípravy každého úložného zařízení liší. Náš proces benchmarku podnikových úložišť začíná analýzou výkonu disku během důkladné fáze předběžné přípravy. Každý z porovnatelných disků je bezpečně vymazán pomocí nástrojů dodavatele, předběžně připraven do ustáleného stavu se stejnou pracovní zátěží, se kterou bude zařízení testováno při vysoké zátěži 16 vláken s nevyřízenou frontou 16 vláken na vlákno, a poté je testován v nastavených intervalech v několika profilech hloubky vláken/front, aby se ukázal výkon při lehkém i náročném využití.

Předběžné testy a primární testy v ustáleném stavu:

  • Propustnost (agregace IOPS pro čtení a zápis)
  • Průměrná latence (zprůměrovaná latence čtení a zápisu)
  • Maximální latence (špičková latence čtení nebo zápisu)
  • Směrodatná odchylka latence (smíšeně zprůměrovaná směrodatná odchylka čtení a zápisu)

Naše analýza syntetické pracovní zátěže v podniku zahrnuje čtyři profily založené na reálných úlohách. Tyto profily byly vyvinuty pro snazší porovnání s našimi minulými benchmarky a také s široce publikovanými hodnotami, jako je maximální rychlost čtení a zápisu 4K a rychlost 8K 70/30, která se běžně používá pro podnikové disky. Zahrnuli jsme také dvě starší smíšené pracovní zátěže, tradiční souborový server a webový server, z nichž každá nabízí širokou škálu velikostí přenosových dat.

  • 4k
    • 100% čtení nebo 100% zápis
    • 100% 4k
  • 8k 70/30
    • 70 % čtení, 30 % zápis
    • 100% 8k
  • 128k (sekvenční)
    • 100% čtení nebo 100% zápis
    • 100% 128k
  • Souborový server
    • 80 % čtení, 20 % zápis
    • 10 % 512b, 5 % 1k, 5 % 2k, 60 % 4k, 2 % 8k, 4 % 16k, 4 % 32k, 10 % 64k
  • Webový server
    • 100% přečteno
    • 22 % 512 tisíc, 15 % 1 tisíc, 8 % 2 tisíce, 23 % 4 tisíce, 15 % 8 tisíc, 2 % 16 tisíc, 6 % 32 tisíc, 7 % 64 tisíc, 1 % 128 tisíc, 1 % 512 tisíc

Naším prvním testem je 128k test, což je sekvenční test s velkými bloky, který ukazuje nejvyšší rychlost sekvenčního přenosu. Při pohledu na výkon 128k pro 100% zápis i 100% čtení dosáhl Micron P320h x 4 rychlosti čtení 6.88 GB/s a zápisu 4.7 GB/s.

V našem dalším podnikovém testu se podíváme na plně náhodný profil předběžného zápisu 4k s vynikajícím zatížením 16T/16Q. Micron P320h x 4 naměřil rychlost burst 1.1 milionu IOPS, která se ustálila na necelých 600 000 IOPS. Samostatný P320h naměřil téměř stejné rychlosti ve velkém měřítku.

V našem testovacím režimu náhodného zápisu 4k dat s rychlostí 16T/16Q se doba zápisu u Micronu P320h pohybovala od 0.9 do 1.7 ms v dávkovém režimu do 1.8 ms v ustáleném stavu.

Při pohledu na maximální latenci v našem 4k předběžném zatížení dosáhl Micron P320h maximální doby odezvy začínající na 70-175 ms v dávkovém režimu, které se s blížícím se ustálenému stavu zvýšily na 60-200 ms.

Při porovnání směrodatné odchylky latence se Micron P320h x 1 škáloval na nižší vrcholy než Micron P320h x 4, ale i nejvyšší vrchol byl pouze kolem 1.3 ms.

Po skončení naší 6hodinové testovací fáze na Micronu P320h x 4 dosáhl jeho výkon při náhodném čtení 4k v ustáleném stavu vrcholu téměř 1.65 milionu IOPS s rychlostí zápisu 571 173 IOPS. Micron P320h x 1 vykazuje téměř identický výkon ve velkém měřítku.

Při porovnání průměrné latence s vysokou zátěží 16T/16Q se 100% náhodným čtením 4k dat naměřil Micron P320h x 4 0.62 ms při čtení a 1.79 ms při zápisu – téměř stejně jako Micron P320h x 1.

Při porovnání maximální latence v našem testu 4k v ustáleném stavu dosáhl Micron P320h x 4 maximální latence čtení 115.9 ms a maximální latence zápisu 27.3 ms. Micron P320h x 1 si vedl lépe s maximální latencí čtení 45.4 ms a maximální latencí zápisu 6.2 ms.

Při pohledu na směrodatnou odchylku latence poskytl Micron P320h x 1 o něco větší konzistenci latence jak při čtení, tak při zápisu.

Náš další test se přepne na smíšenou zátěž 8K 70/30, kde Micron P320h x 4 dosáhl maximálních rychlostí až 900 000 IOPS, než se v ustáleném stavu ustálil na přibližně 480 000 IOPS. Micron P320h x 1 opět srovnal výkon ve velkém měřítku.

Při porovnání průměrné latence v našem 8k 70/30 předběžném zatížení 16T/16Q nabízely desky Micron P320h x 1 a x 4 latenci v burst režimu mezi 2.0 a 1.2 ms, která se v blízkosti ustáleného stavu zvýšila na 2.2 ms.

Při zatížení 8k 70/30 se maximální latence u Micronu P320h x 4 pohybovala od 25 do 130 ms během burstového režimu do 40-80 ms, když se blížila ustálenému stavu.

Při porovnání konzistence latence v našem 8k 70/30 předběžném zatížení měl Micron P320h x 4 mírně vyšší směrodatnou odchylku než Micron P320h x 1.

Ve srovnání s fixní maximální pracovní zátěží 16 vláken a 16 front, kterou jsme provedli v testu zápisu 100% 4K, naše profily smíšené pracovní zátěže škálují výkon v široké škále kombinací vláken/front. V těchto testech rozmezujeme intenzitu pracovní zátěže od 2 vláken a 2 front až po 16 vláken a 16 front. V našem rozšířeném testu 8K 70/30 se Micron P320h x 4 škáloval od 150 000 do 450 000 IOPS s vyššími IOPS počínaje 2T/16Q. Micron P320h x 1 se škáloval podobně.

V segmentu škálované průměrné latence našeho testu 8k 70/30 se Micron P320h škáloval z 0.15 ms při 2T/2Q na 1.9–2.2 ms při 16T/16Q.

Maximální latence v našem hlavním testu 8k 70/30 byla naměřena vyšší u Micron P320h x 4 počínaje 8T16Q, s celkovým rozsahem špičkové doby odezvy 12-78 ms.

Konzistence latence u Micron P320h x 4 a Micron P320h x 1 byla podobná, až na špičku, která u Micron P320h x 4 dosáhla pouze 0.87 ms.

 

Pracovní zátěž souborového serveru představuje širší spektrum přenosových velikostí, které postihuje každé konkrétní zařízení, takže místo statické pracovní zátěže 4k nebo 8k musí disk zvládat požadavky v rozmezí od 512b do 64k. V této pracovní zátěži nabízel Micron P320h x 4 maximální rychlost 300–365 000 IOPS a jak se blížil ustálenému stavu, dosáhl přibližně 280 000 IOPS.

Při nízkém zatížení v našem testu předběžné přípravy souborového serveru naměřila průměrná latence 2.8–3.3 ms, která se během testu mírně zvýšila na 3.6 ms.

Během fáze předběžné přípravy našeho testu souborového serveru se maximální doby odezvy Micronu P320h x 4 pohybovaly v rozmezí 7–35 ms v dávkovém režimu a s blížícím se ustálenému stavu se zvýšily na 12–70 ms.

Při vyhodnocení konzistence latence v režimu burst měly Micron P320h x 4 a Micron P320h x 1 téměř identickou směrodatnou odchylku latence.

Po dokončení procesu předběžné přípravy souborového serveru s konstantní zátěží 16T/16Q jsme přešli k našim hlavním testům, které měří výkon na nastavených úrovních mezi 2T/2Q a 16T/16Q. V naší hlavní zátěži souborového serveru se Micron P320h x 4 pohyboval od přibližně 115 000 IOPS při 2T/2Q do 280 000 IOPS při 16T/16Q. Micron P320h x 1 dosáhl podobných výsledků při velkém měřítku.

Průměrná latence u Micronu P320h x 4 se pohybovala od 0.52-0.53 při 2T/2Q do 2.75-3.60 ms při 16T/16Q.

Při porovnání maximální latence měl Micron P320h x 4 několik špiček, které bránily jeho výkonu dosáhnout srovnatelného výkonu s Micron P320h x 1 s maximální dobou 990 ms.

Při přechodu od maximální latence k směrodatné odchylce latence si Micron P320h x 4 a Micron P320h x 1 vedly téměř shodně.

V našem posledním syntetickém testu pokrývajícím profil webového serveru, který je tradičně testem 100% čtení, jsme aplikovali 100% aktivitu zápisu, abychom každý disk před hlavními testy plně připravili. V tomto náročném testu předběžné přípravy dosáhl Micron P320h x 4 maximálních rychlostí mezi 110 000 a 190 000 IOPS, ačkoli jak se blížil ustálenému výkonu, hodnoty se pohybovaly kolem 77 000–80 000 IOPS.

Průměrná latence v našem náročném testu předběžné přípravy webového serveru začala na 5-10 ms v dávkovém režimu a zvýšila se na 12.5 ms, jakmile se Micron P320h blížil ustálenému stavu.

Jak se Micron P320h x 4 blížil ustálenému stavu, jeho maximální doba odezvy se pohybovala mezi 40-55 ms.

Konzistence latence disku Micron P320h se snižovala, jak se disk blížil ustálenému stavu, a držela se přibližně na hodnotě 2.5 ms.

V hlavní části našeho testu webového serveru se 100% profilem čtení dosáhl Micron P320h x 4 výkonu v rozmezí 125 000 až 365 000 IOPS. Ve srovnání s Micron P320h x 1 se tyto hodnoty při velkém měřítku shodovaly.

V našem hlavním testu webového serveru s vysokou četbou dat nabídl Micron P320h průměrnou latenci od 0.2 ms při 2T/2Q do 2.2–2.8 ms při 16T/16Q.

Micron P320h x 4 dosáhl ve srovnání s Micronem P320h vyšších maximálních dob odezvy, počínaje 16T4Q. Maximální latence se v průběhu pracovní zátěže pohybovala mezi 2 a 23 ms.

Při přechodu na konzistenci latence nabízel Micron P320h směrodatnou odchylku latence v rozmezí 0.1–0.68 ms.

Závěr

2.5" akcelerátor aplikací Micron P320h PCIe je zajímavý z poměrně dlouhého seznamu důvodů. Na prvním místě je však využití výkonnostního potenciálu flash úložišť PCIe a jeho zmenšení na snadno servisovatelný tvarový faktor s přední montáží. Micron je první, kdo tento tvarový faktor uvedl na trh, a Dell je první, kdo jej přijal, s inovativním designem serverové backplane kompatibilní s mnoha servery R720 12G. I když platforma nutí uživatele vzdát se čtyř pozic pro diskové jednotky, pro trh, na který je tento typ úložiště cílen, je to pravděpodobně přijatelný kompromis. To rozhodně není a nemělo by být chápáno jako masový trh, je to zhruba tak specifická oblast, jaká je pro servery k dispozici. Ale pro ty s menšími nebo většími databázemi, kteří mohou z Fluid Cache těžit, nový design dokonale splňuje určité potřeby. 

Konfigurace Express Flash serveru PowerEdge 720 12G, vybavená čtyřmi SSD disky, je bezpochyby nejrychlejší úložnou platformou, kterou jsme dosud testovali, a ve všech našich benchmarkech získala nejvyšší hodnocení. Co se týče hrubé šířky pásma, čtyři z 2.5" SSD disků Micron P320h dokáží dosáhnout rychlosti čtení 6.9 GB/s a zápisu 4.7 GB/s při sekvenčním zatížení. Při přepnutí na špičkovou propustnost náhodných I/O operací s přenosy 4K systém bez problémů zvládá 1.6 milionu IOPS pro čtení a 571 tisíc IOPS pro zápis v ustáleném stavu. Při pohledu na naši pracovní zátěž 8k 70/30 se R720 ustálil na 480 000 IOPS v ustáleném stavu, což i podle standardů plnohodnotného PCIe Application Accelerator vyžaduje dva nebo více disků, aby splnil nebo překonal očekávání od lídrů ve své třídě.

Nestává se často, že by se konkrétní server nebo úložný produkt mohl prohlásit za nejrychlejší v oboru, ale společnosti Dell a Micron spolupracovaly na tom, aby toho dosáhly. Náš R720 ve spojení se čtyřmi 2.5" flash disky P320h dosahuje skóre, které překonává jakoukoli jednotlivou kartu PCIe na trhu, a má podporu ovladačů, která umožňuje velmi dobré škálování celkového výkonu. K překonání těchto disků s integrovaným úložištěm by bylo zapotřebí alespoň dvou standardních karet PCIe a v závislosti na sadě ovladačů nemusí nabízet tak škálovatelný výkon. Navíc lze tuto platformu obsluhovat zepředu, což umožňuje změny konfigurace bez narušení provozu. 

Klady

  • Nejlepší možný výkon z 2.5" pozice
  • Šířka pásma a výkon I/O v řadě dedikovaných flashových polí
  • Snadná údržba s možností výměny za provozu

Nevýhody

  • Nutno vyměnit 8 tradičních 2.5" pozic za 4 pozice pro Express Flash

Závěrem

Kombinace serverů Dell a 2.5" disku Micron P320h nabízí skutečně unikátní úložné řešení, které poskytuje nejrychlejší možné úložiště ve formátu 2.5". Pro uživatele, kteří chtějí výkonný PCIe a snadnou údržbu standardních disků montovaných vpředu, má toto řešení obrovský potenciál.

Flash stránka Dell Express

Diskutujte o této recenzi

Zapojte se do StorageReview

Zpravodaj | YouTube | Podcast iTunes / Spotify | Instagram | Twitter | TikTok | RSS kanál

Kevin O'Brien

Uvnitř laboratoře StorageReview Lab vyhodnocuji produkty a spolupracuji s lídry v oboru na vývoji nových testovacích prostředí. Doma vychovávám rodinu.

Předchozí příspěvek:

Další příspěvek: