Proč chceme mít 20gigabitovou síť

Máme v plánu posílit propojení našich serverů. V současné době spolu komunikují 2 gigabity, v budoucnu to bude 20 gigabitů.

V souvislosti s žonglování s disky a doplňování diskových polí jsem si udělal takový malý průzkum mezi členy. Zeptal jsem se, jestli by upřednostňovali rychlejší síť nebo další NAS, kterým bychom mohli křížově zálohovat ten stávající. Drtivá většina měla stejný názor jako já – síť je užitečnější.

V tuto chvíli máme nody mezi sebou propojené 2×1GE a začíná nás to limitovat. Při migracích VPS trvá přesun velmi dlouho a chtěli bychom ho výrazně zkrátit. Navíc při rychlejší síti budeme moci v případě výpadku oddumpovat celou paměť fyzického serveru a poté ji zkoumat. To můžeme sice i teď, ale během přenosu 256 GB RAM se server nedá používat a na stávající síti to trvá déle než třicet minut. S 10GE sítí bychom to měli za tři minuty hotové a mohli bychom pokračovat. Stažený dump pak můžeme offline zkoumat a odhalit příčinu výpadku.

Máme vybrané 24portové switche od Netgear a Cisco. Mají 20 normálních portů a 4 uplinky, ale neumí stacking na L3. Jsou to „jen“ hloupé L2 switche, ale jeden stojí 93 tisíc korun. To je nejlevnější varianta, která nám umožní mít 10GE síť.

Cisco_SG550XG-24F

Důvod, proč potřebujeme 24 portů je ten, že už se teď se servery nevejdeme do jednoho racku a budeme muset vzít další. Kdybychom měli jeden velký 48portový switch, museli bychom tahat hodně kabeláže mezi racky a bylo by to drahé. Proto postupně koupíme čtyři 24portové switche a propojíme je mezi sebou.

Pravděpodobně koupíme SFP variantu, která je pro nás v mnoha ohledech výhodnější. Po racku budeme tahat direct attach kabely, mezi racky uděláme propoj pomocí optiky. Takové řešení má navíc výrazně menší spotřebu – metalika potřebuje až 14 W na port, což by se nám projevilo na poplatcích za elektřinu.

Do serverů budeme muset také přidat 10GE karty, které budou dvouportové a budeme opět využívat obě cesty najednou – stejně jako to děláme teď. Reálně tak získáme mezi jednotlivými servery 20gigabitovou konektivitu. Tu umí linuxové jádro (resp. jeho modul bonding) využít a pomocí round-robin posílat pakety dvěma cestami. Existuje sice i klasický standardní bonding podle standardu 802.3ad, ale ten vyžaduje stackovatelný switch, který by nás stál dvakrát tolik.

Toto „softwarové“ řešení nám plně vyhovuje, má jen dvě nevýhody: když odpadne linka k jednomu node, bude mít spojení s ním 50% packetloss. Vyrovnat se s kompletním výpadkem jednoho switche ovšem Linux umí. Druhou nevýhodou je to, že se tím „zamykáme“ k routerům MikroTik, které jsou postavené na Linuxu a jako jediné umí linuxovým bondingem komunikovat s ostatními prvky v síti.

Původně jsme měli do sítě investovat už letos, ale koupili jsme nový SSD node, takže se upgrade sítě odložil. Počítáme s ním v první polovině příštího roku. Nechceme si totiž půjčovat peníze na hardware, který na sebe nevydělává. Na ten si musíme našetřit z provozních peněz, takže to bude chvíli trvat.

Napsat komentář

Vaše e-mailová adresa nebude zveřejněna. Vyžadované informace jsou označeny *