Ethernet Fabric: aby cloudy komunikovaly

Cloudové systémy mění způsob toho, jak fungují servery v datových centrech. Spolu s tím se ale mění také síťová komunikace. Ke komunikaci v cloudu slouží Ethernet Fabric.

Sítě datových center se spoléhají na technologii ethernet, která se v posledních dekádách vyvíjela společně s příchodem nových aplikačních architektur. V současnosti se v rámci sítí datových center přenášejí různorodé soubory mnoha aplikací, jako jsou aplikace typu klient-server, webové služby nebo služby sjednocené komunikace. Každý z těchto přenosů má jiný charakter a požadavky na provoz síťových služeb.

Aplikace jsou stále častěji provozované na virtuálních strojích hostovaných v rámci serverových farem. Ethernet se používá k vytvoření sdílených úložišť, která kladou vysoké požadavky na síť, na bezeztrátové doručování paketů, přísně definované zpoždění a velkou šířku pásma. Tyto změny jsou hnací sílou v posledním evolučním stupni rozvoje ethernetu a daly vzniknout struktuře Ethernet Fabric.

Klasická ethernetová síť

V případech, kdy datová centra vyžadují více portů, než dokáže nabídnout jeden ethernetový přepínač, se konektivita sítě navyšuje použitím více přepínačů. Serverové rozvaděče jsou většinou osazeny přepínačem umístěným v horní části skříně (Top of Rack switch, ToR), případně bývají servery z různých rozvaděčů připojeny do přepínače umístěného v rozvaděči uprostřed řady (Middle of Row, MoR) nebo na konci řady (End of Row, EoR). Tyto přepínače jsou propojeny v rámci hierarchické nebo stromové topologie.

Klasická síť neumožňuje vytvářet smyčky, rámce ve smyčce nejsou doručené. Spanning Tree Protocol (STP) zabraňuje vzniku smyček logickým odpojením linek a vytváří tak topologii s jedinou aktivní cestou mezi dvěma přepínači. Šířka pásma mezi přepínači je tak omezená na jediné spojení a vícenásobná spojení mezi přepínači jsou zakázána. Pro komunikaci mezi sousedícími rozvaděči pak v rámci stromové struktury převažuje provoz směrem nahoru a dolů mezi přístupovou a páteřní vrstvou sítě (směr „sever-jih“).

Pokud většina přístupů probíhá mezi servery v rámci jednoho rozvaděče, nepředstavuje to žádný problém. Serverové clustery, které jsou používané při virtualizaci, ale vyžadují komunikaci mezi servery umístěnými v různých rozvaděčích, tzn. komunikaci ve směru „východ-západ“ v rámci přístupové vrstvy sítě. U stromové topologie tak dochází ke komunikaci přes více přepínačů, zvyšuje se latence a naráží se na omezenou šířku pásma mezi jednotlivými přepínači.

Klepněte pro větší obrázek

Pokud dojde ke ztrátě spojení, STP musí pro obnovení překonfigurovat jednotlivá spojení mezi všemi přepínači v síti. Dojde tak k zastavení provozu a zahlcení sítě až na několik desítek sekund. V minulosti se v těchto případech spoléhalo na provoz založený na TCP protokolu, kde se využívá potvrzování doručení paketů. V současnosti provoz související s datovými centry v rámci sítě neustále narůstá. Většina aplikací datových center běží v režimu 24/7 a v módu vysoké dostupnosti. Proto je ztráta spojení jen na několik sekund zcela nepřijatelná.

Architektura klasického ethernetu představuje i další omezení. Každý přepínač má vlastní mechanismy pro řízení a správu. Každý přepínač musí zpracovat protokol z každého rámce, který dorazí na přístupový port. Pokud komunikace probíhá přes více přepínačů, každý z nich musí rámec a jeho protokoly opětovně zpracovat. Celkový čas pro zpracování se tak prodlužuje, zvyšuje se latence. Každý přepínač a každý port přepínače se musí konfigurovat individuálně, protože v klasické ethernetové síti neexistuje žádné společné sdílení nastavení mezi přepínači. S rostoucí složitostí systému se zvyšuje možný výskyt chyb v konfiguraci, navyšují se celkové náklady na provoz a řízení sítě.

Vylepšení ethernetu

Jako dodatečný standard ethernetu byl definován protokol Link Aggregation Groups (LAG), který umožňuje sloučit více linek mezi dvěma přepínači do jediného spoje. Ruční nastavování LAG pro každý port ve skupině ale není příliš komfortní. Plošně založené sítě s automaticky se agregujícími linkami mezi přepínači (ISL, inter-switch-links) eliminují požadavky na ruční konfiguraci.

Spanning Tree protokol byl upraven tak, aby se zkrátila doba rekonfigurace při navyšování či snižování počtu linek (Rapid Spanning Tree Protocol, RSTP), a aby podporoval vícenásobné logické stromy v rámci jednoho fyzického stromu (Multiple Spanning Tree protocol, MSTP). Topologie má ale stále podobu hierarchického stromu, ve kterém se rekonfigurace měří stále v sekundách.

Aby mohlo být více přepínačů spravováno jako jeden logický celek, bylo zavedeno HW stohování přepínačů. I tato technologie má ale svá omezení. Je nutné mít hlavní přepínač, počet přepínačů ve stohu je omezen obvykle na 8 jednotek. S rostoucím počtem přepínačů ve stohu se zvyšuje také agregace portů vzhledem k propustnosti ISL portů. Stohování umožňuje centrální správu více přepínačů, ale omezuje možnosti topologie (pouze kruhová) a její škálovatelnost.

Struktura Ethernet Fabric

V klasickém ethernetu jsou datové, řídící a management úrovně přepínačů vzájemně propojeny přes všechny porty v rámci sběrnice přepínače. Management a řízení jsou realizovány pouze na úrovni přepínačů. Síť Ethernet Fabric funguje na jiném principu. Řídící a management mechanismy zde neprobíhají jen na úrovni jednotlivých fyzických přepínačů, ale jsou distribuované v rámci celé sítě, a vytvářejí tak strukturu nazývanou Ethernet Fabric, která oproti klasickému ethernetu přináší větší škálovatelnost a celou řadu dalších výhod.

Přepínač se po fyzickém připojení do Ethernet Fabric sítě automaticky připojí k logickému šasi, podobně, jako když se přidá další linkový modul do modulárního přepínače. Celá síť se automaticky přizpůsobí. Tento princip výrazně zjednodušuje a urychluje správu sítě. Díky sdílené řídící úrovni jsou protokoly pro zpracování paketů prováděny pouze jednou, a to na portu na vstupu do Ethernet Fabric sítě. Při přenosu v rámci sítě se už tyto protokoly nezpracovávají, čímž se snižuje celková latence při přenosu paketů napříč sítí.

Klepněte pro větší obrázek

Veškeré parametry a konfiguraci nastavení získá nový přepínač ze stávající sítě, kde jsou stav řídící úrovně a konfigurační parametry sdílené mezi všemi přepínači a porty ve struktuře Ethernet Fabric. Konfigurace a management se provádí pouze jednou, komplexně pro celou síť, nikoliv opakovaně pro každý přepínač a každý port. Totéž platí i pro přístupová a bezpečnostní pravidla. Je tak zajištěna konzistence konfigurace napříč všemi přepínači v síti.

Navíc všechny přepínače sdílí informace o spojeních k serverům a úložištím, což umožňuje automatickou migraci profilů portů (Automatic Migration of Port Profiles, AMPP) v rámci sítě Ethernet Fabric. Tato nastavení automaticky následují MAC adresu virtuálního stroje. Pokud jsou virtuální zařízení či servery přepojeny na jiný port v rámci sítě, AMPP zajistí, že veškerá konfigurace a bezpečnostní nastavení zůstanou zachované a i nadále se aplikují na příslušný provoz bez nutnosti rekonfigurace celé sítě.

V rámci řídící úrovně jsou Spanning Tree protokoly nahrazeny routováním stavu linky. Datová úroveň umožňuje vícecestné přepínání na 2. vrstvě přes linky se stejnou cenou (equal-cost). Data jsou přenášena nejkratší cestou přes vícenásobné ISL spoje, bez vzniku smyček. Díky sdílené řídící úrovni je škálování šířky pásma poměrně jednoduché. Pokud se k libovolnému z přepínačů v síti Ethernet Fabric připojí další přepínač, automaticky se aktivuje ISP spojení. Pokud dojde k vícenásobnému ISL spojení mezi dvěma přepínači, automaticky se vytvoří trunk s vyrovnáváním zátěže na úrovni rámců a automatickým obnovením v případě výpadku linky.

V případě výpadku nebo odpojení jedné z linek v trunku, síťový provoz je přesunutý pomocí load-balancingu na zbývající linky, bez výpadku nebo ztráty dat. Pokud je přidáno nebo odebráno nové ISL spojení kdekoliv v Ethernet Fabric síti, provoz na ostatních ISL linkách pokračuje, na rozdíl od STP, kde by došlo k jeho zastavení. Na rozdíl od stohování přepínačů mohu ISL linky v rámci Ethernet Fabric sítě vytvářet libovolnou topologii (kruhová, stromová, mesh atd.)

Technologii Ethernet Fabric jako první podporují Gigabit Ethernet a 10Gb ethernet přepínače řady VDX americké firmy Brocade. Nová série VDX 6730 kromě 10GbE portů nabízí také 8Gb Fiber Channel porty. Všechny přepínače řady VDX podporují také standardy CEE (Converged Ehanced Ethernet) a umožňují přenos Fiber Channel protokolu v sítích (FCoE, Fiber Channel over Ethernet).

Autor:
Marek Vyklický, product manager společnosti PROFIcomms s.r.o.

Témata článku: Cloud

3 komentářů

Nejnovější komentáře

  • Martin Karásek 2. 1. 2012 20:16:54
    No, krom toho že je článek psaný tak, jako by spanning-tree vymysleli...
  • benes.m 31. 12. 2011 16:13:11
    Ach jo, tohle vypadá jako PR článek od distributora Brocade :-). Obdobné...
  • lamacik83 30. 12. 2011 8:32:26
    http://www.cisco.com/en/US/prod/collateral/switches/ps9441/ps9402/fabricPat...