📬 ISN 162: Co się stanie z moim urządzeniem Cisco, gdy wygasną licencje?

Ewolucja Architektury Sieciowej w Centrach Danych Napędzanych przez AI

How AI is changing the modern data center

Billions of dollars have already been invested over the last year retrofitting data centers to accommodate AI workloads in one of the biggest inflection points in data-center architecture in decades.

RuntimeTom Krazit

Współczesne zadania AI, szczególnie w kontekście trenowania modeli, stawiają przed infrastrukturą sieciową wyjątkowe wymagania. Kluczowe znaczenie ma komunikacja między klastrami GPU, gdzie każda mikrosekundowa opóźnienia może znacząco wpłynąć na wydajność całego systemu.

Tradycyjny Ethernet, mimo swojej wszechstronności, nie zawsze spełnia wymagania nowoczesnych workloadów AI. Operatorzy centrów danych implementują zaawansowane rozwiązania, takie jak:

• Sieci 10P/10U oferujące przepustowość 10 TB/s przy latencji 10 mikrosekund
• Technologia InfiniBand dla połączeń międzyraczkowych
• Optyczne połączenia międzyserwerowe wykorzystujące najnowsze osiągnięcia w dziedzinie fotoniki

Zwiększone zapotrzebowanie na moc obliczeniową wymusza fundamentalne zmiany w architekturze fizycznej. Standardowe szafy serwerowe, mieszczące dotychczas 30-40 serwerów, obecnie mogą pomieścić zaledwie 3-4 serwery AI ze względu na ograniczenia zasilania i chłodzenia.

Kluczowe modyfikacje obejmują:

• Przeprojektowanie systemów dystrybucji zasilania
• Implementację chłodzenia cieczą w obiegu zamkniętym
• Optymalizację rozmieszczenia serwerów dla minimalizacji opóźnień sieciowych
• Modernizację okablowania strukturalnego dla obsługi większych przepustowości

Edge Computing i Inferncja AI

Wraz z ewolucją zastosowań AI, obserwujemy rosnące znaczenie przetwarzania brzegowego. Inference AI, w przeciwieństwie do trenowania modeli, nie wymaga tak znaczących zasobów obliczeniowych, co otwiera nowe możliwości architektoniczne:

• Rozproszone punkty obecności dla minimalizacji latencji
• Hybrydowe architektury sieciowe łączące centralne centra danych z infrastrukturą brzegową
• Zoptymalizowane ścieżki routingu dla zadań inference

Rekomendacje dla Architektów Sieciowych

1. Planowanie przepustowości sieciowej powinno uwzględniać 10-krotny wzrost zapotrzebowania w porównaniu z tradycyjnymi aplikacjami.
2. Implementacja dedykowanych ścieżek sieciowych dla workloadów AI, z naciskiem na minimalizację latencji.
3. Rozwój kompetencji w zakresie technologii InfiniBand i optycznych połączeń międzyserwerowych.
4. Przygotowanie infrastruktury pod kątem edge computing i distributed inference.

Rozwiązywanie problemu buforowania

Fix Bufferbloat on MikroTik without disabling FastTrack

Enable/Setup FQ-CoDel or CAKE SQM on RouterOS using Queue Tree

Anim Mouse

Wraz z rosnącymi wymaganiami dotyczącymi niskich opóźnień i wysokiej przepustowości sieci, coraz większe znaczenie ma zwalczanie zjawiska buforowania (bufferbloat). Jak sama nazwa wskazuje, chodzi o nadmierne buforowanie pakietów, co prowadzi do wysokich opóźnień i zmiennej wydajności - szczególnie niepożądanych podczas wykonywania zadań wymagających krótkich czasów reakcji.

Kluczem do rozwiązania problemu bufferbloat jest wdrożenie inteligentnego zarządzania kolejkami (Smart Queue Management, SQM).

Fair/Flow Queueing Controlled Delay (FQ-CoDel)

FQ-CoDel to algorytm SQM promowany przez Internet Engineering Task Force jako rozwiązanie dla środowisk domowych i małych firm. Jak sama nazwa wskazuje, łączy on mechanizmy Fair Queueing (sprawiedliwe kolejkowanie) i Controlled Delay (kontrolowane opóźnienie). W rezultacie FQ-CoDel zapewnia:

• Równe traktowanie różnych strumieni danych (gier, strumieniowania, przesyłania plików itp.) dzięki Fair Queueing.
• Niskie opóźnienia i zmniejszone buforowanie dzięki aktywnej kontroli opóźnień (Controlled Delay).

Common Applications Kept Enhanced (CAKE)

CAKE to nowszy algorytm SQM. Łączy on mechanizmy kolejkowania, obsługi strat pakietów i aktywnej kontroli kolejek w jednym pakiecie o niskiej złożoności obliczeniowej. Oferuje następujące korzyści:

• Sprawiedliwe dzielenie przepustowości między różne aplikacje i źródła ruchu.
• Inteligentne obsługiwanie strat pakietów i buforowania.
• Priorytetyzacja krótkich przepływów (np. ruch sieciowy) i oparte na progach limitowanie długich przepływów.

Konfiguracja FQ-CoDel lub CAKE na MikroTik

Obie omawiane metody SQM są dostępne w systemie RouterOS od wersji 7.1. Poniżej znajdziesz kroki pozwalające włączyć FQ-CoDel lub CAKE na swoim routerze MikroTik.

• Zmierz prędkość swojego łącza internetowego (np. przy użyciu Speedtest.net). Wybierz maksymalną prędkość, jaką chcesz przydzielić dla algorytmu SQM - dobrą praktyką jest użycie 90% łącznej prędkości.
• Przeprowadź test Bufferbloat (np. Waveform Bufferbloat Test), aby sprawdzić stan początkowy opóźnień na swoim łączu.
• Dodaj typ kolejki dla FQ-CoDel lub CAKE:

/queue type add kind=fq-codel name=fq-codel
/queue type add kind=cake name=cake

• Utwórz drzewa kolejek dla ruchu przychodzącego i wychodzącego na swoich interfejsach sieciowych, ustawiając parametr max-limit na wybraną prędkość. Na przykład:

/queue tree add max-limit=225M name=queue-upload packet-mark=no-mark parent=ether1 queue=fq-codel
/queue tree add max-limit=225M name=queue-download packet-mark=no-mark parent=bridge queue=fq-codel

• Wykonaj ponownie test Bufferbloat, aby sprawdzić zmniejszenie opóźnień i poprawę wydajności sieci.

Mimo że powyższe instrukcje to podstawa, pamiętaj o następujących kwestiach optymalizacyjnych:

• Dla łączy asymetrycznych ustaw odpowiednio różne wartości max-limit dla ruchu przychodzącego i wychodzącego.
• Aby zapewnić odpowiednią obsługę różnego typu ruchu (gier, VoIP, strumieniowania wideo itp.), rozważ dodanie ręcznie oznaczonych kolejek obok tych wykorzystywanych przez algorytmy SQM.
• Monitoruj współczynnik utraty pakietów i w razie potrzeby dostosuj parametry kolejek lub zakres przepustowości.
• Rozważ zintegrowanie algorytmów SQM z regułami firewalla i QoS, aby zapewnić kompleksową optymalizację ruchu sieciowego.

To (nie)zawsze wina DNS

Wszyscy wiemy, że za awariami w sieci stoi DNS (albo BGP, ale nie o tym dzisiaj). Johannes Weber stworzył świetną grafikę pokazującą, jak względnie prosty w działaniu protokół DNS funkcjonuje pod spodem (spoiler: wcale nie jest prosto).

Link do pobrania w formie pdf-a

Cisco modeling Lab za darmo

CML Free Tier

Life is good when you can lab from anywhere. Cisco Modeling Labs Free makes it fun to design, test, troubleshoot, and learn with the Cisco premier platform for network simulations. It’s the perfect tool for network engineers, architects, and students to gain real-world, hands-on practice as they learn-and prep for certification exams without any initial cost. Sign up today to start labbing now.

cisco-logo

Wraz z wersją 2.8 CML-a, Cisco wprowadziło darmowy plan, który pozwala na jednoczesne uruchomienie do 5 urządzeń (do limitu nie wliczają się niezarządzane switche oraz zewnętrzne urządzenia). Licencja jest bezterminowa.

Co się stanie z moim urządzeniem Cisco, gdy wygasną licencje?