Soyut

Yapay zeka (AI) hızla ilerledikçe, geleneksel veri merkezi ağları, AI trafiğini taşırken büyük zorluklarla karşı karşıya kalıyor. Yüksek bant genişliği kullanımı ve az sayıda fil akışı, geleneksel akış başına yük dengelemeyi etkisiz hale getirerek-yapay zeka modeli eğitimini ve iş tamamlama sürelerini önemli ölçüde artıran tıkanıklık ve paket kaybına neden olabilir. Bu teknik incelemede, gerçek-zamanlı farkındalığı akıllı karar vermeyle-birleştiren dinamik bir akıllı yönlendirme teknolojisi incelenmektedir. Yol-kalite ölçümü, BGP genişletilmiş-öznitelik senkronizasyonu, dinamik ağırlıklı-maliyet çok yolu (WCMP), anormal-yol kaldırma ve

Yapay zeka ortamlarında trafik zamanlamasını iyileştirmek için akış-düzeyinde otomatik yük dengeleme (ALB). Tasarım aynı zamanda çok kiracılı izolasyon sağlamak için sanallaştırmayı kullanıyor ve verimli, istikrarlı ve akıllı AI veri merkezi ağları için uygulama senaryoları ve planlama rehberliği sunuyor.

Geleneksel Ağlar Neden Yapay Zeka ile Mücadele Ediyor? Trafik

Geleneksel veri merkezi ağlarında, çok sayıda küçük akış, ağ koşullarına ilişkin gerçek zamanlı farkındalık olmasa bile kabul edilebilir bir dağıtım elde etmek ve tıkanıklıkları önlemek için akış başına yük dengelemeyi- mümkün kılar. Yapay zeka trafiği çok farklıdır: bant genişliği kullanımı son derece yüksektir ve trafiğe genellikle yalnızca birkaç fil akışı hakimdir. Bu nedenle karma çarpışmalar, diğer yollar yeterince kullanılmadan kalırken birden fazla büyük akışı aynı yola yerleştirebilir. Paket kaybı meydana geldiğinde tüm AI iş yükünün tamamlanma süresi önemli ölçüde artabilir. Bu nedenle sektör, trafiğin birden fazla yola daha eşit bir şekilde dağıtılması amacıyla yapay zeka yapıları için optimize edilmiş yük- dengeleme algoritmalarına giderek daha fazla odaklanıyor.

Şekil 1. Yapay zeka fil-akış trafiği ile geleneksel küçük-akış trafiğinin karşılaştırılması.

Dinamik Farkındalığı Akıllı Karar Vermeyle Birleştirme-

Dinamik akıllı yönlendirme, farkındalık-tabanlı bir yük-dengeleme teknolojisidir. Yerel yol seçimini ayarlamak için yapıdaki anahtarlar tarafından algılanan yol kalitesini kullanır ve dinamik ağırlıklı yük dengelemeyi destekler. BGP üzerine inşa edilen teknoloji, yeni bir genişletilmiş-topluluk özelliği tanımlar.

Yol kalitesini değerlendirmek için çok{{0}boyutlu, yüksek-hassasiyetli ölçümler kullanılır ve sonuç, sonraki trafik yönlendirmeye rehberlik etmek üzere BGP aracılığıyla yayılır. Bu, ağ genelinde-yük dağıtımını iyileştirir ve uygulama yanıt süresini azaltır [1].

Şekil 2. Dinamik farkındalık, karar ve yürütme iş akışı.

-Bant Telemetrisinde

İletim-gecikmesi ölçümü INT'yi (Bant-Bant İçi Ağ Telemetrisi) temel alır ve nanosaniye-düzeyinde hassasiyete ulaşabilir. HDC (Yüksek Gecikmeli Yakalama), ASIC içinde yüksek gecikme yaşayan paketleri yakalar. Bir paket kullanıcı tarafından tanımlanan gecikme eşiğini aştığında, anahtar orijinal paketin ilk 150 baytını giriş bağlantı noktası, çıkış bağlantı noktası ve gecikme dahil olmak üzere meta verilerle birlikte bir toplayıcıya gönderir. Bu tasarımda CPU, HDC toplayıcı ve analizörü görevi görerek yüksek-hassasiyetli yönlendirme-gecikme ölçümlerine ve daha doğru yol{10}}kalitesi değerlendirmesine olanak tanır.

Şekil 3. Yol-kalitesinin yayılması ve WCMP kurulumu.

Teknoloji, bir hedefe giden yolun toplam kalitesini belirtmek için yeni bir BGP genişletilmiş-topluluk özelliği olan Yol Bant Genişliği Genişletilmiş Topluluğunu kullanır. Genişletilmiş-tür alanının yüksek-sıralı baytı 0x00 ve düşük-sıralı baytı 0x05'tir. Değer alanında Genel Yönetici alt alanı AS numarasını temsil eder. Yol kalitesi, IEEE kayan nokta biçimi kullanılarak dört bayt olarak kodlanır ve GB/s cinsinden ifade edilir.

NIC1, NIC2 ile iletişim kurduğunda, NIC2 ilk olarak IP adresini Leaf2'ye bildirir. Leaf2, adresi Spine'a, NIC2'ye yönelik bağlantı-kalite değeri ile Leaf2 aşağı bağlantı ağırlığının çarpımı ile birlikte duyurur. Omurga kendi ağırlıklı bağlantı kalitesini ekler ve biriken değeri Yaprak1'e aktarır. Leaf1 yol kalitesini özetler ve yönlendirmeyi yönlendiren rotaları yükler. İki-katmanlı Yaprak-Spine yapısında bağlantı noktaları, her sınıf için yapılandırılabilir hesaplama katsayılarıyla birlikte Yaprak yukarı bağlantıları, Yaprak aşağı bağlantıları ve Spine bağlantı noktaları olarak sınıflandırılır.

bağlantılar arasında orantılı olarak trafik. Dinamik akıllı yönlendirmede, WCMP ağırlıkları yol kalitesine göre gerçek zamanlı olarak ayarlanır. Örneğin, NIC1 ile NIC2 arasında iki yol varsa sistem 3:7 oranını hesaplayabilir. Trafik değiştikçe güncellenen yol-kalite bilgisi, yönlendirmeyi yönlendirmek için dinamik WCMP rotalarının oluşturulduğu her Yaprak anahtarına BGP yoluyla yayılır.

Anormal Yol Kaldırma

Bir yolun toplam kalitesi kabul edilen bir eşiğin altına düştüğünde yol, yapay zeka iş yükü için kullanılamaz olarak kabul edilir ve iletme işleminden kaldırılır. Kalan yollar dinamik WCMP üzerinden trafik taşımaya devam ediyor. Yol normale döndüğünde eski haline döner. Bu, kapasitenin bir kısmını geçici olarak kullanılmadan bıraksa da, daha ciddi tıkanıklığı ve paket kaybını önler [1].

Akıllı Yük Dengeleme (ALB)

ALB, Flowlet-tabanlı yük dağıtımı sağlar. ASIC, farklı bağlantı noktalarındaki yükü ve gecikmeyi gerçek zamanlı olarak ölçer ve her Akışı daha düşük yük veya daha düşük gecikmeyle bağlantıya yönlendirir. Bu, geleneksel ECMP'nin üstüne-daha ayrıntılı planlama ekler. ALB ayrıca bağlantı noktası yük devretmesini destekler ve bir çıkış bağlantısı başarısız olduğunda trafiği otomatik olarak yeniden dağıtır [1].

Sanallaştırma

Farklı GPU kaynaklarının farklı kullanıcılara tahsis edilebilmesi için ön uç ağlar genellikle çok-kiracılı desteğe ihtiyaç duyar. Çözüm, kiracıları izole etmek için VRF'yi (Sanal Yönlendirme ve İletme) kullanıyor ve her kullanıcıya bir VRF atanıyor. GPU- ile ilgili alt ağlar kullanıcının VRF'sine yerleştirilir ve ASIC'deki PRE ACL'ler, giriş trafiğini sınıflandırarak her kullanıcının trafiğinin yalnızca ilgili VRF [1] içinde iletilmesini sağlar.

Küresel işlem havuzu: TR'ler arasındaki{0}bölgeler arası bağlantıların temel hazırlığı, bölgeler arası birleşik bir işlem havuzu oluşturmak için isteğe bağlı bölgeler arası QoS ile-en yoğun bölgeler arası trafiğe göre sağlanır [2].

3. Küresel Çıkarım-Hizmet Ağı

Küresel bir çıkarım ağı, her bölgede mevcut olan kaynaklara ve bulut hizmetlerine göre dağıtım modellerini seçer ve verimli hizmet dağıtımı ve erişimi sağlar [2].

• Model veya Aracı dağıtımı: Müşteri VPC'sindeki EGS, ACK, ACS veya Lingjun çıplak-metal altyapısında Model Studio MaaS dağıtımını, PAI{0}}EAS veya Function Compute PaaS dağıtımını veya IaaS dağıtımını kullanın.
• Hizmet dağıtımı: Bir çıkarım-dağıtım VPC'si oluşturun ve VPC Eşleme'yi, ilişkili bulut-hizmeti VPC'lerini veya PrivateLink'i kullanarak özel ağlara bağlanın. ALB'yi veya gelişmiş ALB'yi farklı modellere veya Aracılara erişim noktası ve proxy istekleri olarak dağıtın.
• Hizmet erişimi: Yerel internet kullanıcıları gelişmiş ALB'ye doğrudan erişebilir; uzak kullanıcılar Global Accelerator'ı (GA) kullanabilir; dahili veya harici Alibaba Cloud kurumsal kullanıcıları PrivateLink aracılığıyla özel olarak bağlanabilir.

Bu teknik inceleme, AI çağında IDC ağlarının karşılaştığı zorlukları ve dinamik akıllı yönlendirmenin bunları nasıl çözebileceğini açıklamaktadır. Dinamik farkındalık, akıllı karar-verme, WCMP, ALB ve VRF sanallaştırma, yük dengeleme verimliliğini artırır, tıkanıklığı ve paket kaybını azaltır ve AI eğitimini ve çıkarımını hızlandırır. Planlama bölümü, VPC segmentasyonunu, koleksiyon-çıkış tasarımını, bölgeler arası- toplamayı ve ön işlemeyi, model eğitimini ve küresel çıkarım dağıtımını vurgular. Yapay zeka gelişmeye devam ettikçe veri merkezi ağları daha katı gereksinimlerle karşı karşıya kalacak. Dinamik akıllı yönlendirme, uç yapay zeka, birleştirilmiş öğrenme ve diğer karmaşık senaryolar için gelişmeye devam edecektir. Gelecekteki IDC ağları, bilgi işlem-ağ yakınsamasına, enerji verimliliğine ve otomatik işlemlere daha fazla önem verecek ve dijital ekonomi için daha akıllı, verimli ve güvenilir bir temel oluşturacaktır.

Referanslar

Kullanıcının-sağladığı teknik kaynak doküman.

Alibaba Bulut Yapay Zeka Ağı Teknik Raporu. Erişim tarihi: 27 Mayıs 2026.

https://help.aliyun.com/zh/cloud-ağ-iyi-mimarileştirilmiş-tasarım/alibaba-bulut-ai-ağ-teknik rapor-yazısı