Материал: Строительство сети данных

Внимание! Если размещение файла нарушает Ваши авторские права, то обязательно сообщите нам

Расстояния от г. Севастополь до ключевых точек сети приведены в таблице 6.

Таблица 6. Прямые и резервные расстояния до узлов от г. Севастополь

Город/Объект

Расстояние 1

Расстояние 2 (резерв)

Алупка, узел связи

88,766 км

868,246 км

Ялта, узел связи

106,583 км

850,429 км

Алушта, узел связи

150,064 км

811,221 км

Судак, узел связи

261,852 км

699,433 км

Феодосия, рЦОД

332,88 км

628,405 км

Керчь, точка обмена трафиком

456,93 км

726,784 км

Джанкой, рЦОД

477,438 км

483,847 км

Красноперекопск, точка обмена трафиком

420,58 км

540,705 км

Черноморское, узел связи

291,692 км

669,593 км

Евпатория, узел связи

171,922 км

789,363 км

Саки, узел связи

144,605 км

816,68 км

Симферополь

92,605 км

868,68 км


Расстояния от г. Джанкой до ключевых точек сети приведены в таблице 7.

Таблица 7. Прямые и резервные расстояния до узлов от г. Джанкой

Город/Объект

Расстояние 1

Расстояние 2 (резерв)

Красноперекопск, точка обмена трафиком

56,858 км

900,154 км

Черноморское, узел связи

185,746 км

771,266 км

Евпатория, узел связи

305,516 км

651,496 км

Симферополь, ЦОД

384,833 км

572,179 км

Севастополь, ЦОД

477,438 км

479,574 км

Алупка, узел связи

390,808 км

566,204 км

Ялта, узел связи

372,991 км

584,021 км

Алушта, узел связи

333,783 км

627,502 км

Судак, узел связи

221,995 км

739,29 км

Феодосия, рЦОД

150,967 км

810,318 км

Керчь, точка обмена трафиком

249,346 км

908,697 км


Расстояния от г. Феодосия до ключевых точек сети приведены в таблице 8.

Таблица 8. Прямые и резервные расстояния до узлов от г. Феодосия

Город/ОбъектРасстояние 1Расстояние 2 (резерв)



Керчь, точка обмена трафиком

98,379 км

98,379 км

Джанкой, рЦОД

150,967 км

810,318 км

Красноперекопск, точка обмена трафиком

207,825 км

753,46 км

Черноморское, узел связи

336,713 км

624,572 км

Евпатория, узел связи

456,483 км

504,802 км

Симферополь, ЦОД

425,485 км

535,8 км

Севастополь, ЦОД

332,88 км

628,405 км

Алупка, узел связи

244,114 км

717,171 км

Ялта, узел связи

226,297 км

734,988 км

Алушта, узел связи

182,816 км

778,469 км

Судак, узел связи

71,028 км

890,257 км

3.5    Выводы

Проведя анализ физического уровня передачи, были учтены современные тенденции развития технологий уплотнения сигнала, выбраны основные направления и решения, которые характерны для построения территориально распределённых сетей центров обработки данных.

Исходя из представленных материалов:

·        Необходимо использование систем уплотнения сигнала при строительстве сети центров обработки данных

·        Наибольший интерес при проектировании представляет оборудование с дальностью действия от 500 до 2000 км

·        Параметры DWDM системы должны быть строго расчитаны во избежание неполадок на момент проведения эксплуатации

·        Различные топологические варианты организации услуги могут существенно изменить количество и порядок включения оборудования на местах

4.      Анализ вариантов проектирования межсетевого взаимодействия центров обработки данных


4.1    Основные подходы в организации сетевого уровня передачи данных центров обработки данных

Важной частью планирования сети является не только размещение сетевых устройств и узлов связи, но и определение порядка их взаимодействия на сети передачи данных. На предыдущем этапе были выделены предполагаемые доступные места расположения основных и резервных ЦОД, а также точек обмена трафиком. Оборудование в данных городах связывается друг с другом напрямую по опорной DWDM сети передачи данных на частотах, доступных согласно частотному плану, доступному в Приложении А.

Для осуществления прозрачного сетевого взаимодействия, корректной работы вышележащих сетевых протоколов, а также реализации высокого уровня отказоустойчивости и катастрофоустойчивости, сетевые устройства ядра центров обработки данных соединяют в полносвязную топологию. Прогнозируемое количество трафика, исходящего из каждого ЦОД на 2015 год, не превышает 40Гбит/с, что позволяет использовать высокоскоростные интерфейсы передачи данных нового поколения 40GBASE-LR4, которые могут дублироваться в целях увеличения отказоустойчивости всей системы, и резервирования её на уровне линейных карт коммутационных устройств.

Существует два основных подхода к проектированию территориально-распределённых IP/MPLS сетей, главными узлами в которых являются ЦОДы. Первая модель возникла на заре сетевого проектирования и называется «плоской моделью построения сети». Она предполагает отсутствие разбиения сети на широковещательные домены и имеет ряд существенных недостатков в сравнении с другими моделями:

·        отсутствие модульности при использовании;

·        пониженная отказоустойчивость за счет невозможности дублирования;

·        невозможность распределения сетевых функций по устройствам.

Такая модель длительное время не используется при построении современных центров обработки данных. Её место заняла трехуровневая модель, или иерархическая модель Cisco.

В пределах каждого центра обработки данных, система может быть построена по классической трехуровневой сетевой модели. Самый низкий уровень - уровень доступа, оборудование этого уровня представляет собой коммутаторы с медными и оптическими портами для подключения конечных клиентов и предоставления различных сервисов пользователям. Следующий уровень - уровень агрегации, предназначен для сбора и переработки большого количества клиентского трафика, применения политик безопасности, распределения трафика по исходящим линкам и организации отказоустойчивости на уровне сети. Уровень ядра сети предполагает наличие быстрых, высокопроизводительных устройств, принимающих решение о маршрутизации, осуществляющих межсетевое взаимодействие с позиции межсетевых потоков данных. Для повышения надежности и отказоустойчивости, все три уровня представлены дублированными шасси, которые логически объединены в одно устройство. Это позволяет избежать кольцевых топологий на втором и третьем уровне сети, которые не соответствуют заявленным в техническом задании требованиям к сетевым задержкам.

Ядро сети также составляют высокопроизводительные маршрутизирующие устройства на границах сети передачи данных. На этих объектах осуществляется выход пользовательского трафика за пределы основной сети, например, в Россию и Европу. С учетом широких возможностей технологического решения по организации оптической инфраструктуры передачи данных, каждый ЦОД может быть связан прямым включением к точке обмена трафиком физически независимым каналом. Для подобного канала связи оценочная скорость не превышает 10Гбит/с на 2015 год, а значит достаточно использовать 10Gbase-LR интерфейсы с дублированием 2n для обеспечения резервирования.

При подключении отдельных узлов передачи данных, типовое включение предполагает использование двух оптических каналов связи, зарезервированных на уровне физической среды передачи данных. Однако, поскольку количество подобных включений и их уровень критичности зависит от заказанных различными предприятиями и сервис-провайдерами услуг, предусматривается возможность использования только одного канала связи на поселение/город. Подобная необходимость должна разрабатываться индивидуально с ростом сети, а также оценкой каждого конкретного подключения района или города. Стандартный набор оборудования, который требуется для подключения отдельного узла состоит из т.н. PE [Provider Edge] устройств - устройств непосредственного включения клиентов и услуг, а также P [Provider] устройств, которые связывают PE устройства и ядро сети, а также служат для подключения крупных клиентов или сервис-провайдеров и предоставляют последним расширенный набор сетевых сервисов.

Таким образом, на данном этапе можно выделить типы необходимого оборудования для разных участков сети.

·        Коммутаторы доступа в ЦОД.

·        Коммутаторы/маршрутизаторы агрегации в ЦОД.

·        Маршрутизаторы ядра сети.

·        Маршрутизаторы точек обмена трафиком.

·        Сервис-коммутаторы узлов связи.

·        Маршрутизаторы узлов связи.

·        Сопутствующее сетевое оборудование (оптические трансиверы, патчкорды, панели).

Рассмотрим необходимый функционал, которым должно обладать оборудования доступа, а также оборудование магистральной сети.

Коммутаторы доступа ЦОД имеют наименьший функционал, поскольку обеспечивают исключительно физическое подключение оборудование к сети передачи данных с минимальным набором сервисов, предоставляемым пользователям. Тем не менее, чаще всего именно уровень доступа к сети является самым распространенным по числу ошибок и отказов, являясь узким местом взаимодействия пользователя и провайдера услуг. Коммутатор для ЦОД должен обладать хорошими характеристиками портовой емкости и низкой задержкой на коммутацию, предпочтительно также наличие возможности модернизации портов в более современные типы или возможность гибкой настройки порта. Пропускная способность внутренней шины коммутаторов должна быть неблокируемой, то есть обеспечивать взаимодействия с опорной сетью на скорости порта вне зависимости от портовой загрузки. На этом уровне требуется работа с базовыми сетевыми сервисами второго уровня. Поскольку сеть ЦОД также может быть использована для работы с многоадресной рассылкой, например, IPTV, необходимо иметь возможность работы с мультикастовым трафиком.

Уровень агрегации может быть представлен коммутатором или маршрутизатором, который имеет возможность стекирования для логического объединения шасси. На данном уровне происходит начальная маршрутизация клиентского трафика, организован т.н. FH-redundancy [First-Hop Redundancy], то есть резервирование основного шлюза. Маршрутизатор должен иметь возможность работать с протоколами внутренней маршрутизации (OSPF [Open Shortest Path First], RIP [Routing Information Protocol], ISIS [Intermediate System to Intermediate System]), а также протоколом BGP [Border Gateway Protocol], как основного связующего протокола PE и P устройств. Устройство данного уровня в обязательном порядке поддерживает технологии и сервисы MPLS [Multiprotocol Label Switching], имеет возможность работы с мультикаст трафиком, включая его маршрутизацию, а также является готовым для взаимодействия по IPv6.

Уровень ядра сети представлен высокопроизводительными маршрутизаторами провайдерского класса, которые осуществляют коммутацию трафика на основе меток, получаемых от других устройств этой группы. Данные маршрутизаторы обязаны уметь обрабатывать полную таблицу IPv4 маршрутов Интернет в количестве до 2х штук в различных маршрутизационных процессах, а также полную IPv6 таблицу маршрутов. Межсетевое взаимодействие с данными устройствами осуществляется с помощью протоколов внутренней маршрутизации, внешней маршрутизации, а также коммутации по меткам. Расширенный функционал мульти протокольного BGP также является дополнительным плюсом при выборе производителя устройств этого класса. Отсутствие любого вида переподписки портов является обязательным условием не только оборудования ядра сети, но и всего проекта ЦОД в целом.

Маршрутизаторы на точках обмена трафиком должны иметь тот же функционал, что и маршрутизаторы ядра сети, однако отличаются гибкими возможностями организации клиентских подключений, а также большим числом и плотностью разнообразных портов. Обмен трафика с пиринговыми партнерами и вышестоящими провайдерами предполагает наличие высокопроизводительного ЦПУ в составе маршрутизаторов, поскольку обсчет таблиц больших размеров должен производиться быстро и без влияния на остальные сетевые сервисы. Взаимодействие с остальными участками сети должно производиться через протокол коммутации по меткам и внутренние протоколы маршрутизации.

Комплект сетевого оборудования на узлах связи сильно зависит от заказанных услуг, и является предметом непосредственного обсуждения на этапе включения нового узла. В рамках проекта, базовый комплект предполагает 48-портовый свич для города с населением более 50тыс человек, 24 портовый свич для города с населением менее 50тыс человек. Данный коммутатор предоставляет базовый доступ к сети ЦОД, а также является агрегатором клиентских портов с выходом на маршрутизатор узла связи. Маршрутизатор на узле является связующим слоем между опорной сетью и уровнем доступа узла, а также концентратором крупных клиентских включений и услуг VPN [Virtual Private Network]. Примером таких услуг являются L2VPN, L3VPN, IPv6-включения, FV [Full-View] включения. Таким образом, структура отдельного узла связи представляет собой модернизированную трехуровневую модель организации сети передачи данных с логически совмещенными уровнями агрегации и доступа, разделёнными на два отдельных физических устройства.

4.2    Анализ рынка магистрального сетевого оборудования

Решения, которые характерны для уровня агрегации и доступа ЦОД, имеет смысл рассматривать комплексно, чаще всего их делают одновендорными, для создания единой гомогенной среды передачи центра обработки данных. Рассмотрим подобные связки, проанализировав основные их достоинства и недостатки.

Компания Juniper Networks предлагает использовать на уровне доступа их коммутаторы EX4300, которые являются одними из лучших по показателю плотности портов. Данный коммутатор имеет широкие возможности для масштабирования, поскольку представлен в различных вариациях по количеству портов, а также имеет функционал, необходимый для включения 40Гбит/с или 10Гбит/с портов к вышестоящему коммутатору. Поддерживается технология Virtual Chassis, благодаря которой до 10 физических устройств можно объединить в одно логическое устройство и управлять всеми портами общего коммутатора из одной точки. Осуществлена также поддержка NSF [Nonstop forwarding], которая позволяет осуществлять обновление программного обеспечения устройства без перерыва сервиса. Большое внимание уделено безопасности, интегрирован MacSecurity функционал. Заявляется поддержка трафика до 350 миллионов пакетов в секунду без переподписки, а также весь современный спектр технологий второго уровня: jumbo frames, большое количество VLAN [Virtual Local Area Network], Производители не обошли стороной работу с мультикастом, предоставляют ресурсы для осуществления мониторинга трафика, а также большое количество вариаций моделей коммутаторов по количеству портов, направлению обдува воздуха, а также типу интерфейсов (медный или оптический).