Расстояния от г. Севастополь до ключевых точек сети приведены в таблице
6.
Таблица 6. Прямые и резервные расстояния до узлов от г. Севастополь
|
Город/Объект |
Расстояние 1 |
Расстояние 2 (резерв) |
|
Алупка, узел связи |
88,766 км |
868,246 км |
|
Ялта, узел связи |
106,583 км |
850,429 км |
|
Алушта, узел связи |
150,064 км |
811,221 км |
|
Судак, узел связи |
261,852 км |
699,433 км |
|
Феодосия, рЦОД |
332,88 км |
628,405 км |
|
Керчь, точка обмена трафиком |
456,93 км |
726,784 км |
|
Джанкой, рЦОД |
477,438 км |
483,847 км |
|
Красноперекопск, точка обмена трафиком |
420,58 км |
540,705 км |
|
Черноморское, узел связи |
291,692 км |
669,593 км |
|
Евпатория, узел связи |
171,922 км |
789,363 км |
|
Саки, узел связи |
144,605 км |
816,68 км |
|
Симферополь |
92,605 км |
868,68 км |
Расстояния от г. Джанкой до ключевых точек сети приведены в таблице 7.
Таблица 7. Прямые и резервные расстояния до узлов от г. Джанкой
|
Город/Объект |
Расстояние 1 |
Расстояние 2 (резерв) |
|
Красноперекопск, точка обмена трафиком |
56,858 км |
900,154 км |
|
Черноморское, узел связи |
185,746 км |
771,266 км |
|
Евпатория, узел связи |
305,516 км |
651,496 км |
|
Симферополь, ЦОД |
384,833 км |
572,179 км |
|
Севастополь, ЦОД |
477,438 км |
479,574 км |
|
Алупка, узел связи |
390,808 км |
566,204 км |
|
Ялта, узел связи |
372,991 км |
584,021 км |
|
Алушта, узел связи |
333,783 км |
627,502 км |
|
Судак, узел связи |
221,995 км |
739,29 км |
|
Феодосия, рЦОД |
150,967 км |
810,318 км |
|
Керчь, точка обмена трафиком |
249,346 км |
908,697 км |
Расстояния от г. Феодосия до ключевых точек сети приведены в таблице 8.
Таблица 8. Прямые и резервные расстояния до узлов от г. Феодосия
|
Город/ОбъектРасстояние 1Расстояние 2 (резерв) |
|
|
|
Керчь, точка обмена трафиком |
98,379 км |
98,379 км |
|
Джанкой, рЦОД |
150,967 км |
810,318 км |
|
Красноперекопск, точка обмена трафиком |
207,825 км |
753,46 км |
|
Черноморское, узел связи |
336,713 км |
624,572 км |
|
Евпатория, узел связи |
456,483 км |
504,802 км |
|
Симферополь, ЦОД |
425,485 км |
535,8 км |
|
Севастополь, ЦОД |
332,88 км |
628,405 км |
|
Алупка, узел связи |
244,114 км |
717,171 км |
|
Ялта, узел связи |
226,297 км |
734,988 км |
|
Алушта, узел связи |
182,816 км |
778,469 км |
|
Судак, узел связи |
71,028 км |
890,257 км |
Проведя анализ физического уровня передачи, были учтены современные тенденции развития технологий уплотнения сигнала, выбраны основные направления и решения, которые характерны для построения территориально распределённых сетей центров обработки данных.
Исходя из представленных материалов:
· Необходимо использование систем уплотнения сигнала при строительстве сети центров обработки данных
· Наибольший интерес при проектировании представляет оборудование с дальностью действия от 500 до 2000 км
· Параметры DWDM системы должны быть строго расчитаны во избежание неполадок на момент проведения эксплуатации
· Различные топологические варианты организации услуги могут
существенно изменить количество и порядок включения оборудования на местах
Важной частью планирования сети является не только размещение сетевых устройств и узлов связи, но и определение порядка их взаимодействия на сети передачи данных. На предыдущем этапе были выделены предполагаемые доступные места расположения основных и резервных ЦОД, а также точек обмена трафиком. Оборудование в данных городах связывается друг с другом напрямую по опорной DWDM сети передачи данных на частотах, доступных согласно частотному плану, доступному в Приложении А.
Для осуществления прозрачного сетевого взаимодействия, корректной работы вышележащих сетевых протоколов, а также реализации высокого уровня отказоустойчивости и катастрофоустойчивости, сетевые устройства ядра центров обработки данных соединяют в полносвязную топологию. Прогнозируемое количество трафика, исходящего из каждого ЦОД на 2015 год, не превышает 40Гбит/с, что позволяет использовать высокоскоростные интерфейсы передачи данных нового поколения 40GBASE-LR4, которые могут дублироваться в целях увеличения отказоустойчивости всей системы, и резервирования её на уровне линейных карт коммутационных устройств.
Существует два основных подхода к проектированию территориально-распределённых IP/MPLS сетей, главными узлами в которых являются ЦОДы. Первая модель возникла на заре сетевого проектирования и называется «плоской моделью построения сети». Она предполагает отсутствие разбиения сети на широковещательные домены и имеет ряд существенных недостатков в сравнении с другими моделями:
· отсутствие модульности при использовании;
· пониженная отказоустойчивость за счет невозможности дублирования;
· невозможность распределения сетевых функций по устройствам.
Такая модель длительное время не используется при построении современных центров обработки данных. Её место заняла трехуровневая модель, или иерархическая модель Cisco.
В пределах каждого центра обработки данных, система может быть построена по классической трехуровневой сетевой модели. Самый низкий уровень - уровень доступа, оборудование этого уровня представляет собой коммутаторы с медными и оптическими портами для подключения конечных клиентов и предоставления различных сервисов пользователям. Следующий уровень - уровень агрегации, предназначен для сбора и переработки большого количества клиентского трафика, применения политик безопасности, распределения трафика по исходящим линкам и организации отказоустойчивости на уровне сети. Уровень ядра сети предполагает наличие быстрых, высокопроизводительных устройств, принимающих решение о маршрутизации, осуществляющих межсетевое взаимодействие с позиции межсетевых потоков данных. Для повышения надежности и отказоустойчивости, все три уровня представлены дублированными шасси, которые логически объединены в одно устройство. Это позволяет избежать кольцевых топологий на втором и третьем уровне сети, которые не соответствуют заявленным в техническом задании требованиям к сетевым задержкам.
Ядро сети также составляют высокопроизводительные маршрутизирующие устройства на границах сети передачи данных. На этих объектах осуществляется выход пользовательского трафика за пределы основной сети, например, в Россию и Европу. С учетом широких возможностей технологического решения по организации оптической инфраструктуры передачи данных, каждый ЦОД может быть связан прямым включением к точке обмена трафиком физически независимым каналом. Для подобного канала связи оценочная скорость не превышает 10Гбит/с на 2015 год, а значит достаточно использовать 10Gbase-LR интерфейсы с дублированием 2n для обеспечения резервирования.
При подключении отдельных узлов передачи данных, типовое включение предполагает использование двух оптических каналов связи, зарезервированных на уровне физической среды передачи данных. Однако, поскольку количество подобных включений и их уровень критичности зависит от заказанных различными предприятиями и сервис-провайдерами услуг, предусматривается возможность использования только одного канала связи на поселение/город. Подобная необходимость должна разрабатываться индивидуально с ростом сети, а также оценкой каждого конкретного подключения района или города. Стандартный набор оборудования, который требуется для подключения отдельного узла состоит из т.н. PE [Provider Edge] устройств - устройств непосредственного включения клиентов и услуг, а также P [Provider] устройств, которые связывают PE устройства и ядро сети, а также служат для подключения крупных клиентов или сервис-провайдеров и предоставляют последним расширенный набор сетевых сервисов.
Таким образом, на данном этапе можно выделить типы необходимого оборудования для разных участков сети.
· Коммутаторы доступа в ЦОД.
· Коммутаторы/маршрутизаторы агрегации в ЦОД.
· Маршрутизаторы ядра сети.
· Маршрутизаторы точек обмена трафиком.
· Сервис-коммутаторы узлов связи.
· Маршрутизаторы узлов связи.
· Сопутствующее сетевое оборудование (оптические трансиверы, патчкорды, панели).
Рассмотрим необходимый функционал, которым должно обладать оборудования доступа, а также оборудование магистральной сети.
Коммутаторы доступа ЦОД имеют наименьший функционал, поскольку обеспечивают исключительно физическое подключение оборудование к сети передачи данных с минимальным набором сервисов, предоставляемым пользователям. Тем не менее, чаще всего именно уровень доступа к сети является самым распространенным по числу ошибок и отказов, являясь узким местом взаимодействия пользователя и провайдера услуг. Коммутатор для ЦОД должен обладать хорошими характеристиками портовой емкости и низкой задержкой на коммутацию, предпочтительно также наличие возможности модернизации портов в более современные типы или возможность гибкой настройки порта. Пропускная способность внутренней шины коммутаторов должна быть неблокируемой, то есть обеспечивать взаимодействия с опорной сетью на скорости порта вне зависимости от портовой загрузки. На этом уровне требуется работа с базовыми сетевыми сервисами второго уровня. Поскольку сеть ЦОД также может быть использована для работы с многоадресной рассылкой, например, IPTV, необходимо иметь возможность работы с мультикастовым трафиком.
Уровень агрегации может быть представлен коммутатором или маршрутизатором, который имеет возможность стекирования для логического объединения шасси. На данном уровне происходит начальная маршрутизация клиентского трафика, организован т.н. FH-redundancy [First-Hop Redundancy], то есть резервирование основного шлюза. Маршрутизатор должен иметь возможность работать с протоколами внутренней маршрутизации (OSPF [Open Shortest Path First], RIP [Routing Information Protocol], ISIS [Intermediate System to Intermediate System]), а также протоколом BGP [Border Gateway Protocol], как основного связующего протокола PE и P устройств. Устройство данного уровня в обязательном порядке поддерживает технологии и сервисы MPLS [Multiprotocol Label Switching], имеет возможность работы с мультикаст трафиком, включая его маршрутизацию, а также является готовым для взаимодействия по IPv6.
Уровень ядра сети представлен высокопроизводительными маршрутизаторами провайдерского класса, которые осуществляют коммутацию трафика на основе меток, получаемых от других устройств этой группы. Данные маршрутизаторы обязаны уметь обрабатывать полную таблицу IPv4 маршрутов Интернет в количестве до 2х штук в различных маршрутизационных процессах, а также полную IPv6 таблицу маршрутов. Межсетевое взаимодействие с данными устройствами осуществляется с помощью протоколов внутренней маршрутизации, внешней маршрутизации, а также коммутации по меткам. Расширенный функционал мульти протокольного BGP также является дополнительным плюсом при выборе производителя устройств этого класса. Отсутствие любого вида переподписки портов является обязательным условием не только оборудования ядра сети, но и всего проекта ЦОД в целом.
Маршрутизаторы на точках обмена трафиком должны иметь тот же функционал, что и маршрутизаторы ядра сети, однако отличаются гибкими возможностями организации клиентских подключений, а также большим числом и плотностью разнообразных портов. Обмен трафика с пиринговыми партнерами и вышестоящими провайдерами предполагает наличие высокопроизводительного ЦПУ в составе маршрутизаторов, поскольку обсчет таблиц больших размеров должен производиться быстро и без влияния на остальные сетевые сервисы. Взаимодействие с остальными участками сети должно производиться через протокол коммутации по меткам и внутренние протоколы маршрутизации.
Комплект сетевого оборудования на узлах связи сильно зависит от
заказанных услуг, и является предметом непосредственного обсуждения на этапе
включения нового узла. В рамках проекта, базовый комплект предполагает
48-портовый свич для города с населением более 50тыс человек, 24 портовый свич
для города с населением менее 50тыс человек. Данный коммутатор предоставляет
базовый доступ к сети ЦОД, а также является агрегатором клиентских портов с
выходом на маршрутизатор узла связи. Маршрутизатор на узле является связующим
слоем между опорной сетью и уровнем доступа узла, а также концентратором
крупных клиентских включений и услуг VPN [Virtual Private Network]. Примером таких услуг являются L2VPN, L3VPN, IPv6-включения, FV [Full-View] включения. Таким образом, структура отдельного узла
связи представляет собой модернизированную трехуровневую модель организации
сети передачи данных с логически совмещенными уровнями агрегации и доступа,
разделёнными на два отдельных физических устройства.
Решения, которые характерны для уровня агрегации и доступа ЦОД, имеет смысл рассматривать комплексно, чаще всего их делают одновендорными, для создания единой гомогенной среды передачи центра обработки данных. Рассмотрим подобные связки, проанализировав основные их достоинства и недостатки.
Компания Juniper Networks предлагает использовать на уровне доступа их коммутаторы EX4300, которые являются одними из лучших по показателю плотности портов. Данный коммутатор имеет широкие возможности для масштабирования, поскольку представлен в различных вариациях по количеству портов, а также имеет функционал, необходимый для включения 40Гбит/с или 10Гбит/с портов к вышестоящему коммутатору. Поддерживается технология Virtual Chassis, благодаря которой до 10 физических устройств можно объединить в одно логическое устройство и управлять всеми портами общего коммутатора из одной точки. Осуществлена также поддержка NSF [Nonstop forwarding], которая позволяет осуществлять обновление программного обеспечения устройства без перерыва сервиса. Большое внимание уделено безопасности, интегрирован MacSecurity функционал. Заявляется поддержка трафика до 350 миллионов пакетов в секунду без переподписки, а также весь современный спектр технологий второго уровня: jumbo frames, большое количество VLAN [Virtual Local Area Network], Производители не обошли стороной работу с мультикастом, предоставляют ресурсы для осуществления мониторинга трафика, а также большое количество вариаций моделей коммутаторов по количеству портов, направлению обдува воздуха, а также типу интерфейсов (медный или оптический).