Еженедельник
Объединенного института ядерных исследований

(Электронная версия с 1997 года)
Архив Содержание номера О газете На главную Фотогалерея KOI8

№ 12-13 (4052-4053) от 25 марта 2011:

Версия № 12-13 в формате pdf

За строкой Семилетнего плана

Компьютинг для физиков: сделано в Дубне

Ученый совет отмечает впечатляющие достижения ученых ОИЯИ в реализации исследовательских программ, в обновлении ускорительной и реакторной базы Института, а также в области информационных технологий..., значительные успехи в развитии грид-инфраструктуры Института. (Из резолюции 109-й сессии Ученого совета)

Лаборатория информационных технологий (ЛИТ) ОИЯИ - организация особая. Здесь, в отличие, например, от ЛЯР или ЛНФ, не ведутся физические эксперименты, нет экспериментальных установок. И хотя значимость современной, хорошо отлаженной вычислительной среды для такой международной научной организации, как ОИЯИ, понятна всем, время от времени лаборатории приходится доказывать свое право на существование, развитие, сохранение специалистов высокого класса. Очевидно, "ЛИТ,овцам" это удается, и подтверждение тому - вновь возникший вопрос о придании информационно-вычислительной инфраструктуре ЛИТ статуса базовой установки Института. О прошлом, настоящем и будущем лаборатории, которая связывает все подразделения Института между собой и с внешним миром, рассказывает директор ЛИТ Виктор Владимирович ИВАНОВ.

- С чего началась в Дубне "история с математикой"?

- Традиционно в нашей лаборатории развивались два основных направления. Первое связано с организацией и развитием скоростных телекоммуникационных каналов связи, надежной, защищенной и скоростной локальной сети, распределенной высокопроизводительной вычислительной инфраструктуры ОИЯИ и стран-участниц на основе национальных научно-образовательных сетей; обеспечением информационной и программной поддержки научно-производственной деятельности Института. С появлением в Институте первых вычислительных машин и с достаточно быстрым осознанием важности такого инструмента для управления экспериментальными установками и получения новых физических результатов в лабораториях Института стали создаваться свои вычислительные центры. Со временем все вычислительные ресурсы были объединены в единую информационно-вычислительную среду Института под эгидой Лаборатории вычислительной техники и автоматизации (ЛВТА), которую возглавил М.Г.Мещеряков. Был создан и продолжает развиваться Центральный информационно-вычислительный комплекс ОИЯИ, нацеленный на моделирование и обработку экспериментальных данных.

Можно вспомнить один из важных этапов этого пути - создание под руководством Н.Н.Говоруна мониторной системы "Дубна" для БЭСМ-6, в которую были включены язык ФОРТРАН и библиотеки программ. Мониторная система, разработанная в ЛВТА с привлечением специалистов из стран-участниц ОИЯИ, была передана практически во все организации, использующие БЭСМ-6. Одним из важных этапов в развитии этого направления стали так называемые онлайн-эксперименты: один из первых в мире был выполнен в ОИЯИ в одно и то же время с аналогичным экспериментом в ЦЕРН. В этих экспериментах данные с работающей на одном из каналов ускорителя экспериментальной установки в реальном времени передаются в вычислительный центр, оперативно обрабатываются и записываются на накопители информации для последующего физического анализа. Такой подход позволяет существенно улучшить контроль над функционированием всех элементов экспериментальной установки и повысить качество получаемой информации. Его реализация потребовала усилий большого коллектива инженеров, программистов и математиков.

В качестве примера можно привести разработанную в ОИЯИ стойку канала связи ЭВМ с экспериментальной установкой, отвечающую за организацию приема данных с установки во время проведения эксперимента на ускорителе. В то время эта стойка была размером с книжный шкаф. В современных компьютерах функцию такого шкафа выполняет всего один микрочип.

Второе направление нацелено на развитие новых математических методов моделирования и анализа результатов экспериментальных и теоретических исследований в области физики атомного ядра и элементарных частиц, а также проведение расчетов для проектируемых в Институте крупных экспериментальных установок. Причем оба эти направления развивались и продолжают развиваться вместе, так как вычислительная среда служит базой для успешного развития второго направления, а последнее стимулирует развитие сетевой и компьютерной среды Института в соответствии с запросами физических групп. Это также позволило сформировать и сохранить в трудное перестроечное время "математическую" команду ЛВТА (ЛИТ), помочь доказать и объяснить, что наш Институт многопрофильный, возникают разные задачи и что иметь высококлассных специалистов в этой отрасли - это тоже капитал.

- И во что сегодня превратились несколько первых компьютеров?

- Развитие скоростной институтской локальной сети стимулировалось появлением внешней связи и сотрудничеством с ЦЕРН. Возникла необходимость создать магистральный канал связи, к которому нужно было подключить все компьютеры ОИЯИ. Это было сделано при поддержке дирекции. Курировавший это направление Ц.Вылов потребовал разработки максимально эффективного варианта. Такой вариант был найден, наши специалисты сработали профессионально. Сейчас ОИЯИ имеет магистральный канал протяженностью 10 километров, а локальная сеть Института объединяет более 6000 компьютеров. Сначала была проложена гигабайтная магистраль. В настоящее время магистраль модернизирована для обеспечения скорости передачи данных порядка 10 Гбит/с. Одновременно наращивается мощность внешнего канала. В 2009 году мы перешли на новую технологию DWDM. Она позволяет передавать по одному и тому же оптическому волокну одновременно много потоков информации. Это значительное, качественное преобразование, к которому мы готовились почти два года. Здесь нам очень помогло госпредприятие "Космическая связь", с которым был заключен договор об аренде канала оптико-волоконной связи. Сейчас работают два 10-гигабитных канала - на разных частотах организована одновременная передача двух потоков информации. Реально можно задействовать до 72 частот, то есть пропускная способность канала может быть увеличена до 720 Гбит/с.

- Каналы созданы, что еще нужно было для работы с ЦЕРН?

- На рубеже веков мы перешли на новую схему обработки и накопления данных - грид. Сама идея принадлежит американским ученым и состоит в том, чтобы связать ресурсы разных институтов из разных стран при помощи быстрых каналов связи, то есть построить территориально распределенный компьютер. Эта революционная идея была в полной мере воплощена в жизнь в ЦЕРН для обработки данных экспериментов на LHC. Реализована многоуровневая схема сбора, накопления и анализа данных для четырех экспериментов (ALICE, ATLAS, CMS и LHCb) на Большом адронном коллайдере. Уровень Tier-0 находится в ЦЕРН и отвечает за сбор данных с работающих экспериментальных установок и их передачу на 11 ресурсных уровней Tier-1, находящихся в разных странах мира. Эти данные доступны для обработки и анализа примерно в 160 центрах уровня Tier-2.

Центральный информационно-вычислительный комплекс (ЦИВК) ОИЯИ стал элементом российского грид-сегмента уровня Tier-2, в который входят более полутора десятка научных организаций России. Наш ЦИВК обслуживает все эксперименты, проводимые на LHC, это более 40 процентов всего объема задач, выполняемых на российском сегменте. По объему задач, обрабатываемых нашим ЦИВК, из всех центров Tier-2 мы стабильно находимся в первой десятке. Эффективность его работы приближается к 100 процентам.

Ресурсы грид-инфраструктуры используют так называемые виртуальные организации. Это специальные структуры, которые создаются для работы в грид-среде, участие в них регламентируется жесткими правилами и проверками. В нашем случае - это научные организации, связанные с физикой, биологией, медициной, но могут быть и любые другие. Мы убедились, что это удобная схема. Развитие этого направления идет на трех связанных между собой уровнях: сетевой (каналы, локальная сеть, внешние организации); ресурсный (вычислительные мощности, средства массовой памяти, соответствующее математическое обеспечение); прикладной - виртуальные организации со своим специфичным математическим обеспечением и программами, необходимыми для эффективного использования этой инфраструктуры.

- Расскажите о втором направлении - обработке данных физических экспериментов.

- Самый лучший пример - участие в эксперименте CBM (GSI, Дармштадт), для которого нужно разрабатывать новую систему набора данных. Традиционный подход в физике высоких энергии основан на системе триггирования, позволяющей отбирать в реальном времени только такие события, которые удовлетворяют определенным критериям, - по энергии, углу отклонения и т.д. При ядро-ядерном взаимодействии - а на CBM предполагается столкновение тяжелых ионов, в частности золота, - образуется порядка тысячи треков, сосредоточенных в узком конусе. Учитывая большую частоту срабатывания и высокие загрузки детекторов, очень сложно отобрать нужные события. Я бы сказал, что такие эксперименты подобны поиску иголки в стоге сена: вероятность того, что вы обнаружите нужное событие, очень мала. Идея, взятая за основу в CBM, - проводить всю обработку в реальном времени. Это стало возможно благодаря стремительному развитию вычислительной техники и ее оптимальному использованию. И уже два наших аспиранта под руководством профессора Г.А.Ососкова защитили кандидатские диссертации - один в январе, а другой на прошлой неделе. Фактически получается, что мы исследуем новую вычислительную технику и заодно готовим молодых специалистов.

- Эти специалисты будут востребованы в ОИЯИ?

- В CBM была правильно выбрана программная среда. В ее основе лежит пакет ROOT, - разработка ЦЕРН для интеграции всех процессов, в том числе пакет GEANT, который позволяет моделировать на компьютере процессы, идущие на физических установках, а затем оптимизировать их. В этой структуре есть конкретные задачи, которыми занимаются наши специалисты, в частности распознавание траекторий в детекторах CBM и идентификация частиц с помощью черенковского детектора и детектора переходного излучения. Для нас это сотрудничество тем более важно, что для проекта NICA/MPD используется та же программная и вычислительная среда. И те, кто уже прошел и проходит стажировку на CBM, смогут оказать неоценимую помощь ОИЯИ.

- Что в перспективе?

- Создание объединенной инфраструктуры для стран - участниц ОИЯИ.

- А это возможно? Ведь уровень оснащения разный...

- В Европе в течение двух лет кардинально изменилась ситуация - заменялись каналы передачи информации, развивались вычислительные ресурсы. Когда такая инфраструктура развивается, она вовлекает много специалистов, и в первую очередь молодых. Это не мыльный пузырь, не развлечение, это реально действующая инфраструктура. Например, Румыния. За последние три года был сделан колоссальный прорыв, и теперь румынские специалисты готовы помогать другим странам, скажем, Молдове.

- Как развивается отрасль в целом, в каком направлении, на ваш взгляд, следует прилагать усилия?

- Хотелось бы отметить важную проблему, связанную с современным развитием вычислительной техники. Дело в том, что сейчас идет стремительное развитие средств вычислительной техники, разрабатываются новые вычислительные архитектуры, основанные на многопроцессорных и многоядерных подходах. Как получить максимальный выход от такой техники, - ключевая проблема как для непосредственных разработчиков этой техники, так и для ее пользователей. Специалистами ЛИТ в сотрудничестве с группами из разных институтов и организаций стран-участниц ОИЯИ уже получены очень интересные результаты в этом чрезвычайно важном и перспективном направлении.

Галина МЯЛКОВСКАЯ
 


Редакция Веб-мастер