Астрономический форум ФПА "Ка-Дар"

Тематические рабочие группы => Переменные звезды => Тема начата: blackhaz от 25 апреля 2008, 16:59:48

Название: 794 новых переменных звёзд в NSVS
Отправлено: blackhaz от 25 апреля 2008, 16:59:48
Итак, следующая публикация: http://var.astro.cz/oejv/issues/oejv0087.pdf

На сей раз объединился с А. Носульчиком - системным UNIX администратором, который проделал большой труд по автоматизации процессов поиска. Работали над этим проектом с февраля, было задействовано много языков программирования - IDL, R, FORTRAN, Perl, Awk, Sed, ... Открыто 794 новых красных перееменных звёзд, их них 77 - мириды. Ссылки на приложения:
Elements: http://var.astro.cz/oejv/issues/oejv0087_appendix1.prn
Кроссы SIMBAD/USNO-A2.0: http://var.astro.cz/oejv/issues/oejv0087_appendix2.prn
Кривые блеска: http://var.astro.cz/oejv/issues/oejv0087_appendix3.pdf
Readme по приложениям: http://var.astro.cz/oejv/issues/oejv0087_appendix4.README

Теперь мы можем делать абсолютно автоматически:
- удалять из БД NSVS звёзды из других каталогов по координатам;
- фильтровать звёзды NSVS по их цвету (сейчас сделали фотометрию по 2MASS, но брать фотометрию из других каталогов просто);
- фильтровать звёзды по любым параметром кривых блеска - P, A, индексы переменности Стетсона, и т.д.;
- проверять наличие звёзд в VSX и SIMBAD;
- получать кросс-идентификаторы из SIMBAD и VizieR;

В планах следующая публикация по красным, а дальше попробуем зарядить RS CVn.
Название: Re: 794 новых переменных звёзд в NSVS
Отправлено: hd8890 от 26 апреля 2008, 18:37:50
Если несложно, можно немного подробнее о технологии работы ? А также каким образом возможно получать, пригодные для фотометрии данные из различных каталогов ?
Название: Re: 794 новых переменных звёзд в NSVS
Отправлено: blackhaz от 27 апреля 2008, 11:08:44
Технология хорошо расписана в самой публикации. Вкратце оно так выглядит:

Всё проводили на удалённом сервере в Швеции на 100 Мбитном линке. Сначала мы попытались выкачать всю БД NSVS. 18 Гб скачали, но при попытке разрвернуть всю БД, потребовалось больше терабайта места, обломались. Поэтому данные получали таким образом. Выкачали только БД со списками объектов NSVS и их параметрами, без кривых блеска. Развернули и провелю фильтрацию по стандартным полям базы NSVS (n_obs, rms_mag, med_err). Получили что-то около 80 тыс. объектов. Точные числа в публикации. Для этих объектов написали парсер, который wget'ом забирает кривую блеска с сайта Skydot и создаёт файл локально на винчестере. Связались с Возняком, он любезно согласился, чтобы наш сервер изнасиловал Skydot. На этом этапе все 80 тыс. объектов у нас лежат локально и не нужен терабайтовый винчестер. Далее поудаляли из этой локальной БД объекты в известных каталогах - Red Variables in NSVS Возняка, MISAO, GCVS, и т.д.. Для этого сделали опять же парсер и конвертер астрономических координат, свой для каждого каталога. Он сранивал координаты и удалял из локальной БД попадания. Тут поклон MySQL, т.к. операции сравнения были очень многочисленными (измерялись миллиардами операций). Всё это заняло около недели процессорного времени и постоянного кача.

Для всех оставшихся объектов сделали процессинг, используя слегка модифицированный код AAVSO TS12, VARTOOLS и свой процессор, названный TFE. Дополнили БД полями периода, индексами переменности Стетсона, R_AOV, и т.д. Далее для каждого объекта получили фотометрию и кроссы из каталогов. Для этого опять-таки, написали парсер для VizieR. Парсер лезет на визирь, забирает стандартную веб страницу с результатами согласно координатам объекта и через реглуярные выражения выдирает оттуда необходимые данные, занося их в локальную БД. Потом фильтруем по всем критериям, описанным в публикации и выбираем SR+L и мириды. Для каждой из звёзд смотрим, чтобы она не была в VSX и гугле. Для этого опять написали парсер. С VSX пришлось немного повозиться, т.к. используется метод POST для отсылки данных на сервер.

В общем, всё на парсерах построено и для каждого шага он получился свой.
Название: Re: 794 новых переменных звёзд в NSVS
Отправлено: mk от 27 апреля 2008, 20:22:53
А я то думаю, почему перестали рисоваться кривые NSVS на сайте skydot, - а это оказывается Максим сервер изнасиловал!  ;D
Название: Re: 794 новых переменных звёзд в NSVS
Отправлено: blackhaz от 27 апреля 2008, 20:29:59
Нет-нет, врядли это из-за меня. Я сделал своё.. кхм.. дело много раньше. Уже потом так стало. Но я уверен, что я не причина.
Название: Re: 794 новых переменных звёзд в NSVS
Отправлено: ctac от 28 апреля 2008, 18:45:04

 Да, Макс! Этого следовало ожидать ;)
 Отличная работа!
 Вопрос: почему же авторы самого обзора не решились автоматизировать поиск переменных?
Название: Re: 794 новых переменных звёзд в NSVS
Отправлено: blackhaz от 28 апреля 2008, 21:20:03
Так Возняк (автор) так и сделал и открыл по-моему около 5000 красных переменных. Только он взял rms_mag/med_err>5 критерий в своей работе, а мы помягче - >3, что добавило в выборку по-моему около 10 тыс. новых объектов. Теоретически можно продолжать, например сделать критерий помягче >2.5 или n_obs>50 и посмотреть что получится. Там ещё просто _огромная_ куча неоткрытых звёзд, поверьте. Я думаю как минимум тысяча, а может и две.
Название: Re: 794 новых переменных звёзд в NSVS
Отправлено: hd8890 от 12 мая 2008, 03:49:11
Извиняюсь за ламерский наверно вопрос. Вот если например я хочу найти в NSVS кривую для Z UMi. Ввожу соответствующе координаты сильно ограничивая область поиска и получаю следующий результат

http://skydot.lanl.gov/nsvs/cone_search.php?ra=15%3A02%3A01.48&dec=%2B83%3A03%3A48.7&rad=0.5&saturated=on&nocorr=on&lonpts=on&hiscat=on&hicorr=on&hisigcorr=on&radecflip=on

Присутствуют три объекта, ни один из которых искомой Z Umi вроде бы являться не может. Где тут я чего-то не понимаю ? :)
Название: Re: 794 новых переменных звёзд в NSVS
Отправлено: blackhaz от 12 мая 2008, 12:30:13
А почему не может? Я просто с Z UMi никогда не сталкивался.
Название: Re: 794 новых переменных звёзд в NSVS
Отправлено: hd8890 от 12 мая 2008, 16:02:53
По ОКПЗ это мирида (под вопросом) с диапазоном изменения блеска от 11 до 14. А у указанных там объектов в кривых присутствует и 10 величина... И еще, эти вот три объекта - это на самом деле один и тот же объект просто это компиляции разных наблюдений, правильно ? Ведь если по карте посмотреть то там ведь нету 3-х звезд 10 величины так близко расположенных к друг другу. Вот карта например

http://mira.aavso.org/cgi-bin/vsp.pl?action=render&name=Z+Umi&ra=&dec=&charttitle=&chartcomment=&aavsoscale=Choose&fov=&resolution=100&maglimit=&dss=on&othervars=&Submit=Plot+Chart

И получается что это и есть все-таки та самая Z Umi, только как вот относится к тому что в кривых блеска там 10-я величина присутствует ? Кому верить - ОКПЗ или NSVS ?

Извиняюсь за такие вопросы просто хочется понять как с этими каталогами работать...
Название: Re: 794 новых переменных звёзд в NSVS
Отправлено: kirx от 14 мая 2008, 22:01:47
Да, вероятно это и есть Z UMi. Все три объекта - это она, в NSVS одной звезде может соответствовать несколько обозначений (вероятно, из разных перекрывающихся полей). То, что величина в максимуме не соответствует заявленной в ОКПЗ, тем более для мириды - вообще ничего не значит:
* У мирид блеск в максимуме может сильно гулять. На величину - запросто.
* В ОКПЗ должна быть указана не только величина, но и система, например V или pg. Соответственно, в разных цветах блеск переменной в максимуме может быть разный.
* В любом случае, величины NSVS даны в собственной системе - какая-то там ПЗС (кажется, чипы Тексас Инструментс) без фильтра. Эта система плюс-минус большой лапоть похожа на R, но не более того.
Так что, никакого противоречия нет. Это просто жизнь такая противоречивая.  ;)