О долгих апдейтах Яндекса

Адейты индекса ЯндексаВот уже 22 дня оптимизаторы и вебмастера с нетерпением ждут апдейта от Яндекса. На текущий момент – это рекорд Яндекса по нерасторопности обновления основного индекса с начала 2009 года, когда апдейта не было 1 месяц и 4 дня. Почему в отличие от Гугла в Яндексе приходится так долго ждать индексацию? Давайте рассмотрим технический аспект индексации в Яндексе. Я также расскажу, как Gogetlinks будет действовать, если апдейт не будет запущен в ближайшие дни.

Как Яндекс индексирует сайты

Процесс индексации описан в документе Индексирование интернета на сайте Яндекса. Остановимся на самых главных моментах:

«Поисковый индекс, данные о типе документов, кодировке, языке и сохраненные копии документов вместе составляют поисковую базу. Она обновляется постоянно, но, чтобы это обновление стало доступно пользователям, её нужно перенести на «базовый поиск». Базовый поиск — сервера, которые отвечают пользователям на запросы. Туда переносится не вся поисковая база, а только её полезная часть — без спама, дубликатов сайтов (зеркал) и других ненужных документов.

 Обновление поисковой базы из хранилища основного робота попадает в поиск «пакетами» — раз в несколько дней. Этот процесс создаёт дополнительную нагрузку на сервера, поэтому производится ночью, когда к Яндексу обращаются на порядок меньше пользователей. Сначала новые части базы помещаются рядом с такими же частями из прошлого обхода. Затем они проверяются по целому ряду факторов, чтобы обновление не ухудшило качество поиска. Если проверка прошла успешно, новая часть базы заменяет собой старую».

Жирным выделено главное. То есть у Яндекса одновременно существует два параллельных индекса интернета. Один из них – актуальный не очищенный, который меняется в режиме реального времени, пока поисковые роботы проверяют и скачивают страницы со всего интернета.

Второй индекс – это очищенный индекс, по которому происходит поиск, когда пользователь отправляет поисковый запрос. В этом индексе нет забаненных сайтов, исключены спам-страницы и зеркала.

Апдейтом называется процесс, когда документы из первого актуального индекса попадают во второй очищенный, по которому и происходит поиск. Это и есть – узкое место всей системы, требующее больших вычислительных мощностей. Поэтому то апдейт происходит не каждый день в целях экономии вычислительных мощностей.

yandex_updateАпдейт Яндекса (дополненное изображение с сайта Яндекса). Щелкните для увеличения.

И еще один неприятный момент — в апдейт Яндекс выкладывает документы, проиндексированные роботом не до текущего момента, а до предыдущего апдейта. Например, апдейты были 1, 10 и 20 числа. Так вот 10 числа в основной «очищенный индекс» попадут только документы, которые робот нашел до 1 числа, а 20 числа — только те документы, которые робот нашел с 1 по 10 число. В итоге, индексация новых страниц на среднем сайте занимает обычно не менее 2-3 недель.

Очевидно в отличие от Яндекса Гугл обновляет свой «очищенный» индекс постоянно, но не целиком, а блоками. При такой схеме нагрузка на мощности равномерно распределяется в течение всего, дня, недели, месяца, в любой момент времени индекс более актуален. Каждый из нас замечал, то Гугл гораздо быстрее индексирует новые документы.

Реакция Gogetlinks на долгие апдейты

Теперь должно быть понятно, что несмотря на долгое отсутствие апдейта, значительная часть новых ссылок уже проиндексирована, но не находится в основном индексе. Необходимо дождаться апдейта, чтобы в индексе появились страницы, добавленные до 16 мая. И только во второй апдейт появятся более новые страницы.

Мы уже продлили сроки индексации в связи с рекордно долгим отсутствием апдейта, также были продлены сроки на решение проблем со страницами, выпавшими из индекса. И готовы при необходимости добавить столько времени, сколько потребуется, в связи с задержкой апдейта.

Это очень важно для оптимизаторов, так как позволяет избежать мерцания, то есть снятия новых ссылок, которые по факту уже известны Яндексу, но не выложены в основной индекс. Это еще более важно для вебмастеров, так как связано с их доходами. И в этом плане мы максимально защищаем интересы обеих сторон.

Обновлено: В ту же ночь после выхода этой статьи был апдейт — выложен индекс по 24 мая. Поздравляю всех с этим позитивным событием! Надо было статью на неделю раньше написать )))

Обновлено 2: Рано обрадовались, еще до обеда Яндекс начал откатывать апдейт. Продолжаем мечтать об апдейте )


178 комментариев

  1. #1 Владислав → 27 июня 2015 в 13:08

    Даже после апдейта осталось больше вопросов, чем ответов! Уважаемые сотрудники сервиса, вы же не студенты на подработке, а квалифицированные специалисты с колоссальным опытом! Неужели Вам не понятно, что тут дело не в качестве сайтов, а в глюках Яши! Хватить притворяться, что Вы ничего не понимаете что происходит. В конце то концов, свяжитесь с представителями этой поисковой системы. В размещении статей ничего противозаконного нет. Вы же сами теряете много денег и постоянных клиентов!!!

    Юлия ответил:

    Общение с Яндексом ничего не даст. Боюсь, будет еще хуже. У Яндекса четкая установка — заставить владельцев сайтов тратить деньги н Яндекс директ а не покупку ссылок.

    В «заботу о читателях и чистоте поиска» имени Яши я лично не верю. Еще Черчилль говорил, что «о чем бы ни шла речь, она всегда идет о деньгах».

    Евгений ответил:

    Все верно, только руководство ГГЛ это не понимает. И АП последний был искусственный для отчета. И все наши переписки «засланцы» из яндекса читают и отчитываются руководству. И радуются, что их планы срабатываю и начинают работать. А мы медленно тонем…

  2. #2 Рустам → 27 июня 2015 в 17:12

    СПРАВЕДЛИВОСТИ РАДИ нужно разрешить размещение обзоров в уже проиндексированных страницах, не смотря на требование оптимизатора. Конечно только в крайних случаях например если осталось менее трех суток. Думаю это будет нормальным. Так многие риски уйдут.

  3. #3 alex → 30 июня 2015 в 09:38

    У кого-нибудь что-нибудь проиндексировалось? У меня заявки прут, но что теперь с ними делать — не знаю. Приостановил работу сайта.

    Nona ответил:

    У меня на гоугет 3 попали, на другой бирже целых 7 непроиндексированных появилось…

    Иван ответил:

    У меня заявки идут в основном на те сайты которые похуже и на которых индексация ниже. На те что получше и со 100% индексацией — заявок мало.
    Это явно потому, что размещение на сайтах похуже стоит подешевле. Оптимизаторы не хотят платить, выбирают площадку не по качеству а по цене размещения, а от рисков заплатить зря их спасает система ГГЛ. Поэтому все владельцы качественных площадок в проигрыше, если не ставят низкую цену.

    Sema ответил:

    Осталось это понять руководству площадки, которое требует от вебмастеров выполнять намного больше работы, не создавая условий для повышения цены на качество.

  4. #4 Всеволод → 3 июля 2015 в 11:19

    Два сайта оставалось в системе со 100% индексацией — 22 ждут индекса уже месяц, 7 выпали из индекса в течение 20 дней (

    Алексей Кураков (Руководитель Gogetlinks) ответил:

    К сожалению, ситуация такая не только у вас. Меня она очень не радует. Темпы индексации у Яндекса сильно снизились. Видимо, у них какие-то серьезные технические проблемы, либо они в принципе решили, что быстрая индексация не нужна.

    Мы еще понаблюдаем за ситуацией, возможно, еще немного расширим сроки индексации. Но только немного. Итак уже больше 2 месяцев дается на индексацию. Оптимизаторов и это не радует.

  5. #5 Александр Кобзев → 3 июля 2015 в 11:27

    То что происходит сейчас на бирже ГГЛ — это полный бред.
    Такими темпами действительно скоро не останется вебмастеров, ну или порядочных, которые выполняют задание нормально и согласно правилам.
    Свои площадки переключил только на прием страниц в индексе.
    Выпало 11 страниц, вы считаете это нормально, с учетом того, что на сайте живет БыстроРобот Яндекса? http://prntscr.com/7o9k3j

    Алексей Кураков (Руководитель Gogetlinks) ответил:

    Александр, не нужно пытаться переложить ответственность за индексацию на сервис. Оптимизаторам нужна страница в индексе, а ждать бесконечно они не могут. Должны быть разумные пределы. Сейчас уже больше 2 месяцев дается на индексацию.

    Артём ответил:

    Да причём здесь «больше двух месяцев» если за эти два месяца всего 1,5 АП было?! Вы хоть полгода давайте, но если АП будет раз в год, то смысла от этого не будет. Уже ни раз предлагал я и ещё множество вебмастеров считать не дни, а количество АПов, но вы почему-то игнорируете это нововведение, хотя оно более чем логично!
    Вы понимаете, что это не наша вина, у нас качественные площадки, но мы чисто физически не можем закинуть в индекс Яндекса страницы, потому что он не индексирует! Неужели не понятно?
    Как же справляются с этой ситуацией другие биржи? Почему там оптимизаторы спокойно покупают ссылки и не ругаются на сроки, а у вас будут бунтовать?
    У меня опять порядка 200 обзоров висит вне индекса, и 20 вылетело после последнего АПа, что мне прикажете делать?

    Артём ответил:

    И вы говорите не нужно перекладывать ответственность на вас, а почему вы перекладываете её на вебмастеров? Мы также ничего не можем поделать с индексацией. Даже если страница попадает быстроиндекс, то она вылетает оттуда через 3-5 дней и что толку? Денег я всё равно не вижу, потому что вы теперь переложили ответственность за выпавшие ссылки также на вебмастеров.

    Алексей Кураков (Руководитель Gogetlinks) ответил:

    Артем, очень печальные посты. Судя по вашим словам, ваши сайты созданы исключительно ради ссылок, и контент создается исключительно под ссылки. Именно против них и воюет сейчас Яндекс, и они страдают больше всех. И Gogetlinks не при каких обстоятельствах не будет смягчать условия ради таких сайтов, из-за которых, к слову, зачастую и недовольны оптимизаторы.

    Евгений ответил:

    Давайте уже на гугл индексацию переходить 50/50. Сколько можно, уже оптимизаторы просят.

    Всеволод ответил:

    У меня сайты для людей, один из них — очень живой форум (больше 15 просмотров на посетителя) с лентой новостей. Ситуация та же ровно. Тоже скажете, что сделали для продажи ссылок? Там штук 15 в очереди, при 100%-ной индексации и быстророботе, живущем на сайте. Придумайте компромиссное решение, которое удовлетворит и вебмастеров, и оптимизаторов!

  6. #6 Артём → 3 июля 2015 в 12:34

    Алексей Кураков, очень печально, что вы не ответили на мой вопрос, а просто перевели тему. Вам просто нечего сказать в своё оправдание и вы переносите проблему с больной головы на здоровую. Как можно делать выводы о моих ресурсах, если вы даже их не видели и вообще не имеете никакой информации о них?
    Прошу всё-таки перечитать заново всё мною написанное и ответить на конкретно поставленные вопросы, а не обвинять меня в том, о чём вы только догадываетесь и не можете привести никаких аргументов — это, кстати, называется клевета, этим вы показываете свою не компетенцию в вопросе.

    Денис ответил:

    Да хватит плакать то тут.Не нравится условия,смени биржу.Я могу как оптимизатор сказать, покупаю статьи на авторитетных ресурсах такие как VM MK и не парюсь с индексацией 10минут и в индексе все,но и там вылетает точно так же.Просто ориентир надо делать на гугл и все.Если яндекс не индексирует,да хоть тут пусть все лопнут,он всеравно не будет индексировать.У него больная голова стала вообще.Либо проблемы,либо в директ так загоняет.Покупаю на миралинксе.Лучше меньше,но качественнее.
    имхо конечно же.Логичнее вариант 50% денег оплачивать сразу после индекса в гугле.Считаю это справедливым.2 поиска и бюджет также 50 на 50.

    Артём ответил:

    Вот в том-то и дело, ты как оптимизатор говоришь, ты покупаешь ссылки и двигаешься под Гугл, а я получаю деньги, только когда Яндекс разродиться, понимаешь в чём соль?

    alex ответил:

    Что такое VM и MK?

    Денис ответил:

    Конечно понимаю.50 на 50 считаю нормальным ходом.Что все зациклились на яндексе.Если под гугл нарот переметнется яндекс дернется тогда ,а так ему фиолетово на всех нас вместе взятых.Посмотрите что он в выдаче выдает это кошмар-это не поиск уже.Туда ему и дорога

    Артём ответил:

    Вообще нет никаких претензий, отличный ход, но администрация вместо того чтобы отвечать на вопросы или хотя бы сказать какие действия она хочет предпринять, просто необоснованно обвиняет меня в создании ГСов 🙂

    Алексей Кураков (Руководитель Gogetlinks) ответил:

    Денис, интересная мысль, подумаем, к тому же опциональную для оптимизатора индексацию в гугле, в любом случае, будем вводить.

    Денис ответил:

    Что тебе не дает перейти на другую биржу?Если тут так плохо.Я не рекламирую миралинкс,но там не ждут индексации и оптимизатор идет осознанно на это сам.И по номерам смотрю статей немерянно закупают люди

    Денис ответил:

    Алексей Вам бы еще ввести пункт такой как заспамленность донора,а то тут многие кричат,требуют,а у самих Гсы только созданные,что бы продавать ссылки.Нужно меру же занать тоже.А то купил,заплатил,а через 3 месяца это АГсник

    Алексей Кураков (Руководитель Gogetlinks) ответил:

    Денис, так есть такой показатель, называется «ссылочность», и в поиске он есть и в настройке фильтра входящих заявок. А скоро появится и «ГГЛ Траст», который будет в себя включать «ссылочность».

  7. #7 Владислав → 6 июля 2015 в 09:48

    Состоялся «долгожданный» Ап. А в системе GGL все сделано так, что денег особо не прибавилось. В т.ч. за счет чудесным образом сначала попавших, а потом вылетевших с индекса. При это деньги в это время находятся ни у веб-мастеров, ни у оптимизаторов. А в системе GGL.
    И зачем им что-то делать, если для них это самое благодатное время. Например, можно поучаствовать в обмене ВМ и хорошо на этом заработать! И много других способов, когда есть огромный объем не распределенных средств.

    Владислав ответил:

    Все страницы, которые не считаются вошедшими в индекс со статусом «Адрес страницы уже известен роботу, но в данный момент контент страницы ещё не проиндексирован». Но кого это может интересовать 🙂

  8. #8 Sema → 6 июля 2015 в 10:53

    У кого-то была проблема со 100% ссылочностью? Обновил параметр и ссылочность стала 100%, сайт сразу вывалился из предлагаемых площадок.
    Техпо 2 часа не отвечает…

    Иван ответил:

    У меня такое было. Когда на одном из сайтов были проблемы с продлением домена и его на время заблочили, соответственно запретив индексацию в robots.
    Все страницы выпали из индекса и ссылочность стала 100%. Далее сайт переиндексировался и всё стало нормально, но ссылочность осталась, только обращение в ТП и их вмешательство исправило ситуацию, так что жди ответа.

    Sema ответил:

    Дело в том, что с сайтом проблем нет, с последним апом количество страниц в индексе только увеличилось, это глюк ГГЛ.

    Алекс ответил:

    У меня была такая ситуация с 2-мя сайтам. Написал в саппорт, в течение часа примерно ответили и все исправили.

    Sema ответил:

    Вам повезло :), мне ответили только через 10 часов. 🙂

  9. #9 Иван → 8 июля 2015 в 07:18

    Доброго времени суток! Ребята, время идет, а ничего не меняется… Как кто думает, какие прогнозы ??? И что по этому поводу думает ГГЛ ???
    Надо же что то делать… менять метод работы… так не может продолжаться !!! Вебмастера несут убытки !!! И их площадки теряют рейтинг. (это был крик души)

  10. #10 Максим → 9 июля 2015 в 09:28

    Наверно опять придется увеличивать срок ожидания индексации обзоров…

  11. #11 Владислав → 15 июля 2015 в 18:33

    Я буквально влюбился в людей, имеющих отношение к работе GGL! Они с одной стороны требуют улучшение качества площадок, накладывают более жесткие и далеко не всем выгодные ограничения, а с другой ВМ не получают ни копейки в течение 2-3 недель.
    За какие шиши писать тематические статьи для людей?
    Ребята с GGL, или Вы думаете, что статьи пишет святой дух за бесплатно?

    Иван ответил:

    Без толку, я уже устал повторять что уникальный контент это не бесплатно а качественный еще и не дешево. Всем пофиг, похоже ждут что проблема рассосется сама собой.

    Владислав ответил:

    Это явно не подход в 21 веке. Все предприниматели понимают, насколько надо быть гибкими и приспосабливающимися к постоянным изменениям.
    Я бы напомнил несколько законов Мерфи, которые говорят о том, что не рассосется точно:
    — Предоставленные сами себе события имеют тенденцию развиваться от плохого к худшему.
    — Если неприятность может произойти, она случается
    — Все, что может испортиться, портится.
    Все, что не может испортиться, портится тоже.
    — Когда дела идут хорошо, что-то должно случиться в самом ближайшем будущем.
    Когда дела идут хуже некуда, в самом ближайшем будущем они пойдут еще хуже.

    Иван ответил:

    Если с яндексом ничего не изменится и руководство ГГЛ ничего не предпримет, тенденцию предсказать не сложно:
    Сначала из ГГЛ уйдут качественные площадки, вкладывающие свои средства в покупку контента под заказы. За спасибо а то и себе в убыток никто работать не станет.
    Останутся те кто не тратится на заказ контента и пихает ссылки во что попало, так как они хоть какую то часть рандомной прибыли всё равно получат.
    Из за снижения качества размещения начнут уходить грамотные оптимизаторы, так как платить за бредоразмещение не в их интересах.
    Уход грамотных и готовых хорошо платить за хорошее размещение оптимизаторов приведет к падению средней цены.
    Снижение средней цены окончательно срежет поток заказов на качественные площадки покупающие контент.
    Эта тенденция может сама остановиться где то на уровне, когда на ГГЛ остануться только оптимизаторы которым всё равно куда, лишь бы подешевле и вебмастера с таким же подходом к делу.

    Алексей Кураков (Руководитель Gogetlinks) ответил:

    У хороших сайтов мы наблюдаем хорошую индексацию. Только у 11,5% сайтов, доступных в поиске, индексация сейчас ниже 90%. Массовой проблемы неиндексации сейчас нет. Есть отдельные некачественные сайты, которые как раз кандидаты на покидание GGL. Не потому что мы так хотим, а потому что объективно Яндекс меняет рынок, и они не могут быть хорошими донорами. В целом, мы видим позитив в очищении базы Gogetlinks от испортившихся сайтов.

    Иван ответил:

    Возможно вы и правы, но тут более 100 комментов, если считать вместе с ответами, и ни один вебмастер не отписался, что у него всё нормально и без задержек.
    Я администратор сайта который является электронной версией еженедельной газеты, 95% публикуемых на нем материалов это уникальные авторские статьи из текущего номера печатного издания.
    Статей с рекламными ссылками на нем капля в море, тиц 750. Обзоры размещенные полтора месяца назад, всё еще не в индексе.
    Если это плохой сайт, недостойный находиться в ГГЛ, то какими критериями обладает хороший?

    Евгений ответил:

    Зачем вы даете ложную информацию. Например в миралинксе почти ВСЕ сайты легли. Можете сами посмотреть на процент индексации. Там где стоит 100% это новички на которых статьи давно не размещались, поэтому у них 100%. А все сайты как раз ХОРОШИЕ, полностью легли.

    Иван ответил:

    Еще один момент, если из ГГЛ уйдут 90% некачественных сайтов и останутся только самые лучшие, то разве это не приведет к снижению оборота и соответственно к потере вашей прибыли, которая является процентом от этого оборота?
    Я по своей практике знаю, поставь минимальную цену за обзор, заказов будет валом, поставь нормальную — в разы меньше.
    Из этого можно сделать вывод, что большинство оптимизаторов не готовы платить больше, за размещение на качественных площадках, предпочитая купить побольше и подешевле, не взирая на то что подают дешевую заявку на заведомо низкоуровневый сайт.

    Владислав ответил:

    Руководство GGL, Вы же серьезные и квалифицированные люди. Зачем вы рассказываете небылицы? Яша загинается. У них официально второй день «Внимание! Информация о страницах в поиске на данный момент может отображаться некорректно. Наши специалисты занимаются устранением этой ошибки. Приносим свои извинения за доставленные неудобства. Пожалуйста, подождите немного.»
    Страницы постоянно выпадают.
    Нужно как то диверсификацировать. А СЕРЬЕЗНЫЕ сайты с огромным кол-вом страниц (в основном это СМИ) здесь очень мало представлены. У них один релиз стоит 5-10 тыс. рублей и там о индексации речь вообще не идет.

  12. #12 Владислав → 16 июля 2015 в 10:28

    Ап ничего не меняет…

  13. #13 Alex → 17 июля 2015 в 11:57

    Мой сайт до сих пор приостановлен в GGL и пока не вижу предпосылок для возобновления работы.

    Кстати, кто заметил, что идет не мало заявок с украинских сайтов? Им, как правило, яндекс не нужен. Но им без разницы, в какой бирже размещать, лишь бы цена устраивала. Почему-бы уже не сделать вариант с оплатой за индексацию в google?

  14. #14 Сергей → 24 августа 2015 в 12:54

    Апа опять нет 14 дней уже, некоторые задания к просроченым подходят, как быть?

Магазин SEO и фриланс-услуг Статьи навсегда

О проекте   |   Оптимизаторам   |   Вебмастерам   |   Блог   |   Правила/Частые вопросы   |   Техподдержка