Из-за большого объема данных в Интернете поисковые системы не сразу узнают о появлении новых страниц или изменении старых. Соответственно, поисковый индекс является своего рода историческим слепком сети, а не его текущим представлением. Пользователь же ожидает видеть актуальную информацию при клике на результаты поиска. Но обходить интернет с частотой появления/обновления контента в нем для хранения свежего индекса невозможно.
Частично это проблема решается в Яндексе, Google и других ПС расстановкой приоритетов сканирования, которые зависят от различных параметров. Также, поисковые системы предоставляют вебмастерам различные инструменты, позволяющие уведомлять об изменениях на сайте, что, в свою очередь, меняет приоритеты сканирования.
- В Яндексе таким инструментом является «Переобход страниц» в панели для вебмастеров.
- Bing с сентября этого года использует URL Submission API.
- В Google имеется Indexing API, который по умолчанию предназначен не для всех типов контента.
С недавнего времени Яндекс и Bing начали также поддерживать протокол IndexNow.
Что такое IndexNow?
IndexNow — это простой API для информирования поисковых систем об изменениях на сайте: появлении новых страниц, удалении старых, обновлении контента. В Яндексе его можно использовать вместо или вместе с инструментом переобхода страниц. Однако, поисковики не дают гарантий, что страницы будут быстро переобходиться или это каким-либо образом повлияет на скорость индексации или переиндексации контента.
Для проверки, как именно работает IndexNow в Яндексе было проведено исследование, результаты которого опубликованы в этой статье.