AhrefsSiteAudit Crawler

Дізнайтеся про веб-краулер, що забезпечує роботу інструмента аудиту сайту Ahrefs.

Версія
6,1
Тип бота
Добре (ідентифікує себе, має офіційну назву)
Категорія
SEO
Дотримується robots.txt
Так, за замовчуванням (власники вебсайтів можуть запитувати, щоб не виконувати robots.txt на їхніх сайтах)
Дотримується затримки сканування
Так, за замовчуванням (власники сайтів можуть подати запит на невиконання часу затримки краулінгу на їхніх сайтах)
Рядок user-agent для настільного пристрою
Mozilla/5.0 (compatible; AhrefsSiteAudit/6.1; +http://ahrefs.com/robot/site-audit)
Мобільний рядок агенту користувача
Mozilla/5.0 (Linux; Android 13) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/108.0.5359.128 Mobile Safari/537.36 (compatible; AhrefsSiteAudit/6.1; +http://ahrefs.com/robot/site-audit)
Зворотний DNS суфікс
ahrefs.com or ahrefs.net
Діапазон IP адрес

Статус вебсайту

Перевірте статус вашого сайту та чи можна його обробляти

Що таке AhrefsSiteAudit сканер?

AhrefsSiteAudit — це веб-краулер, що живить інструмент аудиту сайту від Ahrefs. Користувачі Ahrefs можуть використовувати Аудит сайту для аналізу вебсайтів і виявлення як технічних SEO-проблем, так і проблем SEO на сторінках.

Цей бот може сканувати будь-який сайт, якщо це не заборонено, і запобігає надмірному навантаженню на сервери вебсайтів, обмежуючи сканування до 1 запиту кожні 2 секунди за замовчуванням. Якщо ви є власником вебсайту, ви можете сканувати свої сайти на вищій швидкості та дозволити сканеру AhrefsSiteAudit ігнорувати robots.txt. Щоб це зробити, вам потрібно буде підтвердити право власності в інструменті Site Audit.

Запитання? Ми маємо відповіді

  • Що робить бот AhrefsSiteAudit на моєму веб-сайті?

    Якщо ви бачите AhrefsSiteAudit у своєму журналі сервера, це означає, що хтось провів аналіз вашого веб-сайту за допомогою інструменту Site Audit від Ahrefs. Цей бот сканує веб-сайт і переходить за внутрішніми посиланнями від одного URL до іншого. Він також перевіряє ресурси сайту, такі як CSS файли, JS файли та зображення.Сканер AhrefsSiteAudit не додає числа до вашого трафіку в Google Analytics.
  • Чи враховує він файл robots.txt?

    Так. За замовчуванням.Тільки перевірені власники можуть дозволити AhrefsSiteAudit crawler не дотримуватися robots.txt на своєму сайті.
  • Як я можу контролювати AhrefsSiteAudit сканер на своєму веб-сайті?

    Оскільки бот AhrefsSiteAudit строго дотримується файлу robots.txt на вашому сайті, ви маєте повний контроль над його діями.Якщо ви хочете зупинити AhrefsSiteAudit від відвідування вашого сайту, додайте ці два рядки до файлу robots.txt на вашому сервері:
    User-agent: AhrefsSiteAuditНе дозволяти: /
    Ви також можете дозволити або заборонити сканування будь-якої частини вашого вебсайту за допомогою файла robots.txt. Прочитайте більше про robots.txt на www.robotstxt.org.AhrefsSiteAudit бот перевіряє ваш файл robots.txt перед кожним новим скануванням.Якщо ваш файл robots.txt містить помилки, бот AhrefsSiteAudit не зможе розпізнати ваші команди, і він продовжить сканувати ваш вебсайт, як раніше.Якщо ви вважаєте, що бот AhrefsSiteAudit поводиться неналежним чином на вашому сайті чи у вас є запитання, будь ласка, зверніться до [email protected], і ми зробимо все можливе, щоб допомогти.

Є інші питання?

Якщо у вас виникли додаткові запитання,
зв'яжіться з нами, щоб ми могли допомогти.