نحوه مسدود کردن SemrushBot (قوانین robots.txt)
انتشار: بهمن 28، 1401
بروزرسانی: 24 خرداد 1404

نحوه مسدود کردن SemrushBot (قوانین robots.txt)

اگر می خواهید هر SemrushBot User-Agent را از وب سایت خود مسدود کنید، می توانید کد زیر را کپی کرده و در فایل robots.txt وب سایت قرار دهید:

بنابراین، باید هر User-Agent را به صورت جداگانه مسدود کنید (همانطور که در این راهنما توضیح داده شده است) تا دسترسی به وب سایت را برای کاربران Semrush که سعی در تجزیه و تحلیل دامنه برای کمپین های بازاریابی دیجیتال و سئو دارند از دسترس خارج کنید.



منبع: https://seochatter.com/how-to-block-semrushbot/ممکن است بین یک ساعت تا 100 درخواست SemrushBots طول بکشد تا تغییرات ایجاد شده در فایل robots.txt شما را کشف کند و این دستورالعمل ها را برای خزیدن در وب سایت رعایت کند. اگر می خواهید تأیید کنید که SemrushBot از قوانین شما پیروی می کند، می توانید Semrush را به صورت رایگان امتحان کنید و خودتان ابزارهای مختلف را آزمایش کنید تا ببینید آیا آنها کار می کنند یا خیر.

مسدود کردن خلاصه SemrushBot

SemrushBot را می توان با به روز رسانی فایل robots.txt به غیر مجاز کردن User-Agent مسدود کرد. پس از مسدود کردن SemrushBot User-Agent، عنکبوت نمی تواند وب سایت را بخزد.

1. Main SemrushBot را مسدود کنید

قانون زیر را به فایل robots.txt اضافه کنید تا SemrushBot اصلی را که یک نمودار وب از پیوندهایی برای سایتی که در ابزار Backlink Analytics گزارش می شوند می سازد، مسدود کنید:

این قانون robots.txt مانع از خزیدن SemrushBot در وب سایت شما با ابزار Backlink Audit می شود:

این دستورالعمل robots.txt می تواند برای مسدود کردن SemrushBot از دسترسی به وب سایت شما برای ابزار Content Outline Builder استفاده شود:

User-agent: SemrushBotDisallow: /User-agent: SiteAuditBotDisallow: /User-agent: SemrushBot-BADisallow: /User-agent: SemrushBot-SIDisallow: /User-agent: SemrushBot-SWADisallow: /User-agent: SemrushBot-CTDisallow: /User-agent: SplitSignalBotDisallow: /User-agent: SemrushBot-COUBDisallow: /
در زیر، این آموزش به دو بخش تقسیم شده است: بخش اول شامل مراحل مسدود کردن هر SemrushBot User-Agent است که توسط نرم افزار Semrush برای خزیدن محتوای وب سایت و داده های پیوند استفاده می شود و بخش دوم شامل مجموعه کامل قوانین است. می توانید برای جلوگیری از دسترسی همه ربات های Semrush به سایت شما، فایل robots.txt را کپی و جایگذاری کنید.

User-agent: SemrushBot-CTDisallow: /

7. SplitSignalBot را مسدود کنید

User-agent: SemrushBotDisallow: /

2. SemrushAuditBot را مسدود کنید