
بروزرسانی: 24 خرداد 1404
نحوه مسدود کردن SemrushBot (قوانین robots.txt)
اگر می خواهید هر SemrushBot User-Agent را از وب سایت خود مسدود کنید، می توانید کد زیر را کپی کرده و در فایل robots.txt وب سایت قرار دهید:
بنابراین، باید هر User-Agent را به صورت جداگانه مسدود کنید (همانطور که در این راهنما توضیح داده شده است) تا دسترسی به وب سایت را برای کاربران Semrush که سعی در تجزیه و تحلیل دامنه برای کمپین های بازاریابی دیجیتال و سئو دارند از دسترس خارج کنید.
این راهنما نحوه جلوگیری از خزیدن SemrushBot در یک وب سایت را توضیح می دهد.
این دستورالعمل مانع از دسترسی SemrushBot به وب سایت شما با ابزار On Page SEO Checker می شود:
User-agent: SemrushBot-SWADisallow: /
6. SemrushBot-CT را مسدود کنید
این دستورالعمل SemrushBot را از خزیدن وب سایت شما با ابزارهای Content Analyzer و Post Tracking جلوگیری می کند:
User-agent: SemrushBot-BADisallow: /
4. SemrushBot-SI را مسدود کنید
همانطور که متوجه شدید، SemrushBot را می توان با به روز رسانی فایل robots.txt برای غیر مجاز کردن User-Agent مسدود کرد. پس از مسدود کردن عامل اصلی SemrushBot کاربر، عنکبوت نمی تواند وب سایت را برای ثبت داده ها برای نمودار وب پیوندها بخزد. با این حال، Semrush چندین User-Agent برای هر ربات دارد که داده های وب سایت را برای مجموعه ابزار خود جمع آوری می کند.
User-agent: SplitSignalBotDisallow: /
8. SemrushBot-COUB را مسدود کنید
امیدوارم از این راهنمای نحوه مسدود کردن SemrushBot لذت برده باشید.
این قانون مانع از خزیدن SemrushBot به وب سایت شما برای ممیزی SEO و مسائل فنی می شود:
User-agent: SemrushBot-SIDisallow: /
5. SemrushBot-SWA را مسدود کنید
User-agent: SiteAuditBotDisallow: /
3. SemrushBot-BA را مسدود کنید
این قانون robots.txt مانع از بررسی SemrushBot می شود که صفحات وب را برای تجزیه و تحلیل با ابزار SEO Writing Assistant بررسی کند:
توجه: AhrefsBot را نیز می توان با استفاده از دستور Disallow در فایل robots.txt مسدود کرد. اگر می خواهید از خزیدن آن ربات در وب سایت خود جلوگیری کنید، این راهنمای مرتبط را در مورد نحوه مسدود کردن AhrefsBot ببینید.
جزئیات درباره مسدود کردن تاخیرها
در پایان این صفحه، می دانید که چگونه داده های وب سایت خود را برای کاربران Semrush که سعی در تجزیه و تحلیل دامنه برای بهینه سازی موتورهای جستجو (SEO) و کمپین های بازاریابی دیجیتال دارند، غیرقابل دسترس کنید.
توجه: اگر می خواهید در مورد اینکه SemrushBot چیست و چگونه کار می کند بیشتر بدانید، این صفحه مرتبط را در SemrushBot ببینید. همچنین می توانید Semrush را به صورت رایگان با استفاده از پیوند وابسته من امتحان کنید تا تمام قابلیت های آن را برای کمپین های سئوی خود آزمایش کنید و تأیید کنید که قوانین مسدودسازی که تنظیم کرده اید به درستی برای وب سایت شما کار می کنند.
نحوه بلاک کردن SemrushBot
این قانون مانع از خزیدن Semrush SplitSignalBot در وب سایت شما برای ابزار SplitSignal می شود که برای انجام تست های A/B برای بازاریابی دیجیتال استفاده می شود:
User-agent: SemrushBot-COUBDisallow: /
مسدود کردن همه عوامل کاربر SemrushBot
استفان هاکمن یک کارآفرین و بنیانگذار SEO Chatter است. او در بهینه سازی موتورهای جستجو و بازاریابی دیجیتال تخصص دارد و از سال 2005 شیفته سئو شده است. هدف استفان این است که بهترین نکات و اخبار در مورد بازاریابی موتورهای جستجو را به اشتراک بگذارد تا بتوانید ترافیک بیشتری را برای وب سایت خود به دست آورید.
منبع: https://seochatter.com/how-to-block-semrushbot/
ممکن است بین یک ساعت تا 100 درخواست SemrushBots طول بکشد تا تغییرات ایجاد شده در فایل robots.txt شما را کشف کند و این دستورالعمل ها را برای خزیدن در وب سایت رعایت کند. اگر می خواهید تأیید کنید که SemrushBot از قوانین شما پیروی می کند، می توانید Semrush را به صورت رایگان امتحان کنید و خودتان ابزارهای مختلف را آزمایش کنید تا ببینید آیا آنها کار می کنند یا خیر.
مسدود کردن خلاصه SemrushBot
SemrushBot را می توان با به روز رسانی فایل robots.txt به غیر مجاز کردن User-Agent مسدود کرد. پس از مسدود کردن SemrushBot User-Agent، عنکبوت نمی تواند وب سایت را بخزد.
1. Main SemrushBot را مسدود کنید
قانون زیر را به فایل robots.txt اضافه کنید تا SemrushBot اصلی را که یک نمودار وب از پیوندهایی برای سایتی که در ابزار Backlink Analytics گزارش می شوند می سازد، مسدود کنید:
این قانون robots.txt مانع از خزیدن SemrushBot در وب سایت شما با ابزار Backlink Audit می شود:
این دستورالعمل robots.txt می تواند برای مسدود کردن SemrushBot از دسترسی به وب سایت شما برای ابزار Content Outline Builder استفاده شود:
User-agent: SemrushBotDisallow: /User-agent: SiteAuditBotDisallow: /User-agent: SemrushBot-BADisallow: /User-agent: SemrushBot-SIDisallow: /User-agent: SemrushBot-SWADisallow: /User-agent: SemrushBot-CTDisallow: /User-agent: SplitSignalBotDisallow: /User-agent: SemrushBot-COUBDisallow: /
در زیر، این آموزش به دو بخش تقسیم شده است: بخش اول شامل مراحل مسدود کردن هر SemrushBot User-Agent است که توسط نرم افزار Semrush برای خزیدن محتوای وب سایت و داده های پیوند استفاده می شود و بخش دوم شامل مجموعه کامل قوانین است. می توانید برای جلوگیری از دسترسی همه ربات های Semrush به سایت شما، فایل robots.txt را کپی و جایگذاری کنید.
User-agent: SemrushBot-CTDisallow: /
7. SplitSignalBot را مسدود کنید
User-agent: SemrushBotDisallow: /