Так что я пытаюсь получить Объявления на своем сайте. Он некоторое время пересматривался, поэтому я делаю кое-что, возможно, что-то блокирует ботов от ползания. Сегодня я узнал об этом, скажи мне, что это значит.Robot.txt говорит, что заблокирован, но ничего не блокирует?
Во-первых: я загрузил и отобразил мой сайт в консоли поиска Google.
Я нажал robots.txt ссылку на праве изображения выше, и это показал:
Итак: я сделал робот ползать как все боты Google и получил позволено на моем файл роботов , Живой файл:
В моем файловом менеджере моего сайта приведенное выше изображение имеет мой фактический файл robots.txt. Могут ли мои объявления не проверяться из-за того, что мой файл роботов блокирует 2-й этап проверки?