Это мой персональный дневник. Пишу, по большей части, про историю, свою жизнь и немного про программирование.

Тег: robots.txt

1 заметка

Robots.txt и Яндекс

Яндекс теперь поддерживает маски в robots.txt, т. е. символы «$» и «*» в «disallow» и «allow» (да, теперь ещё и «allow» поддерживается