Яндекс теперь поддерживает маски в robots.txt, т. е. символы «$» и «*» в «disallow» и «allow» (да, теперь ещё и «allow» поддерживается