С PHP я хочу проверить (true/false), если в файле robots.txt есть последовательная директива «User-agent».Поиск последовательной директивы «User-agent» в файле robots.txt с PHP
С этим регулярным выражением, preg_match('~User-agent:\h*(?:\R|$)~i', $string)
Я нашел строку «Пользователь-агент:», но я не нашел, как определить последовательные строки.
User-agent: # 'User-agent:'
\h* # horizontal whitespace (0 or more times)
(?: # group, but do not capture:
\R # '\R' (any Unicode newline sequence)
| # OR
$ # before an optional \n, and the end of the string
) # end of grouping
Например
User-agent: 008
user-agent: Accoona
User-Agent: Googlebot
User-Agent: aipbot*
disallow:/
Результат: Правда
User-Agent: Googlebot
Crawl-delay: 60
User-agent: aipbot*
disallow:/
Результат: Ложные
User-agent: 008
Crawl-delay: 2
user-agent: Accoona
User-Agent: Googlebot
User-Agent: aipbot*
disallow:/
Результат: True
Mais bien sur! Но в описании User-Agent может быть любой пробельный символ. Я делаю '[a-zA-Z0-9 \ *]' (https://regex101.com/r/ximRMo/4), чтобы зафиксировать это. – LeMoussel