2016-08-30 4 views
0

У меня есть строки журнала, как Belows:logstash применить несколько фильтров, основанных на состоянии

11:05:44,924 DEBUG DataFeed:? - Data received: data=TextMessage={ Header={ JMSMessageID={ID:someId} JMSDestination={Topic[someTopic]} JMSReplyTo={null} JMSDeliveryMode={NON_PERSISTENT} JMSRedelivered={false} JMSCorrelationID={null} JMSType={null} JMSTimestamp={Tue Aug 30 11:05:44 BST 2016} JMSExpiration={Tue Aug 30 11:06:44 BST 2016} JMSPriority={4} } Properties={ ACTION={String:ADD} XT_S_USER={String:someString} APPNAME={String:someFeeName} XT_BOOK={String:someBook} } Text={<?xml version="1.0"?><!DOCTYPE PSRequest><PSRequest><trade>..XML Tags..</trade></PSRequest>} } 

Я пытаюсь применить XML фильтр на выше строки журнала, который терпит неудачу с:

:exception=>#<NoMethodError: undefined method `start_with?' for nil:NilClass>, :backtrace=>["/jruby/1.9/gems/logstash-core-event-2.3.2-java/lib/logstash/event.rb:130:in `[]='", "/jruby/1.9/gems/logstash-filter-xml-2.1.4/lib/logstash/filters/xml.rb:166:in `filter'", "/jruby/1.9/gems/logstash-core-2.3.2-java/lib/logstash/filters/base.rb:151:in `multi_filter'", "org/jruby/RubyArray.java:1613:in `each'", "/jruby/1.9/gems/logstash-core-2.3.2-java/lib/logstash/filters/base.rb:148:in `multi_filter'", "(eval):41:in `filter_func'", "/jruby/1.9/gems/logstash-core-2.3.2-java/lib/logstash/pipeline.rb:267:in `filter_batch'", "org/jruby/RubyArray.java:1613:in `each'", "org/jruby/RubyEnumerable.java:852:in `inject'", "/jruby/1.9/gems/logstash-core-2.3.2-java/lib/logstash/pipeline.rb:265:in `filter_batch'", "/jruby/1.9/gems/logstash-core-2.3.2-java/lib/logstash/pipeline.rb:223:in `worker_loop'", "/jruby/1.9/gems/logstash-core-2.3.2-java/lib/logstash/pipeline.rb:201:in `start_workers'"], :level=>:warn} 

Кроме определенных линий не имеют XML-контента, я хочу отправить их в фильтр grok, как я должен это достичь?

EDIT: Небольшой фрагмент о том, как достичь ниже
Мой случае это что-то вроде этого:

if(message.contains(certainText)) { 
//apply grok filter and extract xml from it and send it to xml filter and then to ES 
} else if(message.contains(someOtherText)) { 
//Apply grok filter and extract key value pairs and send it to kv filter and then to ES 
} else { 
//straight away send that message to ES without any parsing. 
} 

ответ

0

XML-фильтр не в состоянии, так как вход не является допустимым XML.
Вы должны извлечь XML, а затем использовать XML-фильтр. Для того, чтобы извлечь XML, вы должны будете использовать ГРКИ фильтр с этой схемой:

%{GREEDYDATA} Text={%{GREEDYDATA:xml}} } 

Это создаст поле с именем XML, содержащим: <?xml·version="1.0"?><!DOCTYPE·PSRequest><PSRequest><trade>..XML·Tags..</trade></PSRequest>

Затем вы можете использовать XML-фильтр на этом поле.

Чтобы отправить строки, не содержащие XML, в другой фильтр grok, вы можете использовать conditionals для разделения части вашей конфигурации. Если вам нужен более точный ответ, вам нужно будет добавить дополнительную информацию о своих журналах (лучше, если вы используете другой вопрос для этого).

EDIT:

if [message] ~= /certainText/ { 
    ... 
} else if [message] ~= /someOtherText/ { 
    ... 
} else { 
    ... 
} 
+0

привет бы у быть в состоянии предложить небольшой фрагмент о том, как достичь указанного выше фрагмента кода request..no нужно для внутренних деталей, но только как добиться этого синтаксический –

 Смежные вопросы

  • Нет связанных вопросов^_^