2014-10-05 1 views
3

Мне очень нужна помощь в решении проблемы, с которой я столкнулся с неуправляемым расширением Neo4j, которое я создаю на Java. Я создал очень простой пример кода, который подчеркивает мою проблему. Основной предпосылкой является то, что я хотел бы установитьNeo4j Неуправляемое расширение и GuardTimeoutException

org.neo4j.server.webserver.limit.executiontime

для сервера Neo4j на разумное количество времени для пользовательских запросов (позволяет сказать, что 2 минуты) которые поступают через Cypher, другие конечные точки и т. д. Но у меня также есть несколько пакетных заданий, которые мне нужно выполнить через это неуправляемое расширение, и поэтому я попытался разбить их на несколько транзакций длиной 2 минуты <. Проблема, которую я вижу, заключается в том, что хотя каждая из моих транзакций составляет < 2 минуты, как только мой процесс работает в течение 2 минут, я получаю исключение GuardTimeoutException.

Вот образец. В этом примере заметьте, что я ограничил время до 2000 миллисекунд, поэтому мне не требуется весь день для отладки. (Получение ужасно близко, хотя!)

Endpoint

/** 
* Sample endpoint. 
@GET 
@Path("test") 
@Produces(MediaType.APPLICATION_JSON) 
public Response test(@Context GraphDatabaseService service) { 
    TestFile.test(service); 
    return Response.ok().build(); 
} 

Logic

public static void test(final GraphDatabaseService service) { 
    for (int i = 0; i < 100000; i++) { 
     try (Transaction tx = service.beginTx();) { 
      final Node n = service.createNode(); 
      n.addLabel(testLabel); 
      tx.success(); 
      tx.close(); 
     } 
     System.out.println("Added node"); 
    } 
} 

Я могу видеть, что каждая сделка занимает лишь доли секунды, так как я загружаю примерно 200 узлов успешно до того тайм-аут. Ровно в 2 секунды от удара конечной точки, хотя, я получаю следующее:

org.neo4j.kernel.guard.GuardTimeoutException: timeout occured (overtime=1) 
at org.neo4j.kernel.guard.Guard$Timeout.check(Guard.java:132) 
at org.neo4j.kernel.guard.Guard.check(Guard.java:43) 
at org.neo4j.kernel.InternalAbstractGraphDatabase$5.createNode(InternalAbstractGraphDatabase.java:794) 
at org.neo4j.kernel.impl.api.state.OldTxStateBridgeImpl.nodeCreate(OldTxStateBridgeImpl.java:120) 
at org.neo4j.kernel.impl.api.state.TxStateImpl.nodeDoCreate(TxStateImpl.java:366) 
at org.neo4j.kernel.impl.api.StateHandlingStatementOperations.nodeCreate(StateHandlingStatementOperations.java:99) 
at org.neo4j.kernel.impl.api.ConstraintEnforcingEntityOperations.nodeCreate(ConstraintEnforcingEntityOperations.java:390) 
at org.neo4j.kernel.impl.api.LockingStatementOperations.nodeCreate(LockingStatementOperations.java:207) 
at org.neo4j.kernel.impl.api.OperationsFacade.nodeCreate(OperationsFacade.java:506) 
at org.neo4j.kernel.InternalAbstractGraphDatabase.createNode(InternalAbstractGraphDatabase.java:1120) 
at **TestFile.test(TestFile.java:15) 
at **test(Jobs.java:48) 
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method) 
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57) 
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43) 
at java.lang.reflect.Method.invoke(Method.java:606) 
at com.sun.jersey.spi.container.JavaMethodInvokerFactory$1.invoke(JavaMethodInvokerFactory.java:60) 
at com.sun.jersey.server.impl.model.method.dispatch.AbstractResourceMethodDispatchProvider$ResponseOutInvoker._dispatch(AbstractResourceMethodDispatchProvider.java:205) 
at com.sun.jersey.server.impl.model.method.dispatch.ResourceJavaMethodDispatcher.dispatch(ResourceJavaMethodDispatcher.java:75) 
at org.neo4j.server.rest.transactional.TransactionalRequestDispatcher.dispatch(TransactionalRequestDispatcher.java:139) 
at com.sun.jersey.server.impl.uri.rules.HttpMethodRule.accept(HttpMethodRule.java:288) 
at com.sun.jersey.server.impl.uri.rules.RightHandPathRule.accept(RightHandPathRule.java:147) 
at com.sun.jersey.server.impl.uri.rules.ResourceClassRule.accept(ResourceClassRule.java:108) 
at com.sun.jersey.server.impl.uri.rules.RightHandPathRule.accept(RightHandPathRule.java:147) 
at com.sun.jersey.server.impl.uri.rules.RootResourceClassesRule.accept(RootResourceClassesRule.java:84) 
at com.sun.jersey.server.impl.application.WebApplicationImpl._handleRequest(WebApplicationImpl.java:1469) 
at com.sun.jersey.server.impl.application.WebApplicationImpl._handleRequest(WebApplicationImpl.java:1400) 
at com.sun.jersey.server.impl.application.WebApplicationImpl.handleRequest(WebApplicationImpl.java:1349) 
at com.sun.jersey.server.impl.application.WebApplicationImpl.handleRequest(WebApplicationImpl.java:1339) 
at com.sun.jersey.spi.container.servlet.WebComponent.service(WebComponent.java:416) 
at com.sun.jersey.spi.container.servlet.ServletContainer.service(ServletContainer.java:537) 
at com.sun.jersey.spi.container.servlet.ServletContainer.service(ServletContainer.java:699) 
at javax.servlet.http.HttpServlet.service(HttpServlet.java:848) 
at org.eclipse.jetty.servlet.ServletHolder.handle(ServletHolder.java:698) 
at org.eclipse.jetty.servlet.ServletHandler$CachedChain.doFilter(ServletHandler.java:1506) 
at org.neo4j.server.guard.GuardingRequestFilter.doFilter(GuardingRequestFilter.java:68) 
at org.eclipse.jetty.servlet.ServletHandler$CachedChain.doFilter(ServletHandler.java:1477) 
at org.neo4j.server.guard.GuardingRequestFilter.doFilter(GuardingRequestFilter.java:68) 
at org.eclipse.jetty.servlet.ServletHandler$CachedChain.doFilter(ServletHandler.java:1477) 
at org.eclipse.jetty.servlet.ServletHandler.doHandle(ServletHandler.java:503) 
at org.eclipse.jetty.server.session.SessionHandler.doHandle(SessionHandler.java:211) 
at org.eclipse.jetty.server.handler.ContextHandler.doHandle(ContextHandler.java:1096) 
at org.eclipse.jetty.servlet.ServletHandler.doScope(ServletHandler.java:432) 
at org.eclipse.jetty.server.session.SessionHandler.doScope(SessionHandler.java:175) 
at org.eclipse.jetty.server.handler.ContextHandler.doScope(ContextHandler.java:1030) 
at org.eclipse.jetty.server.handler.ScopedHandler.handle(ScopedHandler.java:136) 
at org.eclipse.jetty.server.handler.HandlerList.handle(HandlerList.java:52) 
at org.eclipse.jetty.server.handler.HandlerWrapper.handle(HandlerWrapper.java:97) 
at org.eclipse.jetty.server.Server.handle(Server.java:445) 
at org.eclipse.jetty.server.HttpChannel.handle(HttpChannel.java:268) 
at org.eclipse.jetty.server.HttpConnection.onFillable(HttpConnection.java:229) 
at org.eclipse.jetty.io.AbstractConnection$ReadCallback.run(AbstractConnection.java:358) 
at org.eclipse.jetty.util.thread.QueuedThreadPool.runJob(QueuedThreadPool.java:601) 
at org.eclipse.jetty.util.thread.QueuedThreadPool$3.run(QueuedThreadPool.java:532) 
at java.lang.Thread.run(Thread.java:744) 

Как вы можете видеть, что я попробовал tx.success(), tx.close(), все, что я могу думать, чтобы сделать все транзакции умирают, когда они завершены. Любой совет очень ценится !!

обновления -------------

Майкл - Я следовал за те шаги, которые вы предложили - у меня есть новый класс Java, который расширяет SPIPluginLifecycle и также добавлен новый конфигурационный файл in/src/main/resources/META-INF/services. Я вижу, что этот файл попадает в банку, которая входит в/плагины в META-INF/services. Тем не менее, я не вижу, чтобы этот класс инициализации вызывался вообще. Heres класс и журналы, которые я вижу при запуске.

public class GraphInitializer implements SPIPluginLifecycle { 
private WebServer webServer; 

@Override 
public Collection<Injectable<?>> start(final GraphDatabaseService graphDatabaseService, final Configuration config) { 
    throw new IllegalAccessError(); 
} 

@Override 
public void stop() { 

} 

@Override 
public Collection<Injectable<?>> start(final NeoServer neoServer) { 
    System.out.println("K starting!"); 
    webServer = getWebServer(neoServer); 
    final Database database = neoServer.getDatabase(); 
    final GraphDatabaseAPI graphDatabaseAPI = database.getGraph(); 
    final Guard guard = graphDatabaseAPI.getDependencyResolver().resolveDependency(Guard.class); 
    final Filter filter = new GuardingRequestFilter(guard, 3000); 
    webServer.addFilter(filter, "/*"); 
    return null; 
} 

private WebServer getWebServer(final NeoServer neoServer) { 
    if (neoServer instanceof AbstractNeoServer) { 
     return ((AbstractNeoServer) neoServer).getWebServer(); 
    } 
    throw new IllegalArgumentException("expected AbstractNeoServer"); 
} 

Журналы:

2014-10-06 16:14:23.009+0000 INFO [API] Mounted discovery module at [/] 
2014-10-06 16:14:23.014+0000 INFO [API] Mounted REST API at [/db/data/] 
2014-10-06 16:14:23.017+0000 INFO [API] Mounted management API at [/db/manage/] 
2014-10-06 16:14:23.017+0000 INFO [API] Mounted third-party JAX-RS package [***] at [/kristen] 
2014-10-06 16:14:23.017+0000 INFO [API] Mounted webadmin at [/webadmin] 
2014-10-06 16:14:23.017+0000 INFO [API] Mounted Neo4j Browser at [/browser] 
2014-10-06 16:14:23.070+0000 INFO [API] Mounting static content at [/webadmin] from [webadmin-html] 
2014-10-06 16:14:23.124+0000 INFO [API] Mounting static content at [/browser] from [browser] 
12:14:23.126 [main] WARN o.e.j.server.handler.ContextHandler - [email protected]{/,null,null} contextPath ends with/
12:14:23.127 [main] WARN o.e.j.server.handler.ContextHandler - Empty contextPath 
12:14:23.131 [main] INFO org.eclipse.jetty.server.Server - jetty-9.0.5.v20130815 
12:14:23.155 [main] INFO o.e.j.server.handler.ContextHandler - Started [email protected]{/,null,AVAILABLE} 
12:14:23.245 [main] INFO o.e.j.w.StandardDescriptorProcessor - NO JSP Support for /webadmin, did not find org.apache.jasper.servlet.JspServlet 
12:14:23.255 [main] INFO o.e.j.server.handler.ContextHandler - Started [email protected]{/webadmin,jar:file:/usr/local/Cellar/neo4j/2.1.3/libexec/system/lib/neo4j-server-2.1.3-static-web.jar!/webadmin-html,AVAILABLE} 
12:14:23.668 [main] INFO o.e.j.server.handler.ContextHandler - Started [email protected]{/kristen,null,AVAILABLE} 
12:14:23.817 [main] INFO o.e.j.server.handler.ContextHandler - Started [email protected]{/db/manage,null,AVAILABLE} 
12:14:24.003 [main] INFO o.e.j.server.handler.ContextHandler - Started [email protected]{/db/data,null,AVAILABLE} 
12:14:24.021 [main] INFO o.e.j.w.StandardDescriptorProcessor - NO JSP Support for /browser, did not find org.apache.jasper.servlet.JspServlet 
12:14:24.022 [main] INFO o.e.j.server.handler.ContextHandler - Started [email protected]{/browser,jar:file:/usr/local/Cellar/neo4j/2.1.3/libexec/system/lib/neo4j-browser-2.1.3.jar!/browser,AVAILABLE} 
12:14:24.103 [main] INFO o.e.j.server.handler.ContextHandler - Started [email protected]{/,null,AVAILABLE} 
12:14:24.115 [main] INFO o.e.jetty.server.ServerConnector - Started [email protected]{HTTP/1.1}{localhost:7474} 
12:14:24.503 [main] INFO o.e.jetty.server.ServerConnector - Started [email protected]{SSL-HTTP/1.1}{localhost:7473} 
2014-10-06 16:14:24.503+0000 INFO [API] Server started on: http://localhost:7474/ 
2014-10-06 16:14:24.504+0000 INFO [API] Remote interface ready and available at [http://localhost:7474/] 

Я ожидал, что новая запись строки или что-то - и мои изменения, чтобы добавить тайм-аут на самом деле не работает, поэтому я уверен, что эти изменения не влияют на принимаемые. Есть ли что-то дополнительное, что я должен добавить к neo4j-server.properties, neo4j.properties и т. Д.? Я уже успешно добавил строку, которая устанавливает неуправляемое расширение.

спасибо!

ответ

1

Небольшая транзакция заставляет ее идти медленнее, так как каждый должен быть сброшен на диск. Обычно имеет смысл добавить до 50 тыс. Узлов в один ткс, что займет меньше секунды.

Для вашего защитного фильтра это просто фильтр сервлетов, поэтому вы также можете просто проверить исходный код Neo4j, где он установлен, и в init вашего расширения установить его самостоятельно, но исключить конечные точки, которые вы хотите выполнить.

В: org.neo4j.server.AbstractNeoServer линии 488

Filter filter = new GuardingRequestFilter(guard, 
      getConfiguration().getInt(Configurator.WEBSERVER_LIMIT_EXECUTION_TIME_PROPERTY_KEY)); 
    webServer.addFilter(filter, "/*"); 

Вы можете использовать расширение инициализатор, чтобы добавить свой собственный фильтр, как показано здесь:

https://github.com/neo4j-contrib/authentication-extension/blob/2.1/src/main/java/org/neo4j/server/extension/auth/AuthenticationExtensionInitializer.java#L81

вы должны добавить файл, как это, который содержит название вашего инициализатора:

https://github.com/neo4j-contrib/authentication-extension/blob/2.1/src/main/resources/META-INF/services/org.neo4j.server.plugins.PluginLifecycle

+0

Спасибо Майкла, я дам этой конфигурации выстрел и отправить последующий с моими результатами! –

+0

Я выполнил предложенные вами шаги - у меня есть новый класс java, который расширяет SPIPluginLifecycle, а также добавил новый файл конфигурации в/src/main/resources/META-INF/services. Тем не менее, я не вижу, чтобы этот класс инициализации вызывался вообще. Здесь хранятся журналы, которые я вижу при запуске. –

+0

Пожалуйста, ознакомьтесь с более подробной информацией, связанной с моими результатами в вопросе выше! –

0

Решение Написал Майкл Хунг отлично работал с несколькими моими учебными точками на этом пути.

  1. мне пришлось обновить свойство org.neo4j.server.thirdparty_jaxrs_classes в neo4j-server.properties к более корневой директории, так как я не кладу инициализатору в том же каталоге, что и мои Java API для файлов.
  2. Метод start() должен был вернуть пустую коллекцию.
  3. Я смог использовать несколько разных фильтров, чтобы указать временные рамки для разных конечных точек.

Окончательного код ниже:

@Override 
public Collection<Injectable<?>> start(final NeoServer neoServer) { 
    webServer = getWebServer(neoServer); 
    final Database database = neoServer.getDatabase(); 
    final GraphDatabaseAPI graphDatabaseAPI = database.getGraph(); 
    final Guard guard = graphDatabaseAPI.getDependencyResolver().resolveDependency(Guard.class); 
    final Filter filter = new GuardingRequestFilter(guard, 600); 
    webServer.addFilter(filter, "/*"); 
    final Filter filter2 = new GuardingRequestFilter(guard, 3000); 
    webServer.addFilter(filter2, "*/batch"); 
    return Collections.emptyList(); 
}