Изменение текущего задания приводит к превышению максимального размера стека

Question

В узле js, используя версию 4.1.0 SDK «firebase-admin», у меня есть слушатель, который слушает ссылку на очередь сообщений в моей базе данных, обрабатывает сообщения и после этого пытается удалить его из ссылки на очередь.

Когда у меня больше, чем определенное количество записей (1354 на моей машине) в очереди до запуска скрипта, скрипт выходит из строя с превышением максимальной стека вызовов.

Странно, что это происходит только тогда, когда у меня есть 1354+ значения в очереди до начала скрипта. Все ниже этого и проблема исчезает.

Я не знаю, почему это происходит, но я знаю, что это происходит только при попытке изменить/удалить объект в ссылке моментального снимка.

Вот самодостаточным mcve с проблемной области отмечены в комментариях:

var admin = require("firebase-admin"); 

var serviceAccount = require("<ADMIN JSON FILE PATH GOES HERE>"); 

admin.initializeApp({ 
    credential: admin.credential.cert(serviceAccount), 
    databaseURL: "<FIREBASE URL GOES HERE>" 
}); 

var ref = admin.database().ref(); 

/////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////// 

// the number of messages to generate for the queue. when this is >= 1354 (on my machine) the program crashes, if it's less than that, 
// it works perfectly fine; your tipping point may vary 
var amount = 1354; 
// message payload to deliver to the queue <amount> times 
var payload = {}; 

// message generation loop 
for (i = 0; i < amount; i++) { 
    var message = {msg: "hello"}; 
    payload['message-queue/' + ref.push().key] = message; 
} 

// add the generated messages simultaneously to message-queue 
ref.update(payload).then(function() { 

    // 'on child added' listener that causes the crash of the program when there are 1354+ pre-existing messages in the queue prior to application start 
    ref.child('message-queue').on('child_added', function(snapshot) { 

     var msgKey = snapshot.key; 
     var msgContents = snapshot.val().msg 

     // do something with msgContents (e.g. sanitize message and deliver to some user's message-received node in the firebase) 

     // ***THIS*** is what causes the crash. if you remove this line of code, the program does not crash. it seems that any 
     // modification/removal to/of the current <msgKey> node does the same 
     ref.child('message-queue').child(msgKey).remove(); 
    }); 
}); 

А вот стек следов аварии:

FIREBASE WARNING: Exception was thrown by user callback. RangeError: Maximum call stack size exceeded 

    at RegExp.exec (native) 
    at RegExp.test (native) 
    at tc (<MY_PROJECT_PATH>\node_modules\firebase-admin\lib\database\database.js:63:86) 
    at ub (<MY_PROJECT_PATH>\node_modules\firebase-admin\lib\database\database.js:60:136) 
    at vb (<MY_PROJECT_PATH>\node_modules\firebase-admin\lib\database\database.js:43:1228) 
    at Xb.h.remove (<MY_PROJECT_PATH>\node_modules\firebase-admin\lib\database\database.js:52:44) 
    at Xb.h.remove (<MY_PROJECT_PATH>\node_modules\firebase-admin\lib\database\database.js:52:136) 
    at Xb.h.remove (<MY_PROJECT_PATH>\node_modules\firebase-admin\lib\database\database.js:52:136) 
    at Xb.h.remove (<MY_PROJECT_PATH>\node_modules\firebase-admin\lib\database\database.js:52:136) 
    at Xb.h.remove (<MY_PROJECT_PATH>\node_modules\firebase-admin\lib\database\database.js:52:136) 

<MY_PROJECT_PATH>\node_modules\firebase-admin\lib\database\database.js:63 
(d="0"+d),c+=d;return c.toLowerCase()}var zc=/^-?\d{1,10}$/;function tc(a){retur 
n zc.test(a)&&(a=Number(a),-2147483648<=a&&2147483647>=a)?a:null}function Ac(a){ 
try{a()}catch(b){setTimeout(function(){N("Exception was thrown by user callback. 
",b.stack||"");throw b;},Math.floor(0))}}function Bc(a,b,c){Object.definePropert 
y(a,b,{get:c})}function Cc(a,b){var c=setTimeout(a,b);"object"===typeof c&&c.unr 
ef&&c.unref();return c};function Dc(a){var b={},c={},d={},e="";try{var f=a.split 
("."),b=bb(hc(f[0])||""),c=bb(hc(f[1])||""),e=f[2],d=c.d||{};delete c.d}catch(g) 
{}return{wg:b,Ge:c,data:d,mg:e}}function Ec(a){a=Dc(a);var b=a.Ge;return!!a.mg&& 
!!b&&"object"===typeof b&&b.hasOwnProperty("iat")}function Fc(a){a=Dc(a).Ge;retu 
rn"object"===typeof a&&!0===y(a,"admin")};function Gc(a,b,c){this.type=Hc;this.s 
ource=a;this.path=b;this.children=c}Gc.prototype.Jc=function(a){if(this.path.e() 
)return a=this.children.sub 

RangeError: Maximum call stack size exceeded 
    at RegExp.exec (native) 
    at RegExp.test (native) 
    at tc (<MY_PROJECT_PATH>\node_modules\firebase-admin\lib\database\database.js:63:86) 
    at ub (<MY_PROJECT_PATH>\node_modules\firebase-admin\lib\database\database.js:60:136) 
    at vb (<MY_PROJECT_PATH>\node_modules\firebase-admin\lib\database\database.js:43:1228) 
    at Xb.h.remove (<MY_PROJECT_PATH>\node_modules\firebase-admin\lib\database\database.js:52:44) 
    at Xb.h.remove (<MY_PROJECT_PATH>\node_modules\firebase-admin\lib\database\database.js:52:136) 
    at Xb.h.remove (<MY_PROJECT_PATH>\node_modules\firebase-admin\lib\database\database.js:52:136) 
    at Xb.h.remove (<MY_PROJECT_PATH>\node_modules\firebase-admin\lib\database\database.js:52:136) 
    at Xb.h.remove (<MY_PROJECT_PATH>\node_modules\firebase-admin\lib\database\database.js:52:136) 

<MY_PROJECT_PATH>> 

<MY_PROJECT_PATH>> 

<MY_PROJECT_PATH>> 

Answer 1

Даже если вы не обрабатывая его, вызов remove() по-прежнему основан на асинхронном/обещании и создает контекст для запуска. Простой контекст довольно большой, и это не удивительно, что у вас заканчивается стек. Если вам действительно нужен шаблон, подобный этому, чтобы работать правильно, вы можете пакетно обновлять - есть child_added вставить значения в массив «быть удаленным», а затем обрабатывать этот массив партию записей за раз в качестве отдельной задачи, пока она не будет пустой. Существует множество вспомогательных методов для работы с массивами и обещаниями в библиотеке BlueBird (http://bluebirdjs.com/), которая могла бы помочь в этом (например, map/mapSeries).

Это не проблема Firebase. У каждой другой виртуальной машины (PHP, Java и т. Д.) Есть ограничения размера стека. Как и большинство других, V8 является перестраиваемый, и если вам нужно, вы можете запросить (и настроить), то, используя команду:

node --v8-options | grep -B0 -A1 stack_size 

Но я считаю, ваш лучший подход к структуре вашей программы, чтобы минимизировать использование стека для этой схемы удаления. Увеличение размера стека всегда оставит вас открытым для «теперь ли он достаточно большой?» вопрос.

Answer 2

Минимизировать память, выделенную для stack.for например, встроенный внутри статический массив, а не использовать динамический массив.