Как построить API с ограничением скорости с помощью Observables?

Question

Я хотел бы создать простую службу калькулятора, которая имеет один метод для добавления чисел. Этот метод Add должен быть async и должен ограничивать количество одновременных вызовов, совершаемых в данный момент времени. Например, не более 5 одновременных вызовов в секунду. Если предел превышен, вызов должен выдать исключение.

Класс должен быть как:

public class RateLimitingCalculator 
{ 
    public async Task<int> Add(int a, int b) 
    { 
     //... 
    } 
} 

Любые идеи? Я бы хотел реализовать его с помощью Reactive Extensions, но если лучше использовать другую стратегию, я бы придерживался этого! Спасибо!

Answer 1

Я не думаю, что использование Rx имеет смысл здесь, если вы не можете переписать свой метод во что-то вроде public IObservable<int> Add(IObservable<Tuple<int, int>> values), как было предложено Enigmativity в комментарии.

Что бы я хотел сделать, это отделить заботу об ограничении скорости в отдельный класс. Таким образом, ваш код может выглядеть примерно так:

public class RateLimitingCalculator 
{ 
    private RateLimiter rateLimiter = new RateLimiter(5, TimeSpan.FromSeconds(1)); 

    public async Task<int> Add(int a, int b) 
    { 
     rateLimiter.ThrowIfRateExceeded(); 

     //... 
    } 
} 

Реализация RateLimiter зависит от ваших конкретных требований, но очень простой, не-поточно-версия может выглядеть следующим образом:

class RateLimiter 
{ 
    private readonly int rate; 
    private readonly TimeSpan perTime; 

    private DateTime secondStart = DateTime.MinValue; 
    private int count = 0; 

    public RateLimiter(int rate, TimeSpan perTime) 
    { 
     this.rate = rate; 
     this.perTime = perTime; 
    } 

    public void ThrowIfRateExceeded() 
    { 
     var now = DateTime.UtcNow; 

     if (now - secondStart > perTime) 
     { 
      secondStart = now; 
      count = 1; 
      return; 
     } 

     if (count >= rate) 
      throw new RateLimitExceededException(); 

     count++; 
    } 
}