Каковы накладные расходы на создание нового HttpClient для каждого вызова в клиенте WebAPI?

если вы хотите, чтобы ваше приложение масштабировалось, разница огромна! В зависимости от нагрузки, вы увидите очень разные показатели производительности. Как Даррел Миллер упоминает, HttpClient, который был разработан, чтобы быть повторно использованы в запросах. Это подтвердили ребята из команды BCL, которые ее написали.

недавний проект, который у меня был, должен был помочь очень большому и известному онлайн-ритейлеру компьютеров масштабироваться для трафика Черной пятницы/праздника для некоторых новых систем. Мы столкнулись с некоторыми проблемами производительности вокруг использования HttpClient. Так как он реализует IDisposable, разработчики сделали то, что вы обычно делаете, создавая экземпляр и помещая его внутрь using() заявление. Как только мы начали нагрузочное тестирование, приложение поставило сервер на колени - да, сервер не только приложение. Причина в том, что каждый экземпляр HttpClient открывает порт на сервере. Из-за недетерминированного завершения GC и того факта, что вы работаете с компьютерными ресурсами, которые охватывают несколько слои OSI, закрытия сетевых портов может занять некоторое время. На самом деле ОС Windows может занять до 20 секунд, чтобы закрыть порт (на Microsoft). Мы открывали порты быстрее, чем они могли быть закрыты - истощение портов сервера, которое забило процессор до 100%. Мое исправление состояло в том, чтобы изменить HttpClient на статический экземпляр, который решил проблему. Да, это одноразовый ресурс, но любые накладные расходы значительно перевешиваются разницей в производительности. Я призываю вас сделать некоторые нагрузочное тестирование, чтобы увидеть, как ваше приложение ведет себя.

вы также можете проверить страницу руководства WebAPI для документации и примера на https://www.asp.net/web-api/overview/advanced/calling-a-web-api-from-a-net-client

обратите особое внимание на этот вызов:

HttpClient предназначен для однократного создания экземпляра и повторного использования в течение всего срока службы приложения. Особенно в серверных приложениях, создание нового экземпляра HttpClient для каждый запрос вымотает количество гнезд доступных под тяжелыми нагрузками. Это приведет к ошибкам SocketException.

если вы обнаружите, что вам нужно использовать статические HttpClient с различными заголовками, базовым адресом и т. д. то, что вам нужно сделать, это создать HttpRequestMessage вручную и установите эти значения на HttpRequestMessage. Затем используйте HttpClient:SendAsync(HttpRequestMessage requestMessage, ...)

как говорится в других ответах,HttpClient предназначена для повторного использования. Однако, повторное использование одного HttpClient экземпляр в многопоточном приложении означает, что вы не можете изменить значения его свойств с сохранением состояния, например BaseAddress и DefaultRequestHeaders (таким образом, вы можете использовать их только в том случае, если они постоянны в вашем приложении).

один из способов обойти это ограничение является упаковка HttpClient С классом, который дублирует все HttpClient методы (GetAsync,PostAsync etc) и делегирует их в синглтон HttpClient. Однако это довольно утомительно (вам нужно будет обернуть методы расширения тоже), и к счастью есть другой способ - продолжать создавать новые HttpClient экземпляров, но повторно использовать базовый HttpClientHandler. Просто убедитесь, что вы не утилизируете обработчик:

HttpClientHandler _sharedHandler = new HttpClientHandler(); //never dispose this
HttpClient GetClient(string token)
{
    //client code can dispose these HttpClient instances
    return new HttpClient(_sharedHandler, disposeHandler: false)         
    {
       DefaultRequestHeaders = 
       {
            Authorization = new AuthenticationHeaderValue("Bearer", token) 
       } 
    };
}

относится к большим объемам веб-сайтов, но не непосредственно к HttpClient. У нас есть фрагмент кода ниже во всех наших услуг.

// number of milliseconds after which an active System.Net.ServicePoint connection is closed.
const int DefaultConnectionLeaseTimeout = 60000;

ServicePoint sp = ServicePointManager.FindServicePoint(new Uri("http://<yourServiceUrlHere>"));
sp.ConnectionLeaseTimeout = DefaultConnectionLeaseTimeout;

From https://msdn.microsoft.com/query/dev14.query?appId=Dev14IDEF1&l=EN-US&k=k(System.Net.ServicePoint.ConnectionLeaseTimeout);k(TargetFrameworkMoniker-.NETFramework,Version%3Dv4.5.2);k(DevLang-csharp)&rd=true

" это свойство можно использовать, чтобы убедиться, что активные подключения объекта ServicePoint не выполняются оставайтесь открытыми до бесконечности. Это свойство предназначено для сценариев, в которых соединения должны периодически удаляться и восстанавливаться, например для сценариев балансировки нагрузки.

по умолчанию, когда KeepAlive имеет значение true для запроса, свойство MaxIdleTime задает время ожидания для закрытия соединений ServicePoint из-за бездействия. Если точка обслуживания имеет активные соединения, MaxIdleTime не имеет никакого эффекта, и соединения остаются открытыми бесконечно.

когда ConnectionLeaseTimeout свойству присваивается значение, отличное от -1, и по истечении указанного времени соединение active ServicePoint закрывается после обслуживания запроса, задав для параметра KeepAlive значение false в этом запросе. Установка этого значения влияет на все соединения, управляемые объектом ServicePoint."

если у вас есть службы за CDN или другой конечной точкой, которую вы хотите отрабатывать отказоустойчивость, то этот параметр помогает вызывающим абонентам следовать за вами к новому месту назначения. В этом примере через 60 секунд после отработки отказа все абоненты необходимо повторно подключиться к новой конечной точке. Это требует, чтобы вы знали свои зависимые службы (те службы, которые вы вызываете) и их конечные точки.

вы также можете обратиться к этому сообщению в блоге Саймона Тиммса:https://aspnetmonsters.com/2016/08/2016-08-27-httpclientwrong/

но HttpClient разное. Хотя он реализует IDisposable интерфейс это на самом деле общий объект. Это означает, что под покровами он реентерабелен) и потокобезопасен. Вместо создания нового экземпляра HttpClient для каждого выполнения вы должны использовать один экземпляр HttpClient на всю продолжительность жизни приложение. Давайте посмотрим, почему.