Что означает стресс-тест tps_стресс-тест с высоким параллелизмом
Что означает стресс-тест tps_стресс-тест с высоким параллелизмом

Всем привет, мы снова встретились, я ваш друг Цюаньчжаньцзюнь.

В последнее время я сильно давлю на код.тест,Вот краткое изложение индикаторов и методов, используемых в стресс-тестировании.

Каталог статей

1 Показатели стресс-тестирования

1.1 TPS

TPS Транзакции Per Secondаббревиатура,Количество транзакций, обрабатываемых в секунду. Транзакция — это процесс, в котором клиент отправляет запрос серверу, а сервер отвечает** (полная обработка,То есть клиент инициирует запрос и получает ответ)**. Клиент начинает отсчет времени, когда отправляет запрос,Окончание времени после получения ответа сервера,Используйте это для расчета затраченного времени и количества завершенных транзакций.,Окончательная оценка с использованием этой информации равна。Транзакция может соответствовать нескольким запросам. Вы можете обратиться к транзакционной операции базы данных.

1.2 QPS

QPS Запросы Per Аббревиатура Second — количество запросов, которые могут быть обработаны в секунду (полная обработка, то есть клиент инициирует запрос и получает ответ). Это количество запросов, на которые сервер может ответить в секунду, и является мерой объема трафика, который конкретный сервер запросов обрабатывает в течение определенного периода времени. Из его полного английского названия можно сделать вывод, что оно означает запрос. Оказывается, в Интернете производительность машины как сервера системы доменных имен часто измеряется скоростью запросов в секунду. Соответствует числу выборок в секунду, то есть количеству запросов ответа в секунду. Хотя номинально это означает запрос, на самом деле сейчас принято использовать QPS для описания возможностей обработки одного сервиса интерфейса (даже если это не операция запроса).

1.3 Среднее время обработки (RT)

RT: Время ответа, среднее время обработки, необходимое для обработки запроса. Обычно мы также ориентируемся на среднее время обработки 90% запросов, поскольку из-за условий сети могут возникнуть экстремальные ситуации.

1.4 Количество одновременных пользователей (параллелизм)

Количество пользователей, отправляющих запросы к тестируемому интерфейсу в секунду.

1.5 Отношения конверсии

QPS = количество параллелизма/среднее время ответа Параллелизм = количество запросов в секунду * среднее время ответа

Например, к тестируемому интерфейсу одновременно обращаются 3000 пользователей (параллельно). Согласно пользовательской статистике, среднее время ответа для 3000 пользователей составляет 1188,538 мс. Таким образом, QPS = 3000/1,188538 с = 2524,11 кв/с. Мы можем описать этот тест следующим образом. В случае 3000 параллелизма QPS составляет 2524,11, а среднее время ответа — 1188,538 мс.

1.5 Разница между TPS и QPS

В начале этого вопроса я думал, что это одно и то же, но, увидев их английские имена на Чжиху, я теперь думаю: QPS может обрабатывать количество запросов в секунду, но сейчас он обычно используется для количества запросов в секунду, которое может обработать один сервисный интерфейс. Количество транзакций, обрабатываемых TPS в секунду. Если транзакция завершается только для одного сервисного интерфейса, мы также можем рассматривать это как QPS.

PS: Еще есть понятие запроса RPS в секунду. Количество запросов в секунду аналогично QPS и TPS при определенных условиях.

2 Метод стресс-тестирования

Мы можем использовать инструменты стресс-тестирования, чтобы имитировать стресс-тестирование системы несколькими пользователями. Позже будет представлено введение в инструменты измерения давления.

Метод тестирования заключается в сохранении определенного общего количества запросов неизменным, постепенном увеличении параллелизма и наблюдении за изменениями количества запросов в секунду и среднего времени ответа. Например, общее количество запросов составляет 10 000, затем проверяется значение QPS при параллельности 100, а затем 200, 300, 400, 500 и т. д.

Пропускная способность системы обычно определяется двумя факторами: TPS и параллелизмом. Каждая система имеет относительное предельное значение для этих двух значений. Под давлением сценариев приложения, пока определенный элемент достигает наивысшего значения системы. пропускная способность системы будет Если давление продолжает расти, вместо этого пропускная способность системы уменьшится. Причина в том, что система перегружена, переключение контекста, использование памяти и другие виды потребления приводят к снижению производительности системы. Вот диаграмма измерения давления с помощью инструмента ab.

На картинке видно, что время Параллелизма в 2000 году,QPS достигло около 2500,Последующие увеличения параллелизма сохранят это число на уровне 2500.,Указывает, что интерфейс находится в этой конфигурации,QPS – 2500.,То есть система может обрабатывать всего около 2500 запросов в секунду.,Последующее увеличение параллелизма приведет лишь к увеличению среднего времени ответа.(PS:Потому что он может обрабатывать только2500запросы,И одновременно существует 7000 параллелей.,Естественно, это вызовет нагромождение запросов.,привести ксреднее время (ответ станет длиннее) Мы видим, что даже QPS начинает резко падать после превышения 14 000, что говорит о том, что система перегружена, из-за чего производительность начинает резко падать. И вообще, мы считаем, что среднее время Когда ответ достигает определенного значения, он уже неприемлем.

3 Сопутствующие документы

Блог, созданный для оценки параллельной работы устройств IoT: https://blog.csdn.net/m0_37263637/article/details/88649056 Инструмент стресс-тестирования ab: https://blog.csdn.net/m0_37263637/article/details/78558890 Node результаты стресс-теста экспресс-фреймворка: https://blog.csdn.net/m0_37263637/article/details/88749198

Издатель: Лидер стека программистов полного стека, укажите источник для перепечатки: https://javaforall.cn/125192.html Исходная ссылка: https://javaforall.cn

boy illustration
Учебное пособие по Jetpack Compose для начинающих, базовые элементы управления и макет
boy illustration
Код js веб-страницы, фон частицы, код спецэффектов
boy illustration
【новый! Суперподробное】Полное руководство по свойствам компонентов Figma.
boy illustration
🎉Обязательно к прочтению новичкам: полное руководство по написанию мини-программ WeChat с использованием программного обеспечения Cursor.
boy illustration
[Забавный проект Docker] VoceChat — еще одно приложение для мгновенного чата (IM)! Может быть встроен в любую веб-страницу!
boy illustration
Как реализовать переход по странице в HTML (html переходит на указанную страницу)
boy illustration
Как решить проблему зависания и низкой скорости при установке зависимостей с помощью npm. Существуют ли доступные источники npm, которые могут решить эту проблему?
boy illustration
Серия From Zero to Fun: Uni-App WeChat Payment Practice WeChat авторизует вход в систему и украшает страницу заказа, создает интерфейс заказа и инициирует запрос заказа
boy illustration
Серия uni-app: uni.navigateЧтобы передать скачок значения
boy illustration
Апплет WeChat настраивает верхнюю панель навигации и адаптируется к различным моделям.
boy illustration
JS-время конвертации
boy illustration
Обеспечьте бесперебойную работу ChromeDriver 125: советы по решению проблемы chromedriver.exe не найдены
boy illustration
Поле комментария, щелчок мышью, специальные эффекты, js-код
boy illustration
Объект массива перемещения объекта JS
boy illustration
Как открыть разрешение на позиционирование апплета WeChat_Как использовать WeChat для определения местонахождения друзей
boy illustration
Я даю вам два набора из 18 простых в использовании фонов холста Power BI, так что вам больше не придется возиться с цветами!
boy illustration
Получить текущее время в js_Как динамически отображать дату и время в js
boy illustration
Вам необходимо изучить сочетания клавиш vsCode для форматирования и организации кода, чтобы вам больше не приходилось настраивать формат вручную.
boy illustration
У ChatGPT большое обновление. Всего за 45 минут пресс-конференция показывает, что OpenAI сделал еще один шаг вперед.
boy illustration
Copilot облачной разработки — упрощение разработки
boy illustration
Микросборка xChatGPT с низким кодом, создание апплета чат-бота с искусственным интеллектом за пять шагов
boy illustration
CUDA Out of Memory: идеальное решение проблемы нехватки памяти CUDA
boy illustration
Анализ кластеризации отдельных ячеек, который должен освоить каждый&MarkerгенетическийВизуализация
boy illustration
vLLM: мощный инструмент для ускорения вывода ИИ
boy illustration
CodeGeeX: мощный инструмент генерации кода искусственного интеллекта, который можно использовать бесплатно в дополнение к второму пилоту.
boy illustration
Машинное обучение Реальный бой LightGBM + настройка параметров случайного поиска: точность 96,67%
boy illustration
Бесшовная интеграция, мгновенный интеллект [1]: платформа больших моделей Dify-LLM, интеграция без кодирования и встраивание в сторонние системы, более 42 тысяч звезд, чтобы стать свидетелями эксклюзивных интеллектуальных решений.
boy illustration
LM Studio для создания локальных больших моделей
boy illustration
Как определить количество слоев и нейронов скрытых слоев нейронной сети?
boy illustration
[Отслеживание целей] Подробное объяснение ByteTrack и детали кода