Снижение нагрузки на память PostgreSQL в Matrix Synapse

Если PostgreSQL потребляет больше памяти, чем ожидалось для Matrix Synapse, сначала определите, используется ли память в общих буферах, в активной работе с запросами, в процессе автоматической очистки или в большом количестве соединений. Затем настройте каждый источник по отдельности и повторите измерения. Собственные Python-процессы Synapse также используют значительное количество памяти, поэтому убедитесь, что источником являются процессы PostgreSQL или контейнер базы данных, прежде чем изменять настройки базы данных.

Поймите, что означает «высокая память».

PostgreSQL использует общую память для кэша, частную память для каждого серверного соединения и запроса, а также кэш страниц операционной системы. В Linux память, отображаемая как «используемая», может включать в себя освобождаемый кэш файловой системы; само по себе это число не доказывает, что база данных испытывает нагрузку. Обратите внимание на устойчиво низкий уровень доступной памяти, активность файла подкачки, события нехватки памяти или приближение контейнера к пределу памяти. Сравните эти сигналы с метриками процессов Synapse и PostgreSQL.

Бэкенд PostgreSQL — это серверный процесс, обрабатывающий клиентское соединение. Пул соединений с базой данных Synapse может открывать несколько бэкендов на один процесс, и у каждого рабочего процесса Synapse свой собственный пул. Поэтому увеличение количества рабочих процессов или размера пула может увеличить одновременную работу с базой данных и потребность в памяти. Действие: перед настройкой PostgreSQL проведите инвентаризацию процессов Synapse, количества рабочих процессов, настроек пула, соединений PostgreSQL и лимита памяти хоста или контейнера.

Перед настройкой определите основной источник.

Подключитесь к базе данных Synapse от имени администратора и проверьте настройки, управляющие памятью и соединениями:

SHOW shared_buffers;
SHOW work_mem;
SHOW maintenance_work_mem;
SHOW autovacuum_work_mem;
SHOW max_connections;

shared_buffersЭто общий кэш PostgreSQL, выделяемый при запуске сервера. work_memЭто бюджет на каждую операцию запроса для сортировки и хеш-таблиц, а не ограничение для всего сервера; один запрос может использовать несколько таких операций, и множество соединений могут выполнять их одновременно. Объем памяти, выделяемой для обслуживания и автоматической очистки, также может увеличиваться при запуске нескольких рабочих процессов обслуживания. Действие: сравните сконфигурированные значения с доступным объемом оперативной памяти, параллелизмом и количеством соединений Synapse, а не предполагайте, что наибольшее значение является наилучшим.

Используйте этот запрос, чтобы узнать, сколько клиентских сессий подключено и активны они или находятся в режиме ожидания:

SELECT application_name, state, count(*)
FROM pg_stat_activity
GROUP BY application_name, state
ORDER BY count(*) DESC;

Если ваша система поддерживает эту функцию, проверьте лимит памяти контейнера PostgreSQL и используйте его метрики или метрики процессов и cgroup хоста. Суммирование резидентной памяти между процессами PostgreSQL может привести к завышению подсчета общих страниц. Действие: используйте общий учет памяти контейнера или хоста для проверки нехватки памяти, а затем используйте статистику подключений и запросов, чтобы определить вероятный источник проблемы.

Выбирайте изменения, основываясь на имеющихся данных.

Если объем памяти, используемой для выполнения запросов, резко возрастает в периоды высокой нагрузки.

Сначала проведите анализ work_mem. Высокое значение может потреблять значительный объем памяти, когда одновременно выполняются несколько операций сортировки или хеширования при выполнении нескольких запросов. Уменьшайте его осторожно, если измерения показывают, что параллельное выполнение запросов увеличивает использование памяти; компромисс заключается в том, что большие операции могут переноситься во временные файлы и выполняться медленнее. Избегайте копирования общих значений с другого сервера, поскольку нагрузка на Synapse и версия PostgreSQL имеют значение.

В документации PostgreSQL shared_buffersв качестве основного разделяемого кэша указывается около 25% оперативной памяти, что является разумной отправной точкой только для выделенного сервера баз данных с объемом оперативной памяти не менее 1 ГБ. Также отмечается, что выделение более 40% вряд ли поможет большинству рабочих нагрузок, поскольку PostgreSQL также использует кэш операционной системы. Действие: используйте эти цифры в качестве контекста, а не целевого значения для общего хоста Synapse; если разделяемые буферы уже занимают большую часть общей памяти, оцените меньшее значение во время планового перезапуска.

Если основной проблемой является количество подключений

Проверьте значения параметров Synapse в database.args.cp_minфайлах конфигурации рабочих процессов. В руководстве по Synapse PostgreSQL эти параметры указаны как минимальный и максимальный размер пула соединений. При наличии множества рабочих процессов, каждый из которых имеет свой пул, общее количество возможных соединений может быть значительно больше значения, указанного в одном файле. Снижение размера пула может ограничить количество одновременно работающих бэкэндов баз данных и объем используемой ими памяти, но слишком маленький пул может привести к тому, что запросы будут ожидать подключения.cp_maxhomeserver.yamlcp_max

database:
  name: psycopg2
  args:
    user: synapse_user
    password: "use-a-secret-store-or-protected-config"
    dbname: synapse
    host: 127.0.0.1
    port: 5432
    cp_min: 2
    cp_max: 5

Приведенные выше значения носят лишь иллюстративный характер и не являются универсальной рекомендацией. Подсчитайте количество пулов в основном процессе и во всех рабочих процессах, оставив запас для администрирования, миграций, мониторинга и других клиентов. PostgreSQL выделяет часть ресурсов на основе max_connections, поэтому повышение этого лимита «на всякий случай» может увеличить базовое давление на память. Действие: ограничьте количество пулов Synapse до уровня, необходимого для измеренной вами параллельной обработки, и убедитесь, что лимит подключений PostgreSQL имеет достаточно места для всех служб, а также для административного доступа.

Если техническое обслуживание или автопылесос совпадают с пиковыми значениями

PostgreSQL может выделять память для обслуживания таблиц во время операций очистки и индексирования. Память для автоматической очистки может выделяться для каждого отдельного обработчика, поэтому большое количество таких обработчиков в сочетании с несколькими может привести к увеличению пиковой нагрузки. Не отключайте автоматическую очистку для уменьшения объема памяти: она выполняет необходимое обслуживание таблиц. Действие: изучите журналы и активность во время пика, затем внесите корректировки maintenance_work_mem, autovacuum_work_memесли эти операции подтвержденно влияют на использование памяти.

Внесите изменения и проверьте результат.

Сначала создайте резервные копии конфигурации PostgreSQL и Synapse. Изменяйте переменные или ограничения пула по одной, надежно сохраните существующие учетные данные и используйте путь к конфигурации, соответствующий вашему пакету или контейнеру. Некоторые параметры PostgreSQL, включая shared_buffersи max_connections, требуют перезапуска сервера; перезагружаемые настройки можно применить с помощью поддерживаемого PostgreSQL механизма перезагрузки. Перед тем как считать, что перезагрузка применила настройку, проверьте ее контекст.

После внесения изменений отслеживайте пиковые значения использования памяти, события подкачки и нехватки памяти, активные соединения, задержку запросов, активность временных файлов и задержки запросов Synapse в течение репрезентативного периода высокой загрузки. Изменение полезно, если оно снижает нагрузку на память без возникновения длительных ожиданий соединения, замедления запросов или увеличения очереди запросов. Если Synapse, а не PostgreSQL, потребляет оперативную память, настройте поведение кэша Synapse и количество рабочих процессов отдельно; настройки PostgreSQL не исправят проблему с памятью, занимаемой рабочими процессами Python.

Не следует устанавливать значение, work_memравное объему всей оперативной памяти сервера, увеличивать его max_connectionsбез подсчета общего объема пула или отключать автоматическую очистку в качестве универсального решения. Если объем используемой памяти остается высоким, собирайте метрики в пиковые периоды и анализируйте фактически выполняемые запросы и источники подключений, прежде чем добавлять оборудование или вносить существенные изменения в конфигурацию.

Официальные ссылки

Оставить комментарий

Снижение нагрузки на память PostgreSQL в Matrix Synapse

Определите, связана ли нехватка памяти в PostgreSQL с выполнением запросов, использованием общих буферов, соединениями или обслуживанием, а затем внесите целенаправленные изменения, безопасные для Synapse.

Почему соединение комнат в Matrix Synapse происходит медленно — и что следует проверить

Почему соединение комнат в Matrix Synapse происходит медленно — и что следует проверить

Перед изменением настроек Synapse отследите медленные подключения к комнатам Matrix до одного из удаленных домашних серверов, задержки федерации, загрузки локальной базы данных или исходящей очереди отправителя.

Закройте регистрацию в Matrix или требуйте токены приглашения в Synapse.

Прекратите создание новых учетных записей на собственном сервере Synapse или сделайте регистрацию доступной только по приглашениям с использованием регистрационных токенов ограниченного действия.

Предупреждение о проверке подлинности сессии элемента: проверьте свои данные для входа в систему безопасно.

Предупреждение Clear Element о непроверенной сессии при использовании доверенного устройства или ключа восстановления, а также проверки, защищающие вашу зашифрованную историю чата.

Предотвратите тайм-ауты блокировки файлов в ownCloud с помощью подходящей серверной части.

Различите конфликты блокировок базы данных от истекших блокировок WebDAV, затем выберите и настройте подходящее решение для ownCloud 10.

Что проверить, если при открытии веб-страницы ownCloud отображается пустая страница?

Что проверить, если при открытии веб-страницы ownCloud отображается пустая страница?

С помощью целенаправленных проверок можно выявить причину появления пустого экрана ownCloud Web: кэш браузера, отсутствующие веб-ресурсы, ошибки сервиса или настройки URL-адреса обратного прокси-сервера.

Устраните предупреждение о нехватке памяти PHP в ownCloud в соответствующей среде выполнения.

Установите ограничение на использование памяти PHP в веб-версии ownCloud, перезапустите соответствующий сервис и проверьте активное значение, не путая его с настройками CLI или ограничениями на загрузку.

Устранение неполадок с подключением к MySQL в ownCloud 10

Выясните, блокируют ли ownCloud 10 MySQL, PHP, настройки сокетов или права доступа к базе данных, а затем проверьте, можно ли устранить проблему безопасным способом.

Установите жесткий лимит истечения срока действия для публичных ссылок ownCloud.

Установите жесткий лимит истечения срока действия для публичных ссылок ownCloud.

Сделайте обязательным истечение срока действия публичных ссылок в ownCloud Classic, установите максимальный срок действия и проверяйте существующие общие ресурсы, которые могут потребовать отдельной очистки.

Добавьте двухфакторную аутентификацию TOTP в ownCloud Infinite Scale с помощью Keycloak.

Добавьте двухфакторную аутентификацию TOTP в ownCloud Infinite Scale с помощью Keycloak.

Включите TOTP через Keycloak, безопасно регистрируйте пользователей и понимайте, когда применяются настройки многофакторной аутентификации на уровне маршрутов Infinite Scale.