moitvivt Моделирование, оптимизация и информационные технологии Modeling, Optimization and Information Technology 2310-6018 Издательство 10.26102/2310-6018/2026.57.6.007 2283 Применение мультиагентных систем в задачах распределенной оптимизации Application of multi-agent systems in distributed optimization problems Азарнова Татьяна Васильевна Azarnova Тatyana Vasilevna ivdas92@mail.ru aff-1 Калишкин Евгений Олегович Kalishkin Evgeny Olegovich e2697517@gmail.com aff-2 Воронежский государственный университет Voronezh State University Воронежский государственный университет Voronezh State University 01 01 2026 1 1 10.26102/2310-6018/2026.57.6.007 Copyright © Авторы, 2026 2026 This work is licensed under a Creative Commons Attribution 4.0 International License

В данной статье проводится систематизация и детальный анализ современных методов распределенной оптимизации в мультиагентных системах (МАС). Мультиагентные подходы, определяемые как совокупность взаимодействующих автономных вычислительных сущностей, становятся критически востребованными в условиях, когда централизованная обработка данных невозможна из-за масштабов задач, жестких требований к скорости реакции или необходимости обеспечения приватности локальной информации. Цель работы заключается в комплексном исследовании ключевых подходов к децентрализованной оптимизации и выявлении фундаментальных факторов, определяющих их вычислительную эффективность, устойчивость к сбоям и практическую применимость. В рамках исследования подробно рассмотрены пять основных классов алгоритмов: консенсусный градиентный спуск (DGD), методы отслеживания градиента (Gradient Tracking), распределенный метод чередующихся направлений множителей (ADMM), а также современные стохастические и коммуникационно-эффективные подходы, включая Local SGD и FedAvg. В статье детально проанализированы системные ограничения, накладываемые топологией графа связности, алгоритмами компрессии данных и строгими требованиями дифференциальной приватности. Раскрыты ключевые теоретические и практические аспекты построения оптимальных процедур на основе сбалансированного сочетания архитектуры сети, характера локальных функций стоимости и доступной пропускной способности каналов связи. Сформулированы рекомендации по выбору конкретных алгоритмических решений в зависимости от специфики прикладной среды.

This paper systematizes and provides a detailed analysis of modern distributed optimization methods in multi-agent systems (MAS). Multi-agent approaches, defined as a set of interacting autonomous computing entities, are becoming critically in demand when centralized data processing is impossible due to the scale of problems, strict response time requirements, or the need to ensure the privacy of local information. The goal of the work is to comprehensively investigate key approaches to decentralized optimization and identify the fundamental factors that determine their computational efficiency, fault tolerance, and practical applicability. Within the framework of the study, five main classes of algorithms are considered in detail: consensus gradient descent (DGD), gradient tracking methods, the distributed alternating direction method of multipliers (ADMM), as well as modern stochastic and communication-efficient approaches, including Local SGD and FedAvg. The paper thoroughly analyzes systemic limitations imposed by the connectivity graph topology, data compression algorithms, and strict differential privacy requirements. Key theoretical and practical aspects of constructing optimal procedures based on a balanced combination of network architecture, the nature of local cost functions, and available communication channel bandwidth are revealed. Recommendations for choosing specific algorithmic solutions depending on the specifics of the application environment are formulated.

 мультиагентные системы распределенная оптимизация консенсусный градиентный спуск отслеживание градиента коммуникационная эффективность топология графа дифференциальная приватность multi-agent systems distributed optimization consensus gradient descent gradient tracking communication efficiency graph topology differential privacy Исследование выполнено без спонсорской поддержки. The study was performed without external funding. References Yang T., Yi X., Wu J., et al. A survey of distributed optimization. Annual Reviews in Control. 2019;47:278–305. https://doi.org/10.1016/j.arcontrol.2019.05.006 Li J., Su H. Gradient Tracking: A Unified Approach to Smooth Distributed Optimization. arXiv. URL: https://arxiv.org/abs/2202.09804 [Accessed 25th December 2025]. Yuan K., Ying B., Zhao X., et al. Exact Diffusion for Distributed Optimization and Learning – Part I: Algorithm Development. arXiv. URL: https://arxiv.org/abs/1702.05122 [Accessed 25th December 2025]. Boyd S., Parikh N., Chu E., et al. Distributed optimization and statistical learning via the alternating direction method of multipliers. Foundations and Trends® in Machine Learning. 2011;3(1):1–122. https://doi.org/10.1561/2200000016 Halsted T., Shorinwa O., Yu J., et al. A survey of distributed optimization methods for multi-robot systems. arXiv. URL: https://arxiv.org/abs/2103.12840 [Accessed 25th December 2025]. McMahan B., Moore E., Ramage D., et al. Communication-efficient learning of deep networks from decentralized data. In: Proceedings of the 20th International Conference on Artificial Intelligence and Statistics (AISTATS 2017), 20–22 April 2017, Fort Lauderdale, FL, USA. PMLR; 2017. P. 1273–1282. Wang Y., Lin H., Lam J., et al. Differentially private consensus and distributed optimization in multi-agent systems: A review. Neurocomputing. 2024;597:127986. https://doi.org/10.1016/j.neucom.2024.127986 Alistarh D., Grubic D., Li J., et al. QSGD: Communication-efficient SGD via gradient quantization and encoding. In: Advances in Neural Information Processing Systems 30: Annual Conference on Neural Information Processing Systems, 04–09 December 2017, Long Beach, CA, USA. 2017. P. 1709–1720. Koloskova A., Lin T., Stich S.U., et al. Decentralized deep learning with arbitrary communication compression. arXiv. URL: https://arxiv.org/abs/1907.09356 [Accessed 25th December 2025]. Yurdem B., Kuzlu M., Gullu M.K., et al. Federated learning: Overview, strategies, applications, tools and future directions. Heliyon. 2024;10(19):e38137. https://doi.org/10.1016/j.heliyon.2024.e38137 Wang Zh., Wang Ch., Wang J., et al. An accelerated exact distributed first-order algorithm for optimization over directed networks. Journal of the Franklin Institute. 2023;360(14):10706–10727. https://doi.org/10.1016/j.jfranklin.2023.08.015 Xin R., Pu Sh., Nedić A. A general framework for decentralized optimization with first-order methods. Proceedings of the IEEE. 2020;108(11):1869–1889. https://doi.org/10.1109/JPROC.2020.3024266 Lian X., Zhang C., Zhang H., et al. Can decentralized algorithms outperform centralized algorithms? A case study for decentralized parallel stochastic gradient descent. In: Advances in Neural Information Processing Systems 30: Annual Conference on Neural Information Processing Systems, 04–09 December 2017, Long Beach, CA, USA. 2017. P. 5330–5340. Nedic A., Ozdaglar A. Distributed subgradient methods for multi-agent optimization. IEEE Transactions on Automatic Control. 2009;54(1):48–61. https://doi.org/10.1109/TAC.2008.2009515

The authors declare that there are no conflicts of interest present.