Меню
Публикации
2026
2025
2024
2023
2022
2021
2020
2019
2018
2017
2016
2015
2014
2013
2012
2011
2010
2009
2008
2007
2006
2005
2004
2003
2002
2001
Главный редактор
НИКИФОРОВ
Владимир Олегович
д.т.н., профессор
Партнеры
doi: 10.17586/2226-1494-2026-26-3-532-543
УДК 004.056
Метод выявления вредоносных роботов в задаче коллективного восприятия окружающей среды
Читать статью полностью
Язык статьи - русский
Ссылка для цитирования:
Аннотация
Ссылка для цитирования:
Зикратов И.А., Зикратова Т.В. Метод выявления вредоносных роботов в задаче коллективного восприятия окружающей среды // Научно-технический вестник информационных технологий, механики и оптики. 2026. Т. 26, № 3. С. 532–543. doi: 10.17586/2226-1494-2026-26-3-532-543
Аннотация
Введение. Многовариантное коллективное принятие решений в мультиагентных робототехнических системах является сложной задачей роевого интеллекта. Особенности архитектуры гомогенных групп роботов с децентрализованным управлением и ограниченные способности отдельных агентов предоставляют возможность злоумышленникам для внедрения и использования в составе роя вредоносных роботов. Вредоносные роботы применяют различные стратегии поведения и создают условия для принятия ошибочного решения в процессе достижения консенсуса. Предлагается метод, позволяющий выявить вредоносных роботов в процессе выполнения роем задачи картографирования исходной сцены. Метод. Предложенный подход решает задачу выявления в составе роя вредоносных роботов, независимо от используемой ими стратегии поведения. Метод основан на гипотезе, что статистические характеристики локальных карт, полученные исправными роботами, соответствуют статистическим характеристикам исходной сцены, и не соответствуют характеристикам локальных карт вредоносных роботов. В качестве атрибутов для распознавания предложены частотные гистограммы атрибутов исследуемого объекта, которые формируются при анализе локальных карт. Решение задачи распознавания осуществляется наивным байесовским классификатором. Такой подход позволяет обеспечить высокие показатели качества распознавания за счет выявления статистически значимой разницы гистограмм локальных карт исправных и вредоносных роботов. Основные результаты. Проведена оценка показателей качества разрабатываемого алгоритма для различных типов сцены. Выполнена серия испытаний, в которых для единых исходных данных оценивалась вероятность правильного определения вредоносных роботов, использующих различные стратегии поведения. Показано, что при предварительном обучении байесовского классификатора на сцене с идентичными статистическими характеристиками ошибка второго рода снижается до минимальных значений. Определение ошибки второго рода критически важно для исключения ситуации, когда к коррективному обсуждению решения могут быть допущены вредоносные агенты. Обсуждение. Предложенный алгоритм отличается высокой степенью абстракции, что позволяет рассматривать его использование в широком круге задач коллективного восприятия окружающей среды при наличии преднамеренных вредоносных информационных воздействий.
Ключевые слова: групповая робототехника, коллективное восприятие, вредоносные роботы, безопасность мультиагентных систем, распознавание образов
Список литературы
Список литературы
1. Sailor M.J., Link J.R. “Smart dust”: nanostructured devices in a grain of sand // Chemical Communications. 2005. V. 11. P. 1375–1385. doi: 10.1039/b417554a
2. Каляев И.А., Гайдук А.Р., Капустян С.Г. Модели и алгоритмы коллективного управления в группах роботов. М.: Физматлит, 2009. 280 с.
3. Городецкий В.И. Поведенческие модели кибер-физических систем и групповое управление: основные понятия // Известия ЮФУ. Технические науки. 2019. № 1 (203). С. 144–162. doi:10.23683/2311-3103-2019-1-144-162
4. Valentini G., Brambilla D., Hamann H., Dorigo M. Collective perception of environmental features in a robot swarm // Lecture Notes in Computer Science. 2016. V. 9882. P. 65–76. doi:10.1007/978-3-319-44427-7_6
5. Valentini G., Hamann H., Dorigo M. Self-organized collective decision making: The weighted voter model // Proc. of the 13th International Conference on Autonomous Agents and Multiagent Systems. 2014. P. 45–52. doi:10.65109/mdde7348
6. Valentini G., Ferrante E., Hamann H., Dorigo M. Collective decision with 100 Kilobots: Speed versus accuracy in binary discrimination problems // Autonomous Agents and Multi-Agent Systems. 2015. V. 30. N 3. P. 553–580. doi: 10.1007/s10458-015-9323-3
7. Castellano C., Fortunato S., Loreto V. Statistical physics of social dynamics // Reviews of Modern Physics. 2009. V. 81. N 2. P. 591–646. doi: 10.1103/revmodphys.81.591
8. Зикратов И.А., Зикратова Т.В., Новиков Е.А. Реализация стратегии коллективного восприятия в самоорганизующейся роевой системе с использованием байесовского решающего правила // Труды учебных заведений связи. 2025. Т. 11. №3. С. 108‒118. doi: 10.31854/1813-324X-2025-11-3-108-118
9. Basan A.S., Basan E.A., Makarevich O.B. Analysis of ways to secure group control for autonomous mobile robots // Proc. of the 10th International Conference on Security of Information and Networks. 2017. P. 134–139. doi: 10.1145/3136825.3136879
10. Рябцев С.С. Метод выявления вредоносных роботов на основе данных процесса коллективного принятия решений в роевых робототехнических системах // Системы управления, связи и безопасности. 2022. № 3. С. 105–137. doi: 10.24412/2410-9916-2022-3-105-137
11. Zikratov I.A., Lebedev I.S., Gurtov A.V., Kuzmich E.V. Securing swarm intellect robots with a police office model // Proc. of the IEEE 8th International Conference on Application of Information and Communication Technologies (AICT). 2014. P. 1–5. doi: 10.1109/icaict.2014.7035906
12. Guan X., Yang Y., You J. POM-a mobile agent security model against malicious hosts // Proc. of the 4th International Conference/Exhibition on High Performance Computing in the Asia-Pacific Region. 2000. V. 2. P. 1165–1166. doi: 10.1109/hpc.2000.843621
13. Page J., Zaslavsky A., Indrawan M. A buddy model of security for mobile agent communities operating in pervasive scenarios // Proc. of the 2nd Australasian Information Security Workshop. 2004. P. 17–25.
14. Зикратов И.А., Гуртов А.В., Зикратова Т.В., Козлова Е.В. Совершенствование policeofficemodelдля обеспечения безопасности роевых робототехнических систем // Научно-технический вестник информационных технологий, механики и оптики. 2014. № 5 (93). С. 99–109.
15. Schillo M., Funk P., Rovatsos M. Using trust for detecting deceitful agents in artificial societies // Applied Artificial Intelligence. 2000. V. 14. N 8. P. 825–848. doi: 10.1080/08839510050127579
16. Зикратов И.А., Викснин И.И., Зикратова Т.В., Шлыков А.А., Медведков Д.И. Модель безопасности мобильных робототехнических систем с коллективным управлением // Научно-технический вестник информационных технологий, механики и оптики. 2017. Т. 17. №3. С. 439–449. doi: 10.17586/2226-1494-2017-17-3-439-449
17. Strobel V., Dorigo M. Blockchain technology for robot swarms: A shared knowledge and reputation management system for collective estimation // Proc. of the ANTS 2018 11th International Conference. 2018. P. 425.
18. Shan Q., Mostaghim S. Discrete collective estimation in swarm robotics with distributed Bayesian belief sharing // Swarm Intelligence. 2021. V. 15. N 4. P. 378–405. doi:10.1007/s11721-021-00201-w
