doi: 10.17586/2226-1494-2023-23-5-1030-1040


УДК 004.852

Доверительные липшицевы классификаторы: инструмент гарантированной надежности

Тимофеев А.В.


Читать статью полностью 
Язык статьи - русский

Ссылка для цитирования:
Тимофеев А.В. Доверительные липшицевы классификаторы: инструмент гарантированной надежности // Научно-технический вестник информационных технологий, механики и оптики. 2023. Т. 23, No 5. С. 1030–1040. doi: 10.17586/2226-1494-2023-23-5-1030-1040


Аннотация
Введение. Предложен новый метод гарантированного решения задачи мультиклассовой классификации стохастических объектов. Метод. В рамках разработанного подхода результат классификации представляет собой конечное множество индексов классов, которое с заданным начальным коэффициентом доверия содержит индекс того класса, которому соответствует классифицируемый объект. При этом классификация реализована на базе использования классификатора нового типа, который назван доверительным липшицевым классификатором. Основные результаты. Дано определение доверительного липшицева классификатора и изучены его основные свойства. В том числе исследовано свойство гарантированной надежности классификации, которое выражено в построении доверительного множества ограниченного размера, которое содержит индекс истинного класса с наперед заданным коэффициентом доверия. Приведен случай ассамблеи липшицевых классификаторов, свойства которой оформлены в виде теоремы. Рассмотрен практически важный пример использования предложенного подхода в задачах компенсации динамики шумового процесса в каналах оптоволоконной системы мониторинга. Обсуждение. Разработанный подход перспективен для применения в тех классификационных задачах, в которых число классов имеет порядок выше второго. В том числе в широкомасштабных системах биометрической идентификации личности, а также в многоканальных системах мониторинга протяженных объектов.

Ключевые слова: доверительный липшицев классификатор, машинное обучение, гарантированная надежность, оптоволоконная система мониторинга

Список литературы
  1. Korotaev V.V., Denisov V.M., Timofeev A.V. Analysis of seismoacoustic activity based on using optical fiber classifier // Proc. of the Latin America Optics and Photonics Conference. OSA, 2014. P. LM4A.22. https://doi.org/10.1364/LAOP.2014.LM4A.22
  2. Aktas M., Akgun T., Demircin M.U., Buyukaydin D. Deep learning based multi-threat classification for phase-OTDR fiber optic distributed acoustic sensing applications // Proceedings of SPIE. 2017. V. 10208. P. 102080G. https://doi.org/10.1117/12.2262108
  3. Korotaev V.V., Denisov V.M., Rodrigues J.J.P.C., Serikova M.G., Timofeev A. Monitoring of deep-sea industrial facilities using fiber optic cable // Proceedings of SPIE. 2015. V. 9525. P. 95253Q. https://doi.org/10.1117/12.2184741
  4. Timofeev A.V., Denisov V.M. Multimodal heterogeneous monitoring of super-extended objects: modern view // Studies in Systems, Decision and Control. 2016. V. 62. P. 97–116. https://doi.org/10.1007/978-3-319-32525-5_6
  5. Тимофеев А.В., Грознов Д.И. Классификация источников сейсмоакустической эмиссии в оптоволоконных системах мониторинга протяжённых объектов // Автометрия. 2020. Т. 56. № 1. С. 59–73. https://doi.org/10.15372/AUT20200107
  6. Timofeev A.V. The guaranteed estimation of the Lipschitz classifier accuracy: Confidence set approach // Journal of the Korean Statistical Society. 2012. V. 41. N 1. P. 105–114. https://doi.org/10.1016/j.jkss.2011.07.005
  7. Von Luxburg U., Bousquet O. Distance-based classification with Lipschitz functions // Journal of Machine Learning Research. 2009. V. 5. P. 669–695.
  8. Fazlyab M., Robey A., Hassani H., Morari M., Pappas G.J. Efficient and accurate estimation of Lipschitz constants for deep neural networks // NIPS'19: Proc. of the 33rd International Conference on Neural Information Processing Systems. 2019. P. 11427–11438.
  9. Latorre F., Rolland P., Cevher V. Lipschitz constant estimation of Neural Networks via sparse polynomial optimization // Proc. of the 8th International Conference on Learning Representations (ICLR 2020).
  10. Вапник В.Н., Червоненкис А.Я. Теория распознавания образов: Статистические проблемы обучения. М.: Наука, 1974. 415 с.
  11. Advances in Large Margin Classifiers / ed. by A. Smola, P. Barlett, B. Scholkopf, D. Schuurmans. MIT Press, 2000. 412 p.
  12. Hein M., Bousquet O., Schölkopf B. Maximal margin classification for metric spaces // Journal of Computer and System Sciences. 2005. V. 71. N 3. P. 333–359. https://doi.org/10.1016/j.jcss.2004.10.013
  13. Bennett K.P., Bredensteiner E.J. Duality and geometry in SVM classifiers // Proc. of the International Conference on Machine Learning (ICML). 2000. P. 57–64.
  14. Arens R., Eells J. On embedding uniform and topological spaces // Pacific Journal of Mathematics. 1956. V. 6. N 3. P. 397–403. https://doi.org/10.2140/pjm.1956.6.397
  15. Hein M., Bousquet O. Maximal margin classification for metric space // Lecture Notes in Computer Science. 2003. V. 2777. P. 72–86. https://doi.org/10.1007/978-3-540-45167-9_7
  16. Breiman L. Bagging predictors // Machine Learning. 1996. V. 24. N 2. P. 123–140. https://doi.org/10.1007/bf00058655
  17. Rangel P., Lozano F., García E. Boosting of support vector machines with application to editing // Proc. of the 4nd International Conference on Machine Learning and Applications (ICMLA’05). 2005. https://doi.org/10.1109/icmla.2005.13


Creative Commons License

This work is licensed under a Creative Commons Attribution-NonCommercial 4.0 International License
Информация 2001-2024 ©
Научно-технический вестник информационных технологий, механики и оптики.
Все права защищены.

Яндекс.Метрика