Меню
Публикации
2026
2025
2024
2023
2022
2021
2020
2019
2018
2017
2016
2015
2014
2013
2012
2011
2010
2009
2008
2007
2006
2005
2004
2003
2002
2001
Главный редактор
НИКИФОРОВ
Владимир Олегович
д.т.н., профессор
Партнеры
doi: 10.17586/2226-1494-2026-26-4-844-850
УДК 004.89
Автоматическая оптимизация промпта с помощью метода дистилляции
Читать статью полностью
Язык статьи - английский
Ссылка для цитирования:
Аннотация
Ссылка для цитирования:
Журавлев В.Н., Хайруллин А.Р., Дягин Э.А., Ситкина А.Н., Кулин Н.И. Автоматическая оптимизация промпта с помощью метода дистилляции // Научно-технический вестник информационных технологий, механики и оптики. 2026. Т. 26, № 4. С. 844–850 (на англ. яз.). doi: 10.17586/2226-1494-2026-26-4-844-850
Аннотация
Автопромптинг — процесс автоматического подбора оптимизированных промптов к языковым моделям, который набирает популярность в связи с быстрым развитием промпт инжиниринга, обусловленного многочисленными исследованиями в области больших языковых моделей. В работе представлен DistillPrompt — новый метод автопромптинга на основе больших языковых моделей, использующий многоступенчатое внедрение информации о задаче в промпт с применением тренировочной выборки. Разработанный метод использует операции дистилляции, сжатия, агрегации для более глубокого исследования пространства промптов. DistillPrompt протестирован на различных наборах данных по задачам классификации и генерации текста с применением языковых моделей t-lite-instruct-2.1, gpt-3.5-turbo and gpt-4o-mini. Предложенный метод показывает в среднем значительный прирост метрик относительно текущих методов в данной области. Представленный подход является одним из самых эффективных вариантов автопромптинга на основе эволюционных алгоритмов.
Ключевые слова: БЯМ, автоматический промптинг, дистилляция промпта, промптинг, промпт-инжиниринг
Список литературы
Список литературы
1. Kadavath S., Conerly T., Askell A., Henighan T., Drain D., Perez E., et al. Language models (mostly) know what they know // arXiv. 2022. arXiv:2207.05221. doi: 10.48550/arXiv.2207.05221
2. Wei J., Bosma M., Zhao V.Y., Guu K., Yu A.W., Lester B., et al. Finetuned language models are zero-shot learners // arXiv. 2021. arXiv:2109.01652. doi: 10.48550/arXiv.2109.01652
3. Brown T.B., Mann B., Ryder N., Subbiah M., Kaplan J., Dhariwal P., Neelakantan A., et al. Language models are few-shot learners // arXiv. 2020. arXiv:2005.14165. doi: 10.48550/arXiv.2005.14165
4. Wei J., Wang X., Schuurmans D., Bosma M., Ichter B., Xia F., et al. Chain-of-thought prompting elicits reasoning in large language models // Proc. of the 36th International Conference on Neural Information Processing Systems. 2022. P. 24824–24837.
5. Li Z., Peng B., He P., Galley M., Gao J., Yan X. Guiding large language models via directional stimulus prompting // Proc. of the 37th International Conference on Neural Information Processing Systems. 2023. P. 62630–62656.
6. Liu R., Geng J.,WuA.J., Sucholutsky I., Lombrozo T., Griffiths T.L. Mind your step (by step): chain-of-thought can reduce performance on tasks where thinking makes humans worse // Proc. of the 42nd International Conference on Machine Learning. 2025. P. 38489–38517.
7. Guo D., Yang D., Zhang H., Song J., Wang P., Zhu Q., et al. DeepSeek-R1 incentivizes reasoning in LLMs through reinforcement learning // Nature. 2025. V. 645. N 8081. P. 633–638. doi: 10.1038/s41586-025-09422-z
8. Zhou Y., Muresanu A.I., Han Z., Paster K., Pitis S., Chan H., et al. Large language models are human-level prompt engineers // Proc. of the 11th International Conference on Learning Representations. 2023.
9. Shin T., Razeghi Y., Logan R.L., Wallace E., Singh S. Autoprompt: Eliciting knowledge from language models with automatically generated prompts // Proc. of the Conference on Empirical Methods in Natural Language Processing Proceedings of the Conference (EMNLP-2020). 2020. P. 4222–4235.
10. Prasad A., Hasa P., Zhou X., Bansal M. Grips: Gradient-free, edit-based instruction search for prompting large language models // Proc. of the 17th Conference of the European Chapter of the Association for Computational Linguistics. 2023. P. 3845–3864. doi: 10.18653/v1/2023.eacl-main.277
11. Pryzant R., Iter D., Li J., Lee Y., Zhu C., Zeng M. Automatic prompt optimization with" gradient descent" and beam search // Proc. of the Conference on Empirical Methods in Natural Language Processing. 2023. P. 7957–7968. doi: 10.18653/v1/2023.emnlp-main.494
12. Li L., Zhang Y., Chen L. Prompt distillation for efficient llm-based recommendation // Proc. of the 32nd ACM International Conference on Information and Knowledge Management. 2023. P. 1348–1357. doi: 10.1145/3583780.3615017
13. Yao S., Yu D., Zhao J., Shafran I., Griffiths T., Cao Y., et al. Tree of thoughts: Deliberate problem solving with large language models // Proc. of the 37th International Conference on Neural Information Processing Systems. 2023. P. 11809–11822.
