Тип публикации: статья из журнала
Год издания: 2025
Ключевые слова: большие языковые модели, уязвимость, атаки, механизмы защиты моделей, манипуляция поведением, проактивные стратегии
Аннотация: Работа исследует проблемы информационной безопасности, вызванные стремительным развитием и широким применением больших языковых моделей, демонстрирующих высокие результаты в генерации текста и решении сложных лингвистических задач. Выделяются ключевые вызовы в области безопасности данных, включая утечку конфиденциальной информации,Показать полностьюзлоупотребления и уязвимости. Проанализированы типы атак на LLM, такие как манипуляции запросами и извлечение данных, способные привести к нежелательным последствиям. Отмечается возрастающая сложность обеспечения безопасности ввиду совершенствования методов злоумышленников. Определены перспективы дальнейших исследований по созданию эффективных мер защиты и разработке надежных и безопасных LLM, отвечающих современным требованиям информационной безопасности.
Журнал: Научные высказывания
Выпуск журнала: № 9
Номера страниц: 35-39
ISSN журнала: 27823121
Место издания: Москва
Издатель: Румянцев Антон Алексеевич