Перевод названия: OPTIMISATION OF CONVOLUTIONAL NEURAL NETWORK STRUCTURE WITH SELF-CONFIGURING EVOLUTIONARY ALGORITHM IN ONE IDENTIFICATION PROBLEM
Тип публикации: статья из журнала
Год издания: 2015
Ключевые слова: convolutional neural network, evolutionary algorithms, self-configuring, computer vision, machine learning, identification, сверточные нейронные сети, эволюционные алгоритмы, самоконфигурирование, компьютерное зрение, машинное обучение, идентификация
Аннотация: Развитие компьютерной техники открывает большие возможности для исследователей в области идентификации динамических систем, предлагая новые алгоритмы и возможности их комбинирования в сложные и мощные интеллектуальные информационные технологии. В последнее время особое внимание в области машинного обучения уделяется идентификации дПоказать полностьюинамических объектов, в частности, распознаванию образов в системах компьютерного зрения. Задачи компьютерного зрения возникают в различных областях: промышленность, системы охраны и наблюдения, системы сбора и обработки информации, системы взаимодействия компьютера с человеком и т. д. При решении задач машинного обучения широко и успешно применяются нейронные сети - компьютерные модели, основанные на сети нервных клеток живого организма. Использование классических нейронных сетей создает серьезные сложности при решении задач компьютерного зрения, так как они требуют значительных вычислительных и/или временных ресурсов для обучения, а также теряют важную информацию о топологии исходных данных. Для подобных задач была разработана разновидность нейронных сетей, названная сверточной нейронной сетью, которая входит в подраздел машинного обучения - глубокое обучение (deep learning). Сверточная нейронная сеть используется в качестве центральной технологии в данной работе. Она позволяет строить сложные иерархии признаков и на их основе проводить идентификацию объектов. Использование слоев субдискретизации обеспечивает инвариантность к масштабу изображения, а концепция разделяемых весовых коэффициентов позволяет значительно сократить количество параметров обучения, уменьшая время работы и вычислительную нагрузку. Использование стандартного метода обучения нейронной сети - обратного распространения ошибки - обладает определенными недостатками, которые частично устраняются с помощью использования эволюционного алгоритма оптимизации. Кроме того, качество решения задачи с помощью сверточной нейронной сети существенно зависит от ее структуры, которая тоже может стать объектом настройки с помощью эволюционных алгоритмов. В работе использован самоконфигурируемый генетический алгоритм SelfCGA для настройки структуры и весовых коэффициентов сверточной нейронной сети. Тестирование полученной системы было проведено на задаче идентификации возраста человека по фотографии. Computer technology development has opened great opportunities for researchers in the field of dynamic systems optimization offering new algorithms and ways of their combination into complex and powerful intelligent information technologies. A great interest in the field of machine learning has been given to dynamic objects identification and pattern recognition in computer vision systems in particular recently. Computer vision problems arise in various fields: industry, security and surveillance systems, data acquisition and processing systems, computer-human interaction systems, etc. Neural networks are widely and successfully used for solving machine learning tasks. Neural networks are computer models based on network of nerve cells of a living organism. Using classical neural network causes major difficulties for solving computer vision tasks as they require significant computational and/or time resources for learning as well as they lose important information about topology of the original data. For this kind of tasks a special type of neural network called convolutional neural network was developed. Convolutional neural network (CNN) is the part of subfield of machine learning called deep learning. CNN is used as the main technology in this paper. It allows to build complex hierarchies of features and perform objects identification based on them. Using of the pooling layers provides invariance to size of the image and concept of parameters sharing can significantly reduce the number of parameters that have to be adjusted and therefore save computational costs and time. Standard training method for neural network (back propagation) has certain weaknesses that can be partially eliminated by using a evolutionary optimization algorithm. The quality of the solution depends on the neural network structure, which can also be adjusted using evolutionary algorithms. In this paper, the self-configuring genetic algorithm SelfCGA is used for CNN's structure and weighting coefficients adjustment. Proposed system is tested on the task of age identification based on the person's photo.
Журнал: Вестник Сибирского государственного аэрокосмического университета им. академика М.Ф. Решетнева
Выпуск журнала: Т. 16, № 4
Номера страниц: 857-863
ISSN журнала: 18169724
Место издания: Красноярск
Издатель: Сибирский государственный аэрокосмический университет имени академика М.Ф. Решетнева