Глубокие нейронные сети

Разработчики

Дж. Холфилд, Д. И. Румельхарт, С. И. Барцев, В. А. Охонин, Я. Лекун и др.

Описание технологии

Искусстввенная нейронная сеть — математическая модель, а также её программное или аппаратное воплощение, построенная по принципу организации и функционирования биологических нейронных сетей — сетей нервных клеток живого организма.

Нейронные сети не программируются в привычном смысле этого слова, они обучаются. Возможность обучения — одно из главных преимуществ нейронных сетей перед традиционными алгоритмами. Обучение происходит разными методами. По мере выполнения тысяч и тысяч обучающих заданий, нейронная сеть учится обнаруживать сложные взаимосвязи между входными и выходными данными, а также выполнять обобщение. Найденные нейронной сетью взаимосвязи фиксируются весовыми коэффициентами связей между нейронами. Схожим образом функционирует человеческий мозг (в котором роль весовых коэффициентов выполняет сила возбуждения живых нейронов).

Глубокая нейронная сеть (deep neural networks, DNN) — это искусственная нейронная сеть с глубиной больше двух слоев. Считается, что каждый следующий нейронный слой выучивает новый уровень абстракции данных.

В настоящее время глубокие нейронные сети, по-другому называемые искусственными нейронными сетями с глубоким обучением (deep learning), — это быстро развивающийся сегмент области знания, который связан с искусственным интеллектом и является катализатором развития самых разных отраслей, начиная от медицины и фармакологии и заканчивая автопилотируемыми автомобилями.

Практическое применение

За этой технологией огромное будущее, в том числе и в медицине, и связано оно с возможностью обучения нейронных сетей на поиск оптимальной терапии. После накопления достаточного количества данных (в частности, о раке и старении) и их обработки определенным способом, можно «натренировать» глубокие нейронные сети на поиск оптимальной терапии, а также на поиск новых лекарств. С помощью метода глубокого обучения планируется разрабатывать эффективные комбинации препаратов, которые замедляют развитие возраст-зависимых патологий или даже востанавливают повреждения. Конечной целью является победа над старением.

В медицине технология на стадии доклинических и клинических испытаний.

Лаборатории

• Deep Knowledge Ventures (Hong Kong)
• InSilicoMedicine (США)
• ПОНКЦ (Россия)
• NVIDIA (США)
• IDSIA (Dalle Molle Insliiule for Artificial Intelligence) (Switzerland)
• Culture Lab, Newcastle University (UK)
• IDEA Lab, Biomedical Research Imaging Center, UNC School of Medicine (USA)

Ссылки

Публикации

• Hinton, Geoffrey E., Simon Osindero, and Yee-Whye Teh. «A fast learning algorithm for deep belief nets." Neural computation 18.7 (2006): 1527–1554.
• Hinton, Geoffrey E. «Learning multiple layers of representation." Trends in cognitive sciences 11.10 (2007): 428–434.
• Cireşan, Dan C., et al. «Mitosis detection in breast cancer histology images with deep neural networks." Medical Image Computing and Computer-Assisted Intervention-MICCAI 2013. Springer Berlin Heidelberg, 2013. 411–418.
• Hammerla, Nils Yannick, et al. «PD Disease State Assessment in Naturalistic Environments Using Deep Learning." AAAI. 2015.
• Suk, Heung-Il, Dinggang Shen, and Alzheimer’s Disease Neuroimaging Initiative. «Deep Learning in Diagnosis of Brain Disorders." Recent Progress in Brain and Cognitive Engineering. Springer Netherlands, 2015. 203–213.
• Hahm, Seongjun, and Jun Wang. «Silent speech recognition from articulatory movements using deep neural network." Proc. of the International Congress of Phonetic Sciences. 2015.
• Барцев, С. И., В. А. Охонин. «Адаптивные сети обработки информации." Красноярск: Ин-т физики СО АН СССР (1986).
• LeCun, Yann, et al. «Backpropagation applied to handwritten zip code recognition." Neural computation 1.4 (1989): 541–551.