Программа

19.07.2015 Долгопрудный, МФТИ
12:00 Поселение
14:00 Приветственное слово. Организационное собрание (распорядок дня, правила поведения и соревнования)
15:00 Образование команд
17:00 Руслан Салахутдинов “Deep learning 1” (удаленно)(pdf)(аудио)
18:00 Руслан Салахутдинов “Deep learning 2” (удаленно)(pdf)(аудио)
19:00 ужин
20:00 Алексей ДосовицкийСверточные сети” (на месте) (pdf)
21:00 Разбор статьи DeepMind и настройки окружения
(пиратские слайды David’a Silver’a)
20.07.2015 Долгопрудный, МФТИ
16:00 Александр Жаворонков “Signaling pathway activation drift in cancer and aging: roadmap to using deep learning for biomarker discovery and drug repurposing” (на месте)
17:00 Terran Lane “Introduction to Reinforcement Learning” (удаленно)A brief introduction to the field of Reinforcement Learning for audiences who understand supervised and unsupervised learning, but have not had much exposure to RL. Topics will include the basic RL problem formulation; deferred reward; action under uncertainty; the Markov process (MDP) and partially observable MDP (POMDP) formulations; reward, value, and Q functions; model-based vs. model-free learning; Q learning; and challenges of partial observability. We’ll touch on the Google DeepMind RL system, as presented in the recent Nature paper (http://www.nature.com/nature/journal/v518/n7540/full/nature14236.html), as a concrete example instantiating some of these concepts.
21.07.2015 Долгопрудный, МФТИ
10:00 Yoshua BengioDeep Learning with Attention Mechanisms” (удаленно)What is the role of attention? Could some form of attention mechanism be useful in machine learning systems? We introduced a few months ago an attention mechanism in recurrent neural networks for neural machine translation in order to cope with the difficulty of handling long sequences of words in encoder-decoder neural machine translation architectures. Attention allows the network a kind of bypass to just the pieces of evidence that it needs to focus on in order to compute its next state or output. With early successes of this attention mechanism for machine translation, we decided to try the same idea (and almost the same code) on speech recognition, and later on caption generation, with surprising and quick success. In the long term, we conjecture that such mechanisms, applied to a very large set of memorized elements (and not just the words or the pixels in the current input), could be a key for bypassing the difficulty of learning very long term dependencies.
16:00 Максим Милаков “GPU и глубокое обучение” (на месте)High-performance GPUs are the foundational technology powering deep learning research and product development at universities and in industry. This talk will begin with a brief history of Deep Learning, explaining why NVIDIA GPUs together with large datasets are the key enablers for recent advances in the field. We will then look more deeply at how NVIDIA is investing in software and hardware advances to benefit Deep Learning, including cuDNN and other libraries, the DIGITS platform and technologies such as NVLink and FP16. Finally we will see how some of the major frameworks enable researchers to train DL models using GPUs to accelerate time to discovery.
17:00 Виталий Львович Дунин-Барковский “Нейроны и сети в СССР и в России 1” (на месте)Кибернетика и нейрофизиология. Неясность биофизики «нейронного возбуждения и торможения». Условные рефлексы и физиология высшей нервной деятельности. Теория возбудимых тканей. Моделирование дыхания. «Физиология синапсов». «The Cerebellum as a Neuronal Machine». Институт нейрокибернетики Ростовского университета. Простые сети импульсных нейронов. Распознавание образов. Персептрон и «Кора». Принцип компактности Айзермана-Бравермана-Розоноэра. Размерность Вапника-Червоненкиса. Теория Бриндли и Марра и теорема Минского. Шестиножка Гурфинкеля с соавторами. Оценки характеристик нейронных схем памяти. Точная теория нейронных сетей А.Н. Четаева и Б.Н. Холоденко. Постановки задач об обратном конструировании мозга. Всплеск нейробионики в СССР. Обратное распространение ошибок. Бум нейросетй в мире: INNS, ENNS, RNNS. Нейрокомпьютерный симпозиум: США-страны бывшего СССР. Теории Хопфилда. МИФИ: Ежегодные конференции по нейроинформатике 1999-2015. Deep Learning (DL). Мозжечок и полёты. DL++.
19:30 Juergen SchmidhuberDeep Learning RNNaissance” (удаленно)
20:30 Juergen Schmidhuber Вопросы и ответы (удаленно)
22.07.2015 Долгопрудный, МФТИ
16:00 Дмитрий Ветров “ЕМ-алгоритм и его обобщения в задачах обучения с неполной информацией” (на месте)
18:00 Thomas Unterthiner “Deep Learning for Drug Target Prediction” (удаленно)
19:00 Sridhar Mahadevan “Proximal gradient methods for Reinforcement Learning” (удаленно)We set forth a new vision of reinforcement learning developed by us over the past few years, one that yields mathematically rigorous solutions to longstanding important questions that have remained unresolved: (i) how to design reliable, convergent, and robust reinforcement learning algorithms (ii) how to guarantee that reinforcement learning satisfies pre-specified “safety” guarantees, and remains in a stable region of the parameter space (iii) how to design “off-policy” temporal difference learning algorithms in a reliable and stable manner, and finally (iv) how to integrate the study of reinforcement learning into the rich theory of stochastic optimization. In this paper, we provide detailed answers to all these questions using the powerful framework of proximal operators. (см. http://arxiv.org/abs/1405.6757)
20:00 Андрей Дергачев “Введение в проблематику построения систем анализа больших данных – мировых научных публикаций и патентов” (на месте)
23.07.2015 Долгопрудный, МФТИ
16:00 Сергей Плис “Машинное обучение в задачах нейровизуализации” (на месте)
17:00 Ирина Риш “Sparse models 1” (удаленно)
18:00 Ирина Риш “Sparse models 2” (удаленно)
19:00 Дмитрий Каминский “Виртуальные смарт машины” (на месте)
20:00 ужин
24.07.2015 Долгопрудный, МФТИ
12:00 Анатолий Левенчук “Нейронные сетки: покруче интернета” (на месте)
13:00 Форсайт
19:00 ужин
25.07.2015 Москва, ВДНХ (павильон №26)
10:00 Установка оборудования на стендах
12:00 Команды представляют свои результаты на стендах
16:00 Лекция Торстена Видеманна (AMAZE) “Игровые медиа: интерактивные технологии в создании компьютерных игр”
17:00 Лекция Сергея Плиса “Течения, рифы и мели глубокого обучения”
18:00 Турнир четверть финал
19:30 Турнир полуфинал
20:00 Турнир финал
20:30 Награждение победителей
21:00 Вечеринка (DJ AlexOgre, Twistboy, Snork 25, DJ Storno)
23:00 Занавес