IBM хочет ускорить обучение ИИ с помощью нового типа процессоров

отметили
8
человек
в архиве
IBM хочет ускорить обучение ИИ с помощью нового типа процессоров
Глубокие нейронные сети (Deep neural networks (DNNs)) можно научить почти чему угодно, в том числе, как побеждать нас в нами же придуманных играх. Проблема заключается в том, что обучение ИИ занимает время суперкомпьютеров или центров обработки данных, исчисляемое днями. Ученые компании IBM из Исследовательского центра Уотсона думают, что они могут сократить силы и время на обучения с помощью «резистивных устройств обработки данных» — пока еще, теоретические чипы, которые сочетают в себе центральный процессор и энергонезависимую память. Они могут улучшить скорость передачи данных в геометрической прогрессии, что приведет к появлению систем, которые смогут решать такие задачи, как «распознавания естественной речи и перевода между всеми мировыми языками»

Так почему надо так много вычислительной мощности и времени, чтобы научить ИИ чему-то? Проблема заключается в том, что современные нейронные сети, такие как DeepMind Google или IBM Watson должна выполнять миллиарды задач в параллельно. Это требует достаточно большого количества вызовов процессора к памяти, которые быстро достигают количества миллиарда циклов. Исследователи обсуждали возможность использования новых технологий хранения данных, таких как резистивной оперативной памяти, которая может постоянно хранить данные на DRAM-сравнимых скоростях. Тем не менее, в конце концов они пришли к идее нового типа чипа под названием- резистивный процессорный блок обработки данных (РПБОД — resistive processing unit (RPU) ), который содержит большое количество резистивной памяти непосредственно на CPU.

Такие чипы могли бы брать данные так быстро, как они могут обработать их, чем резко снижается время, нужное нейронной сети для обучения, а также питание. «Массивная параллельная архитектура RPU может достигнуть ускорения в 30000 раз по сравнению с самыми современными микропроцессорами. Задачи, которые в настоящее время требуют дней обучения в центрах обработки данных на кластере размером в тысячи машин, могут быть решены в течение нескольких часов на одном РПБОД ускорителе» —говорится в статье.
Добавил alex_murphy alex_murphy 30 Марта 2016
проблема (2)
Комментарии участников:
Ни одного комментария пока не добавлено


Войдите или станьте участником, чтобы комментировать