Судный день: «Мой центральный процессор — самообучающийся процессор на базе нейронных сетей»

truenorth-5Чипы TrueNorth, первый нейросинаптический процессор, работающий на принципах головного мозга и разработанные компанией IBM, будут обучены на данных, которые были сгенерированы человеческим мозгом. По мнению разработчиков нейроморфоного компьютера, структура которого основана на принципах организации головного мозга человека, процессоры смогут извлечь из массива данных смысл, сообщает Wired.

Компьютеры, принцип работы которых основан на принципах работы головного мозга, будоражили общественность, начиная со знаменитой фразы, произнесенной Арнольдом Шварценеггером в фильме Терминатор 2: Судный день: «Мой центральный процессор — самообучающийся процессор на базе нейронных сетей».

Понимая огромные перспективы этого направления, в последние годы многие группы ученых и инженеров работали над созданием электронных аналогов головного мозга и, что вполне предсказуемо, первой к финальной черте пришла компания IBM, проводившая исследовательские работы в рамках программы DARPA SyNAPSE. Представленный компанией первый нейросинаптический процессор TrueNorth может стать основой кардинальных изменений, которые затронут буквально все, начиная от смартфонов и заканчивая автомобилями-роботами. Кроме этого такой процессор может стать базой для построения масштабных нейронных сетей, вычислительная мощность которых приблизится к способностям головного мозга человека.

В состав нейросинаптического процессора TrueNorth входит миллион программируемых электронных нейронов и 256 миллионов программируемых синапсов, способных обеспечить передачу сигналов от одного нейрона к другому. Все эти элементы организованы в 4096 нейросинаптических вычислительных ядер, в состав которых входят вычислительные, коммуникационные модули и память. Все эти ядра способны работать параллельно, подобно тому, как работают различные участки головного мозга. Такая архитектура позволяет преодолеть узкое место традиционной архитектуры процессоров, которое не позволяет одновременно передавать инструкции и оперативные данные по одному и тому же пути.

«Мы еще не создали полный аналог мозга» — рассказывает доктор Дармендра Модха (Dharmendra Modha), основатель группы Cognitive Computing в компании IBM Research,— «Но мы приблизились практически вплотную к реализации масштабируемых вычислительных технологий, основанных на принципах работы мозга».

На чипе процессора TrueNorth, изготовленного по 28-нм технологии, содержится 5.4 миллиарда транзисторов, что делает этот процессор одним из самых больших CMOS-чипов, когда-либо разработанных и изготовленных людьми. При этом, во время произведения вычислений этот процессор потребляет всего 70 милливатт энергии. Таким образом, энергетический показатель чипа составляет 20 милливатт на квадратный сантиметр, это в 10 тысяч раз меньше, чем аналогичный параметр большинства современных микропроцессоров, и этот показатель уже в какой-то мере сопоставим с показателем головного мозга, который расходует всего 20 Ватт энергии.

«В буквальном смысле этот процессор можно назвать суперкомпьютером, размером с почтовую марку, легким как перышко и потребляющим энергию как слуховой аппарат» — рассказывает Дармендра Модха.

Причина такого низкого потребления энергии кроется в том, что вычисления внутри процессора производятся только по мере необходимости. Внутри процессора нет никаких таймеров, прерываний и прочих компонентов, которые нагружают его вычислительные ядра даже в моменты бездействия.

Архитектура, реализованная в процессоре TrueNorth, позволяет масштабирование системы до любого уровня сложности. В случае необходимости на кристалл чипа процессора может быть добавлено любое количество нейросинаптических вычислительных ядер, а в составе вычислительной системы можно будет использовать любое количество процессоров TrueNorth. И, проводя испытания, специалисты компании IBM проверяли технологии масштабирования на конфигурации с 16 процессорами.

В настоящее время специалисты компании IBM приступили к работам по созданию «экосистемы» из аппаратного и программного обеспечения, которая обеспечит использование новых процессоров TrueNorth в реальных вычислительных системах. Для этого будет разработан новый язык программирования и будет выпущена соответствующая литература, используя которую университеты и другие учреждения смогут начать подготовку специалистов, способных работать с нейросинаптическими вычислительными системами и исследовать горизонты применения этой технологии.

«Нашей конечной целью является создание „мозга в ящике“, который будет иметь 100 миллиардов синапсов и потреблять всего 1000 Ватт энергии» — рассказывает Дармендра Модха,— «Параллельно с этим мы будем заниматься адаптацией нейросинаптических процессоров, что позволит использовать их возможности в смартфонах, в компьютерах и в облачных вычислительных системах».

Чип имеет сходную с неокортексом архитектуру.

 

Все сегодняшние нейронные сети должны производить астрономическое количество операций, особенно при обучении. Зачастую это упирается в производительность. В реальном времени на одном устройстве можно решать только простые задачки. Распараллеливание на кластеры и видеокарты значительно ускоряют обработку (за счёт огромных вычислительных мощностей и большого энергопотребления). Но всё упирается в главную проблему архитектуры фон Неймана: память разнесена с блоками обработки. В настоящих нейронах всё по-другому: память сама выполняет обработку.

Если IBM начнёт выпуск таких процессоров, то многие задачи видеоаналитики можно будет решать напрямую на них. Самое простое, что приходит в голову — классификация объектов в видеопотоке (люди, автомобили, животные). Именно эту задачу IBM и продемонстрировало в качестве примера работы. В видеопотоке 400×240 30fps они выделяли людей, велосипедистов, машины, грузовики и автобусы. Машины-роботы в скором времени не будут требовать лидаров, пяток видеокамер с таким чипом — и вперёд.

Кстати, если считать производительность такого чипа в терафлопсах, то получится астрономическое число. Ведь, по сути, такой чип это 1 миллион процессоров, за один такт каждый из которых обрабатывает информацию с 256 каналов входа (ну, приблизительно).

Ливерморская национальная лаборатория (LLNL) на днях объявила о создании суперкомпьютера, принцип действия которого похож на работу мозга человека (в той мере, в какой ученые понимают основы функционирования этого органа). Система построена на основе чипа TrueNorth, имитирующего сеть из 16 миллионов нейронов с примерно 4 млрд синапсов. Конечно, до мозга человека такому компьютеру еще далеко (ведь у человека миллиарды нейронов), но эта модель все равно одна из самых мощных среди всех «мозгоподобных» ПК, когда-либо созданных человеком. Система умеет распознавать образы и решать различные вопросы так, как это делают люди.

В компьютере, созданном Ливерморской национальной лабораторией, установлено 16 TrueNorth чипов. Система получила название IBM Neuromorphic System. Использовать ее будут для изучения новых возможностей вычислительных систем, которые могут оказаться полезными Национальной администрации по ядерной безопасности. Специалисты проведут ряд тестов, которые покажут способности машины в отношении изучения окружающего мира, использования глубокого анализа и самообучения. Сама Лаборатория является «главной научно-исследовательской и опытно-конструкторской организацией для решения проблем национальной безопасности». Она отвечает за «безопасность и надёжность» ядерного оружия США, применяя в его разработках достижения современной науки и техники. Также Лаборатория занимается исследованиями в области наук, не связанных с оборонной деятельностью, таких как энергетика, экология и биология (в том числе биоинженерия).

«Нейроморфные вычисления открывают весьма впечатляющие новые возможности, и, в целом, эта сфера соответствует нашему видению будущего высокопроизводительных компьютерных систем», — говорит Джим Брейс (Jim Brase), один из руководителей проекта. «Потенциальные возможности нейроморфных вычислений и машинный интеллект помогут изменить то, как мы проводим научные исследования», — продолжает он.
Технология является качественно новой, очень сильно отличающейся от компьютерных технологий, доминировавших на рынке последние 70 лет. По словам участников проекта, на основе TrueNorth можно создавать системы в 50 раз более мощные, чем современные самые производительные суперкомпьютеры. При этом потреблять такие системы будут минимальное количество энергии и занимать небольшой объем (здесь также уместно сравнение с мозгом человека).

«Низкое энергопотребление таких систем отражает текущие потребности компьютерной индустрии и позволяет значительно снизить потребление энергии компьютерами будущего», — комментирует проект Майкл МакКой, еще один участник исследований.

TrueNorth потребляет гораздо меньше энергии и занимает меньше места, чем традиционные компьютерные системы. Отдельный чип TrueNorth, содержащий 5,4 млрд транзисторов, потребляет всего 70 мВт энергии. А процессор Intel с 1,4 млрд транзисторов потребляет от 35 до 140 Вт. Будущие версии TrueNorth могут быть значительно уменьшены до размера, который позволяет использовать такую систему в смартфоне или умных часах. У чипов TrueNorth есть и значительные преимущества перед GPU и FPGA. Корпорация IBM надеется, что TrueNorth станет тем фактором, который позволит компьютерным системам выйти на новый этап развития. Данные технологии могут использоваться не только для создания смартфонов или умных часов — нейроморфные чипы возможно использовать и в высокопроизводительных системах, устанавливаемых в дата-центрах.

Интересную аналогию проводят специалисты IBM с мозгом человека. Так, корпорация сравнивает обычные компьютерные системы с левым полушарием. Нейроморфные системы умеют находить отдельные паттерны в больших массивах данных и интерпретируют эту информацию как правое полушарие мозга. Возможно, в ближайшем будущем ученые смогут объединить возможности традиционных компьютеров и нейромфорных чипов, создав единую сверх-эффективную структуру.

По условиям договора Лаборатории и IBM, LLNL получает 16-чиповую TrueNorth систему с 16 миллионами нейронов и 4 млрд синапсов. Также Ливерморская национальная лаборатория получает всю необходимую экосистему для создания и управления энергоэффективными машинами, которые способны воспринимать информацию, познавать и действовать, как мозг человека. Экосистема включает симулятор, язык программирования, интегрированное программное окружение, библиотеку алгоритмов и приложений, прошивку, инструменты для составления нейросетей, обучающий курс, облачное окружение.

Корпорация IBM работает совместно с DARPA над созданием нейроморфных чипов (Systems of Neuromorphic Adaptive Plastic Scalable Electronics, SyNAPSE) уже много лет, реализация проекта началась еще в 2008 году. Цель — создание чипов и систем, работа которых была бы организована по принципу работы нейронов мозга животных (например, грызунов). Не так давно были представлены первые результаты работы по этому проекту.

Источник: Игорь Цесельский (professionali.ru/Soobschestva/it-specialisty/)

Источник: www.research.ibm.com