+7 (900) 029-50-10 ДЮТТ
+7 (904) 808-60-10 Кванториум Челябинск
+7 (3519) 33-07-37 Кванториум Магнитогорск
+7 (351) 369-08-13 Кванториум Златоуст
+7 (35163) 2-45-85 Кванториум Троицк
+7 (351) 394-33-03 Кванториум Копейск
+7 (35160) 2-25-76 Кванториум Пласт
+7 (35134) 4-22-81 IT-Куб Южноуральск
+7 951 806 3486 IT-Куб Сатка
+7 (3519) 33-08-08 IT-Куб Магнитогорск
+7 951-787-67-82 IT-Куб Кыштым
+7 (35146) 92 716 IT-Куб Снежинск
+7 9000 670 186 IT-Куб Миасс
+7 (351) 218-11-16 IT-Куб Челябинск
+7 (919) 111-20-76 IT-Куб Трехгорный

Что новый процессор искусственного интеллекта нам готовит?

Что новый процессор искусственного интеллекта Hiddenite нам готовит?

Современные технологии не стоят на месте — каждый день появляются новые устройства, улучшающие качество жизни. Так, на днях токийские исследователи представили новый чип-ускоритель Hiddenite, достигающий передовой точности расчёта скрытых разреженных нейросетей, тем самым сокращая вычислительные издержки. Рассказывает Тимур Фаизов, педагог по направлению «IT-моделирование» «Новых мест дополнительного образования».

— Традиционные ускорители DNN предлагают высокую производительность, но не учитывают мощность, потребляемую при доступе к внешней памяти. 

По словам профессора Мотомура, сокращение обращений к внешней памяти — ключ к уменьшению потребления вычислительной мощности. Сегодня для достижения высокой точности выводов требуется больше нейронных сетей. Но они увеличивают количество обращений к внешней памяти, чтобы загрузить параметры, тогда как Hiddenite их сокращает.

Hiddenite — это тензорный движок вывода скрытых нейронных сетей и первый чип вывода HNN. Его архитектура позволяет достичь трёх преимуществ в эффективности. Веса генерируются и регенерируются при помощи генератора случайных чисел. Это устраняет обращения к внешней памяти и издержки на хранение весов. 

Расширение супермаски прямо на кристалле сокращает количество загружаемых ускорителем супермасок из внешней памяти. Четырёхмерный параллельный процессор с высокой плотностью транзисторов, который доводит переиспользование (и, таким образом, эффективность) данных при вычислениях до максимума.

Первые два преимущества отличают чип Hiddenite от существующих ускорителей вывода DNN, Более того, разработчики ввели новый метод обучения скрытых нейросетей и назвали его «дистилляцией оценки», где общепринятая дистилляция знаний весов конвертируется в оценки, поскольку скрытая нейросеть никогда не обновляет веса. По словам профессора, точность этого подхода сравнима с точностью бинарной модели, хотя размер в два раза меньше.

На основе технологии Hiddenite команда сконструировала и изготовила прототип чипа на ISMC при технологическом процессе 40 нм.

Чип размером всего 3×3 мм справляется с 4096 операциями умножения-сложения сразу. Он достигает передовой вычислительной эффективности, а это до 34,8 триллиона операций в секунду на ватт при размере, в два раза меньшем размера бинарных моделей.

Эти находки и успех демонстрации реального кремниевого чипа определённо изменят парадигму в мире машинного обучения, прокладывая путь к более быстрым, эффективным и, в конечном счёте, экологичным вычислениям.

Написать сообщение

Оцените от 1 до 5

Вам понравилось? Расскажите о своем опыте своим друзьям в социальных сетях. Пусть им понравится тоже!

Подпишитесь на нашу рассылку

Подписаться

Остались вопросы по качеству обучения?

Вы можете задать их любым удобным для вас способом:

Приемная директора

Обратиться

Позвонив по телефону +7 9000 295 020

Отправить на e-mail pismadir@robo74.ru

Анкета по оценке удовлетворенности качеством оказания образовательных услуг общеобразовательной организацией

Оценить качество

Нажимая кнопку «Подписаться», я даю согласие на обработку моих персональных данных согласно 152-ФЗ

Решаем вместе
Есть предложения по организации учебного процесса или знаете, как сделать школу лучше?