Новости космоса и технологий. » Технологии » Новые устройства memcapacitor для нейроморфных вычислительных приложений

Новые устройства memcapacitor для нейроморфных вычислительных приложений

Опубликовал: Admin, 27-10-2021, 23:11, Технологии, 5, 0

Новые устройства memcapacitor для нейроморфных вычислительных приложений

Для обучения и реализации искусственных нейронных сетей инженерам требуются современные устройства, способные выполнять вычисления с большим объемом данных. В последние годы исследовательские группы по всему миру пытались создать такие устройства, используя различные подходы и конструкции.

Один из возможных способов создания этих устройств - реализовать специализированное оборудование, на котором нейронные сети могут быть отображены напрямую. Это может повлечь за собой, например, использование массивов мемристических устройств, которые одновременно выполняют параллельные вычисления.

Исследователи из Института физики микроструктуры им. Макса Планка и стартапа SEMRON GmbH в Германии недавно разработали новые энергоэффективные мем-емкостные устройства (то есть конденсаторы с памятью), которые можно использовать для реализации алгоритмов машинного обучения. Эти устройства представлены в статье, опубликованной в Природа Электроника , работают, используя принцип, известный как защита от заряда.

«Мы заметили, что помимо традиционных цифровых подходов к запуску нейронных сетей, в основном использовались мемристивные подходы и очень мало предложений по мем-емкостным технологиям», - сказал TechXplore Кай-Уве Демасиус, один из исследователей, проводивших исследование. «Кроме того, мы заметили, что все коммерчески доступные микросхемы AI основаны только на цифровом /смешанном сигнале, и есть несколько микросхем с резистивными устройствами памяти. Поэтому мы начали исследовать альтернативный подход, основанный на устройстве емкостной памяти».

Изучая предыдущие исследования, Демасиус и его коллеги заметили, что все существующие мем-емкостные устройства трудно масштабировать и демонстрируют плохой динамический диапазон. Таким образом, они решили разработать устройства, которые будут более эффективными и легко масштабируемыми. Созданное ими новое емкостное устройство черпает вдохновение из синапсов и нейротрансмиттеров в головном мозге.

«Устройства Memcapacitor по своей природе во много раз более энергоэффективны по сравнению с устройствами memristive, потому что они основаны на электрическом поле, а не на токе, а соотношение сигнал /шум лучше для первого случая», - сказал Демасиус. «Наше устройство memcapacitor основано на экранировании заряда, которое обеспечивает гораздо лучшую масштабируемость и более высокий динамический диапазон по сравнению с предыдущими испытаниями для реализации устройств memcapacitive».

Устройство, созданное Демасиусом и его коллегами, управляет электрическое поле соединение между верхним электродом затвора и нижним электродом считывания через другой слой, называемый экранирующим слоем. Этот защитный слой, в свою очередь, регулируется аналоговой памятью, которая может хранить различные значения веса искусственных нейронных сетей, подобно тому, как нейротрансмиттеры в мозге хранят и передают информацию.

Чтобы оценить свои устройства, исследователи расположили 156 из них в виде перекрестья, а затем использовали их для обучения нейронной сети, чтобы различать три разные буквы латинского алфавита («M», «P» и «I»). Примечательно, что их устройства достигли энергоэффективности более 3500 TOPS /Вт при 8-битной точности, что в 35–300 раз больше, чем у других существующих мемрезистивных подходов. Эти результаты подчеркивают потенциал новых мем-конденсаторов команды для запуска больших и сложных моделей глубокого обучения с очень низким энергопотреблением (в режиме мкВт).

«Мы считаем, что человеко-машинные интерфейсы следующего поколения будут сильно зависеть от Автоматического распознавания речи (ASR)», - сказал Демасиус. «Это не только включает в себя обнаружение слова пробуждения, но и более сложные алгоритмы, такие как преобразование речи в текст. В настоящее время ASR в основном выполняется в облаке, но обработка на периферии имеет преимущества, среди прочего, в отношении защиты данных. "

Если методы распознавания речи и дальше улучшатся, речь может в конечном итоге стать основным средством, с помощью которого пользователи общаются с компьютерами и другими электронными устройствами. Однако такое улучшение будет сложно или невозможно реализовать без больших моделей на основе нейронных сетей с миллиардами параметров. Таким образом, новые устройства, которые могут эффективно реализовывать эти модели, такие как разработанная Демасиусом и его коллегами, могут сыграть решающую роль в реализации всего потенциала искусственного интеллекта (ИИ).

«Мы основали стартап , Который способствует развитию этой превосходной технологии», - сказал Демасиус. «Видение SEMRON состоит в том, чтобы задействовать эти большие Искусственные нейронные сети На очень маленьком формфакторе и обеспечить питание этих алгоритмов за счет энергии батареи или даже сбора энергии, например, на наушниках или любых других носимых устройствах».

SEMRON, стартап, основанный Демасиусом и его коллегами, уже подал заявку на несколько патентов, связанных с моделями глубокого обучения для распознавания речи. В будущем команда планирует разработать больше моделей на основе нейронных сетей, а также попытаться расширить систему на основе мем-конденсаторов, которую они разработали, за счет увеличения как ее эффективности, так и плотности устройств.

«Мы постоянно подаем патенты по любой теме, связанной с этим», - сказал Демасиус. «Наша конечная цель - дать возможность каждому устройству поддерживать функциональность искусственного интеллекта на устройстве, и мы также предполагаем множество подходов, когда дело доходит до архитектуры моделей обучения или глубокого обучения. Нейронные сети на основе нейронных сетей и нейронные сети на основе трансформаторов - лишь некоторые примеры. Одна сильная сторона в том, что мы можем поддерживать все эти подходы, но, конечно, необходимы постоянные исследования, чтобы не отставать от всех новых концепций в этой области ».


Источник


У данной публикации еще нет комментариев. Хотите начать обсуждение?

Написать комментарий
Имя:*
E-Mail:
Введите код: *
Кликните на изображение чтобы обновить код, если он неразборчив


Поиск по сайту
Полезные ссылки
Оцените работу сайта

TEHNONEWS

Новости космоса технологий нанотехнологий физики и химии