Численные методы и анализ данных. Рубрика в журнале - Компьютерная оптика
Повышение энергоэффективности нейросетевых вычислений с использованием NVDLA на ПЛИС
Статья научная
На сегодняшний день актуальна проблема создания высокопроизводительных и энергоэффективных аппаратных платформ для решения задач искусственного интеллекта. Популярным решением этой проблемы является использование ускорителей глубокого обучения для запуска нейросетей, таких как графические процессорные устройства и тензорные процессорные устройства. Компания NVIDIA предлагает программный комплекс NVDLA, позволяющий конструировать нейросетевые ускорители на базе открытого исходного кода. Данная статья описывает полный цикл создания прототипа ускорителя NVDLA на ПЛИС, а также тестирование полученного решения путем запуска на нем нейронной сети resnet-50. В завершение предоставляется оценка производительности и энергопотребления прототипа NVDLA ускорителя относительно GPU и CPU, результаты которой показывают превосходство NVDLA по многим характеристикам.
Бесплатно
Статья научная
Мониторинг параметров геомагнитного поля и его вариаций осуществляется главным образом с помощью наземных магнитных обсерваторий и вариационных станций. Однако несовершенство применяемой аппаратуры и задействованных каналов связи обусловливает наличие пропусков во временных рядах геомагнитных данных, что, наряду с пространственной анизотропией источников данных, создаёт значимые препятствия на пути их автоматизированной обработки. При этом известные методы импутации пропусков во временных рядах обеспечивают среднеквадратическую ошибку восстановления, существенно превышающую уровень, принятый для такого рода геофизических наблюдений. В настоящей работе предложен метод восстановления геомагнитных данных, основанный на статистических методах обработки временных рядов и принципах машинного обучения с использованием размеченных данных. Его отличительной особенностью является то, что признаковым описанием фрагмента временного ряда выступает пара предшествующего и следующего за ним фрагментов того же ряда, в совокупности образующих обучающую выборку для поиска недостающего фрагмента по набору его признаков с последующим линейным масштабированием для восстановления исходного тренда информационного сигнала. Приводятся оценки параметров временных рядов геомагнитных данных, при которых возможно применение предложенного метода для восстановления как суточных вариаций, так и фрагментов длительностью в несколько минут.
Бесплатно
Помехоустойчивость алгоритмов приёма сигналов с многоимпульсной позиционно-импульсной модуляцией
Статья научная
В работе предложен алгоритм оценки временных положений и амплитуд импульсов периодической последовательности по незначительному количеству отсчётов, число которых определяется только числом этих импульсов. Рассмотрена работа этого алгоритма в случае, когда фильтром, ограничивающим спектр исходного сигнала, является идеальный фильтр низких частот, а также фильтр Найквиста и определены условия перехода от одного фильтра к другому. Исследована эффективность предложенного алгоритма на основе анализа зависимости рассеяния оценки временных положений и амплитуд от отношения сигнал/шум и числа импульсов последовательности. Показано, что с этой точки зрения эффективность работы алгоритма снижается с ростом числа импульсов последовательности и уменьшением отношения сигнал/шум. Отмечено, что предложенный алгоритм, в отличие от классического алгоритма максимального правдоподобия, не требует поиска максимума функции большого числа переменных, и в то же время характеристики оценок оказываются практически одинаковыми для обоих этих методов. Показано также, что точность оценки предложенного алгоритма может быть повышена за счёт незначительного увеличения количества отсчётов сигнала. Полученные результаты могут быть использованы при практическом проектировании лазерных систем связи, в которых в качестве метода передачи сообщений используется многоимпульсная позиционно-импульсная модуляция.
Бесплатно
Поперечнослойное разделение искусственных нейронных сетей для классификации изображений
Статья научная
В статье рассматриваются задачи модульного обучения искусственных нейронных сетей, а также исследуются возможности частичного использования модулей в условиях ограниченных вычислительных ресурсов. Предлагаемый метод основывается на свойствах вейвлет-преобразования по разделению информации на высокочастотную и низкочастотную части. Используя наработки по вейвлет-преобразованию на основе сверточного слоя, авторы осуществляют поперечнослойное разделение сети на модули для дальнейшего частичного использования их на устройствах с малой вычислительной мощностью. Теоретическое обоснование такого подхода в статье подкрепляется экспериментальным разделением базы MNIST на 2 и 4 модуля и их последовательным использованием с замером точности и производительности. Выигрыш в производительности составил 2 и более раза при использовании отдельных модулей. Также с помощью AlexNet-подобной сети с использованием набора данных GTSRB проверены предложенные теоретические положения, при этом выигрыш производительности одного модуля составил 33 % без потери точности.
Бесплатно
Статья научная
В работе исследуются вопросы построения моделей систем обмена информацией с дискретным и распределённым запаздыванием и задержанной обратной связью методами теории линейных функционально - дифференциальных уравнений. Показано, что при решении вышеуказанных уравнений учитываются ограничения, обусловленные неопределённостью моделируемой системы, которые заключаются в отсутствии точных сведений о параметрах элементов модели, их естественном разбросе и об изменениях во времени, что приводит к требованию решения задачи идентификации. Вводимые в работе модели с непрерывным последействием более полно учитывают характер отражённых сигналов в замкнутых пространствах, что повышает достоверность результатов моделирования по сравнению с известными дифференциально-разностными моделями. При этом возникает проблема нахождения функций, характеризирующих распределение запаздывания эха по величине. В работе эти функции (ядра) аппроксимируются рядом экспонент, что упрощает уравнения и позволяет принять последействие сосредоточенным как на конечном, так и на бесконечном интервале. Компоненты эха, обусловленные резонансами замкнутых пространств, моделируются передаточными функциями соответствующих линейных звеньев. При численном моделировании рассматривалась одноканальная модель, представленная резонансным звеном второго порядка и ядром импульсной формы, описываемой суммой двух убывающих экспонент. Анализ устойчивости моделей систем с задержанной обратной связью решался частотным методом. В работе рассмотрен подход к оцениванию корреляционных и спектральных функций сигналов и компонент шумовых составляющих, основанный на параметрическом представлении последних. В работе рассмотрены вопросы прикладного значения результатов исследований.
Бесплатно
Статья научная
В статье рассматривается метод помехоустойчивого кодирования, основанный на голографическом представлении цифрового сигнала. Процесс кодирования сообщения представляет собой математическое моделирование голограммы, создаваемой в виртуальном пространстве волной от источника входного сигнала. Кодовое слово - это голограмма точки, она же одномерная зонная линейка, несущая информацию о входном блоке данных в виде n-разрядного кода координаты центра зон Френеля. Показано, что голографическое представление сигнала обладает существенно большей помехоустойчивостью и позволяет восстановить исходную цифровую комбинацию при потере большей части кодового сообщения и при искажении кодированного сигнала шумом, в несколько раз превосходящим уровень сигнала. Для оценки помехоустойчивости проведено сравнение надежности передачи информации по каналу с аддитивным белым гауссовским шумом при использовании кода Рида-Соломона, кода Рида-Маллера, мажоритарного кода и голографического кода. Рассмотрена сравнительная эффективность кодов при наличии пакетных ошибок, вызванных эффектом замирания вследствие многолучевого распространения в радиоканалах. Показано, что голографическое кодирование обеспечивает исправление пакетных ошибок независимо от длины пакета и его позиции в кодовом слове. Высокая эффективность достигается также при поступлении на вход декодера смеси случайных и пакетных ошибок. Голографический код представляет интерес для передачи информации по каналам с низким отношением сигнал/шум (космическая связь и оптические системы связи, использующие свободное пространство в качестве канала передачи, наземная, в том числе мобильная радиосвязь), а также для хранения информации в системах, подверженных воздействию ионизирующего излучения.
Бесплатно
Статья научная
Получение изображения со сканирующего туннельного микроскопа является трудоемким процессом, а формирование большой базы данных для обучения нейросетей может занимать сотни часов. Статья посвящена созданию методики автоматической генерации изображений сканирующей туннельной микроскопии, позволяющей существенно сокращать время подготовки таких баз данных. В статье выполнен анализ современных методов и средств автоматической обработки изображений, полученных с зондовых и электронных микроскопов. Предложено использовать генеративно-состязательные сети для генерации изображений, полученных с применением сканирующего туннельного микроскопа, с целью формирования обучающих баз данных изображений. Описан процесс обучения и сравнения архитектур DCGAN с применением открытых библиотек OpenCV и Keras совместно с TensorFlow, выявлена наилучшая из них посредством вычисления метрик IS, FID, KID. С использованием метода дообучения генеративно-состязательной нейросети SRGAN и билинейной интерполяции на базе языка программирования Python осуществлено масштабирование изображений, полученных с DCGAN. Анализ вычисленных количественных значений метрик показал, что наилучшие результаты генерации изображений получены с применением DCGAN96 и сети SRGAN. Таким образом, разработана методика автоматической генерации базы данных изображений сканирующего туннельного микроскопа, основанная на поэтапном применении DCGAN96 и SRGAN. Показаны результаты сегментации изображений со сканирующего туннельного микроскопа с применением сети U-Net, обученной на сгенерированной базе данных. Все вычисления производились на видеокарте GTX GeForce 1070.
Бесплатно
Статья научная
В данной работе представлены основные аспекты применения искусственного интеллекта в офтальмологии для диагностики и лечения глазных заболеваний на примере задачи семантической сегментации изображений глазного дна. Проведено сравнение классического подхода к семантической сегментации на основе текстурных признаков и предлагаемого подхода на основе нейронных сетей. Сформулированы основные проблемы применения нейросетевого подхода в биомедицине. Предложен способ выделения оптимальной зоны лазерного воздействия для проведения операции лазерной коагуляции на основе применения двух нейронных сетей. Первая сеть применялась для выделения анатомических объектов на глазном дне, а вторая - для выделения зоны макулярного отёка. Результат формировался из области отёка с учётом расположения на ней анатомических объектов. Был проведён сравнительный анализ нескольких архитектур нейронных сетей для решения задачи выделения области отёка. Лучшие результаты выделения зоны отёка показала нейронная сеть архитектуры Unet++.
Бесплатно
Статья научная
Работа посвящена развитию методики построения векторных алгоритмов для разностного решения на графических процессорах задачи дифракции. Применение подхода, основанного на повторном использовании попарных сумм дифференциального шаблона, при решении уравнения Даламбера позволило до трёх раз сократить длительность вычислений по сравнению с известными алгоритмами.
Бесплатно
Разработка алгоритма многообъектного трекинга с необучаемыми признаками сопоставления объектов
Статья научная
Проблема межкадрового сопоставления объектов на видеопоследовательностях (трекинга, отслеживания) множества объектов - одна из самых сложных задач в компьютерном зрении. В данной работе решается задача отслеживания множества объектов на видеозаписях, полученных с борта беспилотного летательного аппарата. Эта задача в отличие от отслеживания со статичной камеры имеет особенность в виде сложного движения и тряски камеры, что приводит к резким изменениям положения точки съёмки, ракурса и масштаба объектов. В этой работе мы исследуем возможность применения улучшения качества трекинга на основе алгоритма ByteTrack, одного из лучших алгоритмов отслеживания для набора данных MOT Challenge, на наборе данных Visdrone 2019.
Бесплатно
Разработка и исследование алгоритма посменного инкрементного обучения нейронной сети
Статья научная
В работе показывается актуальность разработки инкрементных методов и алгоритмов обучения нейронной сети. Представлены семейства техник инкрементного обучения. Проведена оценка возможности применения машины экстремального обучения как инкрементного обучения. Эксперименты показывают возможность использования машины экстремального обучения как инкрементного обучения, однако при увеличении числа обучающих примеров нейронная сеть становится непригодна для дальнейшего обучения. Для решения данной проблемы предложен алгоритм инкрементного обучения нейронной сети, основанный на поочередном применении машины экстремального обучения для корректировки весов только выходного слоя сети (состояние функционирования) и метода обратного распространения ошибки (глубокого обучения) для корректировки всех весов сети (состояние сна). Полагается, что в ходе состояния функционирования нейронная сеть выдает результаты или учится на новых задачах, а в состоянии сна оптимизирует свои весовые коэффициенты. Особенностью предложенного алгоритма является его возможность адаптироваться в реальном масштабе времени под изменение внешних условий на этапе функционирования. На примере решения задачи аппроксимации показана эффективность предложенного алгоритма. Представлены результаты аппроксимации после выполнения каждого шага алгоритма. Приведено сравнение значений среднеквадратической ошибки при использовании машины экстремального обучения как инкрементного обучения и разработанного алгоритма посменного инкрементного обучения нейронной сети.
Бесплатно
Статья научная
В статье рассматриваются актуальные вопросы, посвящённые разработке информационной оптической Smart-технологии дистанционного обучения распределённой системы управления Experion PKS фирмы Honeywell для нефтегазовой отрасли. Около 70 % аварий на производстве вызваны человеческим фактором. Работа операторов заключается в наблюдении за высокотехнологичными процессами и управлении ими посредством мнемосхем и характеризуется повышенным напряжением зрительного аппарата, а также общей утомляемостью и потерей концентрации внимания. Инновационная персонализированная технология дистанционного обучения учитывает особенности зрения обучающихся с помощью корректировки цветоподачи учебного материала и динамического представления информации в зависимости от психотипа человека и основана на применении когнитивной, оптической и мультиагентной технологий, а также онтологическом и иммунносетевом подходах. Разработка когнитивных мнемосхем осуществляется с учётом этих особенностей, что позволяет снизить нагрузку на зрительный аппарат и повысить эффективность обучения практическим навыкам при работе с мнемосхемами. Подход искусственных иммунных систем используется для прогноза и оценки обучения, а также оперативной корректировки процесса получения знаний. Разработан модифицированный алгоритм функционирования дистанционной системы обучения на основе применения оптимизационных алгоритмов искусственного интеллекта и алгоритма иммунносетевого моделирования. Рассмотрены общие принципы создания мнемосхем и существующие мнемосхемы фирмы Honeywell. Приведён пример реализации предложенной дистанционной технологии, и представлены результаты моделирования когнитивных мнемосхем для различных категорий обучающихся с особенностями зрения.
Бесплатно
Статья научная
Технологические особенности роста монокристаллов карбида кремния неизбежно создают условия для образования в них дефектов кристаллической структуры. Предложен способ распознавания и анализа дефектной дислокационной структуры монокристаллов карбида кремния на основе применения оптической микроскопии и нейронной сети прямого распространения. Проведена апробация способа на гомоэпитаксиальных слоях карбида кремния 4 H политипа. На базе предложенного способа создано программное обеспечение, позволяющее строить карты распределения краевых, винтовых и базисных дислокаций по поверхности монокристаллов карбида кремния. Проведена апробация работы программного обеспечения на цифровых изображениях ростовой поверхности эпитаксиальных слоев карбида кремния. Точность распознавания дислокаций составила 95 %. Полученная информация о распределении дислокаций применяется при разработке технологических приемов снижения их плотности при выращивании монокристаллов.
Бесплатно
Распознавание моторных образов на электроэнцефалограммах с применением свёрточных нейронных сетей
Статья научная
Электроэнцефалография является широко распространенным методом для получения сигналов головного мозга, для снятия которых используются электроды, расположенные на поверхности головы. Такой метод регистрации мозговой активности стал популярен благодаря относительной дешевизне, компактности, а также из-за отсутствия необходимости имплантировать электроды непосредственно в мозг. Статья посвящена проблеме распознавания моторных образов по сигналам электроэнцефалограмм. Природа таких сигналов носит комплексный характер. Характеристики электроэнцефалограмм зависят от самого человека, его возраста, психического состояния, присутствия шумов и помех. При их анализе необходимо учитывать множество таких параметров. Искусственные нейронные сети являются хорошим инструментом в решении такого класса задач. Их применение позволяет объединить задачи извлечения, выбора и классификации признаков в одном блоке обработки сигналов. Электроэнцефалограммы представляют собой временные сигналы. Для представления таких сигналов в виде изображений применяются преобразования на основе матрицы Грама и Марковской матрицы перехода. В статье показана возможность применения этих преобразований для распознавания моторных образов на примере воображаемых движений правой и левой рукой, а также исследовано влияние разрешения получаемых изображений на точность классификации. Наилучшая точность классификации сигнала электроэнцефалограммы на классы движения и состояния покоя составляет порядка 99 %. Результаты исследований в дальнейшем могут быть применены при построении интерфейса мозг - компьютер.
Бесплатно
Реализация рекурсивного цифрового фильтра на основе штрафного p-сплайна
Статья научная
В работе показана возможность проектирования рекурсивного цифрового фильтра с использованием штрафного P-сплайна. Аналитически получены и исследованы частотные и временные характеристики сплайн-фильтра для данных, поступающих в режиме реального времени. Исследовано влияние параметров штрафного P-сплайна на показатели эффективности интерпретации входной измерительной информации. Закономерности, полученные в процессе частотного анализа сплайн-фильтра, подтверждены примером восстановления доплеровской функции.
Бесплатно
Системы счисления в модулярных кольцах и их приложения к "безошибочным" вычислениям
Статья научная
В статье вводятся и исследуются новые системы параллельной машинной арифметики, связанной с представлением данных в избыточной системе счисления с базисом, формируемым последовательностями степеней корней характеристического полинома рекуррентности второго порядка. Такие системы счисления являются модулярными редукциями обобщений системы счисления Дж. Бергмана с основанием, равным «золотому сечению». Описывается ассоциированная система остаточных классов. В качестве приложения к задачам цифровой обработки сигналов в работе предлагается, в частности, новый «безошибочный» алгоритм вычисления дискретной циклической свёртки. Алгоритм основан на применении нового класса дискретных ортогональных преобразований, для которых существуют эффективные реализации, не использующие умножений.
Бесплатно
Статья научная
Рассматривается задача непараметрического восстановления многомерных плотностей распределения вероятностей в системах машинного обучения для классификации и аугментации данных. Предлагается метод получения смешанной ядерной непараметрической оценки плотности распределения как свертки ядерной оценки неизвестной плотности распределения вектора информативных признаков и известной или независимо оцениваемой плотности распределения вектора помеховой составляющей, сопровождающей процесс измерений. Анализируются свойства получаемых таким образом смешанных оценок. Приводятся результаты их сравнения с традиционной ядерной оценкой Парзена, применяемой непосредственно к общей выборке обучающих данных. Теоретически и экспериментально показывается, что использование смешанной оценки эквивалентно реализации процедуры аугментации - искусственного размножения обучающих данных в соответствии с известной или оцененной статистической моделью помеховой составляющей. Рассматриваются возможности применения смешанных оценок для обучения алгоритмов классификации биологических объектов (элементов зерновых смесей) на основе обработки измерений спектров пропускания в видимом и ближнем ИК-диапазонах длин волн.
Бесплатно
Статья научная
Последние исследования в области глубокого обучения показали, что метод градиентного спуска при условии почти идеальной разделимости обучающей выборки сходится к оптимальному решению, обеспечивающему максимальный зазор между классами. Даже без введения явной регуляризации положение разделяющей гиперплоскости продолжает изменяться, несмотря на то, что ошибка классификации на обучении стремится к нулю. Данное свойство так называемой «неявной» регуляризации позволяет использовать градиентный метод с более агрессивным шагом обучения, что гарантирует более низкие вычислительные затраты. Однако, хотя метод градиентного спуска обеспечивает хорошую обобщающую способность при стремлении к оптимальному решению, скорость сходимости к данному решению в условиях почти идеальной линейной разделимости значительно ниже, чем скорость сходимости, определяемая самой функцей потерь с заданным шагом обучения. В данной работе предлагается расширенная логарифмическая функция потерь, оптимизация параметров которой повышает скорость сходимости, обеспечивая границу погрешности, эквивалентную границе метода градиентного спуска. Результаты вычислительных экспериментов при классификации изображений на эталонных наборах MNIST и Fashion MNIST подтвердили эффективность предложенного подхода к снижению вычислительных затрат в условиях почти идеальной линейной разделимости обучающей выборки и обозначили направления дальнейших исследований.
Бесплатно
Способы дискретизации энергетических характеристик двумерных случайных сигналов
Статья научная
Статья посвящена способам дискретизации энергетических характеристик двумерных случайных сигналов в рамках имитации случайных сигналов по оригинальному гармоническому методу, являющемуся обобщением известного алгоритма В.С. Пугачёва на двумерный случай. Требования к способу дискретизации выдвигаются с целью снижения вычислительной сложности метода имитации и повышения его гибкости за счёт снятия ограничений по виду автокорреляционных функций и функций спектральной плотности энергии. Предлагается применение погрешности имитации в роли критерия оценки качества. Способ дискретизации рассмотрен для сигналов, заданных как на неограниченных интервалах определения, так и на ограниченных. В статье продемонстрированы результаты работы программной системы, реализующей оригинальный метод имитации с применением описанных способов дискретизации, в обоих случаях. Показана работоспособность и эффективность полученных результатов, которые имеют как самостоятельное научно-техническое значение, так и могут быть использованы для разработки новых эффективных спектральных средств имитации сигналов для использования в интеллектуальных системах поддержки принятия решений.
Бесплатно
Способы повышения точности гармонического метода имитации двумерных сигналов
Статья научная
Статья посвящена рассмотрению свойств гармонического метода имитации в рамках спектральной теории и оценке качества этого метода. Проведён обзор литературы о существующих методах моделирования многомерных случайных полей, позволивший выполнить сравнение этих методов, при этом критериями сравнения были сложность алгоритма, вычислительные затраты и требования к памяти, требования к ковариационной функции и сетке. Выявлены слабые места, такие как недостаточная точность и высокая вычислительная сложность, характерные для спектральных методов имитации, к которым относится гармонический метод. Рассмотрены формы сымитированного гармоническим методом сигнала для разных базисов: обнаружено свойство центросимметричности для квадратных сигналов в базисе Фурье, подобное ему свойство для прямоугольных сигналов в базисе Фурье, свойство симметричности квадратного сигнала в базисе Хартли и отсутствие подобных свойств у прямоугольного сигнала, сымитированного в базисе Хартли. Проведён сравнительный анализ точности имитации двумерных сигналов, как частного случая многомерных, гармоническим методом в базисах Фурье и Хартли. Демонстрируется, что в зависимости от характеристик дискретизации сымитированный сигнал в базисе Фурье отличается от этого же сигнала, сымитированного в базисе Хартли, по точности. Как следствие выполненного исследования, сформированы рекомендации по выбору базиса в конкретной задаче имитации двумерных сигналов. Описано влияние обнаруженных свойств на вычислительную сложность метода. Предложены способы применения этих свойств для имитации произвольных двумерных сигналов.
Бесплатно
