Публикации по теме 'neural-networks'
Запуск быстрых трансформаторов на процессорах: подход Intel обеспечивает значительное повышение скорости и SOTA…
Большие языковые модели-преобразователи (LM), которые масштабируются до миллиардов параметров, продемонстрировали современную производительность в широком спектре задач обработки естественного языка (NLP). Однако реальное развертывание таких моделей остается ограниченным из-за их низкой скорости и высоких требований к вычислительным ресурсам.
Состязательные атаки (часть 2) — укрепление доверия к моделям глубокого обучения
Типы враждебных атак
Существует два типа состязательных атак:
Целевые состязательные атаки Эти атаки нацелены на модель M, которая в идеале должна классифицировать пример S как класс X, чтобы изменить свое решение и, в частности, получить результат как класс Y. Физические атаки с использованием исправлений — это Пример целевых атак. Нецелевые состязательные атаки Эти атаки нацелены на модель M, которая в идеале должна классифицировать пример S как класс X, чтобы изменить свое..
Первая модель искусственного нейрона
Кто это предложил? Уолтер Питтс? Нет. Это был Уоррен Маккалок? Нет. Это были Уолтер Питтс И Уоррен Маккалок? Нет. Это был Николай Рашевский в 1933 году в статье «Очерк психоматематической теории возбуждения и торможения». Десять лет спустя, в 1943 году, его ученики У. Питтс и У. Мак-Каллох выпустили Гораздо более известна статья «Логическое исчисление идей, имманентных нервной деятельности», которая была опубликована в «Вестнике математической биофизики», журнале, основанном Н. Рашевским...
Упрощенная нейронная сеть с радиальной базисной функцией
Глубокое обучение
Упрощенная нейронная сеть с радиальной базисной функцией
Краткое введение в нейронную сеть радиальной базисной функции
Сети с радиальной базисной функцией (RBF) имеют принципиально иную архитектуру, чем большинство архитектур нейронных сетей. Архитектура большинства нейронных сетей состоит из множества слоев и вводит нелинейность за счет многократного применения нелинейных функций активации. С другой стороны, сеть RBF состоит только из входного слоя, одного..
Первые (детские) шаги с PyTorch: создание и обучение автоэнкодера свертки с передачей…
Я начал играть с нейронными сетями и PyTorch на прошлой неделе и собрал репозиторий и блокнот , которые документируют мой опыт. Моя цель на прошлой неделе состояла в том, чтобы понять достаточное количество примитивов PyTorch, чтобы позволить мне построить сверточный автокодер, и понять, как реализовать трансферное обучение с помощью PyTorch. Результат вы можете найти на GitHub .
В учебном пособии показано, как создать и обучить модель PyTorch для транскрипции цифр MNIST в..
GRU и LSTM для обработки естественного языка
Gated Recurrent Units (GRU) и Long Short Term Memory (LSTM) — это рекуррентные нейронные сети (RNN), которые обеспечивают улучшение по сравнению с обычными RNNS и оказались весьма полезными в задачах обучения обработке естественного языка.
Эта статья основана на моей статье RNN для обработки естественного языка , которую рекомендуется прочитать в качестве предварительного условия.
RNN для обработки естественного языка RNN необходимы для понимания текущего..
ДА ОНИ МОГУТ ТОЖЕ МЕЧТАТЬ, КАК НАС (А.И.)?
Привет, мои дорогие читатели,
Мы обычно проводим наши дни на работе или с семьей, и там в течение всего дня нам приходится страдать, иметь дело и сталкиваться с различными ситуациями, происходящими в нашем окружении, а также действовать в соответствии с этой ситуацией и сценарием. Каждый день наш нейрон играет и занимается разными областями, а также отдыхает.
Сон — это то, что мы любим, пока спим. Когда мы спим, мы привыкли видеть разные действия, например, если я беру пример с..
