Что видит нейросеть

05.03.2019

Компании Open AI и Google создали новый инструмент под названием Activation Atlases для визуализации взаимодействий между нейронами в ИИ-системах. Он позволяет проникнуть в "сознание" машины, чтобы лучше понять внутренние процессы принятия решений искусственным интеллектом, а также выявить их ошибки и недостатки. Activation Atlases построен на методе визуализации возможностей. Он дает представление о том, что собой представляют скрытые слои нейронных сетей, которые, в свою очередь, делают машинное обучение более доступным и интерпретируемым. Другими словами, с его помощью исследователи могут анализировать работу отдельных алгоритмов, понимая, каким образом они объединяют различные абстрактные элементы для идентификации конкретных объектов.

Activation Atlases наконец поможет ответить на вопрос, что на самом деле видит нейронная сеть. Подобные исследования проводились и раньше, но тогда это было похоже на выявление отдельных букв в визуальном алфавите алгоритмов. Новое исследование уже ближе к целому словарю, оно объясняет, как эти буквы соединяются в слова. Один из авторов работы сравнивает Activation Atlases с микроскопом для нейросетей.

В Open AI считают, что с помощью данной технологии можно обнаружить непредвиденные проблемы в нейронных сетях, например, в местах, где сеть полагается на ложные корреляции при классификации изображений (когда алгоритмы могли попутать темнокожих людей с гориллами), или когда повторное использование функции приводит к странным ошибкам.

Activation Atlases использует известную нейронную сеть под названием GoogLeNet или InceptionV1, которая обучена на изображениях из базы данных ImageNet. Она обрабатывает данные примерно через десять слоев, состоящих из сотен нейронов. В свою очередь, каждый нейрон активируется в разной степени на разных типах изображений. Исследователи проследили этот процесс и выяснили, какие именно элементы изображений вызывают отклик у системы.

<< Назад: Умная стиральная машина Xiaomi 06.03.2019

>> Вперед: Ловушка для позитронов 05.03.2019

Последние новости науки и техники, новинки электроники:

Звуки капель ускоряют прорастание на 30% 20.05.2026

Растения обладают удивительной чувствительностью к окружающему миру, и новые исследования показывают, что они способны воспринимать даже звуки. Ученые обнаружили, что семена риса ускоряют свое прорастание, реагируя на шум дождя. Этот механизм помогает растениям лучше приспосабливаться к изменяющимся условиям окружающей среды и может играть важную роль в их выживании. В ходе экспериментов исследователи записывали звуки дождя разной интенсивности. Оказалось, что падение капель создает значительное звуковое давление - сравнимое с тем, которое фиксируют на небольшом расстоянии от двигателей реактивных самолетов. Хотя такие звуки находятся за пределами человеческого слуха и плохо передаются из воды в воздух, они вполне способны влиять на семена, находящиеся под тонким слоем воды или почвы. Ученые провели серию опытов с посевным рисом, который традиционно высевают в увлажненную почву или под слой воды. Семена помещали в лужи глубиной 2,5-3 сантиметра и воспроизводили звуки дождя. Небол ...>>

Volkswagen ID. Polo GTI 20.05.2026

Volkswagen продолжает развивать легендарную линейку GTI, перенося ее дух в эпоху электромобилей. Компания официально представила ID. Polo GTI - первый полностью электрический "горячий" хэтчбек, который сочетает в себе современные технологии и фирменный драйверский характер моделей GTI, история которых началась еще в 1976 году с первого Golf GTI. Премьера новинки прошла во время знаменитой 24-часовой гонки на Нюрбургринге. Электромотор на передней оси развивает 222 л.с. (166 кВт) и выдает 290 Нм крутящего момента. Разгон с 0 до 100 км/ч занимает 6,8 секунды. Хотя динамика не претендует на звание рекордной в классе, Volkswagen сделал акцент на точной управляемости и узнаваемом "GTI-настроении". Для этого автомобиль оснастили блокировкой переднего дифференциала, адаптивной спортивной подвеской DCC и прогрессивным рулевым управлением. ID. Polo GTI использует ту же батарею емкостью 52 кВтч с химией NMC, что и обычная версия модели. Запас хода по циклу WLTP достигает 424 км. Поддержива ...>>

Коты охотнее разговаривают с мужчинами 19.05.2026

Домашние кошки всегда считались довольно сдержанными и избирательными в проявлении эмоций. Однако новое исследование показало, что наши пушистые питомцы гораздо активнее используют голос при общении с мужчинами, чем с женщинами. Это открытие помогает глубже понять особенности кошачьего поведения и природу их отношений с человеком. Ученые из Университета Анкары проанализировали реакцию 31 домашнего кота. Владельцы записывали на видео поведение животных в первые минуты после возвращения домой, стараясь вести себя максимально естественно. Результаты оказались весьма примечательными: в среднем за первые 100 секунд после прихода мужчины коты издавали 4,3 различных вокализации - мяуканье, мурлыканье или характерные "чириканья". При появлении женщины этот показатель составил всего 1,8. Исследователи изучили 22 разных типа поведения кошек, включая трение о ноги, зевки и реакцию на еду. Единственным значимым различием между мужчинами и женщинами оказалась именно частота вокализаций. Возра ...>>

Умная сушилка Xiaomi Mijia Smart Clothes Drying Machine 3 19.05.2026

Компания Xiaomi представила новую модель Mijia Smart Clothes Drying Machine 3 - инновационный многофункциональный комплекс, который кардинально меняет представление о сушке одежды и организации балконного пространства. Главное преимущество новинки заключается в гибкой системе организации. Устройство оснащено четырьмя независимыми зонами, благодаря чему одновременно можно сушить совершенно разные типы вещей - от легкого белья и носков до объемных одеял и верхней одежды. Для этого предусмотрено 38 открытых крючков, 32 вращающихся зажима, 20 выдвижных стержней и две специальные сетки, что позволяет оптимально использовать каждый сантиметр пространства. Еще одна яркая особенность - встроенное интеллектуальное освещение. 42-дюймовый световой модуль мощностью 36 Вт и световым потоком 3000 люмен способен полностью заменить потолочную люстру на балконе. Пользователи могут регулировать цветовую температуру в диапазоне от 3000 до 5700 K, создавая комфортную атмосферу для разных сценариев - ...>>

Сильнее всего мы злимся на самых близких 18.05.2026

Многие замечали одну и ту же странную закономерность: на работе или в общении с посторонними людьми мы способны сдерживать раздражение даже в сложных ситуациях, а дома можем вспыхнуть из-за сущей мелочи. Этот парадокс хорошо известен психологам и имеет глубокие нейробиологические причины. Оказывается, дело не в "плохом характере", а в особенностях работы нашего мозга и нервной системы. Когда мы находимся среди малознакомых людей, префронтальная кора головного мозга активно контролирует эмоции. Она выступает в роли внутреннего цензора, подавляя агрессию и помогая выбирать социально приемлемые реакции. Дома же мозг воспринимает окружение как максимально безопасное и предсказуемое, поэтому уровень контроля заметно снижается. В результате накопленные эмоции выходят наружу гораздо ярче и сильнее. Кроме того, мозг формирует особый "эмоциональный архив" именно на близких людей. Даже незначительные обиды и раздражения, которые мы переживаем годами, откладываются в памяти. При новом конфл ...>>

Случайная новость из Архива Новый томат с повышенным содержанием витамина A 28.02.2026 Проблема дефицита витамина A остается одной из глобальных задач здравоохранения, особенно в регионах с ограниченным доступом к разнообразной пище. Недавние достижения биотехнологий позволяют создавать продукты, способные существенно улучшить питание населения, и одним из таких примеров стал новый томат, обогащенный витамином A. Исследователи из Университета Флориды разработали сорта томатов с повышенным содержанием бета-каротина - вещества, которое организм преобразует в витамин A. Работа была выполнена Джингвеем Фу, Дениз Тиеман и Баллой Ратиноспати в Институте пищевых и аграрных наук UF/IFAS. Созданные помидоры отличаются существенно более высоким уровнем бета-каротина по сравнению с обычными сортами, а также с продуктами, традиционно богатыми этим соединением, такими как сладкий картофель и капуста. По словам профессора Ратинасабапати, регулярное употребление всего 50-100 граммов этих обогащенных томатов может покрыть суточную потребность человека в витамине A, что делает их перспективным средством профилактики дефицита этого важного микронутриента. Ключ к повышенному содержанию бета-каротина в помидорах заключался в использовании гена CCS, заимствованного из перцев. Этот ген стимулирует накопление пигментов капсантина, капсорубина и бета-каротина - мощных антиоксидантов, которые не только улучшают питательную ценность плодов, но и положительно влияют на их цвет и вкусовые характеристики. Для создания коммерчески пригодных растений ученые применили гибридизацию, скрещивая выбранные сорта с новыми оранжевыми томатами. В результате получили томаты с крупными плодами, улучшенным вкусом и значительно более высоким содержанием полезных пигментов по сравнению с немодифицированными образцами. Кроме прямой пользы для здоровья, новые томаты демонстрируют важность современных биотехнологий в сельском хозяйстве. Такие подходы позволяют не только повышать питательную ценность продуктов, но и создавать более устойчивые и урожайные растения, что критично в условиях изменения климата и растущего спроса на продовольствие. Планируется дальнейшее изучение этих томатов, включая оценку их безопасности, вкусовых качеств и пригодности для массового потребления. Ученые также рассматривают возможность использования подобных генетических решений для обогащения других овощей и фруктов, что открывает новые перспективы в борьбе с глобальным дефицитом витаминов.

Смотрите полный Архив новостей науки и техники, новинок электроники

www.diagram.com.ua
2000-2026