Происхождение изображений ИИ становится все труднее установить

06.09.2026

Генеративный искусственный интеллект способен создавать изображения, в которых угадываются особенности определенных художественных стилей, однако установить источник конкретного визуального элемента оказывается значительно сложнее. Исследование специалистов лаборатории MIT CSAIL показывает, что по мере увеличения обучающего набора данных надежно определить, какое именно изображение повлияло на результат работы модели, становится практически невозможно.

Чтобы изучить эту проблему, исследователи создали около двух десятков собственных диффузионных моделей и обучили их на наборах, содержащих от нескольких сотен до сотен тысяч изображений. В экспериментах использовались фотографии лиц, а также произведения различных художников. Независимо от размера и состава наборов данных ученые наблюдали одну закономерность: чем больше изображений использовалось для обучения, тем труднее становилось определить вклад отдельной работы в последующий результат. Это явление авторы назвали "утратой атрибуции" (attribution decay).

Руководитель исследования Чжэн Дай объясняет, что сама постановка вопроса кажется вполне естественной: если генеративная модель создала изображение, напоминающее определенную работу, возникает желание выяснить, какая именно часть обучающих данных привела к появлению конкретного элемента. Однако результаты экспериментов показывают, что подобная связь постепенно размывается. В крупной модели влияние множества изображений оказывается настолько переплетенным, что выделить вклад одного произведения становится чрезвычайно сложно.

Для проверки этого эффекта специалисты использовали сравнительный подход. Они сопоставляли обычный результат работы модели с альтернативным вариантом, полученным после исключения определенных изображений из обучающего набора. Если удаление конкретной работы заметно изменяло результат, можно было предположить, что она действительно оказывала на него влияние. Однако при увеличении объема исходных данных такая зависимость становилась все слабее, что и позволило исследователям зафиксировать эффект утраты атрибуции.

Полученные результаты имеют непосредственное значение для художников, пытающихся защитить свои авторские права. Если невозможно надежно показать, что конкретная работа стала причиной появления определенного элемента в изображении, доказать прямое влияние произведения на результат генерации значительно труднее. Причем для коммерческих генеративных систем проблема может быть еще серьезнее: они, как правило, используют гораздо более масштабные обучающие массивы, чем модели, исследованные в лабораторных экспериментах MIT CSAIL.

Авторы работы подчеркивают, что речь идет не просто о технической особенности машинного обучения. Проблема затрагивает более широкий круг вопросов, связанных с использованием произведений искусства для обучения искусственного интеллекта. Если происхождение отдельных элементов сгенерированного контента невозможно установить с достаточной надежностью, становится сложнее определить, каким образом должны применяться существующие нормы авторского права и кто должен нести ответственность за использование творческих материалов.

По мнению исследователей, дальнейшее развитие генеративного ИИ требует более глубокого понимания внутренних механизмов подобных моделей. Необходимо выяснить, каким образом огромные массивы изображений совместно формируют конечный результат и существуют ли методы, позволяющие надежнее отслеживать влияние отдельных произведений. Такие знания могут оказаться важными не только для научных исследований, но и для разработки технических стандартов, этических принципов и будущих правил регулирования генеративных технологий.

<< Назад: Ультраширокий монитор LG 40HT513D 07.09.2026

>> Вперед: Часы Casio G-Shock GBX-H5600KI-5 06.09.2026

Последние новости науки и техники, новинки электроники:

Глюкозамин и когнитивные нарушения 16.10.2026

С возрастом нарушения памяти и мышления становятся все более распространенной проблемой, однако причины того, почему у одних людей легкие когнитивные изменения остаются стабильными, а у других со временем перерастают в деменцию, до сих пор изучены не полностью. Новая работа исследователей Университета Флориды в США указывает на возможную связь одного из широко используемых пищевых добавок с таким переходом. Речь идет о глюкозамине, который обычно принимают для уменьшения дискомфорта в суставах и поддержания их здоровья. Специалисты проанализировали обезличенные медицинские записи UF Health, охватывающие период с 2012 по 2024 год. С помощью искусственного интеллекта они изучили информацию о пациентах с болезнью Альцгеймера и другими связанными с ней деменциями, а также о людях с легкими когнитивными нарушениями. Последние характеризуются заметными проблемами с памятью или мышлением, которые уже выходят за рамки обычных возрастных изменений, но при этом еще не обязательно существенно ...>>

Звук на квантовом уровне меняется скачками, а не постепенно 16.10.2026

В привычном мире звуковые колебания затухают постепенно: струна после щипка вибрирует все слабее, а звон постепенно превращается в тишину. На уровне квантовой физики картина оказывается совершенно иной. Здесь энергия звука существует отдельными порциями, и переход между состояниями может происходить скачкообразно. Исследователи из Стэнфордского университета впервые смогли непосредственно наблюдать такой процесс в реальном времени, зафиксировав квантовые скачки отдельных звуковых частиц. Речь идет о фононах - квантовых порциях механических колебаний, которые можно рассматривать как своеобразный аналог фотонов для звуковых волн. В макроскопическом мире энергия вибрации может уменьшаться практически непрерывно, однако на квантовом уровне такое описание перестает работать. Энергетическое состояние системы изменяется дискретно, переходя с одного уровня на другой. Результаты стэнфордского эксперимента были опубликованы в журнале Science. Чтобы зафиксировать столь быстрый и чувствительн ...>>

Мизофония может иметь выраженную генетическую основу 15.10.2026

Для большинства людей звук жевания, дыхания или сопения остается практически незаметной частью повседневной жизни. Однако у людей с мизофонией такие совершенно обычные звуки способны вызывать мгновенную и крайне сильную негативную реакцию. Причины этого состояния до сих пор изучены недостаточно, однако новое исследование указывает на важную роль наследственности. Полученные данные свидетельствуют о том, что предрасположенность к мизофонии может иметь глубокую генетическую основу. Исследованием занималась команда Медицинской школы Йельского университета, сосредоточившая внимание на семейной истории людей с этим расстройством. В отличие от ряда предыдущих работ, проводившихся преимущественно с помощью дистанционных опросов, на этот раз специалисты непосредственно обследовали 101 человека с мизофонией и членов их семей. Такой подход позволил исследователям оценить не только распространенность состояния среди родственников, но и возможные связи с другими особенностями психического здоро ...>>

Запись магнитных данных с помощью сверхбыстрых лазерных импульсов 15.10.2026

Системы хранения данных постоянно сталкиваются с необходимостью одновременно увеличивать скорость записи, плотность информации и энергоэффективность. Один из возможных путей решения этой задачи связан с использованием света для управления магнитными состояниями материала. Инженеры Калифорнийского университета в Сан-Диего разработали метод, в котором специально сформированные лазерные импульсы позволяют изменять направление намагниченности, открывая перспективу создания более быстрых и компактных магнитных устройств памяти. Главное отличие нового подхода заключается в том, что исследователи управляют не составом магнитного материала, а характеристиками самого лазерного излучения. Ультрабыстрый лазер концентрирует энергию на микроскопическом участке поверхности. Когда диаметр светового пятна становится меньше 1,36 мкм, специалистам удается переключать направление намагниченности независимо от спиральности света, то есть направления вращения его поляризации. Это позволяет отказаться от ...>>

Биокаталитический способ получения хиральных оксазолидинонов 14.10.2026

Химия все чаще обращается к биологическим молекулам, чтобы сделать синтез сложных веществ более точным и эффективным. Особенно важны такие технологии при создании соединений, у которых одинаковый химический состав может сопровождаться разным пространственным расположением атомов и, следовательно, различными свойствами. Исследователи из Калифорнийского технологического института и Университета Питтсбурга предложили новый биокаталитический подход, позволяющий получать хиральные оксазолидиноны непосредственно из простых неактивированных алкенов. В основе предложенного метода лежит последовательность из двух реакций - азиридинирования и последующего расширения цикла. Этот каскад запускается с помощью гемопротеина, который выполняет функцию катализатора и позволяет направлять химическое превращение в нужную сторону. В результате из относительно простого исходного соединения формируется более сложная циклическая структура с заданной пространственной конфигурацией. Особенно существенным ...>>

Случайная новость из Архива AMD представит восьмиядерный процессор FX-8140 с TDP 95 Вт 22.02.2012 До конца квартала AMD обновит серию процессоров FX, предназначенных для настольных систем. По данным источника, среди прочих новинок будут представлены три модели с TDP 95 Вт. Процессор FX-8140 будет иметь восемь ядер, FX-6120 - шесть, FX-4150 - четыре. Базовая тактовая частота FX-4150 составит 3,9 ГГц. В режиме Turbo она повышается до 4,1 ГГц. Процессор получит 12 МБ кэш-памяти (4 МБ - второго уровня, 8 МБ - третьего). Частоты модели FX-6120 равны 3,5 и 4,1 ГГц, а суммарный объем кэш-памяти у нее составляет 14 МБ. Старшая модель FX-8140 получит 16 МБ кэш-памяти. Базовая тактовая частота этого процессора определена равной 3,2 ГГц. В режиме Turbo она тоже повышается до 4,1 ГГц. Все три изделия изготавливаются по 32-нанометровой технологии и рассчитаны на установку в гнездо AM3+. Данных о цене пока нет.

Смотрите полный Архив новостей науки и техники, новинок электроники

www.diagram.com.ua
2000-2026