Управлять сверхинтеллектуальным ИИ будет невозможно

29.09.2022

Идея свержения человечества искусственным интеллектом обсуждалась десятилетиями, и в 2021 году ученые вынесли свой вердикт о том, можно ли контролировать высокоуровневый компьютерный сверхразум.

Загвоздка в том, что для управления сверхразумом, находящимся далеко за пределами человеческого понимания, потребуется симуляция этого сверхразума, который можно анализировать и контролировать. Но если люди не в состоянии это понять, то создать такую симуляцию невозможно.

Такие правила, как "не причинять вреда людям", не могут быть установлены, если люди не понимают, какие сценарии может предложить ИИ. Как только компьютерная система работает на уровне выше возможностей наших программистов, то больше нельзя будет устанавливать ограничения.

Сверхразум представляет собой принципиально иную проблему, чем те, которые обычно изучаются под лозунгом "этики роботов. Это связано с тем, что сверхразум многогранен и, следовательно, потенциально способен мобилизовать разнообразные ресурсы для достижения целей, потенциально непостижимых для людей, не говоря уже о том, чтобы их можно было контролировать.

Часть рассуждений команды исходила из проблемы остановки, сформулированной Аланом Тьюрингом в 1936 году. Проблема заключается в том, чтобы узнать, придет ли компьютерная программа к выводу и ответу (поэтому она остановится), или просто зациклится, пытаясь найти его.

Ученые отметили, как доказал Тьюринг с помощью умной математики, хотя мы можем знать это для некоторых конкретных программ, логически невозможно найти способ, который позволил бы нам узнать это для каждой потенциальной программы, которая когда-либо могла быть написана. Это возвращает нас к ИИ, который в сверхразумном состоянии мог бы одновременно удерживать в своей памяти все возможные компьютерные программы.

По словам ученых, любая программа, написанная для того, чтобы не дать ИИ причинить вред людям и уничтожить мир, например, может прийти к выводу (и остановиться) или нет - математически невозможно быть абсолютно уверенным в любом случае, а это значит, что ее нельзя сдержать. Ученые заявили, что альтернатива обучению ИИ некоторым этическим нормам и указанию ему не разрушать мир - то, в чем ни один алгоритм не может быть абсолютно уверен, - заключается в ограничении возможностей сверхразума.

"Исследование также отвергло эту идею, предполагая, что это ограничит возможности ИИ. Аргумент состоит в том, что если мы не собираемся использовать его для решения проблем, выходящих за рамки человеческих возможностей, то зачем вообще его создавать? Если мы собираемся продвигаться вперед с ИИ, мы можем даже не знать, когда появится сверхразум, неподвластный нашему контролю, такова его непостижимость. Это означает, что нам нужно начать задавать серьезные вопросы о том, в каком направлении мы движемся", - отметили ученые.

<< Назад: Куркумин предотвратит потерю зрения 29.09.2022

>> Вперед: Дрожжам пересажены человеческие гены 28.09.2022

Последние новости науки и техники, новинки электроники:

Власть является ключевым фактором счастья в отношениях 11.03.2026

Исследования семейных и романтических отношений показывают, что длительное счастье пары зависит не только от привычных факторов, таких как доверие, уважение и преданность, но и от более тонких психологических аспектов. Современные ученые ищут закономерности, которые отличают действительно счастливые пары от остальных, чтобы понять, какие механизмы поддерживают гармонию в отношениях. Группа исследователей из Университета Мартина Лютера в Галле-Виттенберге и Бамбергского университета провела опрос среди 181 пары, которые состояли в совместных отношениях более восьми лет и прожили вместе хотя бы месяц. Участники заполняли анкету, описывая различные аспекты своих отношений, включая распределение обязанностей, эмоциональную поддержку и степень вовлеченности в совместные решения. Анализ данных показал интересный паттерн: пары, где оба партнера ощущали высокий уровень личной власти, оказывались наиболее счастливыми и удовлетворенными. В данном контексте под властью понимается способност ...>>

Защищенная колонка-повербанк Anker Soundcore Boom Go 3i 11.03.2026

Компания Anker представила новую модель линейки Soundcore - колонку Soundcore Boom Go 3i, ориентированную на активное использование на улице. Новинка отличается высокой степенью защиты: корпус соответствует стандарту IP68, что обеспечивает водо- и пыленепроницаемость, а ударопрочный дизайн выдерживает падение с высоты до одного метра. За качество звука отвечает 15-ваттный драйвер, обеспечивающий пик громкости до 92 дБ, а технология BassUp 2.0 усиливает низкие частоты, делая звучание более насыщенным. Колонка обладает автономностью до 24 часов, а LED-индикатор позволяет контролировать уровень заряда батареи. Кроме того, Soundcore Boom Go 3i может выполнять функцию павербанка: согласно внутренним тестам, устройство способно зарядить iPhone 17 с нуля до 40% за один час, что делает его полезным аксессуаром в походах и поездках. Среди функциональных особенностей модели стоит выделить технологию Auracast, которая улучшает подключение и позволяет создавать стереопару из двух колонок ...>>

Раннее воздержание от алкоголя перестраивает мозг и иммунитет 10.03.2026

Алкогольная зависимость - хроническое расстройство с компульсивным употреблением спиртного, которое влияет не только на поведение, но и на функционирование мозга и иммунной системы. Недавние исследования показали, что даже на ранних этапах воздержания организм начинает перестраиваться, открывая новые возможности для терапии зависимости. Ученые сосредоточились на пациентах, находящихся в первые недели абстиненции, и зафиксировали значительные изменения в мозговой активности. С помощью функциональной магнитно-резонансной томографии они выявили перестройку сетей нейронных связей, отвечающих за контроль импульсов и принятие решений. Эти изменения могут быть ключевыми для восстановления самоконтроля и снижения риска рецидива. Одновременно с нейронной перестройкой исследователи наблюдали колебания иммунной системы. В крови повышался уровень цитокинов - сигнальных белков, регулирующих воспалительные процессы. Эти данные свидетельствуют о существовании нейроиммунного взаимодействия, при ...>>

Жесткий диск Seagate 44 ТВ 10.03.2026

С ростом объемов данных, обрабатываемых крупными компаниями и дата-центрами, требования к накопителям резко увеличиваются. Seagate анонсировала начало поставок новейших жестких дисков Exos емкостью 44 ТБ, которые обещают сочетание рекордного объема и высокой производительности, благодаря передовой платформе Mozaic 4+ и технологии термомагнитной записи HAMR. Платформа Mozaic 4+ включает десять магнитных пластин, каждая из которых имеет емкость более 4 ТБ. В сумме это позволяет получить общий объем накопителя 44 ТБ - рекордный показатель для современных HDD. В сочетании с вращением шпинделя на скорости 7200 оборотов в минуту это обеспечивает скорость передачи данных порядка 300 МБ/с, что делает диск подходящим для работы с большими массивами информации. Seagate отмечает, что использование Exos повышает общую эффективность систем хранения примерно на 47%. Для корпоративных клиентов это означает сокращение занимаемой площади под кластеры на 9 квадратных метров и снижение годового эне ...>>

Скука - двигатель перемен 09.03.2026

Современная жизнь редко оставляет человеку время на простое ощущение скуки. С развитием цифровых технологий и постоянным доступом к социальным сетям мы стремимся мгновенно развлекать себя, избегая пауз, когда ум может быть свободен от внешних раздражителей. Между тем, новое исследование показывает, что скука выполняет важную роль в психическом здоровье и может стимулировать личностное развитие. Часто скука воспринимается как негативное состояние, которое хочется немедленно устранить. Однако психологи отмечают, что именно моменты, когда человеку становится по-настоящему скучно, могут побудить к поиску нового хобби, пересмотру жизненных приоритетов или появлению свежих идей. Это состояние открывает пространство для саморефлексии и внутреннего роста. Исследователи из Университета Бата и Тринити-колледжа показали, что привычка уходить в социальные сети в моменты скуки мешает человеку достигать "максимальной скуки". В результате стимулируется лишь поверхностное отвлечение, которое не ...>>

Случайная новость из Архива Внутреннее ядро Земли движется в разные стороны 07.06.2022 Ученые из Университета Южной Калифорнии, США, нашли доказательства того, что внутреннее ядро Земли движется в разные стороны, что противоречит принятым теориям, которые предполагали, что ядро постоянно вращается с большей скоростью, чем поверхность планеты. Новое исследование показывает, что внутренне ядро нашей планеты меняет скорость и направление вращения, а также движется, как показывают сейсмические данные. "Мы считаем, что поверхность Земли смещается относительно ее внутреннего ядра, а также, что оно вращается медленнее чем планета и может вращаться в другом направлении", - говорит Джон Видейл из Университета Южной Калифорнии. Внутреннее ядро Земли представляет собой горячий, плотный шар из твердого железа диаметром примерно 2600 км. Его невозможно увидеть напрямую, поэтому ученые использовали сейсмические данные, чтобы узнать о скорости и направлении его вращения, а также о его движении в центре Земли. В 90-х годах прошлого века ученые предположили, что внутренне ядро Земли вращается быстрее, чем сама планета. Но новое исследование показывает, что ядро вращается медленнее, чем предполагалось ранее. Также ученые обнаружили, что ядро может менять направление вращения. В 90-х годах прошлого века ученые предположили, что внутренне ядро Земли вращается быстрее, чем сама планета. Но новое исследование показывает, что ядро вращается медленнее, чем предполагалось ранее. Также ученые обнаружили, что ядро может менять направление вращения По словам ученых, внутреннее ядро Земли не стоит на месте, а оно движется и перемещается туда-сюда на пару километров и это происходит каждые 6 лет. Далее ученые планируют изучение формирования ядра и того, какие еще процессы происходят глубоко под поверхностью. Согласно существующим научным представлениям, ядро Земли состоит из двух частей: внутреннего твердого ядра и внешнего жидкого ядра. Считается, что температура на поверхности внутреннего ядра составляет примерно 6 тысяч градусов Цельсия, а плотность достигает 12,5 тонн на метр кубический. Все данные о ядре пока что ученые получают лишь с помощью косвенных наблюдений, так как добраться до центра Земли на данный момент не представляется возможным.

Смотрите полный Архив новостей науки и техники, новинок электроники

www.diagram.com.ua
2000-2026