ИИ нужно воспринимать как пользователя

26.11.2025

Искусственный интеллект постепенно перестает быть скрытым компонентом программных решений и выходит на передний план. Сегодня алгоритмы не просто помогают обрабатывать данные, но и активно участвуют в рабочих процессах, принимают решения, взаимодействуют с корпоративными сервисами и получают доступ к критически важной инфраструктуре. Такое расширение их возможностей заставляет специалистов по безопасности переосмыслить, что именно означает присутствие ИИ в цифровой среде.

Президент по продуктам и технологиям Okta Рик Смит подчеркивает, что воспринимать ИИ исключительно как технологическую надстройку уже невозможно. По его словам, компании обязаны учитывать, что искусственные агенты становятся участниками процессов наравне с живыми сотрудниками, а значит, требуют аналогичных мер защиты. Он формулирует это предельно прямо: "Мы должны защищать клиентов не только от людей, но и от ИИ-агентов - относиться к ним как к пользователям".

Однако многие организации продолжают рассматривать ИИ как обычное приложение. Ему выдают сервисные аккаунты или API-ключи, которые затем остаются активными и не подвергаются аудиту. Смит сравнивает подобный подход с ситуацией, когда в компанию впускают незнакомца и предоставляют ему полный доступ к системам, не выяснив его полномочий и намерений.

Генеральный директор 909Cyber Ден Джонс развивает эту мысль, отмечая, что искусственный интеллект в корпоративной среде фактически становится частью идентификационной инфраструктуры. Если алгоритм способен входить в систему, извлекать данные или выполнять операции от имени пользователя, то он уже не является просто элементом инфраструктуры. Несмотря на это, компании продолжают относиться к ИИ как к пассивной технологии, а не к цифровому субъекту с реальными возможностями.

Сложность ситуации заключается и в природе самих моделей. Искусственный интеллект действует вероятностно, предлагая решение, которое он считает наиболее подходящим, но оно может быть неверным или небезопасным. Ошибки возникают не из злого умысла, а из особенностей алгоритмического мышления, однако ущерб для системы может быть вполне реальным. Это означает, что доверять ИИ без контроля столь же опасно, как оставлять без надзора любого сотрудника с повышенными привилегиями.

Поэтому, как подчеркивает Смит, необходимо распространять привычные принципы управления идентичностью на машинных пользователей. ИИ должен получать доступ по строго определенным ролям, его действия должны отслеживаться, а отключение - происходить мгновенно и безопасно, если возникает риск неправильного поведения. Такие инструменты давно применяются к людям, но теперь становятся обязательными и для цифровых агентов.

Искусственный интеллект формирует новую категорию пользователей, способную как расширять возможности бизнеса, так и представлять дополнительные риски. Будущее корпоративной безопасности будет зависеть от того, насколько быстро компании научатся выстраивать отношения с ИИ по тем же правилам, что и с людьми.

<< Назад: AirPods Pro с инфракрасными камерами 27.11.2025

>> Вперед: Модульный робот Direct Drive Technology D1 26.11.2025

Последние новости науки и техники, новинки электроники:

Ранняя Вселенная не была ледяной 28.11.2025

Понимание того, как формировались первые структуры во Вселенной, требует взгляда в эпохи, в которых не существовало ни звезд, ни галактик, ни привычных нам источников света. Научные группы по всему миру пытаются восстановить картину тех времен при помощи слабейших радиосигналов, оставшихся от водорода, который наполнял космос вскоре после Большого взрыва. Новые результаты, полученные на радиотелескопе Murchison Widefield Array в Австралии, неожиданным образом меняют представление об этих ранних этапах. Сразу после Большого взрыва, произошедшего около 13,8 миллиарда лет назад, пространство стремительно расширялось и остывало. Через несколько сотен тысяч лет образовался нейтральный водород, и началась так называемая эпоха тьмы, когда Вселенная была лишена источников излучения. Лишь значительно позже гравитация собрала газ в плотные области, где зародились первые звезды и ранние черные дыры, а их интенсивное излучение привело к реионизации водорода и окончательному появлению света. ...>>

Устройство идеальной очистки воздуха 28.11.2025

Качество воздуха в закрытых помещениях давно стало важнейшим фактором здоровья, особенно в городах, где люди проводят подавляющую часть времени внутри зданий. В последние годы исследователи уделяют все больше внимания именно тем технологиям, которые способны задерживать или разрушать вредоносные частицы до того, как они попадут в дыхательные пути человека. Одним из таких новаторских направлений стала разработка инженеров Университета Британской Колумбии в Оканагане, которые предложили принципиально иной подход к очистке воздуха в присутствии людей. По словам профессора Школы инженерии доктора Санни Ли, традиционные персонализированные вентиляционные системы действительно могут улучшать качество воздуха вокруг пользователя, однако их принцип работы имеет ряд ограничений. Человек вынужден находиться в строго определенной зоне, а одновременное использование одной системы несколькими людьми снижает эффективность. Кроме того, непрерывный поток сухого очищенного воздуха способен вызывать ...>>

Ощущение текстуры через экран гаджета 27.11.2025

Гаджеты научились передавать изображение и звук с впечатляющей реалистичностью, но тактильные ощущения по-прежнему остаются недоступными для полноценной цифровой симуляции. Именно поэтому инженеры и исследователи во всем мире стремятся создать технологии, которые позволят "почувствовать" виртуальный объект так же естественно, как и настоящий. Новая разработка специалистов Северо-Западного университета США стала одним из самых заметных шагов в этом направлении. Возглавлявшая исследование аспирантка Сильвия Тан (Sylvia Tan) подчеркивает, что прикосновение остается последним фундаментальным чувственным каналом, для которого пока нет зрелого цифрового аналога. По ее словам, если визуальные и звуковые интерфейсы давно обеспечивают высокую степень реалистичности, то осязание лишь начинает приближаться к этому уровню. В недавней публикации в журнале Science Advances Тан отмечает, что новая технология способна изменить само представление о взаимодействии человека с устройствами. Разработ ...>>

AirPods Pro с инфракрасными камерами 27.11.2025

Apple традиционно играет роль новатора, поэтому ожидания от следующего поколения AirPods Pro особенно высоки. Новая модель, над которой компания уже активно работает, должна не просто улучшить звук, но и расширить способы взаимодействия человека с цифровой средой. Одним из наиболее заметных нововведений станет появление чипа Apple H3. Сегодняшние AirPods Pro используют поколение H2, обеспечивающее высокую скорость обработки звука, однако переход к H3 обещает еще более точное шумоподавление и сокращение задержки при беспроводной передаче аудио. По данным источников, новая архитектура улучшит энергоэффективность, а также позволит чипу глубже интегрироваться с устройствами экосистемы Apple. Особенно это касается гарнитуры Vision Pro, которая получит более синхронную работу с будущими наушниками. Не менее интригующей выглядит вторая инновация - миниатюрные инфракрасные камеры, встроенные непосредственно в корпус AirPods. Специалисты предполагают, что эти сенсоры смогут фиксировать дв ...>>

ИИ нужно воспринимать как пользователя 26.11.2025

Искусственный интеллект постепенно перестает быть скрытым компонентом программных решений и выходит на передний план. Сегодня алгоритмы не просто помогают обрабатывать данные, но и активно участвуют в рабочих процессах, принимают решения, взаимодействуют с корпоративными сервисами и получают доступ к критически важной инфраструктуре. Такое расширение их возможностей заставляет специалистов по безопасности переосмыслить, что именно означает присутствие ИИ в цифровой среде. Президент по продуктам и технологиям Okta Рик Смит подчеркивает, что воспринимать ИИ исключительно как технологическую надстройку уже невозможно. По его словам, компании обязаны учитывать, что искусственные агенты становятся участниками процессов наравне с живыми сотрудниками, а значит, требуют аналогичных мер защиты. Он формулирует это предельно прямо: "Мы должны защищать клиентов не только от людей, но и от ИИ-агентов - относиться к ним как к пользователям". Однако многие организации продолжают рассматривать И ...>>

Случайная новость из Архива Быстрый нано-фильтр для очистки воды 27.09.2018 Сегодня загрязнение воды считается одной из самых серьезных проблем во всем мире. По оценкам некоторых ученых, почти у каждого девятого человека нет устойчивого доступа к чистой воде. Многие семьи используют для питья водопроводную воду - из-под крана, очищенную с помощью фильтра. Выбор фильтров разнообразен: в некоторых используются или тонкопленочные мембраны, или, например, ионозамещающие смолы. В других в качестве фильтрующего элемента часто выступает активированный уголь из кокосовой скорлупы. Новую и более эффективную технологию фильтрации предложили исследователи из Мельбурнского королевского технологического университета (RMIT) и Университета Нового Южного Уэльса (UNSW). В роли самого фильтра выступают наноструктуры, или кластеры, которые естественным путем образуются при плавлении металлов. Фильтр может очень быстро вывести из воды как тяжелые металлы, так и масла. Исследователи создали сплав, объединив жидкие металлы на основе галлия с алюминием. Когда этот сплав подвергли воздействию воды, на его поверхности естественным образом "наросли" микроскопически тонкие листы соединений оксида алюминия. Эти тонкие слои - в 100 000 раз тоньше человеческого волоса - становятся пористыми на шероховатой поверхности, что позволят воде быстро проходить сквозь них, в то время как соединения оксида алюминия поглощают загрязняющие вещества. Эксперименты показали, что нано-фильтр из сложенных в стопку тонких листов эффективен при отделении масла от воды и при удалении свинца из воды, которая считалась безопасной для питья. Еще один плюс нового метода фильтрации состоит в том, что он не оставляет отходов. Для него необходим лишь алюминий и вода, и даже для каждой новой партии наноструктур повторно используются те же жидкие металлы.

Смотрите полный Архив новостей науки и техники, новинок электроники

www.diagram.com.ua
2000-2025