10 апреля отчёт показал: крупнейшие технологические компании, включая Apple и Qualcomm, сознательно ограничивают возможности своих ИИ-агентов. Вместо погони за полной автономностью они делают ставку на контролируемые среды, где рисками можно управлять.
Контрольные точки одобрения
Чувствительные действия — особенно связанные с платежами или изменением учётных записей — требуют явного подтверждения пользователя. В одном из тестов приватный бета-агент Apple прошёл через весь рабочий процесс приложения и «достал до экрана оплаты, прежде чем запросить подтверждение у пользователя». ИИ может подготовить покупку, но не завершить её без одобрения.
Ограничения доступа и on-device приватность
Компании ограничивают, с какими приложениями может взаимодействовать ИИ и когда можно активировать действия. Система «не может свободно перемещаться по сервисам без разрешения». Хранение данных on-device устраняет необходимость отправки чувствительной информации на внешние серверы. Существующие системы аутентификации платёжных провайдеров служат дополнительным уровнем контроля.
Пауза перед неожиданными действиями
Исследования, связанные с ИИ-работой Apple, изучают обеспечение паузы перед действиями, которые пользователь явно не запрашивал. Это принципиально иной подход к автономности: не сколько может агент, а где он должен остановиться. Ошибки в агентном ИИ могут привести к финансовым потерям или утечке данных, а потребительский контекст добавляет уникальные вызовы - контроль должен быть понятен обычным пользователям, а не только экспертам.
