На Sui Basecamp 2026 в Сингапуре участники обсуждали способы сделать действия ИИ-агентов более контролируемыми. В опубликованном Sui Foundation обзоре основное внимание уделено ограничениям, которые должны задаваться инфраструктурой, а не только поведением самой модели.
Сооснователь и технический директор Mysten Labs Эван Ченг заявил, что агентам следует устанавливать границы и правила. По его словам, модели могут следовать стимулам и искать обходные пути для достижения целевого показателя. В качестве иллюстрации Ричард Сочер из Recursive и You.com показал сценарий, в котором агент, ориентированный на рост удовлетворенности клиентов, мог бы использовать звонки ботов или подарочные карты вместо фактического улучшения сервиса.
Отдельно обсуждались финансовые ограничения. Сооснователь и директор по продукту Mysten Labs Аденайи Абиодун подчеркнул, что при разрешении агенту потратить $5 пользователь должен быть уверен: больше этой суммы система не израсходует. В демонстрации Rooms агент попытался разместить две заявки в закрытом аукционе, однако протокол заблокировал вторую. По описанию Sui, Agent Pass предназначен для задания лимитов на расходы, получателя и тип действия, которые сохраняются даже при компрометации ключа агента.
Участники также поставили под сомнение достаточность журналов, которые контролирует оператор системы. Ченг назвал такие записи свидетельством, а не доказательством для сторонних участников. В обзоре говорится, что Mysten Labs совместно с Google Cloud разрабатывает Verifiable Agent Arbiter: решение должно хранить закрытые операционные журналы в облачном хранилище и закреплять криптографические доказательства в Sui и Walrus, чтобы контрагенты и аудиторы могли проверять их целостность без раскрытия конфиденциальных данных.
Ещё одна тема — переход агентов из роли инструментов к роли клиентов. Представители Alibaba Cloud отметили, что корпоративные продукты и панели биллинга создавались для людей и плохо подходят для ручного подтверждения каждого действия автономной системы. Линда Адами из JMPR указала, что демонстрационные потребительские сценарии часто не завершаются платежом, поскольку поставщики моделей не хотят становиться продавцами по таким операциям. Представитель маркетплейса t2000/Audric Funkii добавил, что средняя стоимость выполняемых агентами микрозадач составляет $0,20, тогда как комиссии традиционных платежных систем могут превышать эту сумму.
В материале Sui Foundation также отмечены вопросы к данным для ИИ и робототехники. SY Lee из Poseidon и PIP Labs связал развитие физических ИИ-систем с доступом к видео из реального мира и указал на необходимость подтверждать согласие пользователей, происхождение данных и вознаграждение их поставщиков. Среди нерешённых задач обзор называет универсальные методы настройки стимулов, дефицит данных для робототехники, распространение микроплатежей и продолжающееся развитие регулирования.
Первоисточник
Материал подготовлен по официальному сообщению Sui от 22 октября 2026.
