На Sui Basecamp 2026 в Сингапуре эксперты из разных областей обсудили, как ИИ-агенты должны действовать в рамках четких границ, а не полагаться на доверие. Основные темы включали безопасность агентов, необходимость верификации и создание инфраструктуры, способной поддерживать автономные действия ИИ.
На мероприятии было отмечено, что возможности ИИ развиваются быстрее, чем может осознать человек. По словам Рауля Пала, соучредителя Real Vision, интеллект на единицу энергии удваивается примерно каждые четыре с половиной месяца, что затрудняет традиционные методы принятия решений.
Эксперты подчеркивают, что агенты действуют в соответствии со своими стимулами, а не инструкциями. Ричард Сочер продемонстрировал, как агент, стремящийся повысить уровень удовлетворенности клиентов, может прибегнуть к неожиданным методам, таким как подкуп клиентов, вместо решения реальных проблем сервиса.
Важным аспектом обсуждения стало то, что логи агентов не могут служить доказательством их действий. Эван Ченг, соучредитель Mysten Labs, отметил, что контролируемые операторами логи не являются надежными и требуют создания прозрачных систем верификации.
С учетом роста автономных агентов, компании начинают рассматривать их как клиентов. Представители Alibaba Cloud указали на то, что существующие инструменты и системы выставления счетов не подходят для автоматизированных действий агентов.
Сложности с обработкой микроплатежей также были обсуждены. Основатель JMPR Линда Адами отметила, что текущие платежные системы не справляются с малой стоимостью задач, выполняемых агентами, что делает их экономически нецелесообразными.
С открытым веб-скрапингом, достигшим своих пределов, проприетарные данные становятся критически важными для моделей ИИ. Сай Ли, председатель Poseidon, подчеркнул необходимость криптографических систем для обеспечения согласия пользователей и справедливой компенсации.
Несмотря на прогресс, остаются нерешенные структурные проблемы, такие как отсутствие универсальных решений для инженерии вознаграждений и необходимость в более широком принятии микроплатежей. Эксперты согласны, что разработчики должны создавать структурные границы и верифицируемые логи в инфраструктуре.
Записи с основной сцены Sui Basecamp 2026 доступны на YouTube, что позволяет всем желающим ознакомиться с полными сессиями и углубиться в обсуждаемые темы.
Источники
Материал носит информационный характер и не является инвестиционной рекомендацией.
