Слияние ИИ и Web3: восход Децентрализации искусственного интеллекта в финансах и его проблемы безопасности
Недавно в Стамбуле, Турция, состоялся блокчейн-форум, сосредоточенный на тенденциях融合 AI и Web3. Это событие стало важной платформой для обсуждения безопасности Web3 в этом году, привлекло множество отраслевых экспертов.
На двух круглых столах несколько экспертов провели глубокое обсуждение состояния применения технологий ИИ в Децентрализация финансов и связанных с ними проблем безопасности. Среди ключевых слов выделялось "Децентрализованный искусственный интеллект в финансах" (DeFAI). Эксперты отметили, что с быстрым развитием больших языковых моделей и ИИ-агентов формируется совершенно новая финансовая парадигма. Однако эта трансформация также приносит новые векторы атак и риски безопасности.
Некоторые высокопоставленные сотрудники компании по безопасности заявили: "Хотя DeFAI имеет широкие перспективы, он также требует от нас переосмысления механизмов доверия в децентрализованных системах. В отличие от смарт-контрактов, основанных на фиксированной логике, процесс принятия решений AI-агентов зависит от контекста, времени и даже исторического взаимодействия. Эта непредсказуемость не только усугубляет риски, но и создает возможности для злоумышленников."
AI-агенты по сути являются интеллектуальными сущностями, способными самостоятельно принимать решения и выполнять действия на основе AI-логики, обычно работающими под авторизацией пользователей, протоколов или DAO. Наиболее типичным представителем являются AI-торговые роботы. В настоящее время большинство AI-агентов функционируют на основе архитектуры Web2, полагаясь на централизованные серверы и API, что делает их уязвимыми для инъекционных атак, манипуляций с моделями или искажений данных. В случае захвата это может привести не только к потере средств, но и оказать влияние на стабильность всего протокола.
В форуме также упоминался типичный сценарий атаки: когда AI-торговый агент, управляемый пользователем DeFi, отслеживает сообщения в социальных сетях в качестве торговых сигналов, злоумышленник публикует ложные предупреждения, такие как "некоторый протокол подвергся атаке", что может заставить агента немедленно начать экстренную ликвидацию. Эта операция не только приведет к потерям активов пользователей, но и вызовет колебания на рынке, которые злоумышленник сможет использовать через фронт-раннинг.
С учетом вышеупомянутых рисков, эксперты в целом считают, что безопасность AI-агентов не должна полностью зависеть от одной стороны, а является общей ответственностью пользователей, разработчиков и третьих сторон по обеспечению безопасности.
Во-первых, пользователи должны четко понимать объем полномочий, которыми обладает агент, осторожно предоставлять права и обращать внимание на проверку высокорисковых операций AI-агента. Во-вторых, разработчики должны внедрять меры защиты на этапе проектирования, такие как: усиление подсказок, изоляция в песочнице, ограничение скорости и логика отката. А третьи стороны безопасности должны предоставить независимую проверку поведения модели AI-агента, инфраструктуры и способов интеграции в цепочку, а также сотрудничать с разработчиками и пользователями для выявления рисков и предложить меры по их смягчению.
Некоторые эксперты по безопасности предупреждают: "Если продолжать рассматривать AI-агентов как 'черный ящик', то инциденты безопасности в реальном мире - лишь вопрос времени." Для разработчиков, которые исследуют направление DeFAI, он советует: "Так же, как и смарт-контракты, логика поведения AI-агента также реализована кодом. Поскольку это код, существует возможность атаки, поэтому необходимо проводить профессиональный аудит безопасности и тестирование на проникновение."
Как одно из самых влиятельных блокчейн-событий в Европе, это мероприятие собрало более 15 000 участников со всего мира, включая разработчиков, проектные группы, инвесторов и регуляторов. Стоит отметить, что с официальным запуском выдачи лицензий на блокчейн-проекты Комиссией по капитальным рынкам Турции статус этого мероприятия еще больше укрепился.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
9 Лайков
Награда
9
5
Репост
Поделиться
комментарий
0/400
ForkLibertarian
· 08-11 19:29
Кто еще играет в Децентрализованные финансы? Все занимаются AI.
Посмотреть ОригиналОтветить0
StealthMoon
· 08-11 19:29
дефи всегда может предложить что-то новое!
Посмотреть ОригиналОтветить0
rekt_but_vibing
· 08-11 19:19
Совершенно новая дорожная выгода - это ловушка, розничный инвестор обязательно будут играть для лохов.
Посмотреть ОригиналОтветить0
BearMarketBuyer
· 08-11 19:17
Предупреждение о рисках: безопасность на первом месте.
Слияние AI и Web3: Безопасностные вызовы и стратегии защиты в условиях роста DeFAI
Слияние ИИ и Web3: восход Децентрализации искусственного интеллекта в финансах и его проблемы безопасности
Недавно в Стамбуле, Турция, состоялся блокчейн-форум, сосредоточенный на тенденциях融合 AI и Web3. Это событие стало важной платформой для обсуждения безопасности Web3 в этом году, привлекло множество отраслевых экспертов.
На двух круглых столах несколько экспертов провели глубокое обсуждение состояния применения технологий ИИ в Децентрализация финансов и связанных с ними проблем безопасности. Среди ключевых слов выделялось "Децентрализованный искусственный интеллект в финансах" (DeFAI). Эксперты отметили, что с быстрым развитием больших языковых моделей и ИИ-агентов формируется совершенно новая финансовая парадигма. Однако эта трансформация также приносит новые векторы атак и риски безопасности.
Некоторые высокопоставленные сотрудники компании по безопасности заявили: "Хотя DeFAI имеет широкие перспективы, он также требует от нас переосмысления механизмов доверия в децентрализованных системах. В отличие от смарт-контрактов, основанных на фиксированной логике, процесс принятия решений AI-агентов зависит от контекста, времени и даже исторического взаимодействия. Эта непредсказуемость не только усугубляет риски, но и создает возможности для злоумышленников."
AI-агенты по сути являются интеллектуальными сущностями, способными самостоятельно принимать решения и выполнять действия на основе AI-логики, обычно работающими под авторизацией пользователей, протоколов или DAO. Наиболее типичным представителем являются AI-торговые роботы. В настоящее время большинство AI-агентов функционируют на основе архитектуры Web2, полагаясь на централизованные серверы и API, что делает их уязвимыми для инъекционных атак, манипуляций с моделями или искажений данных. В случае захвата это может привести не только к потере средств, но и оказать влияние на стабильность всего протокола.
В форуме также упоминался типичный сценарий атаки: когда AI-торговый агент, управляемый пользователем DeFi, отслеживает сообщения в социальных сетях в качестве торговых сигналов, злоумышленник публикует ложные предупреждения, такие как "некоторый протокол подвергся атаке", что может заставить агента немедленно начать экстренную ликвидацию. Эта операция не только приведет к потерям активов пользователей, но и вызовет колебания на рынке, которые злоумышленник сможет использовать через фронт-раннинг.
С учетом вышеупомянутых рисков, эксперты в целом считают, что безопасность AI-агентов не должна полностью зависеть от одной стороны, а является общей ответственностью пользователей, разработчиков и третьих сторон по обеспечению безопасности.
Во-первых, пользователи должны четко понимать объем полномочий, которыми обладает агент, осторожно предоставлять права и обращать внимание на проверку высокорисковых операций AI-агента. Во-вторых, разработчики должны внедрять меры защиты на этапе проектирования, такие как: усиление подсказок, изоляция в песочнице, ограничение скорости и логика отката. А третьи стороны безопасности должны предоставить независимую проверку поведения модели AI-агента, инфраструктуры и способов интеграции в цепочку, а также сотрудничать с разработчиками и пользователями для выявления рисков и предложить меры по их смягчению.
Некоторые эксперты по безопасности предупреждают: "Если продолжать рассматривать AI-агентов как 'черный ящик', то инциденты безопасности в реальном мире - лишь вопрос времени." Для разработчиков, которые исследуют направление DeFAI, он советует: "Так же, как и смарт-контракты, логика поведения AI-агента также реализована кодом. Поскольку это код, существует возможность атаки, поэтому необходимо проводить профессиональный аудит безопасности и тестирование на проникновение."
Как одно из самых влиятельных блокчейн-событий в Европе, это мероприятие собрало более 15 000 участников со всего мира, включая разработчиков, проектные группы, инвесторов и регуляторов. Стоит отметить, что с официальным запуском выдачи лицензий на блокчейн-проекты Комиссией по капитальным рынкам Турции статус этого мероприятия еще больше укрепился.