Эта новость должна обрадовать миллионы массовых потребителей продуктов искусственного интеллекта по всему миру. В ближайшие годы, как утверждает finance.yahoo.com, автономные ИИ-системы всё глубже войдут в повседневную жизнь. И обеспечить безопасность взаимодействия с ними – одна из важнейших задач.
Само понятие ИИ-агента для многих еще не столь привычно и знакомо. Но те, кто ими активно пользуются, уже понимают степень их самостоятельности — от поиска информации и управления финансами до покупки билетов и взаимодействия с сервисами.
Но с ростом автономности растут и риски безопасности, поскольку такие агенты получают доступ к данным пользователя и системам без постоянного контроля человека. И это не может не беспокоить специалистов.
Новая ступень цифровой безопасности
Новый Gen Agent Trust Hub предлагает две ключевые функции, которые делают работу с ИИ-агентами безопаснее, отмечает MarketScreener:
— AI Skills Scanner — проверяет «навыки» ИИ-агента (инструкции, которые он выполняет) перед их установкой, чтобы убедиться, что они не содержат вредоносных или скрытых команд;
— Маркетплейс проверенных навыков — библиотека безопасных, проверенных экспертами решений, доступных пользователям вместо случайных репозиториев с неизвестным содержанием.
Это существенно снижает риск, что ИИ-агент, которым вы пользуетесь, выполнит что-то вредоносное — например, отправит данные на подозрительный сервер или автоматически совершит небезопасную транзакцию.
Генеральный директор Gen Digital Хоуи Сюй отметил: «Автономность без доверия — не прогресс, а уязвимость». И подчеркнул, что инструменты вроде Agent Trust Hub необходимы для того, чтобы ИИ-агенты не действовали быстрее, чем человек успевает отреагировать».
Почему это важно
Применение ИИ-агентов растёт молниеносно — они уже используются в сервисах электронной коммерции, управлении финансами, планировании поездок и даже в корпоративных задачах. Но в таких условиях опасность мошенничества и утечек данных увеличивается, поскольку ИИ может действовать автономно, а не под ежедневным наблюдением человека.
По данным отраслевых исследований, более половины потребителей серьёзно обеспокоены тем, как их личные данные используются в инструментах ИИ. Новые средства защиты, такие как Agent Trust Hub, призваны устранить пробелы в безопасности, чтобы повысить доверие к ИИ-технологиям и создать стандарты безопасного применения для всех.
Экономическая эффективность и риски
Для бизнеса такие системы могут стать конкурентным преимуществом: защитив пользователей от мошенничества и утечек данных, компании повышают лояльность и сокращают расходы на устранение последствий атак. Партнёрство Gen с Equifax также открывает доступ к дополнительным данным для выявления рискованных ситуаций и расширяет возможности по защите финансовых аккаунтов.
Тем не менее, риски остаются. ИИ-агенты могут быть встроены в критические процессы, и ошибки или злоупотребления могут привести к финансовым потерям или компрометации персональных данных.
Поэтому подход Gen, который сочетает технологии проверки, мониторинга и прозрачности, — шаг к долгосрочному укреплению безопасности. Это делает технологии автономных агентов более надёжными, понятными и безопасными для широкого круга пользователей.
