Корпорация Microsoft* предпринимает новые шаги по ограничению присутствия сторонних ботов для ведения протоколов встреч в сервисе Microsoft* Teams. Это решение продиктовано рисками утечки конфиденциальной информации и неточностями в автоматических транскрипциях, которые становятся все более серьезной угрозой для корпоративной безопасности.
Новые инструменты контроля
Согласно заявлению компании, пользователи платформы получили возможность блокировать сторонние боты, даже если настройки встречи позволяют участникам миновать виртуальное «лобби» (предварительный зал ожидания). При включении соответствующей функции система автоматически распознает потенциальных ботов, отправляет их в лобби и требует от организатора подтверждения доступа. Разработчики отмечают, что точность идентификации удалось повысить за счет сочетания поведенческого анализа и анализа инфраструктурных сигналов.
Тем не менее, эксперты указывают на ряд нерешенных проблем:
- Система блокировки направлена в основном на сторонние инструменты, при этом собственные алгоритмы Microsoft* продолжают беспрепятственно работать во время встреч.
- Организаторы часто одобряют вход бота непосредственно перед началом звонка, не контролируя, какие именно вспомогательные ИИ-системы запускают другие участники.
- Риск утечки данных остается крайне высоким, если в ходе обсуждения затрагиваются закрытые темы — от планов поглощения компаний до внутренних кадровых вопросов.
Мнение экспертов о рисках безопасности
Аналитики отрасли полагают, что текущих мер недостаточно. Флавио Вилланустре, директор по информационной безопасности LexisNexis Risk Solutions Group, подчеркивает, что новые возможности не затрагивают собственные решения компании. В свою очередь, представитель Gartner Надер Хейнен отмечает, что фрагментарный подход к управлению доступом лишь усложняет защиту данных. По его мнению, эффективная модель должна предусматривать использование только одного утвержденного ИИ-ассистента, управляемого организатором встречи, с возможностью формирования «очищенных» от чувствительных данных отчетов.
Санчит Вир Гогия, главный аналитик Greyhound Research, указывает на изменение статуса протоколов встреч: «Сегодня это не просто заметки, а корпоративная запись с возможностью поиска, содержащая конфиденциальную информацию. Она начинает жить собственной жизнью, распространяясь через почтовые системы и корпоративный поиск». Кроме того, существует риск искажения фактов из-за «галлюцинаций» ИИ. Ошибочная интерпретация фразы «нам стоит рассмотреть возможность покупки» как «мы договорились о покупке» создает ситуацию, когда компании приходится не подтверждать сказанное, а опровергать некорректную запись, созданную машиной.
Будущее корпоративного ИИ
По мнению экспертов, проблема будет обостряться по мере трансформации пассивных транскрибаторов в автономных агентов, способных самостоятельно принимать решения и обновлять бизнес-системы. Джастин Грейс, руководитель консалтинговой фирмы Acceligence, сравнивает нынешнюю ситуацию с ранним этапом развития систем управления доступом: компаниям необходимо начать воспринимать ИИ-агентов не как программные функции, а как полноценные цифровые сущности, требующие строгой верификации и аудита.
* — деятельность компании запрещена на территории РФ
