ремниевая долина пытается продать пользователям всемогущего цифрового дворецкого, но маркетологи предусмотрительно умалчивают о главном ключе доступа, который придется отдать взамен. Очередная волна венчурного ажиотажа поднялась вокруг Instinct — доступного только по приглашениям ИИ-ассистента, созданного бывшим исследователем Sierra Ноем Шинном и стартапом Spear Street Technology из Сан-Франциско. Первые тестировщики восхищаются возможностями автоматизации, называя сервис гигантским прорывом только потому, что он выполняет рутинные бытовые задачи. Пользователи пишут или звонят боту через SMS и WhatsApp, чтобы забронировать столик в ресторане, вызвать такси, расчистить почту или навести порядок в локальных файлах.
За такое удобство приходится платить астрономическую скрытую цену, и речь вовсе не о стоимости подписки. Чтобы проворачивать подобные трюки, Instinct требует глубокого и непроверенного вмешательства в операционную систему: доступ к учетным записям почты, перепискам в WhatsApp, системным календарям, GPS в реальном времени, микрофону и прямой трансляции экрана. Как отметил отраслевой аналитик Майк Христо, комментируя вирусную популярность продукта, первые пользователи добровольно передают стороннему сервису абсолютный контроль над своими основными каналами связи.
«С точки зрения цифровой гигиены и кибербезопасности, сервису Instinct нужно сказать твердое „нет“».
Пароли открытым текстом и угроза взлома
Даже беглый анализ пользовательского соглашения раскрывает пугающие масштабы уступок. Условия использования Instinct предоставляют компании безотзывную и бессрочную лицензию на хранение, анализ и изменение любых переданных данных, включая прямое обучение будущих моделей на личной информации пользователей. Хуже того, Instinct собирает аппаратную телеметрию в реальном времени — ведет запись экрана, фиксирует нажатия клавиш и движения курсора, сохраняя за собой юридическое право совершать финансовые сделки от вашего имени. Выдавать непроверенному стороннему боту генеральную доверенность и права клавиатурного шпиона ради автоматического удаления спама — крайне неразумная сделка.
Предоставление автономному облачному боту полных прав на чтение и запись превращает каждый подключенный смартфон и ноутбук в открытую уязвимость. Если инфраструктура разработчика подвергнется взлому или злоумышленники воспользуются атакой через скрытые инструкции (prompt injection), учетные данные, финансовая информация и личная переписка мгновенно окажутся в чужих руках. Отдавать незашифрованный видеопоток экрана и право на автопокупки ради копеечного удобства — грубое нарушение правил безопасности. Ограничивайте права доступа в системе и держите навязчивых цифровых посредников подальше от своих устройств.