Теневой ИИ — это использование инструментов ИИ на работе без ведома или одобрения организации. Управление теневым ИИ — это набор правил и проверок, которые выводят такое использование на свет. Маркетинговой команде для начала достаточно политики на одной странице: одобренные инструменты, классы данных, проверка человеком, учёт и порядок действий при инцидентах.
Главное
- Теневой ИИ — нормальное поведение людей, которые хотят работать быстрее; политики, состоящие только из запретов, обычно загоняют его в тень.
- Главные риски — утечка данных, непроверенные утверждения, авторские права, размывание голоса бренда и незафиксированные обязательства.
- Хорошая политика умещается на одной странице и отвечает на пять вопросов: какие инструменты, какие данные, кто проверяет, что фиксируется и что делать, если что-то пошло не так.
- Дополните политику списком одобренных инструментов, которыми действительно можно пользоваться.
- Пересматривайте страницу каждый квартал: инструменты и правила быстро меняются.
Что такое теневой ИИ?
Это любой ИИ-инструмент, плагин, расширение браузера или агент, которым сотрудники пользуются для работы без проверки со стороны ИТ, юристов или руководителя по маркетингу. Классический случай — копирайтер, который вставляет бриф клиента в бесплатный чат-бот. Так же и фрилансер, использующий генератор изображений, о котором не сказано в договоре.
Причина обычно не в дурных намерениях. Люди берут инструмент, который помогает. То же давление порождает разрастание набора ИИ-инструментов, а это проблема не только риска, но и затрат.
Почему теневой ИИ важен для маркетинга?
Маркетинг работает с данными клиентов, неопубликованными планами, конфиденциальными материалами клиентов и публичными утверждениями. Любое из этого может пострадать из-за неодобренного ИИ.
- Утечка данных. Конфиденциальные или персональные данные вводятся в инструмент, условия которого разрешают хранить их или использовать для обучения.
- Ложные утверждения. Модели выдумывают статистику, цитаты и цены. См. галлюцинации ИИ в маркетинге.
- Права и раскрытие. Неясное право собственности на сгенерированные материалы и отсутствие раскрытия там, где этого требуют правила.
- Размывание бренда. Когда много людей пишут запросы по-разному, контент звучит так, будто он ничей.
- Скрытые обязательства. Агенты, которые отвечают клиентам или публикуют без записи. Об этом наш материал теневой реестр.
Есть ли признанная основа, на которую можно опереться?
Да. Национальный институт стандартов и технологий США (NIST) опубликовал 26 января 2023 свою AI Risk Management Framework как добровольный ресурс. NIST также выпустил Generative AI Profile (NIST-AI-600-1) 26 июля 2024, чтобы помочь организациям выявлять риски, характерные для генеративного ИИ. Фреймворк написан для организаций, которые создают или внедряют ИИ, поэтому маркетинговой команде стоит позаимствовать его идеи — управлять, картировать, измерять и контролировать, — а не принимать его целиком. На странице NIST отмечено, что фреймворк пересматривается, поэтому проверяйте актуальную версию.
Вашему юристу или специалисту по безопасности или защите данных, возможно, потребуется применять и местные правила. Эта статья не является юридической консультацией.
Что должна говорить политика на одной странице?
Используйте шесть разделов. Каждый — в несколько строк.
- Цель и охват. Кого она касается: сотрудников, фрилансеров и агентств, работающих над вашим брендом.
- Одобренные инструменты. Именованный список с владельцем и способом запросить новый инструмент. Всё, чего нет в списке, требует предварительного одобрения.
- Классы данных. Укажите, что в какой инструмент можно вводить.
- Публичные (опубликованный контент): допускаются в одобренных инструментах.
- Внутренние (планы, черновики): одобренные инструменты только с бизнес-условиями.
- Конфиденциальные (данные клиентов, неанонсированные запуски, договоры): только инструменты, одобренные для этого.
- Персональные данные (имена клиентов, email, списки аудитории): не вводить в ИИ-инструменты, пока не получено согласие отдела защиты данных.
- Проверка человеком. Назначенный сотрудник проверяет факты, цифры, цитаты, утверждения, голос бренда и юридические формулировки до публикации. Используйте наш чек-лист контроля качества для ИИ-контента.
- Учёт. Фиксируйте инструмент, дату, цель и проверяющего для опубликованных работ с участием ИИ. Агентам, которые действуют самостоятельно, нужны журнал аудита и этап согласования.
- Инциденты. Если конфиденциальные данные вставлены в неодобренный инструмент или в эфир вышло ложное утверждение: сообщите назначенному контакту в установленный срок, не удаляйте доказательства и не ждите обвинений за раннее сообщение.
Как вывести существующее теневое использование на свет?
- Сначала спросите. Проведите короткий опрос без поиска виноватых: какими ИИ-инструментами вы пользуетесь и для чего?
- Разберите ответы на «одобрить», «заменить» и «прекратить».
- Предложите хороший одобренный вариант для каждой типичной задачи, иначе список будет проигнорирован.
- Проведите краткое обучение. Один час о политике и проверке результатов ИИ. См. как обучать младших маркетологов работе с ИИ.
- Пересматривайте раз в квартал и обновляйте список инструментов.
FAQ
Теневой ИИ — то же самое, что теневые ИТ?
Это их разновидность. Теневые ИТ — любое неодобренное ПО; теневой ИИ — частный случай с ИИ, с дополнительными рисками из-за использования данных для обучения и контента, который выглядит верным, но таковым не является.
Стоит ли запретить ИИ-инструменты?
Полный запрет трудно обеспечить, и он обычно загоняет использование в тень. Чёткий список одобренных инструментов и правила работы с данными дают людям безопасный путь к той же пользе.
Кто должен отвечать за политику по ИИ в маркетинговой команде?
Ежедневно за неё должен отвечать руководитель по маркетингу при участии юристов, специалистов по безопасности и защите данных. Назовите одного человека, чтобы у вопросов был адресат.
Должны ли фрилансеры и агентства ей следовать?
Да. Включите политику в договоры или брифы и спрашивайте партнёров, какие ИИ-инструменты они используют в работе над вашим проектом и какие данные туда вводят.
Как часто обновлять политику?
Пересматривайте её каждый квартал и всякий раз, когда новый инструмент, закон или инцидент меняет картину. Устаревшая страница хуже, чем её отсутствие, потому что даёт ложное чувство безопасности.
Источники
- NIST, AI Risk Management Framework.
- Публикации SOMIN: Теневой реестр и Галлюцинации ИИ в маркетинге.
