Корпоративный ИИ: почему запрет внешних чатов не закрывает риск

Генеративный искусственный интеллект в компаниях перестал быть разовым экспериментом и вошёл в повседневные процессы: документы, код, внутренние инструкции, черновики переписки. Вместе с этим направление рынка смещается. Вопрос «какую модель выбрать» уступает место другому: кто отвечает за результат, где обрабатывается текст запроса и почему сотрудники всё равно обходят корпоративные правила.

Так комментирует отраслевую динамику Дмитрий Исаенко, основатель и генеральный директор IT-компании ООО «ДругойКод».

По его оценке, удобный внешний чат хорошо закрывает старт. Но массовое использование быстро упирается в три ограничителя — те же, что уже видны в смежных сюжетах корпоративной автоматизации: экономика, закон и подпись человека.

Первый ограничитель — деньги. Модель оплаты за объём запросов (токены) почти незаметна, пока обращений мало. Когда ИИ становится регулярным инструментом, стоимость растёт вместе с «правильным» adoption. Парадокс управленческий, а не технический: чем активнее люди применяют ИИ по делу, тем быстрее увеличивается операционная статья. Лимиты на ключи экономят бюджет ценой того, что инструмент выключается в пиковый момент. Переход только на более дешёвые модели снижает качество там, где нужна точность. Ни то, ни другое не отвечает на вопрос, зачем организации вообще нужен ИИ в процессе.

Второй ограничитель — закон и периметр данных. Если в запросе оказались фамилии, условия договора, внутренний регламент или коммерческая тайна, текст обрабатывается там, куда его отправили. Для российских компаний это стыкуется с требованиями к персональным данным и с политиками информационной безопасности. «Где выполняется обработка» перестаёт быть деталью инфраструктуры и становится вопросом ответственности.

Третий ограничитель — подпись. Итог работы с договором, отчётом, кадровым документом или кодом в продуктиве подписывает человек. Систему на эту подпись не поставить. Значит, полностью «самостоятельный корпоративный ИИ» в чувствительных контурах недостижим не потому, что модели слабые, а потому что ответственность остаётся человеческой. Достижимо другое: сократить рутину подготовки и оставить человеку проверку, когда каждая цифра и формулировка прослеживаются до источника.

На этом фоне проявляется то, что в отраслевой дискуссии называют теневым ИИ (Shadow AI): сотрудники используют личные аккаунты внешних сервисов в обход правил. Редко из злого умысла. Чаще — из срока задачи. Запрет без понятного рабочего порядка усиливает тень: политика существует на бумаге, практика живёт в личных чатах, учёта нет, а руководство считает риск закрытым регламентом.

Чтобы не путать тренд с управлением, Исаенко предлагает смотреть на корпоративный ИИ по уровням самостоятельности — по аналогии с тем, как рынок уже начал разбирать агентные системы.

• Уровень 1 — по инструкции. Система делает ровно то, что прописано. Нейросеть может быть не нужна вовсе.
• Уровень 2 — помощник. Находит, показывает, готовит черновик. Решает человек.
• Уровень 3 — исполнитель под присмотром. Делает шаг сам, человек подтверждает.
• Уровень 4 — действие без подтверждения. Рынок охотно продаёт именно его. Работающие внедрения в чувствительных процессах чаще живут на уровнях 1 и 2, потому что экономика, закон и подпись не исчезают от нового названия модели.

Прежде чем масштабировать генеративный ИИ, руководителю достаточно четырёх вопросов, которые не требуют отдельного бюджета и технического образования.

• Какие данные вообще допустимы в запросе — и кто это решил письменно, а не «по умолчанию»?
• Где выполняется обработка, если в тексте могут оказаться персональные сведения или тайна?
• Кто подпишет результат своей ответственностью — и что именно человек обязан проверить?
• Есть ли у сотрудников легальный путь решить задачу в срок — или запрет внешних чатов просто вытолкнул практику в тень?

Ни один из этих вопросов не про бренд модели. Все четыре определяют, будет ли ИИ инфраструктурой процесса или источником отложенного риска.

«В погоне за удобным чатом легко купить не управление, а привычку. Выигрывает не тот, кто быстрее всех подключил модель, а тот, кто понял, на каком уровне самостоятельности организация готова остановиться», — говорит Дмитрий Исаенко.