Как внедрить ИИ в банке, не передавая данные в облако

За последние два года почти каждый банк и крупная финансовая организация в Казахстане провели пилот с генеративным ИИ. Большинство пилотов остановились на одном и том же месте: служба информационной безопасности спросила, куда уходят данные, и честный ответ был «на серверы иностранного провайдера». На этом проект заканчивался. Ниже — как построить ИИ так, чтобы этот вопрос вообще не возникал.

Почему облачный ИИ — проблема именно для банков

Для розничной компании отправка текста в облачную модель — вопрос политики. Для банка это вопрос закона и лицензии. Три ограничения действуют одновременно:

• Банковская тайна и персональные данные клиентов: обработка за пределами контура требует правовых оснований и согласий, которых у облачного сценария обычно нет.
• Единые требования в области ИКТ и обеспечения информационной безопасности (ПП РК №832): объекты информатизации финансовых организаций должны соответствовать требованиям к размещению, доступу, журналированию и криптографической защите. Внешний LLM API в эту модель не вписывается.
• Закон «Об искусственном интеллекте» (№230-VIII): владелец и пользователь системы ИИ несут обязанности по классификации рисков, информированию пользователей и контролю — а контролировать чужую облачную модель невозможно.

Поэтому вопрос «какую модель выбрать» для банка вторичен. Первичен вопрос «где она работает и кто её контролирует».

Принцип: ИИ приходит к данным, а не данные к ИИ

On-premise архитектура переворачивает привычную схему. Вместо того чтобы отправлять фрагменты документов и транзакций наружу, языковая модель разворачивается на серверах внутри ЦОДа банка, в закрытом сегменте сети. Данные не покидают периметр ни на одном шаге: ни при обучении, ни при инференсе, ни при журналировании.

На практике это четыре слоя:

1. Инфраструктура: один или несколько серверов с NVIDIA GPU, рассчитанных под нагрузку. Для ассистента юридического департамента на 50 пользователей достаточно одного сервера; для колл-центра на десятки тысяч диалогов в день — кластер.
2. Модели: собственные LLM, дообученные под отрасль и язык. Критично для Казахстана — качественный казахский и русский, с пониманием локальной терминологии (1С, формы отчётности, нормативная лексика).
3. Коннекторы: доступ только на чтение к 1С, АБС, DWH, СЭД и почте, с маскированием персональных данных до того, как текст попадёт в модель.
4. Контур управления: ролевой доступ через корпоративный каталог, MFA для администраторов, неизменяемый журнал каждого запроса и ответа, экспорт в SIEM.

Что реально автоматизируется в первый год

Опыт десяти внедрений показывает, что ценность появляется не в «чате с ИИ», а в трёх конкретных процессах:

• Финансовая аналитика: консолидация отчётности из нескольких баз 1С и АБС, план-факт с объяснением отклонений, ранние сигналы по аномалиям в транзакциях. Это высвобождает недели работы финансового блока ежемесячно.
• Юридическая работа: первичная проверка договоров по плейбуку банка, поиск по внутренним регламентам и законодательству, подготовка типовых документов.
• Клиентский сервис: ассистент в WhatsApp и на сайте, обученный на тарифах и регламентах, с передачей оператору и полным журналом диалога.

Как проходит внедрение

Типовой проект занимает от восьми до шестнадцати недель. Первые две недели — обследование: кейсы, ландшафт данных, требования ИБ, расчёт оборудования. Затем пилот на реальных данных с измеримыми метриками. После пилота — интеграция, настройка SSO и аудита, подготовка документации соответствия и приёмочные испытания с участием службы ИБ.

Чек-лист для первого разговора с поставщиком

• Где физически работает модель и есть ли у поставщика доступ к ней после внедрения?
• Используются ли внешние LLM API хотя бы для части запросов?
• Как маскируются персональные данные до обработки?
• Есть ли журнал каждого запроса и ответа, и в каком формате он экспортируется?
• Какие документы соответствия передаются службе ИБ до приёмки?
• Поддерживает ли модель казахский язык на уровне официальных документов?

Если на любой из этих вопросов поставщик отвечает уклончиво, проект, скорее всего, остановится на том же месте, что и предыдущие пилоты.

Статья носит информационный характер и не является юридической консультацией. Перед применением сверяйтесь с действующей редакцией каждого акта.