Банкте жасанды интеллектті деректерді бұлтқа жібермей қалай енгізуге болады

Соңғы екі жылда Қазақстандағы банктер мен ірі қаржы ұйымдарының барлығы дерлік генеративті жасанды интеллектпен пилот жүргізді. Пилоттардың көбі бір жерде тоқтады: ақпараттық қауіпсіздік қызметі деректердің қайда кететінін сұрады, ал шынайы жауап «шетелдік провайдердің серверлеріне» болды. Жоба осымен аяқталды. Төменде — бұл сұрақ мүлде туындамайтындай ЖИ-ді қалай құруға болатыны туралы.

Неге бұлттық ЖИ дәл банктер үшін мәселе

Бөлшек сауда компаниясы үшін мәтінді бұлттық модельге жіберу — ішкі саясат мәселесі. Банк үшін бұл — заң мен лицензия мәселесі. Үш шектеу бір мезгілде әрекет етеді:

• Банктік құпия және клиенттердің дербес деректері: оларды контурдан тыс өңдеу үшін құқықтық негіз бен келісім қажет, ал бұлттық сценарийде олар әдетте болмайды.
• АКТ және ақпараттық қауіпсіздікті қамтамасыз ету саласындағы бірыңғай талаптар (ҚР Үкіметінің №832 қаулысы): қаржы ұйымдарының ақпараттандыру объектілері орналастыруға, қолжетімділікке, журналдауға және криптографиялық қорғауға қойылатын талаптарға сай болуы тиіс. Сыртқы LLM API бұл модельге сыймайды.
• «Жасанды интеллект туралы» Заң (№230-VIII): ЖИ жүйесінің иесі мен пайдаланушысы тәуекелдерді жіктеуге, пайдаланушыларды хабардар етуге және бақылауға міндетті — ал біреудің бұлттағы моделін бақылау мүмкін емес.

Сондықтан банк үшін «қай модельді таңдау керек» деген сұрақ екінші кезектегі мәселе. Бірінші кезекте — «ол қайда жұмыс істейді және оны кім бақылайды».

Қағидат: деректер ЖИ-ге емес, ЖИ деректерге барады

On-premise архитектура үйреншікті схеманы төңкеріп тастайды. Құжаттар мен транзакциялардың үзінділерін сыртқа жіберудің орнына, тілдік модель банктің деректерді өңдеу орталығындағы серверлерде, желінің жабық сегментінде орналастырылады. Деректер ешбір қадамда периметрден шықпайды: оқыту кезінде де, инференс кезінде де, журналдау кезінде де.

Іс жүзінде бұл төрт қабат:

1. Инфрақұрылым: жүктемеге есептелген бір немесе бірнеше NVIDIA GPU сервері. 50 пайдаланушысы бар заң департаментінің көмекшісіне бір сервер жеткілікті; күніне он мыңдаған диалог өңдейтін байланыс орталығына — кластер.
2. Модельдер: салаға және тілге қарай қосымша оқытылған өз LLM-дер. Қазақстан үшін ең маңыздысы — жергілікті терминологияны (1С, есептілік нысандары, нормативтік лексика) түсінетін сапалы қазақ және орыс тілі.
3. Коннекторлар: 1С-ке, автоматтандырылған банк жүйесіне, DWH-ке, электрондық құжат айналымы жүйесіне және поштаға тек оқуға арналған қолжетімділік; мәтін модельге түспес бұрын дербес деректер бүркемеленеді.
4. Басқару контуры: корпоративтік каталог арқылы рөлдік қолжетімділік, әкімшілерге арналған MFA, әр сұрау мен жауаптың өзгертілмейтін журналы, SIEM-ге экспорт.

Бірінші жылы не шынымен автоматтандырылады

Он енгізудің тәжірибесі құндылық «ЖИ-мен чатта» емес, үш нақты процесте пайда болатынын көрсетеді:

• Қаржылық талдау: бірнеше 1С базасы мен банк жүйесінен есептілікті шоғырландыру, ауытқуларды түсіндіретін жоспар-факт, транзакциялардағы аномалиялар туралы ерте сигналдар. Бұл қаржы блогының ай сайынғы бірнеше апталық жұмысын босатады.
• Заң жұмысы: шарттарды банктің плейбугы бойынша алдын ала тексеру, ішкі регламенттер мен заңнама бойынша іздеу, үлгілік құжаттарды дайындау.
• Клиенттерге қызмет көрсету: тарифтер мен регламенттерге үйретілген, операторға беру мүмкіндігі және диалогтың толық журналы бар WhatsApp пен сайттағы көмекші.

Енгізу қалай өтеді

Әдеттегі жоба сегіз аптадан он алты аптаға дейін созылады. Алғашқы екі апта — зерттеу: кейстер, деректер ландшафты, ақпараттық қауіпсіздік талаптары, жабдықты есептеу. Одан кейін өлшенетін метрикалары бар нақты деректердегі пилот. Пилоттан кейін — интеграция, SSO мен аудитті баптау, сәйкестік құжаттамасын дайындау және ақпараттық қауіпсіздік қызметінің қатысуымен қабылдау сынақтары.

Жеткізушімен алғашқы әңгімеге арналған чек-парақ

• Модель физикалық тұрғыдан қайда жұмыс істейді және енгізуден кейін жеткізушінің оған қолжетімділігі бар ма?
• Сұраулардың бір бөлігі үшін болса да сыртқы LLM API қолданыла ма?
• Өңдеуге дейін дербес деректер қалай бүркемеленеді?
• Әр сұрау мен жауаптың журналы бар ма және ол қандай форматта экспортталады?
• Қабылдауға дейін ақпараттық қауіпсіздік қызметіне қандай сәйкестік құжаттары беріледі?
• Модель қазақ тілін ресми құжаттар деңгейінде қолдай ма?

Егер жеткізуші осы сұрақтардың кез келгеніне жалтара жауап берсе, жоба бұрынғы пилоттар тоқтаған жерде тоқтайтын шығар.

Мақала ақпараттық сипатта және заңдық кеңес болып табылмайды. Қолданар алдында әр актінің қолданыстағы редакциясын тексеріңіз.