Как да изградите AI стратегия, която оцелява при досег с операциите

Първият признак, че една AI стратегия ще се провали, обикновено се вижда още преди да е избран модел. Ръководната група изброява няколко инструмента и десетки идеи, но никой не може да назове оперативното решение, което трябва да се подобри, човека, който отговаря за него, или доказателството, което би оправдало промяна в процеса.

AI стратегията е съвкупност от избори за работата. Тя определя къде AI може да създаде стойност, кои приложения са извън апетита за риск, какво трябва да бъде доказано, как ще се контролират рисковете и кой ще оперира резултата. Каталог от технологии, програма за обучение или политика за моделите могат да подкрепят тези избори — нито едно от тях не ги замества.

Започнете от работа, която има собственик

„Да използваме генеративен AI в обслужването на клиенти“ е тема. „Да класифицираме и насочваме една определена категория клиентски запитвания, като запазим възможността за ескалация към човек“ е кандидат за приложение. Второто изречение показва задействащо събитие, изход, изключение и собственик на процеса. То може да бъде измерено преди и след промяната.

Този подход съответства на логиката на европейския подход към изкуствения интелект и на Концепцията за развитието на изкуствения интелект в България до 2030 г., която поставя внедряването в контекста на конкретни сектори и капацитет, а не на технологията сама по себе си. Ясно определената нужда прави възможно сравнението между AI, правила, търсене, класическа автоматизация или просто промяна на процеса.

Надежден първи случай има пет свойства:

• Именуван работен процес: задействането, входовете, решенията, изходите и изключенията могат да бъдат описани.
• Отговорен собственик: един човек има правомощието да промени процеса и да приеме оперативния резултат.
• Измерима изходна база: текущото качество, забавяне, обем на преработка или риск могат да бъдат оценени без да се измисля точност.
• Ограничено пускане: първият тест може да бъде изолиран от по-широка трансформационна програма.
• Обратимо решение: организацията може да разшири, преработи или спре, без да е станала зависима от недоказана система.

Идеите без собственик по правило трябва да напуснат активния портфейл. Идеите без изходна база могат да останат в проучване, но не са готови за инвестиционно решение. Стратегията става по-силна, когато премахва работа, а не само добавя.

Направете шест избора явни

1. Стойност

Формулирайте резултата на оперативен език. Целта може да е по-кратък цикъл, по-последователен преглед, по-голям капацитет на обслужване или по-лесно изпълнение на задача, натоварена с информация. Отделете резултата от механизма. „Да внедрим асистент“ описва механизъм; „да помогнем на консултанта да намери действащата одобрена политика и нейния източник по време на разговор“ описва полезна работа.

Стойността се нуждае и от алтернатива за сравнение. Съпоставете предложения AI маршрут с подобряване на изходните данни, опростяване на политиката, промяна на опашката или добавяне на детерминистична автоматизация. Ако по-малко несигурна намеса постига резултата, тя вероятно е по-добрият стратегически избор.

2. Предназначение и граници

Запишете предназначението така, както бихте го записали в техническата документация. Регламент (ЕС) 2024/1689 изгражда почти целия си режим върху предназначението: то определя класификацията, задълженията и обхвата на оценката. Организация, която не може да опише предназначението в едно изречение, няма да може да определи и класификацията си.

Границите са също толкова важни, колкото и обхватът. Кои данни са извън обхвата, кои решения системата не взема, кои категории потребители не се обслужват от нея — това са частите, които после определят дали един инцидент е бил предвиден, или е изненада.

3. Доказателства

Решете предварително какво ще брои като доказателство и кой ще го приеме. Демонстрация не е доказателство. Оценъчен набор, изграден върху вашите документи, вашата терминология и вашите гранични случаи, е доказателство. Определете прага преди теста, не след него.

Функциите Govern, Map, Measure и Manage на NIST AI Risk Management Framework дават използваема структура тук, независимо че рамката е доброволна. Тя разделя управлението на риска от измерването му, което е точно разграничението, което повечето вътрешни презентации пропускат.

4. Контрол

Контролът трябва да е пропорционален на последиците, а не на технологията. Система, която подрежда предложения за вътрешен потребител, изисква по-малко от система, която засяга достъпа на клиент до услуга. Когато се обработват лични данни, приложими остават Общият регламент относно защитата на данните и практиката на Комисията за защита на личните данни, включително изискването за оценка на въздействието там, където обработването води до висок риск.

5. Архитектура и снабдяване

Изборът между готов продукт, конфигурирана платформа и собствена разработка е стратегически, защото определя кои задължения оставате да носите сами. Внедрителят на система с висок риск има собствени задължения по Регламента — те не се прехвърлят към доставчика с договор. Прочетете кой отговаря за наблюдението, за човешкия надзор и за съхранението на записите, преди да подпишете.

6. Оперативна отговорност

Всяка внедрена система има нужда от собственик, който отговаря не за проекта, а за работата след него: кой следи за влошаване на резултата, кой одобрява промяна на модела, кой има право да я спре и в какъв срок. Ако отговорът е „екипът по данните“, отговорът е никой.

Управлявайте портфейл, а не списък с идеи

Списъкът с идеи расте; портфейлът се балансира. Полезно е да се разделят предложенията на три групи: приложения с ниска несигурност и ясна стойност, които могат да минат директно към пилот; приложения с висока стойност и висока несигурност, които се нуждаят от проучване преди инвестиция; и приложения, които организацията съзнателно не преследва. Третата група е тази, която липсва в повечето стратегии, и тя е тази, която дава на ръководителите нещо, което да защитят.

Службата на ЕС по въпросите на изкуствения интелект публикува насоки и указания, които се променят с времето. Портфейлът трябва да има ритъм на преглед, който да улавя тези промени, вместо да ги открива при одит.

Регулаторната пясъчна кутия е реален и краткосрочен вариант

До 2 август 2026 г. всяка държава членка трябва да разполага с действаща национална регулаторна пясъчна кутия за изкуствен интелект. За малките и средните предприятия достъпът е безплатен, а рамката предвижда приоритетно включване, намалени такси при оценяване на съответствието и стандартизирани образци от Службата по изкуствен интелект. Това е конкретна възможност с дата, а не декларация за намерение.

Практическата стойност не е в облекчението, а в достъпа до надзорния орган преди внедряването. Организация, която е обсъдила класификацията на своето приложение с регулатора предварително, влиза в проверка с различна позиция от организация, която е тълкувала сама. За приложение, което е на границата между висок и ограничен риск, това е най-евтиният начин да се намали несигурността.

Ограничението е капацитетът. Националните органи стартират с малки екипи и приемът вероятно ще бъде конкурентен. Кандидатурите с ясно описано предназначение, определен собственик и подготвена документация ще се разглеждат по-бързо от общо формулираните намерения — което е още една причина шестте избора да бъдат направени преди, а не след кандидатстването.

Използвайте решаващи точки, които могат да спрат работата

Решаваща точка, която на практика никога не спира нищо, е формалност. За да работи, тя се нуждае от три неща: критерий, определен преди теста; доказателство, събрано от някой без интерес от резултата; и реален вариант да не се продължи. Записвайте и трите. Най-полезната стратегическа документация в година втора е записът защо едно приложение е било спряно.

Какво трябва да вижда ръководството

Ръководството не се нуждае от списък с модели. То се нуждае от четири неща: кои приложения са в експлоатация и кой ги притежава; кои от тях попадат в обхвата на регулаторни задължения и на какво основание; какво е било доказано и с какви доказателства; и кое е било спряно и защо. Ако този отчет не може да бъде подготвен за един ден, стратегията още не е оперативна.

Работата по прозрачност на Европейския комитет по защита на данните е полезен ориентир за това какво ръководството трябва да може да обясни навън, а не само вътре.

Какво този подход не може да направи

Тази рамка не предсказва кое приложение ще проработи. Тя не замества техническата оценка и не прави несигурния резултат сигурен. Тя не решава и въпроса с капацитета: организация без хора, които могат да преценят дали един изход е верен, ще внедрява бавно независимо от стратегията. Това, което рамката прави, е да направи изборите видими и обратими, така че грешките да струват по-малко.

Ако изграждате AI стратегия и искате портфейлът да издържи на оперативен и регулаторен преглед, започнете с оценката на приложенията и рисковете.

Тази публикация е адаптирана от английския оригинал. При различие английската версия е меродавна.