Попитайте една организация колко AI системи оперира и отговорът обикновено е списък с проекти. Истинското число е по-голямо, а разликата рядко е нечия вина. Тя е страничен ефект от начина, по който AI пристига днес: не като решение за доставка, а като функция, добавена към софтуер, който вече е в употреба.
Клиентската платформа получи обобщаване миналото тримесечие. Инструментът за подбор класира кандидатите. Обслужващото звено предлага решения. Добавката към електронните таблици съставя формули. Нищо от това не е минало през процес за одобрение на AI, защото нищо от това не е купено като AI.
Защо броят винаги е занижен
Употребата расте бързо: според Евростат: използване на изкуствен интелект в предприятията през 2025 г. около 20 % от предприятията в ЕС с поне десет заети използват AI технологии, при 13,5 % година по-рано; сред големите предприятия делът е 55 %, а за България — 8,5 %. Това изследване пита предприятията какво използват съзнателно. Вградените функции в купен софтуер системно остават под радара — както на статистиката, така и на вътрешния регистър.
Това рядко е проблем на знанието. То е проблем на описа. Трудно се разбира съвкупност, която не е преброена, а повечето организации управляват въз основа на списък, съставен чрез разпитване наоколо.
Пример, който работи в голям мащаб
Идеята, че списъкът просто може да бъде публикуван, беше изпитана публично. Амстердам и Хелзинки пуснаха общински регистри на алгоритмите през 2020 г., в които се записва за какво служи всяка система, какви данни ползва, как участва човек и как е оценена за рискове. Регистърът на Амстердам междувременно се вля в национален.
Регистърът на алгоритмите на нидерландското правителство стартира през декември 2022 г. и днес съдържа над 1 500 алгоритъма, с акцент върху системи с високо въздействие, включително високорисков ИИ, публикувани от министерства, агенции и общини. Каквото и да мисли човек за публикуването, упражнението доказва по-тесен и по-полезен извод: преброяването на алгоритмични системи в голяма, разпределена структура е изпълнимо. Направено е в национален мащаб, публично, от органи със значително по-малко търговска свобода от една частна компания.
Частна организация почти никога няма да публикува. Вътрешният вариант на същия документ пак остава най-ценният управленски документ, който на повечето къщи липсва.
Какво трябва да съдържа един запис
Описът е полезен само ако всеки ред отговаря на въпросите, които се задават под напрежение. Девет полета покриват почти всеки случай.
- Какво прави, на оперативен език. Не „платформа за машинно обучение“, а „приоритизира входящите претенции за разпределяне към служител“.
- Кой отговаря за него. Едно назовано лице с правомощие да го промени или спре — не екип и не комитет.
- На кое решение влияе и дали човек преглежда, преди резултатът да произведе действие.
- Какви данни влизат, включително дали са лични данни и на какво правно основание.
- Къде работи моделът и кой е доставчикът.
- Коя версия е в употреба и как промяна по нея би стигнала до вас.
- Какви доказателства има, че работи — оценка, извадка, твърдение на доставчика или нищо, което е допустим отговор, стига да е записан.
- Какво се случва, ако сгреши, описано като последица за човек или за бизнеса, а не като степен на тежест.
- Кога е прегледано за последно.
Устоявайте на подтика да добавите рискова оценка в самото начало. Оценките предизвикват спорове за калибриране, преди списъкът изобщо да е пълен — а стойността е в списъка.
Как да намерите какво вече оперирате
Да поискате от екипите да се самообявят произвежда списъка, който вече сте имали. Пет източника дават останалото.
- Документи по доставки и финанси. Прегледайте двайсет и четири месеца разходи към доставчици за AI инструменти и за подновявания, при които съществуващ продукт е добавил AI функции.
- Бележки по версиите на доставчиците. За двайсетте най-важни оперативно системи прочетете какво е излязло през последната година. Там се намира по-голямата част от неописания AI.
- Дневници за самоличност и достъп. Единното вписване и разходните данни показват към кои услуги хората наистина се удостоверяват — включително онези, които никой не е заявил.
- Записи за промени. Интеграциите към основните системи обикновено се документират дори когато способността зад тях — не.
- Разговор с всеки оперативен ръководител. Не формуляр. Попитайте какво в техния процес вече произвежда предложение, класиране, оценка или чернова — и кой действа по него.
Очаквайте първото честно преминаване да извади между два и пет пъти повече системи, отколкото са очаквали хората. Това е нормалният резултат и е смисълът на упражнението.
Какво да се прави със списъка
Не управлявайте всичко еднакво. Подредете по последица: какво се случва с клиент, със служител или със задължение, когато тази система сгреши. Повечето записи се оказват удобства с ниска последица, на които трябват отговорник и дата за преглед и нищо повече. Малък брой засягат решения за хора — кредит, заетост, право на достъп, ценообразуване, достъп до услуга — и заслужават истинска работа.
Това подреждане е и входът към почти всичко останало. То определя какво попада в обхвата на регулаторната рамка на ЕС за ИИ, която обвързва задълженията с употребата, а не с технологията. Определя какво би покрила система за управление по ISO/IEC 42001. И е функцията Map на NIST AI Risk Management Framework, който съзнателно поставя преброяването и контекста преди измерването и управлението — по простата причина, че другите две са неопределени без него.
Това е и документът, който отговаря на въпросник за надлежна проверка, на предложение на застраховател, на проверка по сигурността от клиент или на първия въпрос на надзорен орган. Такива запитвания идват все по-често, а бързо отговарят къщите, които са свършили това, преди да ги попитат.
Две седмици, не програма
За това не е нужен управителен комитет. Един човек с достъп до документите по доставки и разрешение да задава преки въпроси изготвя защитим пръв опис за около две седмици. Версия едно ще е непълна; публикувайте я вътрешно въпреки това, защото непълният списък привлича поправките, които празната страница никога не получава.
После определете дата за преглед и я спазвайте. Опис, който е точен веднъж, е документ. Опис, който е точен всяко тримесечие, е контрола.
Ако искате това да бъде свършено независимо и бързо — то е обичайната първа стъпка в работата по AI средата, оформена като оценка.
Тази публикация е адаптирана от английския оригинал. При различие английската версия е меродавна.
