AI в застраховането: контрол върху решението, не само върху модела

Застраховането използва статистически модели от десетилетия и това създава подвеждащо усещане за приемственост. Машинното обучение в андеррайтинга и в обработката на щети не е просто следващата версия на актюерския модел — то променя това, което може да бъде обяснено, и това, което трябва да бъде доказано.

Класификацията не е еднаква за целия портфейл

Асиметрията, която повечето застрахователи пропускат, е в обхвата. Регламент (ЕС) 2024/1689 поставя в приложение III системите за оценка на риска и ценообразуване по отношение на физически лица при животозастраховането и здравното застраховане. Голяма част от общото застраховане не попада там на това основание.

Практическото следствие е неудобно: два модела, разработени от един и същ екип, върху една и съща платформа, могат да са в различно регулаторно положение. Организация, която прилага единен подход към целия портфейл, или ще претовари част от него, или ще остави друга част без нужните контроли. Насоките за доставчици и внедрители на високорискови системи са изходната точка за преценката, но тя трябва да бъде направена по продукт и по приложение, а не веднъж за компанията.

Използвайте валидацията, която вече имате

Застрахователите са в необичайно добра изходна позиция, защото вече оперират зряло управление на модели. Моделите за капиталово изискване и за резервиране подлежат на валидация с независим преглед, документирани допускания, обратно тестване и определена ескалация при отклонение в представянето. Тази практика произтича от режима по Директива 2009/138/ЕО и от националното ѝ прилагане.

Въпреки това много компании изграждат отделна и значително по-слаба линия за управление на AI, с довода, че машинното обучение е друга дисциплина. Това обикновено е организационна, а не съдържателна грешка. Въпросите, които независимият валидатор задава на модел за резервиране — какви са допусканията, как са тествани, какво се случва в краищата на данните, кой е оспорил това, какво би ни накарало да спрем да го използваме — са правилните въпроси и към модел за ценообразуване, изграден с градиентно усилване. Техниките за отговор се различават; гръбнакът на управлението не.

Практически това означава съществените AI модели да минават през съществуващата валидационна функция с разширен инструментариум, а не през отделен комитет, който докладва встрани и носи по-малко тежест. Означава и че актюерската функция трябва да участва от началото там, където моделът влияе на ценообразуването или на резервирането.

Какво очаква надзорът

Становището на EIOPA относно управлението и риска при изкуствения интелект е адресирано до националните надзорни органи — тоест то описва какво на вашия регулатор е било указано да търси. То стъпва върху по-ранния доклад за принципите на управление на изкуствения интелект и поставя ударение върху пропорционалност, справедливо третиране на потребителите и обяснимост, съответстваща на последиците.

Полезното в него е, че не изисква нова структура. То очаква съществуващата система за управление да обхване и AI моделите — което е по-лесно за компания, която не е изградила паралелна вертикала.

Обяснимостта има адресат

„Моделът трябва да е обясним“ е изискване без съдържание, докато не се каже на кого. Клиентът, получил отказ или по-висока премия, се нуждае от причина на разбираем език и от път за оспорване. Надзорният орган се нуждае от методология, допускания и доказателства за тестване. Вътрешният валидатор се нуждае от нещо трето — поведение на модела в краищата на данните и чувствителност спрямо отделни променливи.

Тези три изисквания се удовлетворяват с различни средства и смесването им е обичайната причина проектите за обяснимост да не удовлетворят никого. Техника, която произвежда приноса на всяка променлива към конкретно решение, е полезна за валидатора и почти безполезна за клиента, ако бъде показана в суров вид.

Практическият подход е да се определят трите адресата в началото и да се приеме, че за всеки ще има отделен изход. Това е и по-евтино от опита да се намери един универсален формат, който после се преработва след първата жалба.

Щетите са мястото, където последиците са най-преки

При обработката на щети автоматизацията се внедрява по-бързо, защото ползата е очевидна: по-бързо уреждане при явно основателните случаи. Рискът е в огледалния случай. Автоматично отклонена или занижена щета засяга лице в момент, в който то е най-уязвимо, а следата от грешката е слаба, защото недоволството не винаги стига до жалба.

Разумната асиметрия е същата като в комплайанса: автоматизацията може да ускорява плащането, но не и да отказва без човешко решение. Ако отказ все пак се автоматизира, той се нуждае от изрична обосновка, от проследим запис и от лесен път за оспорване.

Обърнете внимание и на посредниците. Голяма част от портфейла в региона се продава през брокери и агенти, което означава, че данните за клиента постъпват през канал, който компанията не контролира пряко. Модел, обучен върху такива данни, наследява и различията в практиката на отделните посредници — пълнота на попълване, тълкуване на въпроси, дори последователност на въвеждане. Това се проявява като разлика в резултата по канал, а не като грешка на модела, и се открива само ако представянето се разглежда по канал, а не общо.

Човешкият надзор трябва да променя резултата

Надзор, при който служителят вижда препоръката преди своя преценка, не е надзор — той е насочване. Ако решението има съществени последици, покажете първо фактите и едва след това препоръката, и запишете дали преценката се е различавала. Дял на несъгласие, който е близо до нула, е основание за проверка, а не за увереност.

Проверете и дали служителят реално има правомощието да отмени. Ако отмяната изисква одобрение от друго ниво, а препоръката не изисква нищо, системата на практика решава.

Кои приложения са добри първи стъпки

Най-добрите първи приложения в застраховането са тези, при които грешката води до забавяне, а не до отказ. Приоритизиране на щети по сложност, извличане на данни от документи при завеждане, откриване на непълни досиета и подпомагане на служителя при търсене в условията на продукта отговарят на това условие.

Приложенията, които изглеждат най-привлекателни и заслужават най-много предпазливост, са автоматичното ценообразуване по индивидуален риск и автоматичното отклоняване на щети. И двете имат преки последици за лице, и двете попадат в най-строгата част от режима, и при двете грешката е трудно откриваема отвътре.

Междинен случай е откриването на измами. Стойността е реална, но моделът тук произвежда подозрение, а не заключение. Ако изходът води до забавяне на плащане, той има последици за клиента и се нуждае от срок, от човешко решение и от запис.

Данните за лицата остават в пълен обхват

Андеррайтингът и щетите обработват здравни и други чувствителни данни, което поставя приложението изцяло в обхвата на Общия регламент относно защитата на данните, включително правилата за автоматизирано вземане на решения. Насоките на Европейския комитет по защита на данните и практиката на Комисията за защита на личните данни определят рамката за оценка на въздействието.

Тестването за справедливост е отделна работа от тестването за точност. Модел може да бъде точен като цяло и същевременно да се представя системно по-зле при определена група — по регион, по възраст, по канал на продажба. Това се открива само ако бъде търсено изрично.

Какво този подход не може да направи

Управленската рамка не прави модела справедлив и не решава въпроса кога диференцирането на цената е обосновано и кога не е. Този въпрос е част технически, част правен и част въпрос на политика на компанията, и трябва да бъде решен от хора, а не изведен от данните. Рамката прави решението видимо и защитимо — тя не го взема вместо вас.

Ако използвате или планирате AI в андеррайтинга или в щетите, започнете с оценка на класификацията и контролите по продукт.

Тази публикация е адаптирана от английския оригинал. При различие английската версия е меродавна.