FICO представляет модели FLM и FSM для финансового сектора

FICO, которую большинство людей знают как компанию, определяющую кредитные рейтинги, уже много лет работает с моделями машинного обучения и искусственного интеллекта. Тем не менее компания решила не спешить с выпуском собственных базовых моделей, предпочтя сначала обеспечить высокий уровень доверия и соответствия нормативным требованиям для своих клиентов из финансового сектора.

Теперь FICO объявила о выпуске двух базовых моделей: FICO Focused Language (FICO FLM) и FICO Focused Sequence (FICO FSM). Компания создала обе модели с нуля, опираясь на свой многолетний опыт работы с финансовыми данными и алгоритмами обучения. У FICO также есть собственный кластер графических процессоров (GPU).

FICO Focused Language в основном работает с диалогами и текстовой составляющей финансов для выявления мошенничества и обработки кредитной документации. В то же время FICO Focused Sequence лучше всего подходит для аналитики транзакций. 

Скотт Зольди (Scott Zoldi), директор по аналитике в FICO, рассказал в интервью VentureBeat, что, несмотря на годы создания моделей (Зольди и FICO владеют несколькими патентами, связанными с моделями ИИ), компания понимала: ее продукты должны отвечать строгим требованиям доверия и комплаенса со стороны ее основных клиентов — банков и кредиторов. 

«Нам нужно было убедиться, что мы уверены в технологии, которая будет соответствовать стандартам ответственного ИИ, — отметил Зольди. — Она должна быть проверяемой, прозрачной и объяснимой, и нам потребовалось создать технологию, которая будет отслеживать результаты работы». Именно поэтому FICO разработала свой показатель Trust Score («Показатель доверия»), который ранжирует ответы модели на основе заданных критериев, чтобы гарантировать точность и надежность результатов. 

Уровень доверия

По словам Зольди, Trust Score является ключевым компонентом, который делает две модели FICO эффективными в таких жестко регулируемых отраслях, как финансы. 

Trust Score служит защитным механизмом (ограничителем), который показывает, насколько точно ответ соответствует обучающим данным. Это похоже на то, как некоторые крупные облачные провайдеры, такие как AWS, предлагают защитные барьеры и контекстную привязку для более крупных моделей общего назначения.

«Таким образом, показатель Trust Score по сути означает, что у нас будет независимый алгоритм генеративного ИИ, и этот алгоритм будет основан на данных, которые использовались для создания модели», — пояснил Зольди. 

Поскольку FICO создала модели с нуля, компания владеет точными наборами данных, использованными для их обучения, и имеет к ним полный доступ. FICO также тесно сотрудничает с клиентами для интеграции их данных, позволяя настраивать модели под конкретные сценарии использования. Trust Score также учитывает контекст, содержащийся в данных. Например, если модель используется для чтения документации по европейским финансовым инструментам, Trust Score может определить, является ли ответ релевантным. 

«У нас есть концепция, называемая «якорем знаний», которая гласит, что если вы не эксперт, то обычно не можете понять, галлюцинирует ли модель. Поэтому наш подход заключался в том, чтобы работать с экспертами, которые определяют, на какие вопросы модель должна отвечать и как именно она должна это делать», — рассказал Зольди.

Trust Score также учитывает это при оценке ответа. Высокий балл указывает на то, что ответ точен с точки зрения покрытия данных и не вводит в заблуждение. Ответы с низкими баллами могут побудить банк пересмотреть свои данные или скорректировать реакцию модели.

Разумеется, финансовая организация сама определяет свою склонность к риску, поскольку некоторые компании могут быть готовы принять результаты, которые не имеют идеального балла. 

FICO Focused 

В FICO заявили, что обе модели — Language и Sequence — можно считать небольшими языковыми моделями, что укладывается в общую тенденцию, когда предприятия предпочитают небольшие модели более крупным общим моделям. Объем параметров FICO FLM составляет менее 10 миллиардов, в то время как FSM еще меньше — менее 1 миллиона параметров.

По словам Зольди, благодаря своему небольшому размеру в будущем эти модели смогут использоваться для более автономных задач (агентов). 

FICO FLM лучше всего справляется с пониманием языка, использующегося в транзакциях. Зольди отметил, что у модели есть два основных сценария использования. Первый — комплаенс и коммуникации. Модель понимает правила, регулирующие то, как финансовые учреждения могут и должны предоставлять информацию клиентам, а также извлекать информацию из разговоров. Особенность FLM, по словам Зольди, заключается в том, что, отслеживая диалоги между банком и клиентом, она способна распознать, испытывает ли человек финансовые трудности. Банк может адаптировать свой подход к предоставлению информации с учетом экономического положения клиента. 

Второе направление применения FLM — андеррайтинг, то есть процедура выдачи кредита или предоставления капитала физическому или юридическому лицу. Модель способна учитывать историю взаимодействия человека с банком и анализировать кредитную документацию. 

FICO FSM работает с данными транзакций. Зольди сообщил, что модель помнит всю совокупность транзакций и покупок потребителя или организации, что позволяет ей выстраивать паттерны поведения. Кроме того, она способна определить, указывает ли изменение в схеме покупок (например, крупные приобретения) на то, что кто-то украл кредитную карту или привязал ее к новому месту жительства. 

Зольди отметил, что традиционные модели мониторинга мошенничества часто забывают детали спустя некоторое время. Он привел в пример зарубежные поездки. Кто-то мог регулярно ездить в Казахстан на протяжении нескольких лет. Банк понимал, что пользователь находился в этой стране долгое время, и одобрял там транзакции. После периода отсутствия пользователь снова отправляется в эту страну. Поскольку из-за прошедшего времени модель забыла ранее установленный паттерн, она снова начинает фиксировать операции как подозрительные. По словам Зольди, с FSM такого не происходит. 

«Здесь другая архитектура: у нее есть так называемая контрастивная голова и контролируемая голова (contrastive head and supervised head), — пояснил Зольди. — Контрастивная голова определяет, укладывается ли данная транзакция в привычный паттерн, а контролируемая голова отвечает на вопрос, является ли это изменение поведения мошенничеством. Контролируемая задача знает вероятность мошенничества, тот факт, что клиент испытывает трудности, и то, что нам нужно вмешаться».

Зольди добавил, что для обучения моделей компания создала синтетические данные, которые маскируют персональные данные пользователей.

Специализированные модели для конкретных доменов

Основная идея FICO заключается в том, что некоторым отраслям лучше подходят специализированные доменные модели, а не адаптация больших языковых моделей с более общим пониманием данных. По словам Зольди, финансовые учреждения могут использовать несколько небольших узкоспециализированных моделей для различных сценариев, но все они будут сфокусированы лишь на одном аспекте бизнеса. 

Зольди отметил, что нишевая модель обладает только той информацией и знаниями, которые ей необходимы, а значит, она не будет обращаться к посторонним данным, способным вызвать галлюцинации. 

Тем не менее разработка базовой модели часто сопряжена со сложностями и большими затратами. Большинство компаний предпочитают дорабатывать (fine-tune) языковые модели от OpenAI или Anthropic. Некоторые компании, такие как Intuit, уже выпустили специализированные финансовые модели.