Применение логистической регрессии в медицине и скоринге

Введение

В предыдущей статье цикла «Логистическая регрессия и ROC-анализ — математический аппарат» был рассмотрен математический аппарат логистической регрессии и ROC-анализа. Этот материал посвещен практическим аспектам применения данных инструментов. Рассмотрим более подробно на двух областях — диагностика заболеваний и оценка кредитоспособности физических лиц.

Пример из медицины

Первый пример, на котором мы остановимся, будет диагностика диабета (набор данных взят из UCI machine learning repository). Обучающая выборка содержит 768 записей со следующими полями:

1. Число случаев беременности;
2. Концентрация глюкозы;
3. Артериальное диастолическое давление, мм. рт. ст.;
4. Толщина кожной складки трехглавой мышцы, мм.;
5. 2-х часовой сывороточный инсулин;
6. Индекс массы тела;
7. Числовой параметр наследственности диабета;
8. Возраст, лет;
9. Зависимая переменная (1 — наличие заболевания, 0 — отсутствие).

Распределение зависимой переменной следующее: 500 случаев отсутствия заболевания, 268 — его наличие.

Рассчитанные коэффициенты логистической регрессии приведены в таблице.

Значение логарифмического правдоподобия -2*\text{Likehood} равно 723,45. На рис. 1 изображена ROC-кривая. Предсказательную способность модели можно охарактеризовать как очень хорошую.

Рассмотрим фрагмент массива точек «Чувствительность-Специфичность», где:

• Se — чувствительность, доля истинно положительных случаев;
• Sp — специфичность, доля истинно отрицательных случаев;
• Abs(Se-Sp) — модуль |Se-Sp|.

Как следует из таблицы, оптимальным порогом классификации, обеспечивающим максимум чувствительности и специфичности теста (или минимум ошибок I и II рода), является точка 0,35. В ней чувствительность равна 74,3%, что означает: у 74,3% пациентов с наличием диабета диагностический тест будет положителен. Специфичность равна 77,8%, следовательно, у 77,8% пациентов, у которых нет диабета, результаты теста отрицательны.

Точкой баланса, в которой чувствительность и специфичность примерно совпадают, является 0,33.

Если мы, например, выберем порог 0,25, в котором чувствительность теста очень высокая (>84%), то получим гипердиагностику пациентов. А если зафиксировать порог на уровне 0,5, то будем диагностировать только доподлинно больных (специфичность 89%). Что считать здесь оптимальным порогом? Все зависит от конкретной задачи, универсальных рецептов нет. В диагностике диабета, наверное, следует выбрать наиболее чувствительный тест: ложноположительный результат может угрожать, например, лишь дополнительным визитом к врачу, а ложноотрицательный — не выявлением опасной, но излечимой болезни.

Пример из скоринга

Технологии скоринга — автоматической оценке кредитоспособности физического лица — сегодня уделяется повышенное внимание. Логистическая регрессия является традиционным статистическим инструментом для расчета коэффициентов (баллов) скоринговой карты на основе накопленной кредитной истории. А ROC-анализ обеспечивает управление рисками в зависимости от кредитной политики и стратегии организации.

Поставим модели задачу выявления неблагонадежных потенциальных заемщиков. Но, поскольку в скоринге общепринято, что чем выше рейтинг клиента, тем выше его кредитоспособность, то будем считать положительным исходом успешное погашение займа, а отрицательным – дефолт по кредиту.

Тогда проецируя при этих условиях определения чувствительности и специфичности на скоринг, можно заключить, что скоринговая модель с высокой специфичностью соответствует консервативной кредитной политике (чаще происходит отказ в выдаче кредита), а с высокой чувствительностью – политике рискованных кредитов. В первом случае минимизируется кредитный риск, связанный с потерями ссуды и процентов и дополнительными расходами на возвращение кредита, а во втором – коммерческий риск, связанный с упущенной выгодой.

Рассмотрим пример: дана обучающая выборка – производная от кредитной истории заемщиков физических лиц. По результатам характера и результата погашений все заемщики разделены на два класса: благонадежный и неблагонадежный (зависимая переменная). Независимыми переменными являются анкетные данные заемщиков:

1. Возраст;
2. Пол;
3. Семейное положение: состоит в браке (да/нет);
4. Количество иждивенцев;
5. Подтвержденный совокупный располагаемый доход;
6. Опыт работы, лет;
7. Срок проживания в регионе, лет;
8. Рыночная стоимость недвижимости в собственности, тыс.долл.;
9. Ежемесячный платеж по кредиту, руб.;
10. Зависимая переменная (1 — благонадежный, 0 — неблагонадежный заемщик).

Распределение зависимой переменной следующее: 492 благонадежных заемщика из 999.

Рассчитанные коэффициенты логистической регрессии приведены в таблице.

На рис. 2 изображена ROC-кривая для этой скоринг-модели.

Снова рассмотрим фрагмент массива точек «Чувствительность-Специфичность».

• Se — чувствительность, доля истинно положительных случаев;
• Sp — специфичность, доля истинно отрицательных случаев;
• Abs(Se-Sp) — модуль |Se-Sp|.

Максимум чувствительности и специфичности достигается в точке 0,43. В ней чувствительность равна 90,4%, что означает, что 90,4% благонадежных заемщика будут выявлены классификатором. Специфичность равна 88,2%, следовательно, 11,8% недобросовестных заемщиков получат одобрение в выдаче кредита (кредитный риск).

Баланс между чувствительностью и специфичностью получается в точке 0,45.

Если же в банке выбрана стратегия строгого отбора заемщиков, направленная на максимальное выявление неблагонадежных клиентов, следует отдать предпочтение более высокому порогу, который соответствует высокой специфичности, например, точке 0,65 (Sp>94%). Таким образом, при помощи логистической регрессии ROC-анализа осуществляется управление рисками в кредитовании, хотя ROC-анализ может быть применен к любой модели, в которой есть выходное непрерывное поле.

Данные, использованные в материале:

txtДиагностика диабета.txttxtЗаемщики-физические лица.txt

Литература

Другие материалы по теме:

Логистическая регрессия и ROC-анализ — математический аппарат 

Machine learning в Loginom на примере задачи c Kaggle