Столбец：математика Моделированиеучебные заметки

1. Вопрос

Вопрос А. Проблема идентификации кредитного риска

Идентификация кредитного риска играет жизненно важную роль в финансовой отрасли и в индивидуальном процессе кредитования. Его основная задача — снизить подверженность кредитным учреждениям рискам путем анализа личной и финансовой информации заемщиков, а также другой информации для оценки их способности и желания погашать кредиты. Точность оценки кредитного риска напрямую связана с качеством активов и экономическим состоянием кредитных организаций. Поэтому создание точной и надежной модели оценки кредитного риска имеет большое значение как для финансовых учреждений, так и для заемщиков.

В контексте больших данных существует множество проблем, которые необходимо решить на каждом этапе «скрининга индекса оценки кредитного риска → расчета рейтинга кредитного риска → классификации уровней кредитного риска» в исследовании оценки кредитного риска. Прежде всего, в процессе скрининга индикаторов, как создать соответствующую модель скрининга индикаторов для отбора индикаторов с наибольшей корреляцией с кредитным риском среди большого количества возможных индикаторов, обеспечивая при этом полноту и точность данных, преодолевая при этом мультиколлинеарность. и переоснащение. Подобные проблемы являются одной из трудностей; во-вторых, на практике отдельные кредитные оценки часто имеют реалистичные ситуации, такие как небольшое количество образцов по умолчанию и множество образцов не по умолчанию. Поэтому в процессе расчета кредитного рейтинга, как выбрать. подходящая кредитная оценка Еще одна трудность состоит в том, чтобы разделить модель на модели, чтобы решить проблему недостаточной идентификации образцов по умолчанию и дальнейшего баланса точности и интерпретируемости прогноза модели. Наконец, как обеспечить надежность и универсальность классификации в классификации кредитных рейтингов? В этой ситуации еще одной трудностью является выбор соответствующих пороговых значений, моделей кластеризации, моделей нелинейного программирования и т. д. для сопоставления кредитных рейтингов с кредитными рейтингами и получения результатов классификации кредитных рейтингов, которые удовлетворяют принципу: «чем выше кредитный рейтинг, тем ниже кредитный риск». "

В Приложении 1 показан набор кредитных данных Германии, опубликованный UCI, в котором цифры X1–X24 обозначают отдельные показатели личной и финансовой информации. В Приложении 2 показан набор австралийских кредитных данных, опубликованный UCI, в котором цифры X1–X14 обозначают отдельные показатели личной и финансовой информации. Пожалуйста, создайте математическую модель для решения следующих задач на основе Приложений 1, Приложений 2 и реальной ситуации:

Вопрос 1 Многомерные данные часто создают такие проблемы, как избыточная информация об ответном индексе оценки для оценки кредитного риска. Пожалуйста, выберите подходящую модель для проверки индикаторов для набора кредитных данных Германии, чтобы достичь цели повышения точности и интерпретируемости оценки кредитного риска, и Приведите причины.

Вопрос 2 Традиционный метод линейного взвешивания не может точно отобразить нелинейную взаимосвязь между показателями оценки и риском дефолта. Кроме того, отдельные данные оценки кредитоспособности имеют неравномерное распределение с множеством выборок, не являющихся дефолтными, и небольшим количеством выборок по умолчанию, что может легко привести к переоценке модели оценки. -идентифицировать недефолтные образцы. Проблема недостаточной идентификации дефолтных образцов. Пожалуйста, выберите подходящую модель кредитного скоринга, чтобы выявить связь между показателями оценки и индивидуальным риском дефолта, решить индивидуальный кредитный рейтинг в наборе кредитных данных Германии и объяснить причины.

Вопрос 3 С чатом Разработка интеллектуальных алгоритмов искусственного интеллекта, таких как GPT, открыла новые возможности для точной идентификации кредитных рисков. Чтобы оценить рациональность и точность модели кредитного скоринга, воспользуйтесь немецким набором кредитных данных в Приложении 1 и австралийским набором кредитных данных в Приложении 2, чтобы построить свою собственную модель кредитного скоринга. Построенную модель можно объединить с деревом решений (Decision Tree, DT), K-ближайший Neighbor, КНН), Случайный лес (Случайный Forest, РФ), машина опорных векторов (Поддержка Vector Machine, SVM) и другие существующие модели классификации сравнивались для анализа дискриминационной эффективности моделей. Сравните эффекты классификации вышеупомянутых множественных методов классификации на разных наборах данных и занесите результаты в Таблицу 1 и Таблицу 2 (для сравнительного анализа выбрано не менее 3 типов моделей и 3 критериев оценки).

Таблица 1. Результаты сравнения методов классификации наборов кредитных данных Германии

Таблица 2. Результаты сравнения методов классификации австралийских наборов кредитных данных

Вопрос 4 Пожалуйста, используйте“Чем выше кредитный рейтинг、Чем ниже кредитный риск”Критерии классификации кредитных рейтингов,Построить модель нелинейного программирования,Классификация индивидуальных кредитных рейтингов в наборе кредитных данных Германии,И объясните причины выбора Модели.

Приложение 1. Набор кредитных данных Германии.

Приложение 2. Набор данных по кредитам Австралии

2. Анализ ответов

Вопрос 1: Проверка показателей

1.1 Предыстория проблемы

в оценке кредитного риска,Такие проблемы, как избыточность информации, сложность Модели и мультиколлинеарность, вызванные многомерными данными, повлияют на точность и интерпретируемость Модели. поэтому,Для данных необходим эффективный скрининг показателей.,Сохраните наиболее важные функции для оценки кредитного риска.,Тем самым улучшая производительность и интерпретируемость Модели.

1.2 Предварительная обработка данных

Прежде чем фильтровать индикаторы, сначала необходимо предварительно обработать данные:

• Обработка отсутствующих значений：исследоватьданные Есть ли в наборе пропущенные значения?,и выбрать подходящие методы обработки（нравитьсяудалить Отсутствующие значения、среднее вменение、интерполяция и др.).
• Стандартизация/нормализация данных：Поскольку размеры разных объектов различны,данные должны быть стандартизированы или нормализованы,Сделайте так, чтобы у него был одинаковый масштаб.

1.3 Метод выбора функции

1. Метод фильтра：
   • Метод порога дисперсии：удалить Характеристики с небольшой дисперсией,Потому что эти характеристики вносят меньший вклад в Модель.
   • Тест хи-квадрат：Вычислить независимость между функциями и целевыми переменными,По статистическим функциям хи-квадрат фильтра。
   • метод взаимной информации：Выберите функции, рассчитав прирост информации между функциями и целевой переменной.。
2. Метод-обертка：
   • Рекурсивное устранение функций (RFE)：Использовать базу Модель（нравитьсялогистическая регрессия、SVM）неоднократно Модель обучения,Каждый раз удаляйте наименее важные функции,Пока оставшееся количество функций не будет соответствовать требованиям.
3. Встроенный метод：
   • ЛАССО возвращается：проходитьL1регуляризация,Автоматически выбирайте функции и сжимайте неважные коэффициенты функций до нуля.
   • Деревья решений и случайные леса：встроенный Выбор функциимеханизм,проходитьвычислитьважность особенностей Счет Функции фильтра。

1.4 Обнаружение мультиколлинеарности

Чтобы избежать проблем мультиколлинеарности, можно использовать следующие методы:

• корреляционная матрица：Рассчитать коэффициент корреляции между признаками,Устраните очень важные функции.
• Анализ главных компонентов (PCA)：проходить Линейное преобразование преобразует исходные функции в новые.изпространство объектов,Извлеките основные компоненты для моделирования.

1.5 Этапы реализации

1. Предварительная обработка данных：

import pandas as pd
from sklearn.preprocessing import StandardScaler

# читатьданные
data = pd.read_csv('Приложение 1.csv')

# Обработка пропущенных значений
data = data.dropna()

# данныестандартизация
scaler = StandardScaler()
data_scaled = scaler.fit_transform(data)

2.Выбор функции（к ЛАССО возвращается Например）：

from sklearn.linear_model import LassoCV

# Определение ЛАССОМодель
lasso = LassoCV(cv=5)

# Подходящая модель
lasso.fit(data_scaled, target)

# Функции фильтра
selected_features = data.columns[lasso.coef_ != 0]

Вопрос 2: Модель кредитного скоринга

2.1 Предыстория проблемы

Традиционные методы линейного взвешивания не могут точно отобразить нелинейную связь между показателями оценки и риском дефолта.,Более того, данные имеют неравномерное распределение: много выборок не по умолчанию и мало выборок по умолчанию.,Легко привести к недостаточному распознаванию образцов по умолчанию Моделью.

2.2 Сегментация данных

Набор данных разделен на обучающий набор и тестовый набор для облегчения обучения модели и оценки производительности.

from sklearn.model_selection import train_test_split

X_train, X_test, y_train, y_test = train_test_split(data_scaled, target, test_size=0.3, random_state=42)

2.3 Обработка несбалансированных данных

Недостаточная и передискретизация：

from imblearn.over_sampling import SMOTE
from imblearn.under_sampling import RandomUnderSampler

# Передискретизация
smote = SMOTE(random_state=42)
X_train_resampled, y_train_resampled = smote.fit_resample(X_train, y_train)

# Недостаточная выборка
rus = RandomUnderSampler(random_state=42)
X_train_resampled, y_train_resampled = rus.fit_resample(X_train, y_train)

Выбор модели и обучение（кслучайный лес Например）：

from sklearn.ensemble import RandomForestClassifier
from sklearn.metrics import accuracy_score, roc_auc_score, confusion_matrix

# Определение Модель
rf_model = RandomForestClassifier(random_state=42)

# Модель обучения
rf_model.fit(X_train_resampled, y_train_resampled)

# предсказывать
y_pred = rf_model.predict(X_test)

# Оценка модели
accuracy = accuracy_score(y_test, y_pred)
auc = roc_auc_score(y_test, y_pred)
cm = confusion_matrix(y_test, y_pred)

print('Accuracy:', accuracy)
print('AUC:', auc)
print('Confusion Matrix:\n', cm)

2.4 Выбор модели и причины

• Случайный лес：Работа с нелинейными отношениями и дисбалансамиданныелучший эффект,и имеет высокую интерпретируемость.
• Логистическая регрессия：в качестве базовой линии Модельсравнивать。
• SVM：в больших размерахданныехорошо выступил в。

Вопрос 3: Сравнение моделей

3.1 Предыстория проблемы

Оценить правдоподобие и точность построенной модели кредитного рейтинга.,Нужна с деревом решений、К ближайший сосед、случайный лес、Машины опорных векторов и другие модели для сравнения.

3.2 Обучение и проверка модели

Определение различных моделей：

from sklearn.tree import DecisionTreeClassifier
from sklearn.neighbors import KNeighborsClassifier
from sklearn.svm import SVC

models = {
    'Decision Tree': DecisionTreeClassifier(random_state=42),
    'KNN': KNeighborsClassifier(),
    'Random Forest': RandomForestClassifier(random_state=42),
    'SVM': SVC(probability=True, random_state=42)
}

Модель Обучение и оценка：

results = []

for name, model in models.items():
    model.fit(X_train_resampled, y_train_resampled)
    y_pred = model.predict(X_test)
    accuracy = accuracy_score(y_test, y_pred)
    auc = roc_auc_score(y_test, y_pred)
    cm = confusion_matrix(y_test, y_pred)
    type1_error = cm[0][1] / (cm[0][0] + cm[0][1])
    type2_error = cm[1][0] / (cm[1][0] + cm[1][1])
    results.append((name, accuracy, auc, type1_error, type2_error))

results_df = pd.DataFrame(results, columns=['Model', 'Accuracy', 'AUC', 'Type1-error', 'Type2-error'])
print(results_df)

заполнение формы：

в соответствии с Оценка моделирезультат,заполнять Таблица 1и Таблица 2. Проанализируйте влияние классификации различных моделей на два набора данных.

Вопрос 4: Классификация кредитных рейтингов

4.1 Предыстория проблемы

Кредитный рейтинг человека классифицируется на основе кредитного рейтинга, чтобы отразить его кредитный риск.

4.2. Построение модели нелинейного программирования.

Результаты кредитного рейтинга：

# Рассчитать кредитный рейтинг, используя обученную модель
credit_scores = rf_model.predict_proba(X)[:, 1]

Настройка нелинейного программирования Модель：

from scipy.optimize import minimize

# Определить целевую функцию
def objective(x):
    return -np.sum(x * credit_scores)

# Определить ограничения
def constraint1(x):
    return np.sum(x) - len(credit_scores) / 3  # Количество гарантированных кредитных рейтингов составляет примерно одну треть от общего числа.

constraints = [{'type': 'eq', 'fun': constraint1}]

# первоначальное предположение
x0 = np.ones(len(credit_scores)) / 3

# Решайте задачи нелинейного программирования
solution = minimize(objective, x0, method='SLSQP', constraints=constraints)

# результат
credit_grades = solution.x

4.3 Выбор модели и причины

• Модель кластеризации (например, K-средние)：Просто и легко реализовать,Но он может не подходить для работы со сложными нелинейными отношениями.
• Модель нелинейного программирования：Может лучше отражать фактический кредитный рискизраспределенныйиразделять。

общие рамки

1. Повторная постановка проблемы

Идентификация кредитного риска играет жизненно важную роль в финансовой отрасли и индивидуальном процессе кредитования.,Его основная задача — анализ личной и финансовой информации заемщиков и т. д.,Оцените свою способность и желание погасить кредит.,тем самым снижая подверженность кредитным учреждениям риску。Эта статья основана на Приложение 1 (набор данных о кредитных операциях в Германии) и Приложение 2 (Эпизод австралийских кредитных данных),Посредством предварительной обработки данных, выбора функций, построения модели кредитного рейтинга и ее сравнения, классификации кредитного рейтинга и других шагов.,предложить систематическую Методы оценки кредитного риска。

2. Предварительная обработка данных

2.1 Считывание и предварительная обработка данных

Сначала данные считываются и проверяются на целостность, обрабатывая пропущенные значения. Для непрерывных переменных используется среднее вменение или медианное вменение, для категориальных переменных используется вменение режима; Данные стандартизируются или нормализуются, чтобы размеры каждого объекта были согласованными.

import pandas as pd
from sklearn.preprocessing import StandardScaler

# читатьданные
german_credit_data = pd.read_csv('Приложение 1.csv')
australian_credit_data = pd.read_csv('Приложение 2.csv')

# Обработка пропущенных значений
german_credit_data.fillna(german_credit_data.mean(), inplace=True)
australian_credit_data.fillna(australian_credit_data.mean(),вместо = Истина)

# данные
масштабатор = Стандартный масштабатор()
German_credit_data_scaled = Scaler.fit_transform(german_credit_data)
australian_credit_data_scaled = Scaler.fit_transform(australian_credit_data)

3. Выбор функции

3.1 Метод фильтрации

Фильтруйте объекты с помощью статистических методов, таких как метод порога дисперсии, критерий хи-квадрат и т. д. Выберите объекты с большей дисперсией и удалите объекты с меньшим количеством информации.

from sklearn.feature_selection import VarianceThreshold

# Метод порога дисперсии
selector = VarianceThreshold(threshold=0.1)
selected_features = selector.fit_transform(german_credit_data_scaled)

3.2 Способ упаковки

использовать Удаление рекурсивных функций（RFE）метод,проходитьбаза Оценка моделиважность особенностей。

from sklearn.feature_selection import RFE
from sklearn.linear_model import LogisticRegression

# Удаление рекурсивных функций
model = LogisticRegression()
rfe = RFE(model, 10)
fit = rfe.fit(german_credit_data_scaled, german_credit_data['target'])

3.3 Метод встраивания

Выбор признаков выполняется посредством регрессии LASSO, а неважные коэффициенты признаков сжимаются посредством регуляризации L1.

from sklearn.linear_model import Lasso

# ЛАССО возвращается
lasso = Lasso(alpha=0.01)
lasso.fit(german_credit_data_scaled, german_credit_data['target'])
selected_features = german_credit_data.columns[lasso.coef_ != 0]

4. Модель кредитного скоринга

4.1 Сегментация данных

Набор данных разделен на обучающий набор и тестовый набор для облегчения обучения модели и оценки производительности.

from sklearn.model_selection import train_test_split

X_train, X_test, y_train, y_test = train_test_split(german_credit_data_scaled, german_credit_data['target'], test_size=0.3, random_state=42)

4.2 Обработка несбалансированных данных

Используйте SMOTE и методы недостаточной выборки для решения проблем дисбаланса данных.

from imblearn.over_sampling import SMOTE
from imblearn.under_sampling import RandomUnderSampler

# Передискретизация
smote = SMOTE(random_state=42)
X_train_resampled, y_train_resampled = smote.fit_resample(X_train, y_train)

# Недостаточная выборка
rus = RandomUnderSampler(random_state=42)
X_train_resampled, y_train_resampled = rus.fit_resample(X_train, y_train)

4.3 Выбор модели и обучение

Выбирайте из множества вариантов, таких как логистическая регрессия.、дерево решений、случайный лес、SVM и т. д. для обучения и оценки.

from sklearn.ensemble import RandomForestClassifier
from sklearn.metrics import accuracy_score, roc_auc_score, confusion_matrix

# Определение Модель
rf_model = RandomForestClassifier(random_state=42)
rf_model.fit(X_train_resampled, y_train_resampled)

# предсказывать
y_pred = rf_model.predict(X_test)

# Оценка модели
accuracy = accuracy_score(y_test, y_pred)
auc = roc_auc_score(y_test, y_pred)
cm = confusion_matrix(y_test, y_pred)

print('Accuracy:', accuracy)
print('AUC:', auc)
print('Confusion Matrix:\n', cm)

5. Сравнение моделей

5.1 Обучение и проверка модели

Определение различных моделейруководитьтренироватьсяи Оценивать。

from sklearn.tree import DecisionTreeClassifier
from sklearn.neighbors import KNeighborsClassifier
from sklearn.svm import SVC

models = {
    'Decision Tree': DecisionTreeClassifier(random_state=42),
    'KNN': KNeighborsClassifier(),
    'Random Forest': RandomForestClassifier(random_state=42),
    'SVM': SVC(probability=True, random_state=42)
}

results = []

for name, model in models.items():
    model.fit(X_train_resampled, y_train_resampled)
    y_pred = model.predict(X_test)
    accuracy = accuracy_score(y_test, y_pred)
    auc = roc_auc_score(y_test, y_pred)
    cm = confusion_matrix(y_test, y_pred)
    type1_error = cm[0][1] / (cm[0][0] + cm[0][1])
    type2_error = cm[1][0] / (cm[1][0] + cm[1][1])
    results.append((name, accuracy, auc, type1_error, type2_error))

results_df = pd.DataFrame(results, columns=['Model', 'Accuracy', 'AUC', 'Type1-error', 'Type2-error'])
print(results_df)

6. Классификация кредитных рейтингов

6.1. Построение модели нелинейного программирования.

Используйте методы оптимизации для классификации кредитных рейтингов и установки целевых функций и ограничений.

from scipy.optimize import minimize

# Определить целевую функцию
def objective(x):
    return -np.sum(x * credit_scores)

# Определить ограничения
def constraint1(x):
    return np.sum(x) - len(credit_scores) / 3

constraints = [{'type': 'eq', 'fun': constraint1}]
x0 = np.ones(len(credit_scores)) / 3

# Решайте задачи нелинейного программирования
solution = minimize(objective, x0, method='SLSQP', constraints=constraints)
credit_grades = solution.x

7. Оценка модели и перспективы

7.1 Преимущества модели

• Комбинируйте различные методы выбора функция, повышает точность и интерпретируемость модели.
• Проблема дисбаланса данных решена, а надежность Модели повышена.
• Проверка сравнения нескольких моделей,Надежность Модели обеспечена.

7.2 Недостатки модели

• Некоторые модели могут иметь риск переобучения при работе с многомерными данными.
• Для дальнейшей оптимизации необходимы дополнительные данные и вычислительные ресурсы.

7.3 Перспективы

• В будущем мы можем рассмотреть возможность внедрения большего количества методов. выбора функциии Модельоптимизациятехнология。
• Дальнейшая оптимизация Параметры модели,улучшать Модельизпредсказыватьпроизводительность。
• Изучите новые алгоритмы и технологии, такие как глубокое обучение, для дальнейшего повышения точности оценки кредитного риска.

Подведите итог шагов

1. Повторная постановка проблемы

Целью данной статьи является решение проблемы оценки кредитного риска посредством математического моделирования.,На основе немецкого набора кредитных данных и австралийского набора кредитных данных.,Выполнение выбора функций, построение и сравнение кредитных рейтингов. Модель,и кредитный рейтинг. Ниже приводится подробный анализ и шаги для ответа на каждый вопрос.

2. Предварительная обработка данных

1. Считывание данных и предварительная обработка：
   • Прочтите набор данных о кредитах в Германии и набор данных о кредитах в Австралии.
   • Проверьте целостность данных,Обработка пропущенных значений。для непрерывных переменных,Вы можете использовать среднее вменение или медианное вменение для категориальных переменных;,Используйте заполнение режима.
   • Стандартизировать или нормализовать данные,чтобы гарантировать, что объекты имеют одинаковый масштаб.

3. Выбор функции

1. метод фильтрации：
   • проходить Метод порога дисперсии、Тест хи-квадрат Ждите статистикиметод Функции фильтра,Удалить функции с низкой информативностью,Сохраняйте функции с большей дисперсией.
2. метод упаковки：
   • использовать Удаление рекурсивных функций（RFE）метод,проходитьбаза Оценка моделиважность особенностей,Постепенно удаляйте неважные функции.
3. метод встраивания：
   • Автор ЛАССО возвращаетсяруководить Выбор функции,Используйте регуляризацию L1 для сжатия неважных коэффициентов признаков.,Сжать его коэффициенты до нуля.

4. Модель кредитного скоринга

1. разделение данных：
   • Набор данных разделен на обучающий набор и тестовый набор для облегчения обучения модели и оценки производительности.
2. Обработка несбалансированных данных：
   • использоватьSMOTE（Класс синтетического меньшинства Передискретизациятехнология）и Недостаточная выборкатехнологияиметь дело сданныеизпроблема дисбаланса,Улучшите способность Модели идентифицировать образцы классов меньшинств.
3. Выбор модели и обучение：
   • Выбирайте из множества моделей, таких как логистическая регрессия, дерево решений, случайный лес, SVM и т. д., для обучения и оценки, и выбирайте наиболее эффективную модель.
4. Оценка модели：
   • Путем расчета точности、AUC、матрица путаницы、Такие индикаторы, как ошибка типа 1 и ошибка типа 2, оценивают производительность каждой модели.

5. Сравнение моделей

1. Обучение и проверка модели：
   • Определите различные методы (такие как деревья решений, K ближайших соседей, случайные леса, машины опорных векторов) для обучения и оценки и сравните их производительность на тестовом наборе.
2. Сравнительный анализ результатов：
   • в соответствии с Модельиз Оцениватьрезультат,Сравните эффекты классификации различных моделей,Проанализируйте эффективность каждой модели в наборе данных о кредитах Германии и наборе данных о кредитах в Австралии.,заполнятьрезультатлист,Провести сравнительный анализ.

6. Классификация кредитных рейтингов

1. Построить модель нелинейного программирования：
   • Используйте метод оптимизации, чтобы классифицировать уровни кредита, установить целевую функцию и ограничения и найти оптимальное решение.
2. Реализация и оценка модели：
   • Используйте решатели (такие как Gurobi, CPLEX) для оптимизации.,Сопоставление кредитных рейтингов с кредитными рейтингами,Обеспечить оценкурезультатизрациональностьинадежность。

7. Оценка модели и перспективы

1. Преимущества модели：
   • Комбинируйте различные методы выбора функция, повышает точность и интерпретируемость модели.
   • Проблема дисбаланса данных решена, а надежность Модели повышена.
   • Проверка сравнения нескольких моделей,Надежность Модели обеспечена.
2. Недостатки модели：
   • Некоторые модели могут иметь риск переобучения при работе с многомерными данными.
   • Для дальнейшей оптимизации необходимы дополнительные данные и вычислительные ресурсы.
3. мировоззрение：
   • В будущем мы можем рассмотреть возможность внедрения большего количества методов. выбора функциии Модельоптимизациятехнология。
   • Дальнейшая оптимизация Параметры модели,улучшать Модельизпредсказыватьпроизводительность。
   • Изучите новые алгоритмы и технологии, такие как глубокое обучение, для дальнейшего повышения точности оценки кредитного риска.

Пройдите вышеуказанные шаги,Методы оценки кредитного риска,Включая предварительную обработку данных, выбор функций, построение и сравнение моделей кредитных рейтингов, классификацию кредитных рейтингов и т. д.,Направлен на повышение точности и надежности оценки кредитного риска.