fblrainbow / data_mining_models

Basic data mining model, including feature importance display

数据挖掘类比赛常用模型

1. 概述

该工程主要是几个比较常用的模型，包含二分类模型、多分类模型以及回归模型。他们分别是基于lightgbm实现、xgboost实现和keras实现：

• lightgbm
  • binary_class.py:lightgbm实现的二分类
  • multi_class.py:lightgbm实现的多分类
  • regression.py:lightgbm实现的回归
  • multi_class_custom_loss.py:lightgbm 自定义评价函数实现多分类
  • multi_class_weight_loss.py:lightgbm多类别不平衡问题，实现类别加权优化
• xgboost
  • binary_class.py:xgboost实现的二分类
  • multi_class.py:xgboost实现的多分类
  • regression.py:xgboost实现的回归
• keras实现的mlp
  • binary_class.py:keras实现的mlp,做二分类任务
  • multi_class.py:keras实现的mlp,做多分类任务
  • regression.py:keras实现的mlp,做回归任务
• pytorch实现的mlp
  • binary_class.py:pytorch实现的mlp,做二分类任务
  • multi_class.py:pytorch实现的mlp,做多分类任务
  • regression.py:实现的mlp,做回归任务

2.环境设置

可以直接通过pip install -r requirements.txt安装指定的函数包，具体的函数包如下：

pandas
numpy
matplotlib
sklearn
tensorflow==1.12.0
keras==2.2.4
pytorch
seaborn
lightgbm==2.2.1
xgboost==0.90

目前只整理了几个常用的模型，下一步会将用到的不错的代码同步进来