機器學習基礎與應用 課件 第七章 基于邏輯回歸的信用卡異常行為檢測

第七章基于邏輯回歸的信用卡異常行為檢測目

錄邏輯回歸算法定義邏輯回歸算法定義K折交叉驗證法010203邏輯回歸算法定義01邏輯回歸算法定義邏輯回歸（logisticregression）算法也稱作Logistic回歸分析算法，是一種廣義線性回歸，雖然邏輯回歸算法帶著回歸兩個字，但它并不是一種回歸算法，而是一種分類算法。邏輯回歸算法是基于多元線性回歸的一種算法，是一種線性分類器。01邏輯回歸與線性回歸具有相似之處：線性回歸采用線性表達式來輸出預測值；邏輯回歸通過在線性回歸的基礎上添加非線性變換，輸出離散值來解決分類問題。邏輯回歸算法原理02邏輯回歸算法原理邏輯回歸算法既可以用于進行二分類，也可以用于多分類。二分類問題是比較常用的、也更加容易解釋，所以在實際問題中，比較常用的是二分類的邏輯回歸。02邏輯回歸二分類算法原理邏輯回歸多分類算法原理邏輯回歸算法原理邏輯回歸算法在實現二分類任務時，通常將線性回歸的結果輸入Sigmoid函數中，將其轉換為概率值，把線性回歸的預測結果從一個無限區間值映射為（0，1）的兩個候選結果。Sigmoid函數是一種常用于二分類問題的激活函數，它可以將任意實數映射到0到1之間，可以被看作是一種將實數轉化為概率值的函數，可以使用σ來進行表示。邏輯回歸二分類算法的表達式為：02邏輯回歸二分類算法原理邏輯回歸算法原理假設有三角形（標簽為0）和圓形（標簽為1）兩種類別，如果輸入一個新的數據（大一點的圓形），邏輯回歸算法首先會通過線性回歸算法計算出一個輸出為（-∞，+∞）的預測值，然后再將這個預測值輸入給Sigmoid函數（圖中的S形圖像）中將其映射成為一個0到1之間的數值，如果數值大于0.5，則歸為1類；如果數值小于0.5，則歸為0類。02邏輯回歸二分類算法原理邏輯回歸算法原理邏輯回歸實現多分類任務的算法：一對多法和Softmax法02邏輯回歸多分類算法原理一對多法指的是對K（K指的是分類個數）分類，訓練時依次把某個類別的樣本歸為一類，其他剩余的樣本歸為另一類，得到K個分類器；預測時分別用K個分類器進行預測，選擇結果最大的作為分類的結果。邏輯回歸算法原理邏輯回歸實現多分類任務的算法：一對多法和Softmax法02邏輯回歸多分類算法原理Softmax法指的是使用Softmax函數將一個向量映射為另一個向量，使得輸出向量中的所有元素均在0到1之間，并且所有元素的和為1。Softmax函數與邏輯回歸二分類算法中使用的Sigmoid函數類似，它們的主要區別在于輸入和輸出的維度不同，以及應用的場景不同。Softmax函數通常用于多分類任務，輸出為樣本屬于每個類別的概率分布。K折交叉驗證法03K折交叉驗證法數據集劃分：訓練集、測試集、驗證集。測試集：在完成模型訓練之后，用來測試模型泛化能力的數據集。驗證集：在訓練過程中用于檢驗模型的訓練情況，從而確定合適的超參數；使用目的是選擇合適的模型參數。03劃分數據集的方式通常是在固定數據集之后進行隨機劃分的，會導致數據集的利用率比較低，也會受到隨機劃分的影響。K折交叉驗證法能夠避免由于數據集劃分不合理而導致的問題。K折交叉驗證法K折交叉驗證法的主要用途：03進行模型評估選擇合適的模型參數K折指的是將訓練集劃分成為K個子集并執行K次訓練12K折交叉驗證法3折交叉驗證法示例：具體過程是先將訓練集劃分為3個子集，每次將其中1