Python 語言程序設計實驗2021年秋”實驗報告

挑戰五 邏輯回歸用于諷刺文本檢測

一、實驗目的及要求

實驗目的

了解訓練分類模型的基本原理；

掌握模型解釋及模型改進流程；

熟悉諷刺文本檢測的邏輯回歸方法；

實驗要求

根據實驗題目編寫好源程序；

對上機操作過程中可能出現的問題預先分析，確定調試步驟和測試方法；

輸入一定數量的測試數據，對運行結果進行分性；

上機實驗完成后,認真寫出實驗報告,對上機中出現的問題進行分析、總結；

二、實驗環境（工具、配置等）

硬件要求：計算機一臺

軟件要求： Windows操作系統，本實驗在AI studio上進行開發

三、實驗內容（實驗方案、實驗步驟、設計思路等）

實驗方案：本實驗通過對文本的特征提取，并使用邏輯回歸模型對所提取的特征進行建模，最后通過得到的邏輯回歸模型預測最后結果的回歸率。

實驗步驟：

下載實驗所需要的數據諷刺文本。

打開數據，觀察并分析需要分析的數據的特點。包括數據的數量、列的數據類型等。

清洗數據，將主要內容缺失的數據刪除。

觀察數據中兩種被標記樣本的數量是否平衡。

進行數據可視化。這里使用詞云進行數據可視化。

將實驗數據劃分為訓練集與測試集。

提取訓練集的文本特征并向量化。

建立邏輯回歸模型。

數據準確性檢測的。

設計思路：

首先，了解邏輯回歸的模型，詞袋模型以及特征向量化的方法以及作用；

然后使用：train_test_split,將train_df['comment']數據按照默認比例劃分為訓練集和測試集；

接下來：以comment為依據清除缺少數據的整條數據，使用TfidfVectorizer進行特征提取

再接著用LogisticRegression建立邏輯回歸模型，訓練并通過accuracy_score得到相關的結果;

最后改進模型，通過commnet和 subreddit雙指標進行訓練模型

四、實驗結果

實現結果截圖

圖一:諷刺文本數據的表頭以及前10行數據

圖二：數據列的信息

[外鏈圖片轉存失敗,源站可能有防盜鏈機制,建議將圖片保存下來直接上傳(img-Ke5TQPZH-1638516456877)(https://dn-simplecloud.shiyanlou.com/courses/uid1550954-20211201-1638299332053)]

圖三:以label為依據對數據進行分類并查看數量

圖四：以comment長度為依據使用log1p函數平滑化后畫出對應數量的直方圖

圖五:諷刺文本詞云

圖六：非諷刺文本詞云

圖七：各子板塊諷刺評論數量排序

圖八：調整參數之后形成的訓練結果

圖九：應用 plot_confusion_matrix 繪制出測試數據原始標簽和預測標簽類別的混淆矩陣

圖十：查看特征值的權重

圖十一：采用混合comment和subreddit混合特征的預測結果

遇到的問題及解決的方法

問題

對模型的各項參數的作用不了解。

原有參數得到的結果準確率是否能通過調整參數得到改進

解決方案

通過上網查找相關的模型講解更加深入了解模型參數的作用

通改變邏輯模型的參數以及特征值的max_features參數，使得最后的結果有小范圍的提升

五、附源程序

下載數據

!wget -nc "http://labfile.oss.aliyuncs.com/courses/1283/train-balanced-sarcasm.csv.zip" !unzip -o "train-balanced-sarcasm.csv.zip"

將數據轉化為panda 的 DataFragme數據表

import pandas as pd train_df = pd.read_csv('train-balanced-sarcasm.csv') # 查看一下各個列的屬性,看了之后會發現有數據中是沒有comment，這些都屬于是無效數據 train_df.info() # 順便查看一下數據表格的前10行數據 train_df.head(10) # 刪除缺失comment的數據 train_df.dropna(subset=['comment'], inplace=True) train_df['label'].value_counts() """ X_train,X_test, y_train, y_test =sklearn.model_selection.train_test_split(train_data,train_target,test_size=0.4, random_state=0,stratify=y_train) train_target：所要劃分的樣本結果 test_size：樣本占比，如果是整數的話就是樣本的數量 默認是75% random_state：是隨機數的種子。 """ train_texts, valid_texts, y_train, y_valid = train_test_split(train_df['comment'], train_df['label'], random_state=17)

以comment數據的長度為依據將數據進行可視化

from matplotlib import pyplot as plttrain_df.loc[train_df['label'] == 1, 'comment'].str.len().apply(np.log1p).hist(label='sarcastic', alpha=.5) train_df.loc[train_df['label'] == 0, 'comment'].str.len().apply(np.log1p).hist(label='normal', alpha=.5) plt.legend()

使用詞云更加直觀的展示特征詞

!pip install wordcloud # 安裝必要模塊 from wordcloud import WordCloud, STOPWORDSwordcloud = WordCloud(background_color='black', stopwords=STOPWORDS, max_words=200, max_font_size=100, random_state=17, width=800, height=400) # plt.figure(長，寬) plt.figure(figsize=(32, 24)) wordcloud.generate(str(train_df.loc[train_df['label'] == 1, 'comment'])) plt.imshow(wordcloud)

---

from sklearn.feature_extraction.text import TfidfVectorizer from sklearn.linear_model import LogisticRegression from sklearn.pipeline import Pipeline# 使用 tf-idf 提取文本特征 tf_idf = TfidfVectorizer(ngram_range=(1, 2), max_features=50000, min_df=2) # 建立邏輯回歸模型 logit = LogisticRegression(C=1, n_jobs=4, solver='lbfgs', random_state=17, verbose=1) # 使用 sklearn pipeline 封裝 2 個步驟 tfidf_logit_pipeline = Pipeline([('tf_idf', tf_idf), ('logit', logit)])tfidf_logit_pipeline.fit(train_texts, y_train) valid_pred = tfidf_logit_pipeline.predict(valid_texts) sub_df = train_df.groupby('subreddit')['label'].agg([np.size, np.mean, np.sum]) sub_df.sort_values(by='sum', ascending=False).head(10)

構建混淆矩陣

def plot_confusion_matrix(actual, predicted, classes,normalize=False,title='Confusion matrix', figsize=(7, 7),cmap=plt.cm.Blues, path_to_save_fig=None):"""This function prints and plots the confusion matrix.Normalization can be applied by setting `normalize=True`."""import itertoolsfrom sklearn.metrics import confusion_matrixcm = confusion_matrix(actual, predicted).Tif normalize:cm = cm.astype('float') / cm.sum(axis=1)[:, np.newaxis]plt.figure(figsize=figsize)plt.imshow(cm, interpolation='nearest', cmap=cmap)plt.title(title)plt.colorbar()tick_marks = np.arange(len(classes))plt.xticks(tick_marks, classes, rotation=90)plt.yticks(tick_marks, classes)fmt = '.2f' if normalize else 'd'thresh = cm.max() / 2.for i, j in itertools.product(range(cm.shape[0]), range(cm.shape[1])):plt.text(j, i, format(cm[i, j], fmt),horizontalalignment="center",color="white" if cm[i, j] > thresh else "black")plt.tight_layout()plt.ylabel('Predicted label')plt.xlabel('True label')if path_to_save_fig:plt.savefig(path_to_save_fig, dpi=300, bbox_inches='tight')

繪制頻率直方圖

plot_confusion_matrix(y_valid, valid_pred, tfidf_logit_pipeline.named_steps['logit'].classes_, figsize=(8, 8))

模型改進

接下來，我們期望模型能得到進一步改進，所以再補充一個 subreddit 特征，同樣完成切分。注意，這里切分時一定要選擇同一個 random_state，保證能和上面的評論數據對齊。

subreddits = train_df['subreddit'] train_subreddits, valid_subreddits = train_test_split(subreddits, random_state=17) tf_idf_texts = tf_idf tf_idf_subreddits = TfidfVectorizer(ngram_range=(1, 1))

comment特征向量

X_train_texts = tf_idf_texts.fit_transform(train_texts) X_valid_texts = tf_idf_texts.transform(valid_texts)

subreddits特征向量

X_train_subreddits = tf_idf_subreddits.fit_transform(train_subreddits) X_valid_subreddits = tf_idf_subreddits.transform(valid_subreddits)

訓練結果

from scipy.sparse import hstack X_train = hstack([X_train_texts, X_train_subreddits]) X_valid = hstack([X_valid_texts, X_valid_subreddits]) logit.fit(X_train, y_train) valid_pred = logit.predict(X_valid)

得到結果的回歸率

from sklearn.metrics import accuracy_score accuracy_score(y_valid, valid_pred)

總結

以上是生活随笔為你收集整理的基于逻辑回归的讽刺文本检测的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。