• 【推荐系统】Embedding + MLP tensorflow特征处理 + 模型搭建实战 笔记

    Embedding + MLP：

    Embedding：将经过独热编码过后的类别型特征向量化从而生成稠密特征

    MLP：将稠密特征输入多层神经网络去拟合得到最优结果

    数据集：

    链接：https://pan.baidu.com/s/1e_98bghHp3X2hNoPoNn-sQ?pwd=ykaw 
    提取码：ykaw

    导入数据+特征处理 

    • 对于类别型特征，如movieId userId  movieGenre  userGenre，先进行独热编码，再进行Embedding转换为稠密向量
    • 对于数值型特征，直接输入MLP中
    • tf.keras.layers.DenseFeatures   将特征列feature_columns转换为输入网络的张量dense tensor.
    • tf.data.experimental.make_csv_dataset   将 CSV 文件读入数据集，其中数据集的每个元素都是一个（特征、标签）元组，对应于一批 CSV 行。 特征字典将特征列名称映射到包含相应特征数据的张量，标签是包含批次标签数据的张量。默认情况下，CSV 文件的第一行是列出列名的标题。 如果第一行不是标题，则设置 header=False 并使用 column_names 参数提供列名。默认情况下，数据集会无限重复，每次都会重新排列顺序。 可以通过设置 num_epochs 和 shuffle 参数来修改此行为。

    参考： 

    tf.feature_column详解及避坑攻略

    tf.feature_column详解

    https://andyguo.blog.csdn.net/article/details/121094641

    1. import tensorflow as tf
    2.  
    3. TRAIN_DATA_URL = "file:///D:/SparrowRecSys-master/src/main/resources/webroot/sampledata/modelSamples.csv"
    4. samples_file_path = tf.keras.utils.get_file("modelSamples.csv", TRAIN_DATA_URL)
    5.  
    6. TRAIN_DATA_URL1 = "file:///D:/SparrowRecSys-master/src/main/resources/webroot/sampledata/trainingSamples.csv"
    7. samples_file_path1 = tf.keras.utils.get_file("trainingSamples.csv", TRAIN_DATA_URL1)
    8.  
    9. TRAIN_DATA_URL2 = "file:///D:/SparrowRecSys-master/src/main/resources/webroot/sampledata/testSamples.csv"
    10. samples_file_path2 = tf.keras.utils.get_file("testSamples.csv", TRAIN_DATA_URL2)
    11.  
    12.  
    13. #读入数据
    14. def get_dataset(file_path):
    15.     dataset = tf.data.experimental.make_csv_dataset(
    16.         file_path,
    17.         batch_size=12,
    18.         label_name='label',
    19.         na_value="0",
    20.         num_epochs=1,
    21.         ignore_errors=True)
    22.     return dataset
    23.  
    24. #划分训练集和测试集
    25. train_dataset = get_dataset(samples_file_path1)
    26. test_dataset = get_dataset(samples_file_path2)
    27.  
    28.  
    29. #载入类别型特征（类别型特征需要独热编码再Embedding化）
    30. # movieId userId  movieGenre  userGenre
    31.  
    32. #风格类型
    33. genre_vocab = ['Film-Noir', 'Action', 'Adventure', 'Horror', 'Romance', 'War', 'Comedy', 'Western', 'Documentary',
    34.                'Sci-Fi', 'Drama', 'Thriller',
    35.                'Crime', 'Fantasy', 'Animation', 'IMAX', 'Mystery', 'Children', 'Musical']
    36. #用户喜欢的风格类型/电影风格   对应的风格类型词典
    37. GENRE_FEATURES = {
    38.     'userGenre1': genre_vocab,
    39.     'userGenre2': genre_vocab,
    40.     'userGenre3': genre_vocab,
    41.     'userGenre4': genre_vocab,
    42.     'userGenre5': genre_vocab,
    43.     'movieGenre1': genre_vocab,
    44.     'movieGenre2': genre_vocab,
    45.     'movieGenre3': genre_vocab
    46. }
    47.  
    48. # genre类别型特征（字符串型特征）转为one-hot特征，此处用到风格类型词表genre_vocab
    49. categorical_columns = []
    50. for feature, vocab in GENRE_FEATURES.items():
    51.     #独热编码
    52.     cat_col = tf.feature_column.categorical_column_with_vocabulary_list(
    53.         key=feature, vocabulary_list=vocab)     
    54.     #向量化
    55.     emb_col = tf.feature_column.embedding_column(cat_col, 10)
    56.     
    57.     categorical_columns.append(emb_col)
    58.     
    59. # 用户id和电影id（ID）转为one-hot特征，此处不用词表
    60. #电影id独热编码
    61. movie_col = tf.feature_column.categorical_column_with_identity(key='movieId', num_buckets=1001)
    62. #电影id向量化
    63. movie_emb_col = tf.feature_column.embedding_column(movie_col, 10)
    64. categorical_columns.append(movie_emb_col)
    65.  
    66. #用户id独热编码
    67. user_col = tf.feature_column.categorical_column_with_identity(key='userId', num_buckets=30001)
    68. #用户id向量化
    69. #为了将得到的one-hot转为稠密向量，所以要加一层embedding
    70. user_emb_col = tf.feature_column.embedding_column(user_col, 10)
    71. categorical_columns.append(user_emb_col)
    72.  
    73.  
    74. #数值型特征 直接输入MLP内
    75. #tf.feature_column.numeric_column  抽取数值型连续值
    76. numerical_columns = [tf.feature_column.numeric_column('releaseYear'),
    77.                      tf.feature_column.numeric_column('movieRatingCount'),
    78.                      tf.feature_column.numeric_column('movieAvgRating'),
    79.                      tf.feature_column.numeric_column('movieRatingStddev'),
    80.                      tf.feature_column.numeric_column('userRatingCount'),
    81.                      tf.feature_column.numeric_column('userAvgRating'),
    82.                      tf.feature_column.numeric_column('userRatingStddev')]

     搭建模型、模型评估

    1. #搭建模型
    2. model = tf.keras.Sequential()
    3. #将数值型特征及类别型特征输入MLP
    4. model.add(tf.keras.layers.DenseFeatures(numerical_columns + categorical_columns))
    5. model.add(tf.keras.layers.Dense(128, activation='relu'))
    6. model.add(tf.keras.layers.Dense(128, activation='relu'))
    7. model.add(tf.keras.layers.Dense(1, activation='sigmoid'))
    8.  
    9. #编译模型
    10. model.compile(
    11.     loss='binary_crossentropy',
    12.     optimizer='adam',
    13.     metrics=['accuracy', tf.keras.metrics.AUC(curve='ROC'), 
    14.     tf.keras.metrics.AUC(curve='PR')])
    15.  
    16.  
    17. model.fit(train_dataset, epochs=5)
    18.  
    19. test_loss, test_accuracy, test_roc_auc, test_pr_auc = model.evaluate(test_dataset)
    20.  
    21. print('\n\nTest Loss {}, Test Accuracy {}, Test ROC AUC {}, Test PR AUC {}'.format(test_loss, test_accuracy,test_roc_auc, test_pr_auc))
    22.  
    23. predictions = model.predict(test_dataset)
    24.  
    25. for prediction, goodRating in zip(predictions[:12], list(test_dataset)[0][1][:12]):
    26.     print("Predicted good rating: {:.2%}".format(prediction[0]),
    27.           " | Actual rating label: ",
    28.           ("Good Rating" if bool(goodRating) else "Bad Rating"))
    Epoch 1/5
7403/7403 [==============================] - 308s 41ms/step - loss: 3.5653 - accuracy: 0.5772 - auc_2: 0.5816 - auc_3: 0.6283
Epoch 2/5
7403/7403 [==============================] - 312s 42ms/step - loss: 0.6243 - accuracy: 0.6718 - auc_2: 0.7176 - auc_3: 0.7395
Epoch 3/5
7403/7403 [==============================] - 335s 45ms/step - loss: 0.5597 - accuracy: 0.7137 - auc_2: 0.7770 - auc_3: 0.7984
Epoch 4/5
7403/7403 [==============================] - 296s 40ms/step - loss: 0.5215 - accuracy: 0.7422 - auc_2: 0.8135 - auc_3: 0.8336
Epoch 5/5
7403/7403 [==============================] - 277s 37ms/step - loss: 0.4978 - accuracy: 0.7605 - auc_2: 0.8332 - auc_3: 0.8548

Predicted good rating: 79.00%  | Actual rating label:  Bad Rating
Predicted good rating: 84.13%  | Actual rating label:  Good Rating
Predicted good rating: 85.21%  | Actual rating label:  Bad Rating
Predicted good rating: 57.63%  | Actual rating label:  Bad Rating
Predicted good rating: 10.32%  | Actual rating label:  Bad Rating
Predicted good rating: 45.51%  | Actual rating label:  Good Rating
Predicted good rating: 28.17%  | Actual rating label:  Bad Rating
Predicted good rating: 71.97%  | Actual rating label:  Bad Rating
Predicted good rating: 77.62%  | Actual rating label:  Bad Rating
Predicted good rating: 83.60%  | Actual rating label:  Bad Rating
Predicted good rating: 70.58%  | Actual rating label:  Bad Rating
Predicted good rating: 59.75%  | Actual rating label:  Bad Rating

  • 相关阅读:
    文件上传漏洞
    视频云：云巨头们的“新格斗场”
    红队视角下的防御体系突破之第一篇介绍、阶段、方法
    【计算机视觉 | 图像分割】arxiv 计算机视觉关于图像分割的学术速递（8 月 30 日论文合集）
    神经网络的三种训练方法,训练神经网络作用大吗
    vue使日历组件点击时间渲染到时间输入框
    运动控制卡应用开发教程之调用激光振镜控制
    RocketMQ和Kafka到底选哪个
    Spring 随笔 ioc/di 3-配置注入
    Python爬虫_案例分析（二）
  • 原文地址：https://blog.csdn.net/m0_51933492/article/details/126852787