Spark SQL(十)之基于物品的推荐公式
生活随笔
收集整理的這篇文章主要介紹了
Spark SQL(十)之基于物品的推荐公式
小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.
一、基于物品的推薦公式
其中,S(j,K)表示與物品j最相似的K個(gè)物品,N(u)表示用戶u喜歡的物品集合,Rui表示用戶u對(duì)物品i的評(píng)分。
?
二、代碼
public class ItemCFRecommendApp {public static void main(String[]args){SparkConf sparkConf = new SparkConf();sparkConf.setAppName("ItemCFRecommendApp");sparkConf.setMaster("local[*]");SparkSession sparkSession = SparkSession.builder().config(sparkConf).getOrCreate();String url = "jdbc:mysql://localhost:3306/spark-mysql?useUnicode=true&characterEncoding=utf8&autoReconnect=true&failOverReadOnly=false";String driver = "com.mysql.jdbc.Driver";String user = "root";String password = "admin";Dataset<Row> score = sparkSession.read().format("jdbc").option("driver", driver).option("url",url).option("dbtable","user_item").option("user",user).option("password",password).load();Dataset<Row> similar = sparkSession.read().format("jdbc").option("driver", driver).option("url",url).option("dbtable","item_similar").option("user",user).option("password",password).load();//分組 top k // similar = similar.selectExpr("a_item_id", "b_item_id", "count", // "ROW_NUMBER() OVER (PARTITION BY a_item_id ORDER BY count DESC) rank") // .where("rank <= 10"); // similar.show();Dataset<Row> result = similar.as("is").join(score.as("s"), functions.column("is.b_item_id").$eq$eq$eq(functions.column("s.item_id"))).selectExpr("is.a_item_id item_id", "s.user_id", "is.count * s.score score").groupBy("user_id", "item_id").sum("score").selectExpr("user_id", "item_id", "`sum(score)` score");result.show(); // result.write() // .mode(SaveMode.Overwrite) // .format("jdbc") // .option("driver", driver) // .option("url",url) // .option("dbtable","item_user_recom") // .option("user",user) // .option("password",password) // .save();sparkSession.stop();} }?
總結(jié)
以上是生活随笔為你收集整理的Spark SQL(十)之基于物品的推荐公式的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 小米手表 S3 上架预约:首发澎湃 OS
- 下一篇: 博客文章列表(二)——算法、数据结构、数