为豆瓣电影实现Item-based协同过滤的推荐系统
jopen
9年前
前面的两篇文章分别使用Spark mllib ALS实现了Model-based协同过滤推荐系统和使用Mahout实现了User-based的协同过滤推荐系统。
我们再来回顾一下item-base CF算法的特点:
- 物品数明显小于用户数的场合,否则物品相似度矩阵计算代价很大
- 适合长尾物品丰富,用户个性化需求强的领域
- 对新用户友好,对新物品不友好,因为物品相似度矩阵不需要很强的实时性
- 利用用户历史行为做推荐解释,比较令用户信服
所以item-base挺适合做电影的推荐。当用户浏览某个电影的时候,我们可以推荐给他类似的电影,或者根据用户以前的观影记录,推荐他感兴趣的电影。
本文还是以mahout 非分布式计算的方式实现。因为电影的记录比较少(166条),计算量不是很大。
代码也非常的简单,我们还是以皮尔逊算法计算相似度:
public class DoubanItemBasedRecommender { public static void main(String[] args) throws Exception { String base = args[0]; File file = new File(base + "user_movies.csv"); DoubanFileDataModel model = new DoubanFileDataModel(file); ItemSimilarity similarity = new PearsonCorrelationSimilarity(model); ItemBasedRecommender recommender = new GenericItemBasedRecommender(model, similarity); BatchItemSimilarities batch = new MultithreadedBatchItemSimilarities(recommender, 5); int numSimilarities = batch.computeItemSimilarities(Runtime.getRuntime().availableProcessors(), 1, new FileSimilarItemsWriter(new File(base + "item_result.csv"))); System.out.println("Computed " + numSimilarities + " similarities for " + model.getNumItems() + " items " + "and saved them to file " + base + "item_result.csv"); } }
第 8行和第 9行使用多线程批处理的方式,把计算结果写入到一个文件中。
生成的文件如下:
...... 25821461,26253733,0.8279288411140442 25821461,26252196,0.819756031036377 25821461,26366634,0.8181818127632141 25821461,25919385,0.7033082246780396 25821585,26328118,0.794719398021698 25821585,22556810,0.7655318379402161 25821585,1972724,0.6770924925804138 25821585,25809260,0.6347297430038452 ......
推荐还不错,基本都属于剧情,喜剧类型,而且都是国外的,没有推荐战争,科幻或者武侠类的。
来自:http://colobu.com/2015/12/03/item-based-recommender-for-douban-movies/