Asial Blog

Recruit! Asialで一緒に働きませんか?

レコメンド - アイテムベース協調フィルタリング -

カテゴリ :
バックエンド(プログラミング)
タグ :
Python
アルゴリズム
django
レコメンド
heroku
こんにちは江口です。

今回は、先日社内勉強会で以下の内容について発表しましたので、ブログでも共有させて頂きます。

【概要】
・アイテムベース協調フィルタリング(商品レコメンド)

- アイテムベース協調フィルタリングを実装してみた
- ユーザーが購入した商品の中からjaccard指数で類似商品を見つけ出す
- 対象商品をベースに同じ商品を購入している別のユーザーが購入した別の商品をレコメンド
- あとdjango使ってみた


▼技術要件
・python 3.6.1
・django1.9
・heroku
・DB・・・heroku上はpostgress、localはsqlite3


▼レコメンドアルゴリズムについて

今回試してみたのは、「アイテムベース協調フィルタリング」と呼ばれる、商品が主語となる簡易的なレコメンドアルゴリズムになります。

よく見る「この商品を買った人はこんな商品も〜」みたいにオススメしてくるあれです。

アイテムベース協調フィルタリングの一環、「jaccard指数」による類似度算出を実際にコード組んで検証してみました。

▼jaccard指数とは。。。

実際に勉強会で使った資料を貼り付けちゃいます。。。。



こんな感じのアルゴリズムです。
例えば、Aさんが買った商品は「商品1」と「商品3」になります。
そしてAさんが買った「商品1」とその他全ての商品がどれだけ商品1と類似しているか?


『A&&B / A||B => Jaccard指数』でスコアリングしていきます。
資料の例だと、商品3がもっとも類似してますね。

ただ、Aさんはすでに商品3を購入してますので、除外して、商品4をレコメンドすることもできますね。

▼実際に触って見れます!
上で説明したアルゴリズムを実際に検証できるサンプルシステムを作ってみました。
・画面
https://lit-headland-28550.herokuapp.com/recommend/
(無料枠herokuなので、30分アクセスがないと立ち上がりに時間がかかることがあります。。ご了承ください。)

TOPページではこんな画面が表示されるかと思います。


ちょっとわかりにくいのですが、擬似的なECサイトを模してます。
「購入者」プルダウンで仮想敵にログインユーザーになったとして、「商品一覧」にある商品の「購入」ボタンを押すことで選択したユーザーで買い物ができます。

買い物が済むと、こんな感じで、購入した商品に類似したレコメンド商品一覧と、ユーザーの買い物履歴が確認できます!



自由にユーザーになりすまし、商品を買ったりキャンセルしたりしてみて、レコメンド具合を確かめて見てください。
私が試した時は、「PHP参考書」購入したら、「Java参考書」と「タンクトップ」がなぜかレコメンドされました。。。


▼ソースコード

ソースコードはgithubで公開してます。
https://github.com/yueguchi/recommend-with-django

要点のみ、紹介させて頂きます。

・商品一覧の取得

商品一覧の取得は、requestをrecommend/view.pyにてrequestw受け取っています。
https://github.com/yueguchi/recommend-with-django/blob/master/recommend/views.py

この中の

  1. def index(request):
  2.     """
  3.     商品一覧の閲覧・購入から、レコメンド(jaccardベース)を表示する
  4.     """
  5.     # 商品一覧
  6.     items = Items.objects.all()
  7.     # 購入者一覧(値だけのlistを取得する)
  8.     users = Users.objects.all()#.values_list('name', flat=True)
  9.     # レコメンド取得
  10.     user_name = request.GET.get('user_name', '')
  11.     recommend_items = Purchases.getRecommend(Purchases, user_name)
  12.     # 購入履歴取得
  13.     purchased_items = []
  14.     if user_name:
  15.         purchased_items = Purchases.objects.filter(user_id=Users.objects.get(name=user_name).id)
  16.     return render(request, 'index.html',
  17.         {
  18.             'users': users,
  19.             'items': items,
  20.             'recommend_items': recommend_items,
  21.             'purchased_items': purchased_items,
  22.             'selected': user_name
  23.         }
  24.     )

ここでGETで受け取ってます。

肝心のレコメンドの処理は

  1. recommend_items = Purchases.getRecommend(Purchases, user_name)

こちらでmodel経由で取得しています。

・レコメンド処理

modelは以下です。
https://github.com/yueguchi/recommend-with-django/blob/master/recommend/models.py

1. requestパラメータとしてユーザ名を受け取る
2. ユーザーが購入した全ての商品を取得する

  1. user_purchases = Purchases.objects.filter(user_id=Users.objects.get(name=user_name).id)

3. 全ての商品を取得し、購入者と紐付ける

  1. # 全購入商品を商品ID => 複数ユーザーIDで束ねる
  2.         item_user_buyer = {}
  3.         for item in Items.objects.all():
  4.             user_id_list = []
  5.             for purchase_by_item in Purchases.objects.filter(item_id=item.id):
  6.                 user_id_list.append(purchase_by_item.user_id)
  7.             item_user_buyer[item.id] = user_id_list

4. ユーザーの購入した商品を主軸にループさせ、全ての商品とのjaccard指数を算出する

  1. # jaccard
  2.         recommend_items = []
  3.         already_item_id_list = user_purchases.values_list('item_id', flat=True)
  4.         # ユーザーが購入した商品をベースにループさせ
  5.         for key1 in purchased_items_other_users:
  6.             # 全ての商品を比較させる
  7.             ret = []
  8.             for key2, item in item_user_buyer.items():
  9.                 ret.append(str(key2) + "," + str(self.__jaccard(purchased_items_other_users[key1], item)))
  10.             recommend_items.append(self.__getUniqueRecommendItems(ret, already_item_id_list))

5. 最後にjaccard指数にかけて、レコメンド商品を返却する

  1. def __jaccard(e1, e2):
  2.         """
  3.         A&&B集合 / A||B集合で近似値を測るアルゴリズム
  4.         """
  5.         set_e1 = set(e1)
  6.         set_e2 = set(e2)
  7.         return float(len(set_e1 & set_e2)) / float(len(set_e1 | set_e2))

レコメンドはこんな感じになってます。
ちょっとTODO残ってましたが、お許しください。
全体の雰囲気が伝わればと思いますm(__)m

・購入時の二重SUBMIT防止

今回のレコメンドとはあまり関係ないですが、商品購入時にPRGパターンを使うことで、二重に商品を購入する事象を回避しています。

view.pyの
  1. def purchase(request):
  2.     """
  3.     商品ID、購入者名を元に購入処理を行う
  4.     PRGパターンによる二重submitを抑止
  5.     """
  6.     item_id = request.POST['item_id']
  7.     user_name = request.POST['user_name']
  8.     if request.method == 'GET' or not item_id or not user_name:
  9.         raise Exception('this url is not support "GET"')
  10.     # 登録
  11.     p = Purchases(item=Items.objects.get(id=item_id), user=Users.objects.get(name=user_name))
  12.     p.save()
  13.     messages.success(request, '購入しました!')
  14.     return redirect('item-list')

ここです。

POSTで購入し、RedirectでクライアントにGETで再アクセスさせることで、ブラウザリロードしても
二重で商品が買われることを防いでいます。


▼djangoを使って見て

使いやすかったです。入門しやすいと言いますか。

最近のFWにありがちなREPLでしたり、migrationも、

  1. ./manage.py shell
  2. ./manage.py dbshell
  3. ./manage.py migrate

これらで簡単に使えちゃいますし。

localサーバも

  1. ./manage.py runserver

でpython修正時に自動で再起動かけてくれますし、スタイリッシュな開発が気持ちよくできますね。

ただscaffoldのような仕組みはないのかもしれないのですが(あったらごめんなさい)、django adminがあれば余り不便には感じないかと思います。

▼まとめ
・アイテムベース協調フィルタリング「jaccard指数」は手軽なのに、そこそこ精度が良い
・jaccard指数は集合の類似度でレコメンドするよ
・django楽しい

▼課題
djangoのORMにおけるN+1問題の検証が未検証

商品とユーザーが増えれば、その分だけ膨大な計算が毎リクエストで実行されるため、
今回みたいにrequest <-> responseのやり取りの中でリアルタイムに計算させるものじゃない。
バッチなりでDBにレコメンド状態を永続化させておいて、毎時更新するなりして、画面に表示するか等の工夫が必要。


以上です!今回もありがとうございました!!