๐Paper Review
[paper review] Recommender system
date
Jun 6, 2023
slug
recommender-system
author
status
Public
tags
paper
summary
type
Post
thumbnail
category
๐Paper Review
updatedAt
Sep 6, 2024 01:33 PM
ย
์ถ์ฒ์์คํ
๋
ผ๋ฌธ ๋ฆฌ๋ทฐ ์ ์, ๊ฐ๊ด์ ์ธ ๋ฆฌ๋ทฐ๋ฅผ ์งํํ์ต๋๋ค.
Recommender System
์ถ์ฒ ์์คํ
์ ์ ์ ์๊ฑฐ๋, ์จ๋ผ์ธ ๋ด์ค ๋ฐ ์์
๋ฏธ๋์ด ์ฌ์ดํธ๋ฅผ ํฌํจํ ๋ง์ ์จ๋ผ์ธ ์๋น์ค์ ๋๋ฆฌ ์ฑํ๋์ด ๊ธฐํธ์ ๋ง๋ ์ํ์ ์ ๊ณตํ๊ณ ์์.
์ ํ์ ๋ํ ์ฌ์ฉ์์ ํจํด์ ๋ถ์ํ์ฌ ๊ฐ์ธํ๋ ์ถ์ฒ์ ์ ๊ณตํจ.
ย
strategies for Recommender System
์ถ์ฒ ์์คํ
์๋ ํฌ๊ฒ ๋๊ฐ์ง ๋ฐฉ๋ฒ์ด ์กด์ฌํจ.
- ์ปจํ ์ธ ๊ธฐ๋ฐ ํํฐ๋ง(content-based)
์ปจํ
์ธ ๊ธฐ๋ฐ ์ถ์ฒ ์์คํ
์ ๊ฐ๊ฐ์ ์ ์ , ์์ดํ
์ ๋ํ Profile์ ์์ฑํจ.
e.g.)์ํ์ ๊ดํ ์์ดํ
Profile์๋ ์ฅ๋ฅด, ์ฐธ์ฌํ ๋ฐฐ์ฐ, ์ธ๊ธฐ๋, ๋ฑ์ ์์ฑ ํฌํจ.
e.g.)์ ์ ์ Profile์๋ ์ธ๊ตฌํต๊ณ์ ์ ๋ณด ํน์ ์ค๋ฌธ์กฐ์ฌ์ ๋ํ ๋ต๋ณ์ ๋ ๋ฑ์ด ํฌํจ.
ย
์์ฑ๋ ์ ์ ๋ณ Profile์ ํตํด ๊ณผ๊ฑฐ์ ์ ํ ์์ดํ
์ค ์ ์ ๊ฐ ์ ํธํ์๋ ์์ดํ
๊ณผ ์ ์ฌํ ์์ดํ
์ ์ถ์ฒ.
e.g.) "์ ์ A๊ฐ ์์ดํ
1์ ์ข์ํ๋, ์์ดํ
1๊ณผ ๋น์ทํ ์์ดํ
2๋ฅผ ์ถ์ฒ"
ย
์ปจํ
์ธ ๊ธฐ๋ฐ ํํฐ๋ง์ ์ฅ,๋จ์
์ฅ์ : ์ปจํ
์ธ ๊ธฐ๋ฐ ์ถ์ฒ ์์คํ
์ ๋ค๋ฅธ ์ ์ ์ ๋ฐ์ดํฐ๊ฐ ํ์ํ์ง ์์. ์ถ์ฒ์ ๋ํ ์ค๋ช
๋ ฅ์ด ์์.
๋จ์ : Profile์ ๊ตฌ์ฑํ๊ธฐ ์ํ explicit feature๋ฅผ ์ฐพ๊ธฐ ์ด๋ ค์. profile์ ์์ฑํ์ง ๋ชปํ ์๋ก์ด ์ ์ ์ ๋ํ ์ถ์ฒ์ด ์ด๋ ค์. ์ถฉ๋ถํ ๊ตฌ๋งค์ด๋ ฅ์ด ์์ธ ์ํฉ์์๋ ์๋์ ์ผ๋ก ํ์
ํํฐ๋ง์ ๋นํด ๋ถ์กฑํ ์ฑ๋ฅ.
ย
์ปจํ
์ธ ๊ธฐ๋ฐ ํํฐ๋ง ๋ฐฉ๋ฒ
์์ดํ
์ด ์ ์ฌํ์ง ํ์ธํ๋ ค๋ฉด ์์ดํ
์ ๋น์ทํ ์ ๋(์ ์ฌ๋, similarity)๋ฅผ ์์น๋ก ๊ณ์ฐํ ์ ์์ด์ผํจ.
์ ์ฌ๋ ๊ณ์ฐ์ ์ํด์ ์ผ๋ฐ์ ์ผ๋ก ์์ดํ
์ ๋ฒกํฐ ํํ๋ก ํํํ๊ณ ์ด๋ค ๋ฒกํฐ ๊ฐ์ ์ ์ฌ๋ ๊ณ์ฐ ๋ฐฉ๋ฒ์ ๋ง์ด ํ์ฉ. โ> ๋ฒกํฐ ์ ์ฌ๋ ๋น๊ต(cosine sim, pearson corr)
ย
ํ
์คํธ :One-hot, tf-idf, word2vec, attention ๊ธฐ๋ฐ ์ธ์ด๋ชจ๋ธ ๋ฑ ๋ค์ํ ์๋ฒ ๋ฉ ๋ฐฉ๋ฒ์ ์ํฉ์ ๋ง๊ฒ.
์ด๋ฏธ์ง :Bottleneck feature(Classifer ์ด์ feature, penultimate layer)
ย
์ปจํ
์ธ ๊ธฐ๋ฐ ํํฐ๋ง ์ฌ๋ก - ์นด์นด์ค ์นํฐ
์นด์นด์ค์นํฐ์ ์ฐ๊ด ์ํ ์ถ์ฒ ์์ญ.
์นด์นด์ค ์นํฐ UI์์, ์ฌ์ฉ์๋ ์ข์ฐ๋ก ์ถ์ฒ ๋ฆฌ์คํธ๋ฅผ ์ค์์ดํ ํด ๋ค๋ฅธ ์ํ์ ํ์ํ๊ณ ์ด๋ํ ์ ์์.
์ฌ๊ธฐ์ ์ ๊ณต๋๋ ์ถ์ฒ์ ์ฝํ
์ธ ๊ธฐ๋ฐ ํํฐ๋ง์ด ์ฌ์ฉ๋๊ณ ์์.
ย
์๋ก์ด ์ํ์ด ์ถ๊ฐ๋ ์, ์๋์ ๊ฐ์ ๊ณผ์ ์ ์ค์๊ฐ์ผ๋ก ์ํ.
์ปจํ
์ธ ํ๋กํ์ผ ์์ฑ
์๋ฒ ๋ฉ
- ์ํ ์ค๊ฑฐ๋ฆฌ ํ ์คํธ ๋ฐ์ดํฐ๋ฅผ ๋ฐํ์ผ๋ก ์ํ ํ ์คํธ ์๋ฒ ๋ฉ์ ์์ฑ. ์ฌ์ ํ์ต ํ๊ตญ์ด ์๋ฒ ๋ฉ ๋ชจ๋ธ์ ์ฌ์ฉ.
- ์ฌ์ ํ์ต ์์ผ ๋ ์ด๋ฏธ์ง ๋ชจ๋ธ์ ์ฌ์ฉํด ์ํ ๋ํ ์ด๋ฏธ์ง์ ์๋ฒ ๋ฉ์ ์์ฑ.
- ์นด์นด์ค๋ธ๋ ์ธ์์ ๊ฐ๋ฐํ ์นํฐ ๊ทธ๋ฆผ์ฒด ์ถ์ถ ๋ชจ๋ธ์ ์ฌ์ฉํด ์ํ ๋ํ ์ด๋ฏธ์ง์ ๊ทธ๋ฆผ์ฒด ์๋ฒ ๋ฉ์ ์์ฑ.
์ปจํ
์ธ ๊ธฐ๋ฐ ์ถ์ฒ
์์ฑ๋ ์๋ฒ ๋ฉ + ์ปจํ
์ธ ํ๋กํ์ผ์ ์ฌ์ฉํ์ฌ ์ฌ์ฉ์์๊ฒ ์ ํฉํ ์์ดํ
(์นํฐ)์ ์ถ์ฒํจ.
ย
์ต์ข
์ ์ผ๋ก ์ ์ ํ ์ ์ฌ ์ํ๋ค์ ๋ฉํฐ์๋ ๋ฐด๋ง(multi-armed bandit) ์๊ณ ๋ฆฌ์ฆ์ ํตํด ์ฌ์ฉ์๊ฐ ์ถ์ฒ๋ฐ์ ์ํ์ ์ด๋ํ ํ๋ฅ ์ ์ต๋๋ก ๋ง๋ค ์ ์๋๋ก ์์๋ฅผ ์กฐ์ ํด ์ฌ์ฉ์์๊ฒ ๋
ธ์ถ์ํด.
ย
ย
- ํ์ ํํฐ๋ง(Collaborative Filtering)
ํ์
ํํฐ๋ง(Collaborative Filtering)์ย profile์ ๋ฐ๋ก ๋ง๋ค ํ์ ์์ด,ย ํ์ ๊ณผ ๋ฐฉ๋ฌธ๊ธฐ๋ก ๋ฑ์ ์์ดํ
, ์ ์ ์ ๊ณผ๊ฑฐ ์ํธ๊ด๊ณ(interaction)์ ๊ธฐ๋ฐํ์ฌ ์ถ์ฒ์ ์ ๊ณต.
e.g.) "์ ์ A์ B๊ฐ ์์ดํ
1์ ์ ํธํ๋ฉด, ์ ์ A๊ฐ ์ ํธํ๋ ๋ค๋ฅธ ์์ดํ
2๋ฅผ ์ ์ B์๊ฒ ์ถ์ฒ"
๋ง์ ์ฌ๋์ ์๊ฒฌ์ ํตํด ๋ ๋์ ์ถ์ฒ์ ํ๋ ๋ฐฉ๋ฒ์ด๋ผ๊ณ ํ ์ ์์. ์ง๋จ์ง์ฑ !!
ย
ํ์
ํํฐ๋ง์ ์ฅ,๋จ์
ํ์
ํํฐ๋ง์ ์ฅ, ๋จ์ ์ ์ปจํ
์ธ ๊ธฐ๋ฐ ์์คํ
๊ณผ ์๋ฐ๋จ.
์ฅ์ : ์ ์ ์ ๋ํ profile์ ์์ฑํ ํ์๊ฐ ์์. Domain์ ๋ํ ์ง์์ด ์๋์ ์ผ๋ก ๋ ์๊ตฌ๋จ. ์ผ๋ฐ์ ์ผ๋ก ์ปจํ
์ธ ๊ธฐ๋ฐ ํํฐ๋ง์ ๋นํด ์ฐ์ํ ์ฑ๋ฅ.
๋จ์ : ์ํธ๊ด๊ณ์ ๋ํ ๋ฐ์ดํฐ๊ฐ ๋ถ์กฑํ ์ ํ์
์ด ๋ถ๊ฐ๋ฅํ์ฌ ์๋ก์ด ์ ์ , ์์ดํ
์ ๋ํ ์ถ์ฒ์ด ์ด๋ ค์ โ> "Cold-start problem"
ย
ํ์
ํํฐ๋ง ๋ฐฉ๋ฒ
ํ์
ํํฐ๋ง์์ ๊ฐ์ฅ ๋ง์ด ์ฌ์ฉ๋๋ ๋ฐฉ๋ฒ์๋ neighborhood method์ Latent factor model์ด ์์.
neighbor method๋ ์์ดํ
์ฌ์ด, ํน์ ์ ์ ์ฌ์ด์ ๊ด๊ณ๋ฅผ ๊ณ์ฐํ๋๋ฐ ์ด์ .
๋์ผํ ์ ์ ์๊ฒ ๋น์ทํ ํ๊ฐ๋ฅผ ๋ฐ์๋ค๋ฉด ์๋ก ํด๋นํ๋ ์์ดํ
๋ค์ ์ด์์ด ๋จ.(item-oriented),
๋์ผํ ์์ดํ
์๊ฒ ๋น์ทํ ํ๊ฐ๋ฅผ ๋ด๋ฆฐ ์ ์ ๋ค์ ์๋ก ์ด์์ด ๋จ(user-oriented).
๋ํ์ ์ธ ์๊ณ ๋ฆฌ์ฆ์ผ๋ก๋ ์ฐ๋ฆฌ๊ฐ ์ ์๊ณ ์๋ KNN์ด ์์.
ย
e.g) Joe๊ฐ ์ข์ํ๋ ์ํ(์คํ์์ฆ)๋ฅผ ์ข์ํ ์ ์ ๋ค์ด ์ข์ํ ์ํ(์คํ์ด๋ ๋งจ)๋ฅผ Joe์๊ฒ ๋ค์ ์ถ์ฒ. <๊ทธ๋ฆผ>
Latent factor model์ user์ item ์ํธ๊ด๊ณ ํจํด(rating, ๊ตฌ๋งค์ฌ๋ถ)์์ ์ถ์ถ๋ 20~100๊ฐ์ ํด๋นํ๋ Latent factor(์ฐจ์, ์ถ)๋ฅผ ์ด์ฉํ์ฌ ์ ์ ์ ์์ดํ
์ ํจ๊ป ํน์ฑํ ํ๋ ๋ฐฉ๋ฒ.
๊ฐ๊ฐ์ ํ์ต๋ factor ์ค์๋ ์ฝ๋ฉ๋ vs ๋๋ผ๋ง ์ ๊ฐ์ด ๋ถ๋ช
ํ ํน์ฑ ๋๋น๋ฅผ ๋ณด์ฌ์ฃผ๋ factor๊ฐ ์กด์ฌํ ์ ๋ ์์ผ๋ฉฐ, ์บ๋ฆญํฐ์ ๊น์ด ํน์ ๊ธฐ๋ฐํจ๊ณผ ๊ฐ์ด ๋ถ๋ช
ํ์ง ์์ ํน์ง์ ํํํ๋ factor ๋ํ ์กด์ฌํ ์ ์์.
Matrix Factorization์ ๊ฐ์ฅ ๋ํ์ ์ธ Latent factor model์.
e.g.) 2๊ฐ์ Factor(2์ฐจ์)๋ฅผ ์ด์ฉํ์ฌ user์ item์ ๋์ผํ ๊ณต๊ฐ์ ํํ.
ย
ํ์
ํํฐ๋ง ์ฌ๋ก - Netflix
<๊ทธ๋ฆผ>์ Netflix์ ์ ์ - ํ๋ก๊ทธ๋จ rating data๋ฅผ Matrix factorizationํ์ฌ ํ๋ก๊ทธ๋จ ๋ฒกํฐ๋ฅผ ์๊ฐํํ ๊ฒฐ๊ณผ.
netflix prize competition์์ ์ฐ์ํ ์ฑ๋ฅ์ ๋ณด์์.
ย