티스토리

나를 잃지 말자

검색하기

블로그 홈

나를 잃지 말자

checkwhoiam.tistory.com/m

프리랜서를 이루는 자

구독자: 1

방명록 방문하기

728x90

주요 글 목록

[추천시스템][논문번역]Large Language Models are Zero-Shot Rankers for Recommender Systems TL;DR LLM에 프롬프트 엔지니어링으로 추천 엔진(ranker)을 얻을 수 있다. sequential prompting에 비해 recency-focused나 in-context learning 을 사용해 프롬프트를 구성하면, NDCG를 높일 수 있었다. candidate generations에 bootstrapping 기법을 사용해, candidate의 위치 편향성을 완화할 수 있었다. 사용자 행동 내역의 개수를 적게 넣으면, top-1 상품의 인기도가 줄어드는 것을 확인할 수 있었다. instruction 튜닝 모델의 NDCG가 더 높았다. 모델 파라미터 개수가 큰 모델의 NDCG가 더 높았다. 제목: Large Language Models are Zero-Shot Rankers for Recomm.. 공감수 1 댓글수 0 2023. 7. 4.
(미완)[Recsys] About News-domain NRS(Newspaper Recommender Systems)에서의 challenge -timeliness, 뉴스의 short duration, recency, popularity, trends and 실시간 다량 새 뉴스 유입 -long-term/short-term user preference의 급격하거나 점진적인 변화 -user의 news소비에는 일련의 sequence가 있다. -false news and propaganda 문제가 최근 uprising challenge NRS에서의 Recsys평가 -accuracy기반의 평가는 filter bubble문제를 야기함 -exposure to different viewpoint, perceived system effectiveness 등을 위해 beyon.. 공감수 0 댓글수 0 2020. 11. 10.
(미완)[Recsys]추천 시스템 관련 article 정리(NAVER) NAVER의 추천 시스템과 연관된 내용들을 특별한 분류없이 마구잡이로 정리해보자. Termiology를 정리할 수도 있겠고 부족한 이론을 채울 수도 있겠고 단순 정보를 정리할 수도 있겠다. 해당 기업의 블로그와 개발자 컨퍼런스 블로그 등을 참고하여 작성 POI:Point Of Interest, a specific point location that someone may find useful or interesting. CONOMI:네이버 플레이스의 POI Management 기술과 AI를 활용하여 사용자가 좋은 리뷰를 편리하게 작성할 수 있도록 하고, 이를 기반으로 다양한 식당과 음식을 찾도록 도와주는 프로그램 UGC:User-generated content, 사용자가 제작한 콘텐츠 RIYO:Rank I.. 공감수 0 댓글수 0 2020. 11. 1.
[Recsys] 추천 시스템의 목적을 잊지 말자. RMSE(Root Mean Squared Error)로 Rating prediction 성능을 평가하는 것은 실제로 추천 시스템의 역량을 평가하는 것인지 다시 한번 생각해볼 필요가 있다. 우리는 Top-N recommendation을 통해 좀 더 user-focused metric을 가질 필요가 있다. 내가 사용자로서 추천 시스템이 내가 어떤 영화를 rating을 얼마나 줄 지 알아맞춰주기 보다는 내가 필요로 하는 상품이 상단에 나와주면 되는 것이다. 따라서 다양한 평가 지표 중에 RMSE에 너무 집중하지 말자. 특히, paper에서는 RMSE가지고 성능이 좋아졌니 마니 하는데, 이것에 너무 집중하지 말자는 것이다. 실제로 DB에 추천 결과를 적재할 때, 모든 유저에 모든 상품의 predicted rat.. 공감수 0 댓글수 0 2020. 10. 26.
[Recsys]추천 시스템의 큰 Flowchart Candidate Generation -> Scoring(Hybrid) -> Ranking -> Filtering Candidate Generation, 여기에서는 개별 모델들을 학습한다. Scoring, 여기에서는 개별 모델을 취합하는 Hybrid Recommendation을 설계한다. Ranking, 단순히 item을 score에 따라 sorting하기 보다는, ranking을 다시 매기는 작업을 한다. 예를 들면, 자주 등장, 인기 상품, 평점 높은 상품 등을 상단에 배치하는 로직을 적용한다. Filtering, 기 구매한 상품을 제거, 유해한 상품을 제거, score가 낮은 상품은 제거 등의 Filtering을 거친다. Filtering을 거치고 나서야 Top-"N" recommendation을 .. 공감수 1 댓글수 0 2020. 10. 26.
[Recsys]Collaborative filtering 장단점 장점: -domain knowledge가 필요 없음, embedding 알아서 학습하므로 -serendipity, 즉 해당 유저의 기존 interest 밖의 상품도 추천이 가능 -No need any contextual features, just the feedback matrix, 따라서 여러 추천 엔진 중 바로 적용하기 좋다. -folding 문제를 해결(objective function에서 unobserved data에 대한 weight를 조절하여) 가능 -user/item embedding을 미리 계산해두고 저장하여 사용함으로써 Serving이 편리 -아주 많은 items가 존재하여도, user/item matrix가 대개 sparse하므로 scalability가 있음 단점: -cold-start.. 공감수 0 댓글수 0 2020. 10. 20.
[Recsys] Collaborative filtering에서 SGD vs WALS SGD(Stochastic gradient descent) WALS(Weighted alternating least squares) WALS란 어떤 방식이냐, Fixing U and solving for V Fixing V and solving for U 각 과정을 교차(alternating)하면서 objective function내에 square term을 최소화 각 과정은 linear system이므로 exactly하게 solved됨 objective function을 보면, Fixing U에선 V에 대한 convex, Fixing V에선 U에 대한 convex function이다. 다만, U와 V에 동시에 살피면 convex가 아니다. 즉 not jointly convex SGD vs WALS SG.. 공감수 0 댓글수 0 2020. 10. 19.
[Recsys]Collaborative filtering에서 SVD vs Weighted MF vs Observed only MF A(User-item matrix)에서 (entry는 feedback) Observed only MF는 오직 observed data에 대해서만 objective function에 포함 Weighted MF는 unobserved data 또한 objective function에 포함 with some weight SVD는 Observed+Unobserved, 즉 모두 포함(따라서 Frobenius norm으로 계산) Observed only MF는 loss가 낮아보이겠으나, 대다수가 0이 아닌 값으로 학습하여(특히 A가 binary 1/0라면 모두 1로 학습해버리는 경향을 띔) generalization 능력이 떨어짐 SVD는 User-item matrix가 굉장히 sparse하여 대다수가 0으로 학습하.. 공감수 0 댓글수 0 2020. 10. 19.
[Recsys]Content-based filtering의 장단점 장점: -타 유저의 데이터를 필요로 하지않아 easy to scale to a large number of users -해당 유저 고유의 interest를 capture하기 때문에, 덕후들만이 좋아할(대다수 유저들은 좋아하지 않는) 상품이 추천 가능 단점: -item embedding에 있어서 domain knowledge의 수준에 따라 모델 성능 좌우 -유저의 interest 내에서만 추천이 돌기 때문에, interest를 확장할 수는 없다. 공감수 0 댓글수 0 2020. 10. 19.
[Recsys]Which similarity measure to choose? cosine VS dot product -dot product가 cosine에 비해 sensitive to the norm of the embedding. -training set에서 자주 등장한 상품은 norm이 큰 경향이 있음 -따라서 "popularity"를 고려한다면 dot product를 쓰자. -하지만, popular items가 recommendation을 dominate한다면, s(i,j) = ||i||^α ||j||^α cos(i,j) 형태로 norm에 대한 일련의 조정을 하여 사용하자. 그리고 주의할 점, training set에 아주 적게 등장한 상품은 embedding이 update가 적게 될 것이다. 근데, 만약 initial embedding의 norm이 아주 큰 상황에서 dot.. 공감수 0 댓글수 0 2020. 10. 19.
(미완)[Recsys][metric]offline metric, Hit Rate, ARHR, P@K, AP@K, MAP@K, MAE, MSE, RMSE, NDCG, COVERAGE 추천 시스템 모델을 개발하고 나면, offline metric을 통해 먼저 성능을 가늠해본다. 여기서는 각 offline metric의 정의와 장점, 단점, 단점보완법 등을 알아보자. 상황: tester는 주어진 기간에 구매한 상품set이 존재하고 B = set(bitem_1, bitem_2, ..., bitem_N]) recommendation engine은 각 tester마다 추천 상품 list가 존재 R = [ritem_1, r_item2, ..., ritem_K] Hit rate -유저마다 Top-k recommendation에서 hit한게 존재하면 hit += 1 -#hit/#user -고객의 내역 중 time-axis가 존재한다면 -train/test를 특정 time으로 나눠 계산 가능 -혹은.. 공감수 2 댓글수 0 2020. 10. 8.
(미완)[Recsys][Paper]Deep Generative Ranking for Personalized Recommendation Paper: https://dl.acm.org/doi/pdf/10.1145/3298689.3347012 Remarks: -click|like|purchase 등의 활동으로 User-Item binary matrix 생성 (혹은 특정 threshold지정하고 그 값 이상은 1 아니면 0으로 binarize하기) - Remarks: -논문에서 제시하는 모델을 살펴보면 -X는 User-item binary matrix(user가 item을 클릭했다면 1, 아니면 0, 혹은 rating matrix로부터 threshold이상이면 1, 아니면 0으로 binarize해서 사용 가능) - 논문내용 쭉 정리 논문에서 말하는 장점(특히 missing value에 대한 얘기 등)위주로정리 공감수 0 댓글수 0 2020. 10. 4.
(미완)[Recsys][Metric]Offline metrics NDCG MAPK 등 정의와 예시 해석시 주의할점, 단점, 단점보강방법 등 공감수 0 댓글수 0 2020. 10. 4.
(미완)[Recsys]Learning to Rank Learning to rank란 item의 정확한 score를 regression하는게 아니라, optimal ordering of list of items. 종류:Pointwise|Pairwise|Listwise 각각은 loss function에 들어가는 document의 개수에 따라 구분된다. pointwise는 1개, Pairwise는 2개, Listwise는 pointwise는 document가 query에 해당하는 relevancy를 학습하고, 실제 inference할 때는 각 document의 relevancy 순으로 출력, 즉 관건은, documents끼리 independent하다는 것, classical classification/regression을 사용 pairwise는 a pair o.. 공감수 0 댓글수 1 2020. 10. 4.

728x90

문의안내

티스토리
로그인
고객센터

티스토리는 카카오에서 사랑을 담아 만듭니다.