목록전체 글 (572)
꿈 많은 사람의 이야기
포스팅 개요이번 포스팅은 대규모 언어 모델(Large Language Models, LLM)을 쉽고 빠르게 배포(deploy), 추론(inference) 및 서빙(serving)할 수 있는 vLLM 라이브러리에 대해서 알아봅니다. vLLM이란 무엇이고, vLLM을 사용해서 어떻게 LLM을 배포하고 실행하는지 예제(example) 형태로 정리합니다. 결과적으로 vLLM을 사용하면 빠른 속도로 LLM들을 API 형태로 서빙 및 배포할 수 있습니다.이번 포스팅을 작성하면서 참고한 자료는 아래와 같습니다. https://docs.vllm.ai/en/latest/https://github.com/vllm-project/vllm?tab=readme-ov-filehttps://python.langchain.com/d..
포스팅 개요본 포스팅은 추천 시스템에 대규모 언어 모델(Large Language Models, LLM)을 결합해 연구한 LlamaRec: Two-Stage Recommendation using Large Language Models for ranking이라는 논문을 읽고 정리한 포스팅입니다.본 논문은 검색 단계인 retrieval 단계와 LLM 기반으로 만든 Ranking 단계로 구성되어 Two-Stage 방법을 제안하는데요. 그 결과로 효율성도 좋은 LLM 기반 추천 시스템을 구성할 수 있었다고 합니다. 본 논문은 아래 링크에서 보실 수 있습니다.https://arxiv.org/abs/2311.02089 LlamaRec: Two-Stage Recommendation using Large Languag..
포스팅 개요이번 포스팅은 대규모 언어 모델(Large Language Model, LLM)을 개인 로컬 환경에서 실행하고 배포하기 위한 Ollama 사용법을 정리하는 포스팅입니다. Ollama를 사용하면 유명한 모델들인 LLaMA나 Mistral와 같은 LLM 모델들을 쉽게 사용할 수 있도록 로컬에서 서버 형식으로 구성할 수 있는데요. Ollama가 무엇인지, 어떻게 설치하고 사용하는지를 정리해보고자 합니다. 본 포스팅은 아래 사이트를 참고해서 작성했습니다. https://github.com/ollama/ollama https://github.com/ollama/ollama-pythonhttps://ollama.com/ https://github.com/ollama/ollama/blob/main/docs..
포스팅 개요 이번 포스팅은 세계 최대 에듀테크 박람회 중 하나인 ASU+GSV(ASU GSV)의 AIR SHOW를 다녀온 후기를 정리합니다. 생성형 AI 시대에 맞서서 교육 시장은 어떻게 변화하고 있는지, 에듀테크의 발전은 어떻게 진행되고 있는지 짧게나마 생생하게 체험할 수 있었는데요. 그 이야기를 간략하게 정리해보고자 합니다. https://www.asugsvsummit.com/airshow https://www.asugsvsummit.com/about-the-summit ASU+GSV AIR Show — AI Revolution | April 13-15, 2024 Join 15,000+ educators, innovators, and AI explorers at the world’s largest g..
포스팅 개요 본 포스팅은 대규모 언어 모델(Large Language Model, LLM) 시대에서 데이터 사이언스(Data Science) 교육이 어떻게 변화되어야 하는지 다룬 논문 "What Should Data Science Education Do with Large Language Model?"을 리뷰하는 포스팅입니다. 워싱턴, 스탠포드, 팬실배니아, 럿거스 대학에서 공동으로 연구한 논문인데요. LLM 시대에서의 교육의 미래에 대한 연구를 진행한 논문입니다. 본 포스팅에서 리뷰한 논문은 아래 링크에서 확인하실 수 있습니다. https://arxiv.org/abs/2307.02792 What Should Data Science Education Do with Large Language Models?..
포스팅 개요 이번 포스팅은 추천 시스템의 성능을 평가하는 방법인 평가 지표에 대해서 정리하는 포스팅입니다. 다양한 추천 시스템 평가 방법 중 본 포스팅은 NDCG(Normalized Discounted Cumulative Gain)와 MAP(Mean Average Precision) 그리고 Hit Rate에 대해서 정리합니다. 더불어서, Recall@K와 Precision@K에 대해서도 같이 정리하겠습니다. 포스팅 본문 추천 시스템은 온라인 쇼핑몰과 같은 이커머스 서비스 등에서 사용자와 서비스에 긍정적인 영향력을 제공할 수 있는 강력한 시스템입니다. 이러한 추천 시스템은 다양한 평가 방법이 있습니다. 비즈니스와 서비스에 따라 평가 방법이 다를 수 있고 흔히 정확도와 같은 오프라인 메트릭(offline m..
포스팅 개요 이번 포스팅은 저 이수진의 2023년 회고를 작성한 포스팅입니다. 작년과 마찬가지로 정말 많은 일이 다양하게 있었던 23년인데요. 23년에 겪었던 일들과 경험 그리고 솔직한 마음을 23년을 돌아보며 일기 느낌으로 작성해보겠습니다. 2023년을 마치면서 2023년을 마치면서 참 여러 생각이 든다. 정말 여러 가지 일들이 많이 터졌던 해였던 것 같다. 그만큼 여러 가지로 바빴고 정신이 없는 한 해였다. 그리고 매번 느끼지만, 시간이 정말 너무너무 빠르다. 2022년만큼 일과 공부적으로 바쁘지는 않았다. 왜냐하면 공부할 수 있는 물리적 시간이 2022년보다 줄었기 때문이다. 그 이유는 결혼, 이사가 있었다. 당연히 공부보다 이게 더 중요하다고 생각했기에 2023년은 공부에 투자하는 시간을 줄이고..
포스팅 개요 본 포스팅은 모두의연구소에서 주최한 모두콘(moducon) 2023의 후기를 작성한 글입니다. 저는 이번 모두콘 2023에서 발표자로서도 참석을 했고 평범한 참석자로서 다양한 섹션을 들을 수 있었는데요. 이번 포스팅은 주로 발표자로서의 발표 후기를 남겨볼까합니다. 발표 자료와 전체 발표 내용은 추후 공개될 예정이라고 합니다. 공개되면 포스팅에 링크 달아두겠습니다. 모두콘 2023 https://modulabs.im/moducon2023 MODUCON 2023 지식, 경험, 마음을 공유하는 모두의연구소만의 컨퍼런스 축제 modulabs.im 포스팅 본문 이번 포스팅은 개요에서 말씀드렸듯, 모두콘 2023에서 발표자로서 발표한 후기를 작성한 포스팅입니다. 이번 모두콘 2023의 컨셉은 놀이동산(..
포스팅 개요 이번 포스팅은 추천 시스템 논문 리뷰 포스팅입니다. 본 논문의 제목은 Hierarchical attention and feature projection for click-through rate prediction(CTR prediction)이라는 논문입니다. 본 논문은 추천 시스템 모델을 활용해 클릭률(CTR)을 향상 시킬 수 있는 방법을 소개하는데요. Hierarchical 구조를 활용해 feature 사이의 중요도를 추출하고 low-order 그리고 high-order feature interaction을 모델링하는 방법을 소개합니다. 본 포스팅에서 리뷰한 논문 링크는 아래와 같습니다. https://link.springer.com/article/10.1007/s10489-021-0293..
포스팅 개요 본 포스팅은 Python FastAPI에서 CORS(Cross Origin Resource Sharing)을 처리하는 방법에 대해서 정리합니다. 추가로 CORS가 무엇인지 간략하게 설명하고 CORS가 왜 필요한지도 간단하게 정리하겠습니다. 참고로, CORS에 대한 설명은 FastAPI 공식 튜토리얼 페이지에 잘 나와있으니 참고하셔도 좋을 것 같습니다! 본 글에서 참고한 자료는 다음과 같습니다. https://fastapi.tiangolo.com/tutorial/cors/ https://developer.mozilla.org/en-US/docs/Web/HTTP/CORS https://www.tutorialspoint.com/fastapi/fastapi_cors.htm CORS (Cross-Or..