728x90 반응형 전체 글290 [감상] 신이 없는 신화, 영화 '오디세이' (스포일러 다수) 오디세이: 신화와 역사의 사이 그 어딘가영화 '오디세이'를 보면서 느낀 감정은 "현실적이다"였다.신화 (형식은 서사시이지만 요소가 신화적이므로)를 바탕으로 만든 영화에서 현실감?그리스 신화를 바탕으로 만든 여러 만화, 영화들과 비교하면 확실히 현실적이라고 느꼈다.나중에 왜 그랬을까 생각을 해봤는데 신이 직접 나타나지 않고, 괴수들의 질감 묘사가 현실의 것으로 했기 때문인 것 같다. 크리스토퍼 놀란의 현실감CG를 거의 사용하지 않는다는 감독으로 유명한 크리스토퍼 놀란.유명한 영화들이 있지만, 대표적으로 현실감으로 옮긴 영화라면 '다크나이트 트릴로지'라고 생각한다.다른 영화들은 애초에 현재가 배경인 경우이거나(메멘토, 인셉션) 과학의 영역(인터스텔라, 오펜하이머)이다. 다크나이트 트릴로지라고 불리는 배트맨 .. 2026. 8. 17. 벡터 데이터베이스 알아보기 (vector database, vector index) Vector Database Why VectorDB?전통적인 데이터베이스가 잘하던 것전통적인 데이터베이스는의 대표적인 형태는 관계형 데이터베이스(RDBMS, RDB)이다.숫자, 문자열, 날짜(datetime)처럼 명확한 구조를 가진 데이터(structured data, 정형 데이터)를 다루는데 강점이있다.따라서 정확한 조건 기반 조회에 최적화되어있다고 볼 수 있다. 하지만 시스템입장이 아니라 사용자 입장에서 정확한 키워드를 알고 검색하지는 않는다.딥러닝과 임베딩 시대의 검색 문제현재 임베딩 모델은 주로 딥러닝 모델이며, 텍스트, 이미지, 오디오 등 다양한 데이터가 가능하다.이는 기존 정형 데이터가 아니라 비정형 데이터를 주로 임베딩하여 활용한다.현대 딥러닝 모델의 성과는 아주 성공적이므로, 적절한 임베딩.. 2026. 4. 5. 데이터분석 전문가 (ADP) 필기 합격 후기 (36회) ADP (데이터 분석 전문가) 필기 합격 후기 (36회)기본 정보컴퓨터공학 학사, 데이터사이언스 석사공백기를 더이상 늘일수없어서 공백기 방어해보고자 ADP 응시를 마음먹었다. (그리고 머리가 싱싱할때 실기 합격을 하고싶었다) 시험접수할땐 백수였는데, 시험 응시할때는 인턴중이었다. 필기 공부 방법자격증에 공부 방법이 있는가 싶지만...내가 이쪽 전공이고 공부를 많이 하긴 했지만...그럼에도 날먹하고싶었다하지만 ADsP, 빅분기에 비해 인터넷에 돌아다니는 정보가 없어서 곤란했다.빅분기 시험때 교재 오개념/오탈자/성의없는문제 등에 데여서 책을 사고 싶지 않았지만...어쩔수 없이 파랭이 책을 구입했다.그래도 파랭이 책은 이론 설명도 충실하고, 모의고사, 기출문제 복원도 성의있게 있어서 다행이었다.특히 내가 제일.. 2026. 3. 7. BM25: Information Retrieval (IR) Ranking Algorithm (정보검색 랭킹 알고리즘) BM25 (Best Match 25) IntroductionBM25 알고리즘은 전체 텍스트 검색(전문 검색, Full Text Search)에서 질의(쿼리, query)와 문서(document)간의 관련성 점수(relevance score)를 계산하는 랭킹 알고리즘이다. Apache Lucene (아파치 루씬), Elasticsearch, OpenSearch 등 현대 검색 엔진에서도 기본적으로 제공하는 알고리즘이다. BM25의 숫자 25는 25번째 변형된 모델(iteration/tweak)이라는 뜻이다. 최초 논문은 1994년이고(TREC: Text REtrieval Conference), 2000년과 2009년에 정리된 논문도 있다.논문 제목이 Okapi at TREC3여서 Okapi BM25라고 자주.. 2026. 2. 27. [CME295] 3. Large Language Models - KV cache, Token generation LLM Inference Optimization: KV-cache AlgorithmsChallengesLLM 추론의 계산비용은 매우 크다. 그래서 복잡도를 줄일 필요가 있다 정확한 효율중복 피하기메모리 관리수식 재구성근사적 효율모델 아키텍처 변경임베딩토큰 예측KV-Cachingautoregressive 어텐션을 계산하는 방법은 다음과 같다.\[ \text{attn}(t+1) = \text{softmax}\left( \cfrac{q_{t+1} K^\top_{1:t+1}}{\sqrt{d_k}} \right) V_{1:t+1} \]즉, 새로 입력되는 $q$에 대해서 $K$와 $V$가 이전 토큰까지 재사용되어야한다.따라서 $K^\top$과 $V$를 캐시에 보존하는 방법이다. Sharing attention he.. 2026. 2. 9. [CME295] 3. Large Language Models - Generation, Prompting LLM: Response Generation1. Next token predictionLM/LLM에서 다음 토큰을 생성하는 방법은 크게 3가지이다. 1. 가장 확률이 높은 토큰을 선택하여 출력하는 방법그러나, 가장 확률이 높은 토큰이 가장 최적(또는 자연스러운)의 토큰은 아니다.그리고 다양한 출력을 얻을 수 없다.2. 가장 그럴듯한(likely) k개의 path 유지하는 방법[BOS]에서 시작하여 k개의 토큰을 생성하고, 지속적으로 k개의 경로(path)가 되도록 트래킹하는 방법이다.[EOS]를 생성하면 멈춘다.그러나, 계산량이 많고, 다양성(diversity)과 창의성(creativity)가 부족한 생성결과를 얻는다. 3. 가장 그럴듯한(probable) 상위 토큰들만 생성top-k(상위 k개의 토큰).. 2026. 2. 4. 이전 1 2 3 4 ··· 49 다음 728x90 반응형
