succulentum 님의 블로그

날씨가 참 덥다. 오늘도 열심히 공부하고 열심히 살아야지. 2024.05.20 논문이다. 상당히 최신 논문이다. 내가 참여한 프로젝트에 쓰이기 때문에 읽는다.  0. Abstracttinyllava는 modular, small scale LMM, open source 1. Introduction- factory pattern(= modularized)- comes with multiple versions2. Architecture and Key Components- 5개의 모듈로 이루어져 있다. (data, model, training recipie, trainer, evaluator)- 이들의 의존성을 최소화하려 했다.- 소규모를 위해 제작되었지만 단순히 스케일을 키우는 것 만으로도 대규모의 LMM을 ..

논문 링크: https://arxiv.org/abs/2103.00020 코드 링크: https://github.com/OpenAI/CLIP  CLIP이라는 모델이 소개된 유명한 논문이다. 논문 페이지가 꽤 길었다(48p). 수학적인 부분은 생각보다 적었다. 0. abstract-기존 컴퓨터 비전 모델들은 category가 한정되어있었지만, clip 모델은 text와 image pair를 같이 학습함으로써 주어진 이미지가 어떤 text와 제일 유사한지 측정할 수 있다. zero shot 에서 resnet-50와 맞먹는 accuracy를 가진다. 1. introduction and motivating work- NLP는 task-agnostic한 모델이 많다. 특정한 dataset없이 상용 가능하다.- 그러..

journal(학술지)는 특정 주제의 논문을 정기적으로 발행하는 곳이다. Journal을 읽어보자. 무슨 저널을 읽어볼까? 저널을 어떻게 평가할까? JCR: https://jcr.clarivate.com/jcr/home Journal Citation Reports jcr.clarivate.comJournal Citation Report 이곳에서 journal을 검색하고 journal의 quality를 짐작할 수 있다."IEEE Access"를 검색해본다. 몇가지 눈여겨볼만한 점을 기록하겠다. journal impact factor인데,  25%마다 Q1-Q4로 나누었다.여기서는 65.3%로 Q2임을 알 수 있다. 보통 Q1 Q2를 쳐준다.eigenfactor score 등 많은 통계적인 수치들을 확인할 ..