About Me
안녕하세요~ 누렁 총각 입니다.
컴퓨터, 그중에서도 하드웨어, 인프라를 좋아하고 책, 영화, 그림 그리는 걸 좋아합니다.
데이터베이스 내 다차원 인덱스를 GPU로 가속화하는 연구 [논문] 로 UNIST에서 박사 학위를 받았습니다. 첫 직장은 전공과 약간은 쌩뚱(?)맞은 네이버 클로바 조직으로 가게 됩니다.
네이버 자체 머신 러닝 플랫폼(NSML)에서 스케쥴러와 모니터링 시스템을 만들고 자동 하이퍼파라미터 튜닝 시스템 [발표] [논문] 도 만들었습니다.
이후에는 검색 조직으로 옮겨, GPU 클러스터를 쿠버네티스로 운영하는 업무를 했습니다. 이후 GPT3를 기존 검색서비스에 접목하는 일 [팀발표] [발표] 도 했습니다.
창업을 했다가 1년만에 접고 6개월을 쉬다가
2023년 9월부터 토스 증권에 다니고 있습니다.
지난 3년간 팀도 꾸리고 글도 쓰고 발표도 했습니다.
처음 토스증권에 왔을 때는 인프라도 없었습니다. 그래서, GPU 인프라 구축부터 시작했습니다. 인피니밴드로 연결된 H100 클러스터를 구축하는 글을 썼습니다. [글1] [글2]
인프라 구축 후에는 비싸고 희귀한 GPU라는 자원을 좀 더 효율적이게 쓰는 방법에 대해 연구하고 내용을 공유했습니다. [발표] [글]
Research Interest
#ML Engineering
#LLM Optimization
#Coding
문제를 파악하고 최적화 하는 것을 좋아합니다. 요즈음은 머신러닝 엔지니어링에서 시작해서 대규모 언어 모델의 학습 및 인퍼런스에 관심이 많습니다. 물론 학습시간 최적화 및 인퍼런스 성능 최적화를 위해서요 ^^
Other Interest
#Painting, #Book, #Espresso, #Movie
최근에는 epiphany를 위해 취미를 갖기 위해 이것저것 시도해보다가, 전공과 정반대에 있는 그림 그리기, 피아노 등을 취미로 갖게 되었습니다.
- 요즘은 피아노는 듣기만 하고 치지를 않아.. 제외..