본문 바로가기

카테고리 없음

딜레마

난 주로 계산용인데, aws를 제대로 쓰려니 사용료가 부담이 된다. 학교에서 쓰는 컴퓨터가 ubuntu에 i7 6700에 64기가 메모리 인데, 좀 느리긴 하지만 드롭박스 써서 데이터도 자동으로 싱크시키고 하니까 쓰기 꽤 편하다. 원래 있던 서버는 스토리지가 큰 거 빼곤 다 메모리도 작고 느려서 잘 안 쓴다. 결정적으로 centos 버전이 낮아서 프로그램 설치가 안되는 게 많다. centos 업그레이드 하기엔 기존에 쓰는 사람이 많아서 위험 부담 너무 크고.. 여튼 학교에 이것 저것 깔아놓고 잘 쓰고 있다만.. 요새 뭐 하나 하면 시간이 엄청 걸려서 문제였다. 일단 영상 처리 쪽에선 미국 본토 전체 뭐 하나하면 병렬화 해도 계산 한 번에 10~20분 걸리는 게 예사고, 이번에 공간 그래프 분석 할 때는 하루 이상 걸리고 해서, about a day 의 추억이 떠올랐다. 지금 보다 더 빠르게 계산을 amazon web service 이용해서 하려면 amazon ec2에서 cpu 4코어 이상에 메모리 64기가 이상이어야 하는데, 그러면 시간당 비용이 20~50센트 정도, 그러니까 대충 500원 잡자. 이게 물론, 머리를 쓰거나 프로그램을 쓰면 안 쓸 때 자동으로 꺼지게 한다던가, 뭐 방법이 많다. cpu 사용량을 낮추는 것도 중요하고. 여튼 이게 부가적인 작업이다. 결정적으로, 스토리지하고 네트워크가 조금만 많이 쓰기 시작하면 무료가 아니다. 우리가 쓸데없이 자료만 많이 쓰다 보니 보통 100기가 정도는 최소한 올려 놓고 써야 하는데, 저장만 하고 있어도 돈이 나오고, 또 드롭박스로 싱크를 하면 또 네트워크 트래픽에 과금이 된다. 이것도 줄이려면 아마존 s3에 올리고 또 s3를 싸게 하기 위해 또 작업을 하고 해야 하는데, s3에 파일 올리고 내리는 것도 일이고...   음. 여튼 엄청 신경을 쓰면 비용대비 효율적으로 고성능 서버를 굴릴 수 있으나, 엄청 신경을 안쓰면 잡일도 많고, 비용이 얼마가 청구 될 지 감이 안와 불안하기도 하고, 이걸 내가 자비 부담해야 하는 것도 문제다; 학교도 그렇고, 같이 일하는 기관 분에게도 문의를 했는데 aws 비용 처리는 아직 우리 분야 쪽에선 어려운 모양이다. 그래서 순간적으로 엄청 cpu와 램을 많이 쓰는 작업 할 때는 유용할 것 같은데, 24시간 돌리면서 이것 저것 하기엔 좀 어려움이 있다. 

.. 그래서 라이젠 1800x서버를 구입하기로 했다 이 얘기 하려고 변명을 길게 썼다. 집에 라이젠 1800x에 64기가 메모리 붙여서 서버 만들기로 결정 후후. gpu는 일단 gtx960이 하나 있어서, 대략 150만원 정도면 맞출 수 있을 듯. 1800x는 물리 8코어에 가상 16코어고, 코어 당 성능이 브로드웰/스카이레이크 정도 나오는 듯 하다. aws도 기준이 현 세대 제온이라고 하니 (사실은 가상화되어서 뭐 복잡한데.. 할당되는 cpu 파워가 동적으로 변한다고 한다). 대충 m4.4xlarge 요금 수준인데 이게 시간당 0.862 달러니까, 1천원 잡고 하루면 2만4천원. 한 달이면 대충 70만원, 그러니까 잠도 안재우고 계산을 안 쉬고 2달 돌리면 라이젠 구입 비용 뽑을 듯 하다. cpu를 계속 풀로드 시키지 않겠지만, 스토리지랑 네트워크 비용이 추가로 들어가는 것도 감안하면 열심히 두 세 달만 써도 이득..   기대하는 성능은 현재 학교 리눅스의 3배 정도. 뭔가 아직 아무 것도 안 했는데 돈 버는 기분이다. 나야 그리고 이걸로 뭐 서비스를 하는게 아니고 혼자 쓰는 것이니. 그리고 16코어로 하면 블로그도 빨리 쓸 수 있고 좋다. 

문제는 이걸 이번 출장 한 달 가는 동안 원격으로만 써야 한다는 건데, rstudio와 ssh로 하니까 큰 문제가 없어야 하나, 네트워크 사정이 어떻게 될 지 알 수가 없다. 학교 서버실에 두고가면 네트웤이 집보다 느려서 답답할 것 같고, 집에 두고가면 전원 내려가거나 했을 때 봐 줄 수 있는 사람이 없어서 문제. 캐리어에 싸들고 가는 방법이 있긴 하다. 


----

UC Berkeley CS188 Intro to AI -- Course Materials

http://ai.berkeley.edu/lecture_slides.html


---

모두의 연구소

http://www.modulabs.co.kr

좋은 아이디어 같애. 얼마나 잘 돌아가고 있을 지 궁금하다. 

http://keunwoochoi.blogspot.kr/2016/06/andrej-karpathy.html

또 좋은 강화학습 튜토리얼 번역. 사이트 잘 정리해 두셔서 도움 됨.