GPU 대란이 곧 찾아올 모양인것 같군요.
4070 Ti 칩셋 공급 잘 안되고 있고
가격 인상까지 예정되어 있습니다.
거기에다 GDDR 메모리 가격도 올라가고요.
자유
2023-02-17 00:49:40
챗 GPT 급부상 + 칩셋 공급 차질 = GPU 대란 예상
890 9
댓글 9
-
?
음... 내 그랄줄 알고 4090을 사 두었지요. ㅎㅎㅎ
-
?
글쎄요 수요 또한 없어서....
-
?
딥러닝용 글카는 a100 a6000이런걸 씁니다.
메모리도 2배 4배가 넘구요.
뭐 3090 4090도 쓸수는 있지만 주로 학생들이 쓰는것 입니다. 게임이나 채굴용 굴카는 쓰기도 함들구요. 블로워 타입으로 된거나 사용이 가능할것 이구요..
요즘 용산이 힘들은가 보내요. -
?
@우울하고가난한채굴러A100, A6000 등이 물론 딥러닝에 특화되어 있기는 합니다만
일반 게임용 GPU가 무쓸모하지는 않습니다.
GPT 등의 트랜스포머 계열 모델 학습은 보통 크게 두 가지로 나뉩니다.
프리트레인과 파인튜닝.
프리트레인은 모델을 첨부터 학습시키는 거라고 보면 되고, 0에서 출발하기 때문에 당연히 엄청난 자원이 필요합니다. 거기에 말씀하신 대로 GPU 수십 장, 혹은 구글 TPU 같은 장비가 사용되고요. 학습에 며칠, 몇 달이 걸린다고 하는 게 이런 경우죠. 지금 GPT 새 버전 학습시키고 있는 것도 이와 관련됩니다.
파인튜닝은 이미 프리트레인된 모델을 가지고 목적에 맞게 '튜닝'해서 쓰는 거고 여기에는 VRAM 12GB급 GPU 1장으로도 충분한 경우가 많습니다. 물론 모델이 크면 클수록 더 많은 자원이 필요하지만, 프리트레인에 비할 바가 아닙니다
3090 같은 게임용 GPU 4장, 8장씩 병렬로 연결해서 적당한 규모의 프리트레인하는 것도 가능합니다. A100이나 구글 TPU 같은 초고사양 장비 쓰는 것에 비해 시간이 좀 더 걸릴 뿐. 이 정도만 해도 일개 학생이 만지는 PC 수준이 아니라, 대학 연구실 서버 수준의 고급 장비로 취급됩니다.
요새 유행하는 AI로 그림 그리는 것도 파인튜닝과 비슷한 방식이며, 굳이 A 시리즈 같은 것 없이 일반 게임용 GPU 1장으로도 충분히 가능하죠.
물론 용팔이 형님들이나 황 회장 등이 이때다 싶어서 선동하는 것도 없진 않겠지만, VRAM 큰 게임용 GPU들의 위상이 최소한 지금보단 훨씬 높아질 거라고 생각됩니다. -
?
예전이 그립네요
-
?
어후 A100 한장에 2000만원 ㅋㅋ
-
?
@순디규모있는 딥러닝 프로젝트 하면 a100같은 글카를 100장을 쓰는걸로 압니다.
3070 4090같은 채굴이나 게임 글카들이 비빌수 있는 분야가 아니죠. -
@우울하고가난한채굴러이번에 Ai 그림 제작 프로그램 나왔네요.
게임용 그래픽카드로 가능. -
?
클카시장도 선순환구조되기전까지 빙하기
채굴자 살아나는 코인이 나와야 클카수요가있지
지금은 신품대신 죄다 채굴중고품만 사려니
클카시장 죽었지 다 비이상적으로 매물 쌓아두고
비싸게 팔다가 한방에 얼어버린 냉각기
