|
:: 게시판
:: 이전 게시판
|
- 모두가 건전하게 즐길 수 있는 유머글을 올려주세요.
- 유게에서는 정치/종교 관련 등 논란성 글 및 개인 비방은 금지되어 있습니다.
통합규정 1.3 이용안내 인용"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
24/04/30 10:53
이제 슬슬 모바일 기기에서 게임용 GPU 성능보다는 온디바이스 AI 연산 성능이 중요해지는 시대가 되고 있나 싶기도 하네요.
24/04/30 10:57
인텔과 AMD전부 차세대 노트북용 cpu에서 ai연산성능을 내세우긴했는데
그게 유의미한 수준까지 올라온게 없더군요.사용자입장에선 로컬로 돌아가는 경량언어모델이 널리 퍼진것도 아니고..(이제야 개발했다고 발표되는수준이죠).다른분야도 A도비같은 회사가 그나마 유의미하게 써먹을수있게 나오는데 그건 gpu나 cpu성능에 의존적입니다.기존에 쓰던 디퓨전같은건 대놓고 gpu의존적이죠
24/04/30 10:59
경량화 관련 연구가 다방면으로 이루어지고 있으니, 선행 투자라고 볼 수도 있을 것 같습니다.
꼭 언어모델에 국한하지 않는다면 좀 더 다방면의 쓸모를 생각해볼 수도 있을테고요.
24/04/30 11:03
언어모델이 그나마 가벼운거고 나머지분야는 그정도가 없죠.선행투자도 제조사의 입장에 가까운거고 소비자는 미성숙한 하드웨어에 선행투자를 할 이유는 없다고봐야..(현시점에서rtx2060으로 레이트레이싱키고 게임하는 사람이 드문거처럼 말이죠)
24/04/30 12:23
(수정됨) - 오히려 상대적으로 언어모델이 경량화가 어렵지 않나요? 이미지 처리나 음성 처리, 자율주행 등 통상의 상용 AI 모델들 중에서 언어 모델이 상대적으로 사이즈가 크고, 경량일 때 성능 내기도 어려운 편이라고 알고 있습니다.
- 선행투자는 물론 제조사의 입장에서 한 얘기입니다. 향후 시장이 준비되었을 때 제품을 만들어내기 시작하면 늦으니까, 제품을 선행 개발하면서 시장이 준비되기를 기다릴 수 있겠죠.
24/04/30 11:06
겜트북들(3080겜트북기준 150w정도) 생각하면 가능은 한데 가성비나 경량성은 포기해야겠죠
포지션을 생각해보면 성능을 억제하는 방향으로 만들지않을까 싶엉6
24/04/30 11:10
현시점에서 출시되는 온디바이스 AI는 그다지 쓸모가 없다고 봐야해요. 경량화 모델은 성능이 떨어져서 효용성이 부족한데다 여기서 말하는 경량이 우리가 기대하는 경량이 아닐수도 있어서.
|
||||||||||||||||
