PGR21.com
- 자유 주제로 사용할 수 있는 게시판입니다.
- 토론 게시판의 용도를 겸합니다.
Date 2024/02/06 20:30:48
Name 어강됴리
Link #1 https://www.youtube.com/watch?v=6E7okzNgMDc
Subject [일반] 원자단위까지 접근했다는 반도체 발전방향



풀버전은 1시간이 훌쩍넘어가는 내용이라 다 듣기에는 무리지만 향후 반도체의 발전방향을 예측하는 부분이 흥미로워 요약해봤습니다.



EUV를 활용한 미세공정의 한계는 [1나노] , 그 아래로 내려가게 되면 옴스트롬 즉 원자단위라 양자역학의 세계, 제어하기 매우 어렵다
다행이 패키징은 마이크로미터 단위 아직 개선할여지가 있다. 

요즘 초대형 인공지능모델의 파라미터는 조 단위다. 학습변수가 어마어마하게 들어간다. 현재 GPT를 쓸때 버벅거리는게 메모리를 못 읽어와서 그런것 
일일히 GPU를 거치는 모델은 한계가 있다. 향후 HBM이 GPU의 일부기능까지 가져가게 된다. 
NVIDIA의 H100에 HBM이 GPU옆에 6개가 들어간다. 차기모델에선 2배가 들어갈것같다. 

현재 최신형 HBM인 HBM 3e가 적층수가 8층, 12층 정도된다. 데이터 통로가 1024개가 되는데 4세대에선 2배가 될것 
아마 100층 까지도 쌓을수 있을거라본다. 

이렇게 되면 KW단위로 전력을 먹게되는데 그냥 전열기다. 향후 GPU와 통신속도를 올리기 위해서 GPU위에 마운트 하는 방식으로 발전해야 하는데 이렇게 되면 메모리가 열때문에 녹아버린다. 
냉각기술이 발전방향의 핵심이 될것 

이제 GPU를 개발할때 패키징까지 같이 고려해야한다. 하이닉스가 생산한 HBM을 엔비디아가 설계한 GPU에 TSMC가 패키징하는 방식은 비효율적 

 마크 저커버그가 올해 H100을 34만개 매입한다고 선언했다. 기초적인 파운데이션 모델을 실행하는데만 1만개가 필요하다. 시장에 진입하는데만 수천억 조단위가 필요 
이제 몇 개국가, 몇 개 기업만 살아남을것이다. 네이버가  세종시에 가지고 있는 데이터 센터? 10배 100배로 늘려야 한다.  




저도 운전하며 들은 것 복기한거라 몇개 빠진게 있을순 있겠네요.. 


통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
하아아아암
24/02/06 20:37
수정 아이콘
공랭과 표면수냉으로 절대 커버 불가능한 수준으로 전력밀도가 상승하면 논문에서만 보던 냉각기술들 상용화될 지 궁금하네요.
담배상품권
24/02/06 20:43
수정 아이콘
네이버가 강원도인가요 거기 짓는것도 산을 파서 넣던데요.
처음에는 고용도 늘리고 할것처럼 하더니 딱 관리인원만 상주하는 식이고 전기는 엄청 퍼먹고 환경파괴까지 예상되서 골치썩는중이라더군요.
노둣돌
24/02/07 17:25
수정 아이콘
액체질소통에 넣은 상태로 동작시키는 방법이 거론된다더군요
아이군
24/02/06 20:38
수정 아이콘
이젠 진짜 범용 AI의 시대가 오나....

이젠 진짜로 진지하게 논의하고 있더라구요. 예를 들어서 올해들어서 소위 빅7기업에서 대규모 해고를 하고 있는데, 경제나 다른 문제도 있지만 [AI로 고용을 상당부분 대체할 수 있어서]도 중요한 이유라고 합니다.
닉네임을바꾸다
24/02/06 20:39
수정 아이콘
냉각이 안되면 AI확대는 빡세겠군요...크크
하아아아암
24/02/06 20:43
수정 아이콘
(수정됨) 냉각 쪽도 기술이 없는건 아닌데, 경제성이 주요 키워드가 될거 같습니다.

연구 단계에서는 패키지에 Microchannel 파서 직접 Die를 수냉하는 방식같은 것들도 제안되고 있는데, 얼마나 라지스케일로 구현할 수 있을지, 안정성은 있을지, 냉각 기능까지 칩에 포함시켜서 만드는데 들어가는 비용 같은 것들이 문제일거 같네요.

일정 밀도 이하까진 최대한 기존방식의 공랭/수냉으로 처리하려고 할거고
24/02/06 20:44
수정 아이콘
그럼 엄청 특별한 일이 없는한 1나노에서 반도체 발전은 더 없는건가요? ㅠ
어강됴리
24/02/06 20:45
수정 아이콘
이제 위로 쌓아야죠 천층 만층

양자컴퓨터가 대안으로 제시되고 있긴합니다만
24/02/06 20:47
수정 아이콘
컴퓨터 부품 또한 엄청 커지게될수도 있겠네요 크크
전기쥐
24/02/06 20:49
수정 아이콘
그래픽카드가 그래서 커지는건가요..
닉네임을바꾸다
24/02/06 20:50
수정 아이콘
냉각솔루션때문에 커지죠...크크
덴드로븀
24/02/06 21:15
수정 아이콘
칩들이 박혀있는 보드 자체 크기는 오히려 작아지고 있는데 방열판/쿨러 부품들이 무지막지하게 커지고 있죠.
부르즈할리파
24/02/07 16:39
수정 아이콘
칩은 작아지고 전력효율도 좋아지고 있는데 윗분들 말씀하신대로 아무리 방열/냉각기를 큰 거를 달아도 원하는 컴퓨팅 퍼포먼스를 내려면 그 이상의 자원이 들다보니 진짜 답도 없습니다 크크.
호러아니
24/02/07 05:19
수정 아이콘
양자컴퓨터는 한동안은 대안이 되기 어렵지 않을까요?
보니까 아이온큐는 공식적으로 엄밀함 포기한 것 같던데... 그러면서 하는 말이 양자컴이 어느정도 오류가 있어도 여전히 도움이 된다고... 내 주식... ㅠㅠ
닉네임을바꾸다
24/02/06 20:53
수정 아이콘
뭐 원래 고댓적엔 90나노니 20나노니에서 안된다는거 뚫어온 역사가 있긴 한데...원자단위면 쉽지 않겠죠...
망고베리
24/02/06 22:03
수정 아이콘
수소원자 크기가 대략 0.1나노입니다. 1나노면 이제 2차원으로는 제어의 한계가 있죠. 그래서 어강됴리님 말씀하신대로 3차원으로 연구하고 있습니다
여덟글자뭘로하지
24/02/08 12:34
수정 아이콘
그래핀 반도체 같은 신소재로 넘어가지 않을까요?
서린언니
24/02/06 20:53
수정 아이콘
반도체 공정은 정밀해지는데 냉각이랑 전력이 문제군요
덴드로븀
24/02/06 21:11
수정 아이콘
https://n.news.naver.com/mnews/article/421/0007297170?sid=104
[오픈AI CEO "AI 전력소모 예상치 웃돌아…에너지 혁신에 미래 달려"] 2024.01.17.

https://n.news.naver.com/mnews/article/025/0003338017?sid=101
[“전세계 AI 소모 전력, 한 국가 수준”…원전 확대에 힘 실린다] 2024.01.28.
2020년 기준
전세계 데이터센터 전력 소비량 : 200~250TWh
남아공 전력 소비량 : 208TWh

<2021년 한국 기준 >
한국 데이터센터 142개 전력 사용량 : 4006GWh
서울 강남구 전력 사용량 : 4625GWh
24/02/06 21:23
수정 아이콘
이런거 보면 인간의 뇌가 얼마나 효율적인가 싶네요. 필요한 칼로리도 그렇고 냉각능력도 필요없죠
닉네임을바꾸다
24/02/06 21:27
수정 아이콘
냉각능력이 필요할만큼 온도가 올라가면 죽었...
무냐고
24/02/07 09:58
수정 아이콘
그래서 뇌 능력의 10%정도만 쓴다는게 정론 아닌가요 크크
jjohny=쿠마
24/02/07 13:29
수정 아이콘
'뇌 능력의 10%정도만 쓴다'는 얘기는 유명한 유사과학입니다.
(즉, 유명한 얘기이긴 한데 사실과는 다르고 정론도 아닙니다.)
아예 나무위키 항목이 따로 개설되어 있을 정도...
https://namu.wiki/w/인간의%20뇌는%2010%25만%20사용된다
무냐고
24/02/07 13:31
수정 아이콘
앗 그런거군요.. 크크크
두뇌 풀가동!
jjohny=쿠마
24/02/07 13:34
수정 아이콘
좀 더 구체적으로는,
- 당연히 일상적으로는 두뇌의 가용 자원 중 일부만이 활용되는 건 맞지만
- 필요할 때는 활용율이 올라갈 수 있고
- 일반에 알려진 10% 속설과는 궤가 많이 다르다고 하더라고요.
전기쥐
24/02/06 22:06
수정 아이콘
유목민족이 변발을 한 이유가 머리에 열나지 않게 쿨링한 거죠.
24/02/07 12:35
수정 아이콘
그게 아닙니다.
족장을 비롯한 웃어른들이 탈모가 왔는데 어찌 아랫것들이 풍성하게 돌아다닐 수 있겠습니까? 웃어른을 따라야죠.
증거? 거란족 변발을 보십시오. 정확하게 탈모 스타일입니다.
24/02/06 23:33
수정 아이콘
그래서 사람을 모아서 cpu 쓰겠습니다. (AI가)
24/02/07 09:12
수정 아이콘
저도 읽으면서 나중에는 뇌처럼 기억장치와 연산장치가 통합되려나 하는 생각을 순간적으로 했습니다.
사람되고싶다
24/02/07 11:19
수정 아이콘
결국 뉴로모픽이 답이 되지 않을까 하는데... 이번 세기 안엔 진전이 있을런지.
호러아니
24/02/07 14:27
수정 아이콘
효율 굉장히 좋죠. 얼마나 좋은지 칼로리 소모를 못해서 자꾸 살이 찌네요.
24/02/06 21:27
수정 아이콘
(수정됨) 메모리 설계쪽을 주로 연구하시는 분이라 공정 관련 썰은 그냥 적당히 흘려 들으시는 게 좋습니다. 반도체가 워낙 복잡해서 전부 다 알 수는 없으니...
예를 들어 EUV 1나노가 어쩌니 10옹스트롬 언더는 양자역학이 어쩌니 하는 얘기는 이상한 소립니다. EUV 파장이 13.5나노고 앞으로 나올 high NA 설비가 ASML 스펙상 최소 해상도가 8나노 수준밖에 안됩니다. 저분이 말하는 옹스트롬 어쩌고를 진지하게 고려할 단계까지 가려면 아직 갈길이 구만리입니다. 게다가 현재도 공정에 따라서는 옹스트롬 단위로 멀쩡히 잘 제어가 이루어지고 있습니다. 아무도 그걸 양자역학적이라고 하지 않습니다.
닉네임을바꾸다
24/02/06 21:29
수정 아이콘
(수정됨) 뭐 EUV 이전에 쓰던건 수백 나노였던거였을텐데요 그걸로 10나노 전후까지 리소그래피질 한거 아닌가요
애초에 저놈의 공정명이 그냥 광고용된지도 꽤 됐긴 했죠 크크 아 적당히 밀도 올렸구나 정도로....
Bronx Bombers
24/02/06 21:57
수정 아이콘
실제로 노광이 아니라 Thin Film 공정은 이미 단위가 다 옹스트롬이었던 걸로 크크
24/02/07 08:16
수정 아이콘
사실 인터넷에 돌아다니는 ‘디자이너 vs 엔지니어’ 짤방이 반도체에서 설계-공정 간의 관계와 얼추 비슷하다고 생각하는 쪽입니다. 같은 공정끼리도 ‘야 이것도 안돼?’ ‘야 이걸 맞추라고?’ 이러면서 싸우니까요.
Bronx Bombers
24/02/06 21:56
수정 아이콘
애초에 지금 3나노니 2나노니 하는게 진짜 예전처럼 게이트 너비가 3나노라서 그렇게 붙인게 아니죠.....게이트 너비는 그보다 훨씬 넓고 대신 여러가지 3D 구조(핀펫, GAA)로 게이트 너비를 줄이는 대신 접촉면적을 3차원으로 늘려서 마치 이론적으로 게이트 너비가 3나노였을 때 나올 수 있는 퍼포먼스라고 봐야되고 명칭은 그냥 마케팅 용어라고 봐도 됩니다.

D램이나 낸드플래시처럼 시스템 반도체도 결국 여러 개의 층을 쌓는 구조로 갈 수밖에 없고, 이럴 경우 식각 공정 기술이 노광기 한계만큼이나 중요해 집니다. 마치 메모리에서 그랬던 것처럼요.
퀀텀리프
24/02/06 23:13
수정 아이콘
전기가 고픈 AI는 마침내 발전소를 해킹하기 시작하였다.
도롱롱롱롱롱이
24/02/06 23:54
수정 아이콘
전기세보다 싼 인력 쓰세요~~
24/02/07 00:34
수정 아이콘
반도체 기술 분야는 이제 거의 예술 경지를 넘어 마술 단계에 도달한거 같습니다. 기초과학과 공학 하시는 분들 존경합니다
24/02/07 00:50
수정 아이콘
산업혁명 이후로 선진국이 앞장서서 환경파괴하던 시절이 다시 돌아오는 것인가...
24/02/07 01:23
수정 아이콘
존경하는 cheme 교수님 고견 부탁드립니다...!
포프의대모험
24/02/07 06:44
수정 아이콘
설계가 오히려 발전의 여지가 많이 남아있죠
수백명씩 달라붙는데도 사람이 모자라다 하는 상황...
설계배울걸 흑흑
24/02/07 07:05
수정 아이콘
업계는 발전을 하더라도 종사자는 딱히 대우나 금전적인 부분에서 메리트가 없는게 많이 노출되서 국내에서 인력,인재가 더 유입될거 같진 않군요.
외국가서 하는게 더 커리어에 도움 되니까
나중에 국내에 리턴하더라도 처음은 외국가서 하는게 무조건 낫고요
뜨거운눈물
24/02/07 07:40
수정 아이콘
데이터센터
ai 돌리는 전기가 어마어마 한가보군요..
역시 뇌가 엄청난....
VictoryFood
24/02/07 08:06
수정 아이콘
냉각이 필요없는 극지방에 데이타센터를 구축하면 되는 겁니까?
(빙하가 녹아 온난화 가속)
닉네임을바꾸다
24/02/07 10:28
수정 아이콘
바다에 담구던가 뭐 그러죠 크크
무냐고
24/02/07 13:33
수정 아이콘
아하 수냉!
안군시대
24/02/07 10:33
수정 아이콘
거기까지 전력을 어떻게 공급하느냐가 관건이...
강화인간
24/02/07 11:14
수정 아이콘
업계에서도 가장 선단의 연구자들이 만들어가는 영역이고 유튜버의 말은 적당히 듣고 넘기시는게 낫습니다
인간흑인대머리남캐
24/02/07 13:12
수정 아이콘
데이터센터로 중앙난방 지역난방 안되겠읍니까
닉네임을바꾸다
24/02/07 14:44
수정 아이콘
전기 저항으로 발생하는거라 비효율의 극치일...
전열기와 본질적으로 다르지 않...
24/02/07 19:22
수정 아이콘
자 이제 다시 상온 초전도체 꺼내봐
로메인시저
24/02/08 13:52
수정 아이콘
해답은 뉴로모픽으로 정해져있다 이 말이에오~~
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회 추천
101983 [일반] 코로나 처음으로 확진 받았네요ㅠㅠ 코로나가 또 유행중입니다. 조심하세요.. [32] 파이어폭스9556 24/07/30 9556 3
101982 [일반] 미래 전쟁은 대규모 AI 드론 군집 대결이 될 것인가 [37] 사람되고싶다7422 24/07/30 7422 5
101981 [일반] 양궁 중계 보시면서 크리커를 잘 보세요. [24] 퀘이샤9428 24/07/30 9428 16
101980 [일반] 깃 우(羽)에서 파생된 한자들 - 자랑하다, 깃장식 술잔 등 [8] 계층방정4905 24/07/30 4905 3
101979 [일반] 에어비엔비는 숙박만 예약하는 앱이 아니다. [5] pecotek10815 24/07/29 10815 16
101978 [일반] '정산 지연' 티몬·위메프, 법원에 회생신청 "자체회복 불가" [72] 덴드로븀14036 24/07/29 14036 7
101977 [일반] 가벼운 웹소설 추천(디펜스 게임의 폭군이 되었다 완) [23] 아우구스투스11133 24/07/29 11133 3
101976 [정치] 전라도가 대체 뭘 잘못한 걸까? [221] 만렙법사18438 24/07/29 18438 0
101975 [일반] 넷플 약사의 혼잣말 정주행 후기 + 잡설 [22] 겨울삼각형7680 24/07/29 7680 4
101974 [일반] 이름이 궁금해서 [4] 수금지화목토천해5646 24/07/29 5646 9
101973 [일반] MP3의 추억. iAUDIO G3 세척? 수리?기 [24] 우스타6479 24/07/28 6479 31
101972 [일반] 뉴욕타임스 6.24. 일자 기사 번역(지하 미생물은 지구를 변화시킨다.) [7] 오후2시7370 24/07/28 7370 21
101971 [일반] 반감기 공급 충격에 기반한 비트코인 가격 트렌드 예측 [24] Lump3n10421 24/07/28 10421 11
101970 [일반] 여자 목소리를 내는 남자가 있다는 것을 아시나요? (양성류) [19] Neuromancer9746 24/07/28 9746 12
101969 [일반] [팝송] 카이고 새 앨범 "KYGO" [5] 김치찌개5284 24/07/28 5284 2
101968 [일반] 도를 넘어선 딸배헌터 유튜버 [147] 항정살17207 24/07/27 17207 13
101965 [일반] (스포있음)기생수: 더 그레이 탈주 후기 - 개연성에 재능이 부족한 감독... [51] 플레스트린7422 24/07/27 7422 5
101964 [일반] 인텔. 13,14세대 리콜 가능성 부인 [38] SAS Tony Parker 8044 24/07/27 8044 2
101963 [일반] 파스타 실패담 [48] 데갠8537 24/07/27 8537 1
101962 [일반] 노엘 갤러거 공연보고 왔습니다! [20] aDayInTheLife6304 24/07/27 6304 3
101961 [일반] 새 추(隹)에서 파생된 한자들 - 어조사, 높다, 치다 등 [6] 계층방정4642 24/07/26 4642 4
101960 [일반] 운동 고수보다 나보다 늦게 시작한 나보다 더 초보가 나를 조급하게 한다. [34] pecotek8014 24/07/26 8014 2
101959 [일반] 내가 알고싶지 않은 바보들의 소식까지 알아야되는 세상 [30] 고무닦이11066 24/07/26 11066 53
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로