젠슨 황 : 열 나는 블랙웰은 기술의 블랙월?!

젠슨 황

2024년 11월 18일 월요일

젠슨 황의 게임 체인저 블랙웰 출시가 늦춰지고 있는 건 엔비디아의 설계 탓일까요 TSMC의 패키징 탓일까요?

젠슨 황의 엔비디아가 선보인 인공지능 반도체 아키텍처 블랙웰이 과열 문제로 발표 7개월이 지났지만 양산이 늦어지고 있다.

블랙웰은 전용 서버 랙에 연결했을 때 과열 문제가 계속 발생하고 있다.

젠슨 황은 서버 랙 설계를 거듭 변경하면서 발열 문제를 잡으려고 반복 테스트를 계속하고 있다.

젠슨 황은 2024년 3월 18일 GTC2024에서 새로운 인공지능 반도체 아키텍처인 블랙웰을 공개했다.

젠슨 황은 엔비디아의 인공지능 반도체 아키텍처를 이전 세대의 호퍼에서 다음 세대인 블랙웰로 전환할 것이라고 밝혔다.

호퍼에 비해 블랙웰은 AI 머신 러닝 성능이 최대 2.5배 향상됐다.

호퍼에 비해 블랙웰은 AI 추론 성능이 최대 25배 빨라졌다.

호퍼의 트랜지스터는 80억 개이고 블랙웰의 트랜지스터는 208억 개다.

젠슨 황은 블랙웰을 TSMC의 4나노 공정에서 생산한다.

블랙웰은 2개의 B200 텐서 코어 GPU를 사용하는 듀얼 다이 설계를 채택했다.

호퍼의 칩 간 연결 속도는 초당 900기가바이트였지만 블랙웰의 칩 간 연결 속도는 초당 10테라바이트다.

호퍼에 비해 블랙웰은 동일한 생성AI 작업에서 최대 25분의 1의 에너지 소비 효율을 보여줬다.

호퍼에 비해 블랙웰은 엔비디아가 자체 개발한 그레이스CPU와의 호환성이 높아졌다.

블랙웰에는 SK 하이닉스가 공급하는 HBM3E 메모리 반도체가 탑제돼 있다.

블랙웰이는 빅데이터 처리를 위한 전용 데이터 압축과 해제 엔진이 탑재됐다.

블랙웰에는 AI 모델과 데이터를 보호하기 위한 보안 기능이 추가됐다.

블랙웰은 최대 10조 개 이상 매개 변수의 LLM을 처리할 수 있다.

젠슨 황은 인공지능 반도체 시장의 게임 체인저로서 블랙웰을 선보였다.

젠슨 황은 블랙웰을 2024년 2분기 양산 계획이었지만 TSMC가 패키징을 한 완제품에서 발열 문제가 발생하면서 출시가 2024년 3분기로 늦췄다.

젠슨 황은 2024년 6월 대만을 방문해서 TSMC의 웨이저자 CEO를 비롯한 고위임원과 블랙웰 양산 관련 회의를 했다.

젠슨 황은 TSMC측에 블랙웰 양산을 위해 엔비디아만을 위한 칩 온 웨이퍼 온 서브 스트레이트=CoWoS 첨단 패키징 라인을 만들어달라고 요청했다.

고성능 고밀드의 블랙웰은 특히 패키징이 중요하고+젠슨 황은 엔비디아의 CoWoS 첨단 패키징 라인을 독점하고 싶어했다.

TSMC의 임원 중 한 명이 젠슨 황에게 “엔비디아가 자금을 댈 것도 아닌데 그렇게 쉽게 요구하면 안 된다”고 반발했다.

웨이저자 TSMC CEO가 나서서 분위기를 전환시켰지만 갈등의 불씨는 남았다.

젠슨 황은 2024년 8월 블랙웰의 양산 시기를 다시 2024년 4분기로 늦췄다.

블랙웰의 가격은 개당 4만 달러다.

젠슨 황은 2024년 10월 2일 CNBC와의 인터뷰에서 “블랙웰 생산은 계획대로 진행되고 있다. 블랙웰의 수요는 미쳤다=insane하다. 모두가 최대한의 물량을 원한다”고 말했다.

젠슨 황은 2025년 3분기까지 12개월 동안의 블랙웰 판매가 모두 끝났다고 밝혔다.

블랙웰의 주요 구매자는=구글+메타+아마존+MS+오라클 등이다.

모건 스탠리는 엔비디아가 2024년 4분기까지 45만 개의 블랙웰을 생산할 것으로 예측했다.

이론적으론 엔비디아는 1개당 4만 달러의 블랙웰을 45만 개 판매하면 180억 달러의 매출을 올릴 수 있다.

젠슨 황도 2024년 4분기부터 수십억 달러 규모의 블랙웰 매출을 기대한다고 밝혔다.

디인포메이션은 2024년 10월 16일=블랙웰 생산 차질 문제로 설계회사인 엔비디아와 생산회사인 TSMC 사이에 갈등이 빚어지고 있다고 보도했다.

젠슨 황은 2024년 10월 23일 제약개발용 인공지능 슈퍼컴퓨터 게피온 출시를 위해 덴마프 코펜하겐을 찾아서 노보 노디스크와 덴마크 정부의 MOU를 체결했다.

젠슨 황은 2024년 10월 23일 “블랙웰에 설계상 결함이 있었다. 블랙웰 칩셋을 작동시키기 위해 설계를 처음부터 다시 했다”면서 블랙웰 과열 문제를 시인했다.

젠슨 황은 2024년 10월 23일 “블랙웰에 설계 결함이 있었고 수율이 낮아졌고 이건 100% 엔비디아의 잘못이며 TSMC의 잘못이 아니다”라고 말했다.

블랙웰은 최대 74개의 블랙웰 GPU를 하나의 서버 랙에 연결할 때 과열 문제가 발생한다.

블랙웰은 1개당 2.7KW의 전력을 소모하며 전기난로의 3KW에 육박한다.

1개의 서버 랙에서 최대 120KW의 전력을 소비하게 된다.

블랙웰은 호퍼 세대의 GPU를 2배로 압축하기 위해 복잡하고 밀도 높은 설계를 채택해서 발열 문제에 취약하다.

젠슨 황은 블랙웰의 생산과 패키징을 모두 TSMC한테 맡겼고+TSMC는 CoWoS-L 패키징 기술로 블랙웰의 칩셋을 연결했는데=GPU 칩렛+LSI 브리지+RDL 인터포저+마더보드 기판처럼 서로 다른 회사에서 생산한 각종 부품이 연결되면서 발열 문제가 발생하고 있다.

젠슨 황은 서버 랙의 냉각 시스템을 재설계해서 블랙웰의 발열 문제를 해결하려고 한다.

젠슨 황은 이안 벅 엔비디아 하이퍼스케일 및 HPC부문 부사장은2024년 11월 17일부터 22일까지 미국 애틀랜타에서 열리는 슈퍼컴퓨팅 2024 컨퍼런스에서 과학 컴퓨팅의 최신 혁신을 주제로 발표한다.

엔비디아는 2024년 8월 28일 수요일 장마감 이후 2024년 2분기 실적을 발표했었다.

엔비디아는 2024년 2분기에 매출 297억 달러로 전년 동기 대비 122% 성장했다.

엔비디아는 2024년 2분기 주당 순이익=EPS는 64센트를 기록했다.

엔비디아 주가는 2024년 8월 28일 수요일 시간 외 거래에서 7% 하락했다.

엔비디아 주가는 2024년 8월 29일 목요일 4.6% 하락했다.

엔비디아 주가에는 블랙웰에 대한 높은 기대치가 이미 선반영돼 있다.

엔비디아 주가가 2023년부터 2024년 2년 동안 하루 5% 이상 변동한 횟수는 50회 이상이다.

엔비디아는 2024년 11월 21일 목요일 2024년 3분기 실적을 발표한다.

젠슨 황은 2024년 3월 18일 차세대 블랙웰을 발표했다.

정확하게 8개월이 지난 2024년 11월 18일 오늘까지도 블랙웰은 기술적 문제와 싸우고 있다.

젠슨 황은 AI 트렌드에 맞춰서 블랙월을 시장이 던졌지만 제품 개발은 시장이 아니라 기술이 하는 것이다.

열 나는 블랙월은 아직까진 젠슨 황의 블랙월.

젠슨 황 인생과 엔비디아 역사에에서 설계 오류로 발열 문제가 발생하고 결국 제품 불량으로 이어지면서 설계사와 파운드리의 갈등으로 비화된 경우가 처음이 아니다.

2008년 지포스84과 86의 발열 문제는 범프 게이트로 이어졌고 결국 엔비디아 주가는 30% 폭락했다.

과연 젠슨 황은 그래픽 카드 시절의 실수를 인공지능 시대에 반복하지 않을 수 있을 것인가.

젠슨 황