"AI시대 가장 주목받는 반도체 회사 Nvidia"
이번 Nvidia GTC는 AI 대장주로 Nvidia가 주목 받고 있는 이유를 보여주는 장면들이 많았습니다. 하지만 반대로 생각하면 독자분들께선 AI대장주인데 Chip 설명을 하는 아이러니한 상황이 어색할수도 있다고 생각했습니다. 왜 SW로 대변되는 AI가 HW를 주목받게하는것일까요?
단순히 이문제를 파악하기 위해선 AI 자체가 가지는 특성을 요약해 드려야 할거 같습니다.
1. 계산
AI 는 단순히 연산을 가지는 system 입니다.
Back propagation: 정해진 값을 위해 계수를 만들어 가는 과정
정해진 값을 1이라고 표현했을때 0.5+0.5=1 이 될수도 있고 0.35+0.65=1이 될수도 있습니다. 그럼 반대로 0.5,0.35,0.65(계수)라는 값이 1을 대표한다고 생각해보면 어떨까요. 1이라는 어떤값을 대표하기 위해선 단순히 상수 1을 표현할수도 있지만 계수그 자체가 1을 대표한다고 생각하는 과정이 Back propagation이라고 생각합니다.
Foward propagation: 해를 구하는 과정
그럼 반대로 내가 새로운 정보를 받아 들였을때 연산하는 과정에서 1이 만들어 진다면 새로운 정보는 1을 대표 할수 있다라는 것이 Foward propagation 과정이라 생각합니다.
그럼 이러한 연산을 위해선 Weight를 저장하고 불러오고 (Memory), 연산을 한다(DSP)가 AI가 가지는 System이죠
이러한 측면에서 HW가 주목받고 있다고 생각합니다. HardWare는 Software와는 병렬연산이 가능합니다.
연산의 복합적인 부분은 이전에 본거와 같이 +/x등 단순한 계산을 얼마나 빠르게 하는 지 Application이 중요해지며 AI는 더 이상 Sw의 Treading으로 커버 할수 없는 HW의 연산능력이 필수적이게 되는 것이죠 이를 대표하는것이 Nvida H100과 같은 GPU 어플리케이션이 주목받는 이유라고 할수 있습니다.
2. Cuda Platform
Cuda platform은 AI의 platform과 같습니다. 그래서 젠슨황이 AI Foundary라고 하는 것이죠. 계산기를 쓴다고 생각해시면 이해하기 쉬울거 같습니다. 계산기를 사용하며 1이라는 숫자를 눌렀을때 버튼의 전기적인 volatage값을 알고 사용하시진 않습니다. 우리가 당근마켓을 사용할때도 당근마켓의 피켓이나 서버용량을 생각안하는 것 처럼 단순히 우리가 AI model을 을 만들고자 하는 data set이 있을때 data set만 넣는다면 AI model이 나올수 있도록 하는 platform인것이죠
1번과 2번을 모두 갖춘 회사가 Nvida인것이죠 사용자는 단순히 dataset과 Nvida HW만 있다면 손쉽게 AI모델을 만들수 있는 세상을 열겠다는 것이 젠슨황의 생각이고 해내고 있는 모습입니다.
2편에서는 좀더 구체적으로 왜 B100이라는 HW가 주목받고 있는지 현직자의 시선에서 바라보는 시간을 가지겠습니다.