호출 예약
호출 내역
추천 내역
신고
  1주일 보지 않기 
카카오톡 공유
주소 복사
공지가 닫혀있어요 l 열기
모바일 (밤모드 이용시)
댓글
성수국화축제ll조회 23698l 3
많이 스크랩된 글이에요!
나도 스크랩하기 l 카카오톡 공유


오늘 엔비디아 피바다 난 이유 (매우 쉽게 설명 가능) | 인스티즈








Dropbox의 AI 부사장 Morgan Brown


1/ 먼저 배경부터 설명하겠습니다. 현재 최첨단 AI 모델을 훈련시키는 비용은 엄청나게 비쌉니다.

OpenAI, Anthropic 같은 회사들은 계산에만 1억 달러 이상을 쓰며, $4만짜리 GPU 수천 대가 필요한 대규모 데이터 센터를 운영합니다. 마치 공장을 운영하기 위해 발전소 전체가 필요한 상황과 같습니다.



2/ 그런데 DeepSeek이 나타나서 이렇게 말했습니다.

“ㅋㅋㅋ 우리라면 이걸 500만 달러로 할 수 있을걸?”
그리고 말로만 한 것이 아니라 실제로 해냈습니다.
그들의 모델은 GPT-4와 Claude를 많은 작업에서 능가하거나 대등합니다. AI 업계는 충격을 받았습니다.



3/ 어떻게 가능했을까요?

그들은 모든 것을 처음부터 다시 생각했습니다.
전통적인 AI는 마치 모든 숫자를 소수점 32자리까지 기록하는 것과 같습니다.

DeepSeek은 “8자리로만 기록하면 어떨까? 충분히 정확하잖아!”라고 접근했고, 결과적으로 메모리 사용량이 75% 감소했습니다.



4/ 그리고 그들의 “멀티 토큰” 시스템도 주목할 만합니다.

일반적인 AI는 초등학생이 읽듯이 “The… cat… sat…”처럼 읽습니다.

반면, DeepSeek은 문장 전체를 한 번에 읽습니다. 결과적으로 2배 더 빠르고 90% 수준의 정확도를 자랑합니다.

수십억 개의 단어를 처리할 때, 이런 효율성은 매우 중요합니다.



5/ 하지만 진짜 기발한 점은 “전문가 시스템”을 구축했다는 것입니다.

한 거대한 AI가 모든 것을 다 알도록 만드는 대신(예: 한 사람이 의사, 변호사, 엔지니어 역할을 모두 하는 것처럼), DeepSeek은 필요한 경우에만 전문가들을 호출하도록 설계했습니다.



6/ 기존 모델은 1.8조 개의 파라미터가 항상 활성화되어야 합니다.

DeepSeek은 6710억 개의 파라미터 중 단지 370억 개만 활성화됩니다.

마치 큰 팀을 운영하되 필요한 전문가만 호출하는 것과 같습니다.



7/ 결과는 놀랍습니다:

• 훈련 비용: 1억 달러 → 500만 달러
• 필요한 GPU 수: 100,000대 → 2,000대
• API 비용: 95% 절감
• 데이터 센터 하드웨어 대신 게이밍 GPU에서도 실행 가능



8/ “그런데,” 누군가 말할 수 있습니다. “분명 단점이 있겠지!”

놀라운 점은, 모든 것이 오픈 소스라는 것입니다.
누구나 그들의 작업을 검증할 수 있습니다. 코드는 공개되어 있고, 기술 논문은 모든 과정을 설명합니다.

마법이 아니라, 단순히 매우 영리한 엔지니어링입니다.



9/ 왜 중요한가요?

이로 인해 “대형 기술 기업만이 AI를 다룰 수 있다”는 기존의 모델이 깨졌습니다.

이제 수십억 달러 규모의 데이터 센터가 필요하지 않습니다.

좋은 GPU 몇 대만 있으면 됩니다.



10/ Nvidia에게는 두려운 이야기입니다.

그들의 비즈니스 모델은 초고가 GPU를 90% 마진으로 판매하는 데 기반을 두고 있습니다.

하지만 모두가 일반 게이밍 GPU로 AI를 돌릴 수 있게 된다면… 문제는 명확합니다.



11/ 그리고 중요한 점은 DeepSeek이 이를 200명 이하의 팀으로 해냈다는 것입니다.

한편 Meta의 팀은 DeepSeek 전체 훈련 예산보다 더 많은 연봉을 받으며 작업을 하고 있지만, 그들의 모델은 DeepSeek만큼 좋지 않습니다.



12/ 이는 전형적인 파괴적 혁신의 이야기입니다.

기존 기업들은 기존 프로세스를 최적화하는 데 초점을 맞추는 반면, 파괴적인 혁신 기업들은 근본적인 접근 방식을 다시 생각합니다.

DeepSeek은 “더 많은 하드웨어를 투입하기보다 더 똑똑하게 접근하면 어떨까?”라고 물었습니다.



13/ 그 영향은 큽니다:

• AI 개발이 더 접근 가능해짐
• 경쟁이 급격히 증가
• 대형 기술 기업들의 “진입 장벽”이 작은 웅덩이처럼 보임
• 하드웨어 요구 사항(및 비용)이 급감



14/ 물론, OpenAI와 Anthropic 같은 대기업들이 가만히 있지는 않을 것입니다.

그들은 아마도 이미 이러한 혁신을 구현하고 있을 것입니다.

그러나 효율성의 램프는 이제 병 밖으로 나왔으며, “더 많은 GPU를 투입하자”라는 접근 방식으로 돌아갈 수는 없습니다.



15/ 마지막 생각:

이 순간은 우리가 나중에 변곡점으로 기억할 가능성이 높습니다.

마치 PC가 메인프레임을 덜 중요하게 만들거나, 클라우드 컴퓨팅이 모든 것을 바꿨던 것처럼요.

AI는 더 접근 가능하고, 훨씬 저렴해질 것입니다.
이 변화가 현재 플레이어들에게 어떤 영향을 미칠지는 속도의 문제일 뿐입니다.





오늘 엔비디아 피바다 난 이유 (매우 쉽게 설명 가능) | 인스티즈









오늘 딥시크 써봤는데 성능이 엄청 대단하진 않음
그리고 중국 것이기도 하니까 정보 유출 우려해서
챗지피티 쓰면 그냥 그거 쓰면 됨

근데 딥시크vs미국AI -> 뒷단에서 소모되는 비용의 격차가 어마어마하게 크다는 사실이 지금 AI 주식시장 변동의 주 요인 ㅇㅇ







 
호재는 ai 시장이 계속 발전한다는 것 이겠죠…
근데 저도 물림 웃안웃 하..

1개월 전
어제 진입했는데 바로 물림.. ㅎㅎ
1개월 전
56  1
눈물....
1개월 전
펜터치  💞
😥
1개월 전
살좀빼고싶다  뱃살좀어떻게해봐
근데 딥시크 지금 말많던데...
미국에서 조사 착수한다고 기사 봄

1개월 전
우와...............
1개월 전
작년8월에도 한번 100달러 턱밑까지 떨어졌었는데 차트 넓게보면 결국 우상향이죠ㅋㅋㅋ
이번에도 그냥 조정의 핑계가 필요했던거라 봅니다

1개월 전
우우키키  키키키키키키키키키킼
22 주식은 이유를 갖다붙이면 그만입니다
1개월 전
HI9HLI9HT  오래보자
😥
1개월 전
ㄷㄷ 대박이긴함
1개월 전
저도 물림 ㅎㅎ
1개월 전
잘 생각해보시면 적든 많든 그래픽카드는 필수고 어쨌든 더 많은 그래픽카드를 써야 ai 성능도 올라간다는 사실은 변하지 않았어요
open ai 개발비용이 거품으로 알려지게 된거지 앤비디아 gpu가 거품이 아닙니다
딥시크 창업자가 미국의 첨단 칩 수출 제한이 걸림돌이 되고 있다고 말했는데 그 말 뜻은 즉 앤비디아 칩 공급만 원할하다면 더욱 성능을 높일 수 있다는거죠 앤비디아 수요측면에선 아무것도 손해보는게 없다는 숨은 진실

1개월 전
이런 걸 보면 참 씁쓸함.... 우리나라는 왜 중국처럼 하지 못하는 건지...ㅠㅠ
1개월 전
엔비디아가 바보도 아니고
저걸 몰랐을까 싶긴해요
알고도 안한거면 나쁜거구요

1개월 전
엔비디아가 GPU 시장의 리더라는 사실은 가격대와 관계없이 변함이 없으며, GPU는 AI 시장에서 필수적인 요소인거잖아요.

그러니 이번 사태(?)는 엔비디아의 기존 성장 전략이 변화하는 계기인것 같아요. 이 일로 AI 시장의 진입 장벽이 낮아지면서 오히려 가성비 좋은(?) 전문 AI 모델 개발이 활성화될거고 이에 따라, 다른 관점에서 GPU 시장이 성장할 수도 있으니까요. 엔비디아의 비즈니스 모델도 고가 제품 중심에서 중저가 GPU를 대량으로 판매하는 방향으로 전환하는거구요.

물론 시장 상황 변화에 따른 비즈니스 모델 리빌딩은 회사의 생사를 가늠하는 큰 결정이고, 이에 대응하는 회사 역량이 핵심이겠지만 엔비디아 짬바~가 있으니 좀 더 지켜봐야할 문제지 싶어요

1개월 전
저는 왠지 더 떨어질 거 같은데 님 생각은 어떠세요 ?
1개월 전
   
로그인 후 댓글을 달아보세요
 

혹시 지금 한국이 아니신가요!?
여행 l 외국어 l 해외거주 l 해외드라마
카테고리
  1 / 3   키보드
닉네임날짜조회
유머·감동 다들 휴일에 직장상사한테 이런 문자나 카톡 오면 기분 어떨지 적어보는 달글224 따뜻하군11:0868206 0
유머·감동 [네이트판] 주말마다 집에 찾아오는 아이 때문에 미칠거 같습니다122 기후동행8:3694002 2
유머·감동 하이킥 윤호 성인되서 무슨 직업 가졌을지 말해보는 달글 ㅋㅋ91 중 천러11:5153617 1
유머·감동 남친이 화이트데이라고 회사 여직원들한테 사탕 돌림.jpg77 따뜻하군13:2343013 0
이슈·소식 현재 인스타 댓글마저 선 넘었다고 욕먹는 중인 압구정 사는 아이들 호구조사;88 콩순이!인형12:5376628 3
중국 고급 술 중에서 압도적으로 못생긴 술병15 이시국좌 03.07 21:11 84403 0
🔥윤석열 파면촉구 범국민대회 초대장🔥 진스포프리 03.07 21:09 451 1
그리스로마신화로 유명한 홍은영 작가님의 친필편지5 쓸애기 03.07 20:56 4536 0
사람마다 다르다는 찐 출퇴근의 기준.jpg296 임팩트FBI 03.07 20:53 131201 0
흙수저 직장인이라면 아래의 방법대로 부동산 진입하는 게 제일 정석임.twt3 멍ㅇ멍이 소리를.. 03.07 20:44 8454 4
깜고 해야 하는 이유🐈‍⬛.jpg8 하품하는햄스터 03.07 20:42 4857 1
尹 탄핵 선고 앞둔 주말, 서울 도심에 11만 명 몰려온다…"교통 정체 예상" 31110.. 03.07 20:42 756 1
30대가 왜 아이돌 덕질을 하냐고 7번 아이언 03.07 20:42 4196 1
요근래 봤던 스캠문자들 중 가장 아련했던 메세지~ 답장할뻔2 데뷔축하합니다 03.07 20:41 2356 0
강아지 위에서 식빵 굽는 고양이.gif3 코카콜라제로제로 03.07 20:41 4591 0
"최근 유명 배우가 요청한 몸값을 맞춰주기 위해 스태프 인건비를 조금씩 줄일 수 없..7 He 03.07 20:41 16046 2
남편이 성매매 끊게 하는 법을 알려 주세요1 언행일치 03.07 20:40 1451 0
내가 아이돌이 됐을때 받을 악플은? 댓글 읽기 테스트 악플버전1 민초의나라 03.07 20:29 2111 0
최근 슈돌 나온 남돌이 아기를 잘 볼 수 있었던 이유 눈물나서 회사가.. 03.07 20:26 2943 0
미국에서 본 가장 충격적인 삼각관계 (실화 웹툰)2 누눈나난 03.07 20:22 6626 0
요즘 우리나라 직장인 부수입 분위기6 짱진스 03.07 20:22 19246 3
김종민 버전 모바일 청첩장16 홀인원 03.07 20:21 71312 19
실내 자전거로 살 뺀 썰.jpg1 31132.. 03.07 20:20 5023 0
들어는 봤나 "중복자궁", 여성의 n%가 갖고있다는 자궁기형1 멀리건 03.07 20:13 1091 0
가짜 인생 구간이라는게 있다...twt5 성수국화축제 03.07 20:11 14266 7
이슈
일상
연예
드영배