호출 예약
호출 내역
추천 내역
신고
  1주일 보지 않기 
카카오톡 공유
https://instiz.net/pt/7572845주소 복사
공지가 닫혀있어요 l 열기
모바일 (밤모드 이용시)
댓글
이 글은 1년 전 (2024/7/09) 게시물이에요

엔비디아 AI 가속기 시장 독점 막을 기술, KAIST가 내놨다 (daum.net)

엔비디아 AI 가속기 시장 독점 막을 기술, KAIST가 내놨다 | 인스티즈

엔비디아 AI 가속기 시장 독점 막을 기술, KAIST가 내놨다

국내 연구진이 대규모 인공지능(AI)의 속도를 빠르게 높일 수 있는 그래픽저장장치(GPU) 기술을 개발했다. 이 기술은 메모리 용량을 확보하기 위해 값비싼 GPU를 많이 연결할 필요가 없어 대규모 AI

v.daum.net



엔비디아 AI 가속기 시장 독점 막을 기술, KAIST가 내놨다

 

 

KAIST, 차세대 연결 기술 적용한 GPU 개발
AI에 필요한 메모리 확장 비용 절감

엔비디아 AI 가속기 시장 독점 막을 기술, KAIST가 내놨다 | 인스티즈

정명수 한국과학기술원(KAIST) 전기및전자공학부 교수 연구팀이 설계하고, 국내 반도체 팹리스 스타트업 파네시아가 제작한 CXL-GPU./KAIST

국내 연구진이 대규모 인공지능(AI)의 속도를 빠르게 높일 수 있는 그래픽저장장치(GPU) 기술을 개발했다. 이 기술은 메모리 용량을 확보하기 위해 값비싼 GPU를 많이 연결할 필요가 없어 대규모 AI 모델을 구축하는 데 드는 비용을 줄일 것으로 기대된다.

정명수 한국과학기술원(KAIST) 전기및전자공학부 교수 연구팀은 차세대 기술인 ‘컴퓨트 익스프레스 링크(CXL)’가 활성화된 고용량 GPU의 메모리 읽기·쓰기 성능을 최적화하는 기술을 개발했다고 8일 밝혔다.

 

최근 대규모 AI 서비스는 모델과 데이터 크기가 점점 커져 수십 TB(테라바이트·1TB는 1조 바이트)의 메모리를 요구한다. 반면 최신 GPU 내부 메모리 용량은 수십 GB(기가바이트)에 불과해 여러 대를 연결하는 방식을 사용하고 있다. 이 방식을 이용하면 엔비디아가 개발한 최신 GPU ‘H100′은 하나에 4000만~5000만원에 달해 AI 모델 가격이 높아진다는 문제가 있다.

연구팀은 차세대 연결 기술인 CXL을 활용해 대용량 메모리를 GPU 장치에 직접 연결하는 ‘CXL-GPU’ 구조 기술을 개발했다. CXL로 메모리 확장 장치를 GPU 메모리 공간에 통합시켜 GPU를 이어 붙이지 않아도 메모리 용량을 높일 수 있는 기술이다. 다만 CXL-GPU 기술은 그동안 산업계에서 활발히 연구됐지만, 메모리 읽기·쓰기 성능이 떨어져 실제로 적용되기 어려웠다.

연구팀은 CXL-GPU 장치의 메모리 읽기·쓰기 성능이 저하되는 원인부터 찾았다. 기존 CXL-GPU는 확장 메모리 장치의 읽기·쓰기가 GPU의 성능을 따라가지 못한다는 것이 문제였다. 연구팀은 메모리 확장 장치가 연결된 GPU에서 신호를 받아 미리 메모리 읽기를 수행하고, 쓰기 타이밍을 스스로 결정하도록 설계했다.

설계된 CXL-GPU는 반도체 팹리스 스타트업 파네시아에서 시제품을 만들었다. 파네시아는 초고속 CXL 컨트롤러 기술을 자체 개발한 국내 기업이다. 연구팀이 CXL-GPU 시제품을 분석한 결과, 기존 GPU 메모리 확장 기술보다 2.36배 빠르게 AI 서비스를 실행했다. 메모리 용량을 늘리기 위해 더이상 GPU를 대량으로 연결할 필요가 없는 것이다.

연구팀은 개발한 CXL-GPU 기술이 엔비디아의 AI 가속기 시장 독점을 막을 것으로 기대했다. 정명수 교수는 “CXL-GPU로 대규모 AI 서비스를 운영하는 빅테크 기업의 메모리 확장 비용을 획기적으로 낮추는 데 기여할 수 있을 것”이라고 말했다.



 
로그인 후 댓글을 달아보세요
 

혹시 지금 한국이 아니신가요!?
여행 l 외국어 l 해외거주 l 해외드라마
카테고리
  1 / 3   키보드
닉네임날짜조회
이슈·소식 김구 암살범 처단한 박기서 선생 별세... 향년 78세300 우우아아11:4260326
이슈·소식 장영란 아들, 호텔서 기물 파손…"140만 원 갚아라" 분노277 우우아아10:5296697
이슈·소식 현재 대우 심하다고 난리난 윤 새집.JPG138 우우아아9:5887227 7
이슈·소식 "더는 못 살겠다"…아파트 점령한 수천마리 백로떼, 무슨 일?110 사건의 지평선..14:1053492 1
이슈·소식 "예약 잊고 2시간 지각한 메이크업숍 사장…7만원 잔금 결제 요구" 황당149 콩빔20:3230687 3
"직장 동료들 횡포 있었다"…'유퀴즈' 출연 기상캐스터 유서 공개6 배이스 01.27 20:15 22003 2
"쟤만 자빠뜨리면 내가 대선후보" 민주당이 50년동안 앓고있는 고질병"1 기후동행 01.27 20:09 4240 0
주차해둔 차가 사라져서 cctv 돌려봄16 풀썬이동혁 01.27 19:59 17688 0
캐나다 최대규모 마약갱단이 우리나라 강원도 횡성군에서 122만명분의 마약제조요.....11 유기현 (25.. 01.27 19:54 18207 3
MBC 드라마 표절 논란2 서진이네? 01.27 19:54 7841 0
오늘자 개까리한 김태리 입국 착장5 성수국화축제 01.27 19:54 13965 0
코디 월급 더주라고 팬들이 닥달한다는 엔위시 음중인가 무대1 눈물나서 회사가.. 01.27 19:44 6927 0
삼전 96층에서 1억 원어치 산 사람 근황4 30646.. 01.27 19:24 21138 1
재미로 보는 게이픽이라는 남자 아이돌 그룹 (feat. 비주얼)1 눈물나서 회사가.. 01.27 18:48 9012 1
송가인, 역대급 퀄리티 새 앨범 설명서 공개 "설 명절 선물 같길” 안녀어어엉ㅇ 01.27 18:31 2107 0
젤리의 재료와 성분이 의심스러움4 30862.. 01.27 18:03 11275 4
윤석열 다음주 일정 나옴3 다시 태어날 수.. 01.27 18:02 1677 0
아이유 공계 셀카 업데이트1 He 01.27 18:02 744 0
김종민 측 "초상권 무단도용 및 허위 광고에 강력 대응” 안녀어어엉ㅇ 01.27 18:01 618 0
요즘 미국에서 핫한 이미지로 인기 많다는 라이징 스타1 01.27 17:32 10534 1
2025 수능 만점자가 의대가 아닌 서울대 공대를 선택한 이유7 코메다코히 01.27 17:01 10021 5
릴스에서 조회수 폭발한 영상 콩순이!인형 01.27 16:36 2454 0
기상케스터 죽음 뒤에 직장내 괴롭힘 있었다14 ~~ 01.27 16:12 14035 9
요즘 왜이리 다운증후군이나 문제있는 아기들이 많지80 짱진스 01.27 16:07 101103 1
나영석 PD가 1박 2일에서 출연자들을 가혹하게 굴리던 이유5 언더캐이지 01.27 15:54 7559 0
추천 픽션 ✍️
thumbnail image
by 작가재민
여름이 성큼성큼 다가오고 있다는 걸 너는 느끼고 있니?봄비가 수차례 내리고 그 물을 머금은 나무들은 더 진한 초록색이 되었어. 아침에 일어나면 어둑어둑했던 시간은 눈을 뜨면 햇빛이 따스하게 들어오는 시간으로 변했어.매일 지나치는 초등학교..
thumbnail image
by 한도윤
도대체 누가 회사를 퇴사할 생각하고 회사를 다녀요? 그렇죠? 제가 썼던 글 중 인기 있는 글 제목이 ‘이렇게만 하면 회사 5년은 다니겠는데?’이거든요. 이러 것만 봐도 회사는 삶에 있어서 꼭 필요한 존재이고 되도록이면 오래도록 안정감..
thumbnail image
by 작가재민
너는 욕심이 많은 사람이라고 했지. 학교를 다닐 때부터, 직장생활을 시작하고서부터, 나랑 만나면서부터, 어쩌면 태어날 때부터 너는 갖고 싶은 거, 하고 싶은 거, 이루고 싶은 게 많다고 했어. 꿈이 큰 사람. 그게 너의 매력이라 내가 너..
thumbnail image
by 작가재민
바나나 푸딩 한 접시에 네가 웃었으면 좋겠어네가 힘든 걸 잊고 웃을 수 있었으면 나는 다른 소원은 없어.오늘은 네가 집에 돌아오면 말랑말랑한 바나나 푸딩을 한 접시를 만들어 너에게 대접할게. 하루 종일 업무에, 책임에, 사람들에, 그 사..
thumbnail image
by 한도윤
아침 출근길에 엄마와 통화를 하면서 걸어가는데 문득 울고 싶다는 생각을 했다. 차마 엄마께는 말씀드리지 못했다. 당신도 만약 그렇다면, 그랬었다면, 그럴 것 같다면 이 글에 잘 찾아오셨다. 왜냐면 나도 그런 상황이기 때문이다.출근길에 울..
by 김민짱
  " 앞 집에 누구 이사와?"" 네가 잘 아는 사람."" 내가? 내가 누굴 잘 아는데?"" 어휴, 저거, 저거. 잘 좀 생각 해 봐."더운 여름, 손에 든 아이스크림을 핥으며 장바구니를 내려놓았다. 맞은..
이슈
일상
연예
드영배