호출 예약
호출 내역
추천 내역
신고
1주일 보지 않기
카카오톡 공유
주소 복사
공지가 닫혀있습니다 l 열기
모바일 (밤모드 이용시)
댓글

엔비디아 AI 가속기 시장 독점 막을 기술, KAIST가 내놨다 (daum.net)

엔비디아 AI 가속기 시장 독점 막을 기술, KAIST가 내놨다 | 인스티즈

엔비디아 AI 가속기 시장 독점 막을 기술, KAIST가 내놨다

국내 연구진이 대규모 인공지능(AI)의 속도를 빠르게 높일 수 있는 그래픽저장장치(GPU) 기술을 개발했다. 이 기술은 메모리 용량을 확보하기 위해 값비싼 GPU를 많이 연결할 필요가 없어 대규모 AI

v.daum.net



엔비디아 AI 가속기 시장 독점 막을 기술, KAIST가 내놨다

 

 

KAIST, 차세대 연결 기술 적용한 GPU 개발
AI에 필요한 메모리 확장 비용 절감

엔비디아 AI 가속기 시장 독점 막을 기술, KAIST가 내놨다 | 인스티즈

정명수 한국과학기술원(KAIST) 전기및전자공학부 교수 연구팀이 설계하고, 국내 반도체 팹리스 스타트업 파네시아가 제작한 CXL-GPU./KAIST

국내 연구진이 대규모 인공지능(AI)의 속도를 빠르게 높일 수 있는 그래픽저장장치(GPU) 기술을 개발했다. 이 기술은 메모리 용량을 확보하기 위해 값비싼 GPU를 많이 연결할 필요가 없어 대규모 AI 모델을 구축하는 데 드는 비용을 줄일 것으로 기대된다.

정명수 한국과학기술원(KAIST) 전기및전자공학부 교수 연구팀은 차세대 기술인 ‘컴퓨트 익스프레스 링크(CXL)’가 활성화된 고용량 GPU의 메모리 읽기·쓰기 성능을 최적화하는 기술을 개발했다고 8일 밝혔다.

 

최근 대규모 AI 서비스는 모델과 데이터 크기가 점점 커져 수십 TB(테라바이트·1TB는 1조 바이트)의 메모리를 요구한다. 반면 최신 GPU 내부 메모리 용량은 수십 GB(기가바이트)에 불과해 여러 대를 연결하는 방식을 사용하고 있다. 이 방식을 이용하면 엔비디아가 개발한 최신 GPU ‘H100′은 하나에 4000만~5000만원에 달해 AI 모델 가격이 높아진다는 문제가 있다.

연구팀은 차세대 연결 기술인 CXL을 활용해 대용량 메모리를 GPU 장치에 직접 연결하는 ‘CXL-GPU’ 구조 기술을 개발했다. CXL로 메모리 확장 장치를 GPU 메모리 공간에 통합시켜 GPU를 이어 붙이지 않아도 메모리 용량을 높일 수 있는 기술이다. 다만 CXL-GPU 기술은 그동안 산업계에서 활발히 연구됐지만, 메모리 읽기·쓰기 성능이 떨어져 실제로 적용되기 어려웠다.

연구팀은 CXL-GPU 장치의 메모리 읽기·쓰기 성능이 저하되는 원인부터 찾았다. 기존 CXL-GPU는 확장 메모리 장치의 읽기·쓰기가 GPU의 성능을 따라가지 못한다는 것이 문제였다. 연구팀은 메모리 확장 장치가 연결된 GPU에서 신호를 받아 미리 메모리 읽기를 수행하고, 쓰기 타이밍을 스스로 결정하도록 설계했다.

설계된 CXL-GPU는 반도체 팹리스 스타트업 파네시아에서 시제품을 만들었다. 파네시아는 초고속 CXL 컨트롤러 기술을 자체 개발한 국내 기업이다. 연구팀이 CXL-GPU 시제품을 분석한 결과, 기존 GPU 메모리 확장 기술보다 2.36배 빠르게 AI 서비스를 실행했다. 메모리 용량을 늘리기 위해 더이상 GPU를 대량으로 연결할 필요가 없는 것이다.

연구팀은 개발한 CXL-GPU 기술이 엔비디아의 AI 가속기 시장 독점을 막을 것으로 기대했다. 정명수 교수는 “CXL-GPU로 대규모 AI 서비스를 운영하는 빅테크 기업의 메모리 확장 비용을 획기적으로 낮추는 데 기여할 수 있을 것”이라고 말했다.

추천  1


 
로그인 후 댓글을 달아보세요
 

혹시 지금 한국이 아니신가요!?
여행 l 외국어 l 해외거주 l 해외드라마
카테고리
  1 / 3   키보드
닉네임날짜조회
유머·감동 아메리카노 마시는 사람들 사이에서 갈리는것273 geebee08.01 09:03118358 2
이슈·소식 현재 난리난 350만원 빌려달라는 친구.JPG238 우우아아08.01 13:14101426 4
이슈·소식 [단독] 사망 자작극 래퍼 "사회 현실 깨닫게 해주기 위해"206 우우아아08.01 12:4396682 1
이슈·소식 시댁에서 지원받았으면 복종해야 하나요?174 yhukok08.01 14:5471142 2
유머·감동 대전에서 난리난 동성애 불륜183 퓨리져08.01 17:3284110 6
복권 당첨금으로 지은 마을 소방서11 311329_return 07.30 00:22 6866 12
배우 김청이 신안에서 겪은 큰일날 뻔한 경험(염전노예만 있는게 아님 여성 성노예도 ..1 호롤로롤롤 07.29 23:49 3245 3
티몬 사태 관련 고운발 크림 공지3 유기현 (25) 07.29 23:48 7861 2
중고등학생때 성폭행으로 친딸 임신중절수술 4번 시킨 친부22 950107 07.29 23:46 10934 4
단기간에 우리삶에 완전 들어온 것 같은 신문물 2가지9 311095_return 07.29 23:46 21932 3
헐리우드에서 엉덩이 제일 클듯한 남배우4 션국이네 메르 07.29 23:02 5262 1
한국군, 일본 자위대와 교류 협력 추진하기로 환조승연애 07.29 23:00 425 1
위안부 모으던 사람 후손이 콘돔 회사를 만드는 나라5 알렉스퍼거슨 07.29 22:49 4572 4
"묶어 놓고 약만 먹여”…방송인 겸 유명 정신과 의사 병원서 환자 사망57 고양이기지개 07.29 22:45 60777 5
두자매 "파리올림픽 시청, 오상욱·김우민 선수 좋아해” (두자매 SHOW) 내사랑은너 07.29 22:27 1060 0
8월 컴백 예고하며 스포필름 공개한 제로베이스원 도레미도파파 07.29 22:22 225 0
중국 때문에 망가져버린 호주 퀸즐랜드 사람들의 생활과 자연환경.jpg1 308679_return 07.29 22:15 2653 1
어젯밤 터진 윤석열 녹취록 요약정리 (스압주의) WD40 07.29 22:13 2467 2
신인의 패기란 이런 것이다 보여준 신인 남돌 쌩라이브 무대 동구라미다섯 07.29 22:06 1084 0
뱀파이어 닉값 제대로 보여주는 서늘한 비주얼의 엔하이픈 미미다 07.29 22:00 891 0
'이재명 대북송금' 논리 깨졌다…통일부 공식문건 확인1 311329_return 07.29 21:59 891 0
우리나라 양궁 파벌+비리 없는 이유23 無地태 07.29 21:58 12112 27
LA 케이콘에서 싸이코, 뚜두뚜두 커버 무대 한 남돌 퇴근무새 07.29 21:48 422 0
[속보] 티몬 홈페이지 접속 불가1 우물밖 여고 07.29 21:42 1385 0
[단독] "쯔양 해명은 거짓말”···함께 근무한 업소사장의 증언186 그린피스 07.29 21:28 134960 3
전체 인기글 l 안내
8/2 2:50 ~ 8/2 2:52 기준
1 ~ 10위
11 ~ 20위
1 ~ 10위
11 ~ 20위