| 제목 | [정부과제제안서] LLM 학습을 위한 효율적인 분산 GPU 학습 기법 개발 |
|---|
| 분류 | 성장동력산업 | 판매자 | 나혜선 | 조회수 | 32 | |
|---|---|---|---|---|---|---|
| 용량 | 55KB | 필요한 K-데이터 | 3도토리 |
| 파일 이름 | 용량 | 잔여일 | 잔여횟수 | 상태 | 다운로드 |
|---|---|---|---|---|---|
 [정부과제제안서] LLM 학습을 위한 효율적인 분산 GPU 학습 기법 개발.hwp |
55KB | - | - | - | 다운로드 |
| 데이터날짜 : | 2024-04-01 |
|---|---|
| 출처 : | 국책연구원 |
| 페이지 수 : | 1 |
|
위탁연구 목 적 |
◦ KISTI의 LLM 학습에서의 에너지 효율성 및 학습 속도 개선을 위한 병렬화 알고리즘 개발 |
|
위탁연구 목 표 |
◦ 초거대 LLM 훈련을 위한 에너지 효율적이며 성능이 극대화된 시스템 개발 |
|
위탁연구 내 용 |
◦ 효율적인 병렬화 기법을 활용하여 학습 성능을 극대화하는 동적 GPU 동작 주파수 조절 알고리즘 설계 ◦ 에너지-성능 상관 관계 분석: 다양한 작동 GPU 동작 주파수에서의 GPU 훈련 시스템의 에너지 소비와 성능 사이의 상관관계 분석. ◦ 적응형 GPU 동작 주파수 조절 알고리즘 설계: 훈련 과정 동안 실시간으로 최적의 동작 주파수 설정을 찾아 적용할 수 있는 적응형 알고리즘 설계. ◦ 범용성 검증: 다양한 훈련 모델 및 하드웨어 환경에서의 연구 결과의 적용 가능성과 효과성 검증. |
※ 본 서비스에서 제공되는 각 저작물의 저작권은 자료제공사에 있으며 각 저작물의 견해와 DATA 365와는 견해가 다를 수 있습니다.