커뮤니티

연세대학교 시스템반도체공학과

학부뉴스

신현균 학생 (김대훈 교수 연구팀) GPU 메모리 초과 상황에서의 효율적인 관리 및 성능 최적화 기술 HPCA 2026에 발표

페이지 정보

작성자 최고관리자 댓글 조회 조회 924회 작성일 26-03-31 13:10

본문

김대훈 교수 연구팀이 동적으로 시스템 메모리를 활용해 GPU 메모리 한계를 넘어서 거대 GPGPU(General-Purpose GPU) 어플리케이션을 효과적으로 실행하는 방법인 'ARIADNE'를 개발했다AI, Graph, Bioinformatics 등의 핵심적인 GPGPU 어플리케이션들은 계속적으로 요구 메모리 크기를 늘려오고 있지만, GPU의 온보드 메모리 크기 증가율은 이러한 추세를 따라잡지 못하여 'Memory Wall' 문제를 대두 시켰다.


UVM(Unified Virtual Memory)
CPUGPU의 가상 메모리 공간을 통합해 GPU 메모리를 넘어서는(oversubscription) 어플리케이션도 실행할 수 있도록 하였지만, 실사용하기 불가할 정도의 큰 성능 하락을 보여 왔다.


이러한 문제점을 극복하기 위해, 연구팀은 UVM 시스템의 특성으로 인해 페이지의 GPU 메모리 친화도를 결정하는 핵심 요소가 fragmentation 인 점을 밝혀내고, GPUthread 실행 아키텍처로 인해 발생하는 메모리 접근 패턴을 분석하여 효율적으로 페이지 별 GPU 메모리 친화도를 수치화 할 방법을 제안하였다이를 바탕으로 연구팀은 동적으로 페이지를 DMA(Direct Memory Access) Zero-copy 접근과 GPU memory로의 이주 사이에서 최적으로 배치하는 프레임워크인 ARIADNE를 구현하였다.


ARIADNE
GPU memory 활용율이 낮지만, GPU L2 cache 친화적인 접근 패턴을 보이는 페이지들은 main memory에 위치시켜 DMA Zero-copy로 접근하고, GPU 메모리를 낭비없이 잘 활용하는 페이지들을 GPU memory로 이주시켜 성능 개선을 이룬다.

ARIADNE
는 하드웨어 변경이나 최종 일반 사용자의 재 컴파일을 요구하지 않고 드라이버 변경만으로 적용가능하며, 따라서 기배포된 UVM을 활용한 바이너리 형태의 application에도 즉각적인 활용이 가능하다.


ARIADNE는 다양한 메모리 압력 하의 UVM 환경에서 이전 state-of-the-art 대비 2.9배 가량의 성능 향상을 보였으며, 메모리 압력 증가에 대해 선형적인 성능 하락만을 보여 oversubscription의 현실적인 활용을 가능케 하였다.


이러한 연구 성과는 논문 "ARIADNE: Adaptive UVM Management for Efficient GPU Memory Oversubscription"으로 컴퓨터 구조 분야의 3대 학회 중 하나인 IEEE International Symposium on High-Performance Computer Architecture (HPCA 2026) 발표되었다.
해당 연구는 김대훈 교수(교신저자) 지도 하에 신현균 학생(1저자)가 주도하였다.

[03722] 서울특별시 서대문구 연세로 50 제1공학관 A663호 시스템반도체공학과

copyrights (c) 2017 yonsei university Department of Systems Semiconductor Engineering. All rights reserved. Designed by dsso.kr

팝업레이어 알림

팝업레이어 알림이 없습니다.