허태수 위원장 K-AI 대도약을 위한 경제계 제언 전달

박정호 기자 허태수 한국경제인협회 인공지능 혁신위원회 위원장 이 17일 오전 서울 여의도 FKI 컨퍼런스센터에서 열린 AI 혁신위원회 2차 회의에서 임문영 대통령 직속 국가인공지능전략위원회 부위원장에게 KAI 대도약을 위한 경제계 제언을 전달하고 있습니다 뉴스1 KAIST미국 조지아 공대스웨덴 웁살라대 공동 성과 기존 GPU 대비 연산속도 4 1배 에너지소비 2 2배 절감오성룡 KAIST 박사과정 김윤성김원웅이유빈 박사과정 정지용 석사과정 박종세 KAIST 전산학부 교수 다비야 마하찬 조지아텍 교수 박창현 스웨덴 웁살라 대학 교수 최근 인공지능 모델이 길고 복잡한 문장을 이해하고 처리하는 능력이 커지면서 연산 속도와 메모리 효율을 동시에 높일 수 있는 새로운 반도체 기술의 필요성이 커지고 있습니다

올댓분양 우리나라를 포함한 국제 공동연구진이 거대언어모델 의 추론 속도는 4배 높이면서 전력 소비는 2 2배 줄인 AI 반도체 핵심 두뇌기술을 개발하는데 성공했습니다

KAIST는 전산학부 박종세 교수 연구팀이 미국 조지아 공과대학교 스웨덴 웁살라 대학교와 공동연구를 통해 차세대 인공지능 모델의 두뇌 역할을 하는 AI 메모리 반도체 기반 기술 PIMBA 를 개발했다고 17일 밝혔습니다 현재 ChatGPT GPT4 Claude Gemini Llama 등 LLM은 모든 단어를 동시에 보는 트랜스포머 두뇌 구조를 기반으로 작동합니다 사직 하늘채 리센티아

이에 따라 AI 모델이 커지고 처리 문장이 길어질수록 연산량과 메모리 요구량이 급증해 속도 저하와 에너지 소모가 주요 문제로 지적돼 왔습니다 이런 트랜스포머 문제점을 보완하기 위해 최근 제시된 순차형 기억형 두뇌인 맘바 구조는 시간의 흐름에 따라 정보를 처리하는 방식을 도입해 효율을 높였지만 여전히 메모리 병목 현상 과 전력 소모 한계가 남아 있었습니다 포스트트랜스포머 모델 분석 및 문제해결형 가속 시스템 제안 모식도 박종세 교수 연구팀은 트랜스포머와 맘바의 장점을 결합한 트랜스포머맘바 하이브리드 모델 의 성능을 극대화하기 위해 연산을 메모리 내부에서 직접 수행하는 새로운 반도체 구조 PIMBA 를 설계했습니다 기존 GPU 기반 시스템은 데이터를 메모리 밖으로 옮겨 연산을 수행하지만 PIMBA는 데이터를 옮기지 않고 저장장치 내부에서 바로 계산을 수행합니다

이로써 데이터 이동 시간을 최소화하고 전력 소모를 크게 줄일 수 있습니다 그 결과 실제 실험에서 PIMBA는 기존 GPU 시스템 대비 처리 성능이 최대 4 1배 향상되었고 에너지 소비는 평균 2

2배 감소하는 성과를 보였습니다 이번 연구 성과는 오는 10월 20일 서울에서 열리는 세계적 컴퓨터 구조 학술대회 제58회 국제 마이크로아키텍처 심포지엄 에서 발표될 예정이며 앞서 제31회 삼성휴먼테크 논문대상 금상을 수상해 우수성을 인정받았습니다 박정호 기자 허태수 한국경제인협회 인공지능 혁신위원회 위원장 이 17일 오전 서울 여의도 FKI 컨퍼런스센터에서 열린 AI 혁신위원회 2차 회의에서 임문영 대통령 직속 국가인공지능전략위원회 부위원장에게 KAI 대도약을 위한 경제계 제언을 전달하고 있습니다

뉴스1