■ 김상진 / KAIST 전기·전자공학부 연구원

[앵커]
셀 하나로 데이터저장은 물론 연산과 데이터 변환까지 가능해 데이터 처리 속도를 획기적으로 개선한 새로운 개념의 지능형 AI 반도체가 세계 최초로 개발되었습니다. 오늘 '과학의 달인'에서는 셀 하나로 여러 기능을 수행하는 '다이나플라지아'에 대해서 자세하게 알아보겠습니다. KAIST 전기·전자공학부 김상진 연구원과 함께합니다. 어서 오세요.

새로운 개념의 AI 반도체를 세계 최초로 개발했다고 하니깐 어떤 건지 정말 궁금한데, '다이나플라지아'인데, 어떤 반도체인가요?

[인터뷰]
이번에 새롭게 개발된‘다이나플라지아’는 새로운 종류의 AI 반도체입니다. '다이나플라지아'라는 이름은 저희가 개발하면서 자체적으로 만든 이름인데요. Dyna와 Plasia의 합성어로 다양한 인공지능 모델을 처리 가능하다 는 의미로 지었습니다.

보통 AI 반도체를 설계할 때는 메모리 병목 현상이라는 것 때문에 그 성능과 효율에 제한이 걸리는데요, 이를 해소하기 위하여 메모리 내부에 프로세서를 집적하는 PIM 이라는 새로운 기술을 적용하였습니다.

'PIM' 이란, ProcessinginMemory 의 약자로 메모리 반도체에 인공지능 연산 기능을 추가한 지능형 반도체 시스템으로, 메모리 강국인 우리나라의 AI 반도체 세계시장 공략을 위한 핵심기술로 주목받고 있습니다.

특히 그중에서도 기존 대부분의 연구들과 다르게 PIM 기술을 DRAM에 적용하여 더욱 집적도를 높인 DRAMPIM 기반 AI 반도체를 개발하였습니다.

[앵커]
네, 알 듯하면서도 좀 어려운 개념이지 않나 싶은데요, 하나씩 알아보겠습니다. 그렇다면 AI 반도체가 일반 반도체들과 어떤 것이 다른가요?

[인터뷰]
AI 반도체는 인공지능 연산에 특화된 반도체로 Neural Processing Unit, NPU 라고도 불립니다. 최근 인공지능 알고리즘의 발전으로 실제 생활에서도 인공지능을 많이 사용하는데, 이를 위해서는 항상 인공지능 연산을 수행할 수 있는 반도체가 필요합니다.

인공지능을 수행할 때는 수많은 계산을 해야 하는데, 이를 위해서 기존의 일반적인 컴퓨터에 사용되는 중앙 처리 장치(CPU)나 그래픽 처리 장치(GPU) 등의 반도체 등을 사용할 수 있습니다.

하지만, 인공 지능 반도체는 인공지능에만 사용되는 칩이라고 생각하면 됩니다. 따라서, 인공지능 반도체는 기존의 반도체와는 다른 설계로 구성되어, 인공지능 처리에 특화된 하드웨어와 소프트웨어를 사용하여 빠르고 효율적으로 인공지능 연산을 수행할 수 있습니다.

따라서, 인공지능 기술이 발전하면서 인공지능 반도체의 필요성은 더욱 높아지고 있으며, 인공지능 기술을 사용하는 많은 분야에서 인공지능 반도체의 활용이 예상됩니다.

이번에 개발한 다이나플라지아는 이중 에서도 DRAM PIM 반도체를 사용하였는데 이를 좀 더 쉽게 포함관계를 설명 드리고자 합니다. 기존에 반도체가 있었다면 AI에 특화 된 반도체를 AI 반도체라고 하고 그 중에서도 특히 메모리와 함께 집적한 반도체를 PIM 반도체, 고집적도의 DRAM을 사용한 것을 DRAM 기반 PIM 반도체, 그 중에서도 저희가 새롭게 개발한 다이나플라지아가 있습니다.

[앵커]
그러니깐 다이나플라지아라는 반도체가 AI 시대를 이끌어갈 최신 반도체다 이렇게 이해를 하면 될 것 같습니다. 메모리 병목 현상을 해소하기 위해 메모리 내부에 새로운 기술을 적용하였다고 하는데, 여기서 '메모리 병목 현상'에 대해서 조금 더 자세히 설명해주시죠.

[인터뷰]
대부분의 기존 반도체는 ‘폰노이만 구조 (Von Neumann Architecture)를 기반으로 하는데요, 이는 정보 저장을 위한 메모리와 연산을 위한 프로세서가 분리되어있는 구조입니다. 이 구조에서는 프로세서가 연산을 위해 동작 할 때, 메모리에서 해당 연산에 필요한 데이터를 읽어와야 합니다.

따라서 프로세서와 메모리 간의 데이터 전송이 필요한데 이 과정에서 큰 전력 소모가 필요하고, 시간이 걸리는 문제가 발생하게 됩니다. 따라서 프로세서의 성능이 아무리 높아지더라도, 데이터 전송 속도에 의해 처리 속도와 전력 소모에 제약이 걸리게 되는데 이를 메모리 병목 현상이라 합니다.

이는 컴퓨터에서 처리하는 대부분의 작업에서 발생하는 문제이지만, 특히 인공지능 연산 처리에서는 대규모의 데이터를 다루기 때문에 더욱 심각한 문제가 됩니다.

앞서 설명 드린 것처럼, 인공지능에서 필요한 많은 연산을 빠르게 수행하기 위해 대부분의 인공지능 반도체는 병렬 처리 방식으로 동작하여 높은 처리량과 낮은 지연 시간을 보입니다. 하지만 이렇게 높은 처리 속도를 위해서는 더 많은 데이터를 빠르게 가져와야 합니다. 따라서 메모리 병목 현상은 인공지능 반도체 설계에 있어 가장 중요한 문제 중 하나입니다.

[앵커]
그렇다면 메모리 내부에 프로세서 연산기를 직접 하는 새로운 PIM 구체적으로 어떤 건가요?

[인터뷰]
PIM은 앞서 설명드린 것처럼 ProcessinginMemory의 약자인데요. 기존의 메모리와 프로세서가 분리된 폰노이만 방식의 컴퓨팅 구조와 달리, 메모리와 프로세서가 통합 된 구조를 말합니다. 즉, 그 이름에서 알 수 있다시피, 메모리 내부에 연산 로직이 집적되어 데이터 처리를 더욱 효율적으로 할 수 있도록 설계하는 기술입니다. 따라서 PIM 반도체는 기존의 폰노이만 구조의 반도체의 메모리 병목을 해소하고, 메모리에서 연산기로 데이터를 전송하기 위한 전력과 시간을 줄일 수 있습니다.

이러한 PIM의 장점 때문에 인공지능 반도체를 개발 하는데 있어서도 큰 관심을 받고 있습니다. 인공지능 분야에서는 대규모의 데이터를 빠르게 처리하는 것이 필수적이기 때문에, PIM을 사용 하면 높은 병렬성으로 동작 하면서도 메모리 병목 현상을 해결하여 빠른 처리 속도와 낮은 전력 소모를 보일 수 있습니다. 이번에 개발한 다이나플라지아는 이러한 PIM 기술을 DRAM 메모리에 적용한 방식입니다.

[앵커]
그러니깐 조금 전에 설명해주신 것처럼 프로세스가 아무리 개발이 되어도 메모리와 분리가 되어있던 구조적인 한계 때문에 성능을 올릴 수가 없었는데 이제는 프로세스의 성능을 발목 잡았던 문제들을 다 해결했다 이렇게 이해하면 될 것 같은데요. 그렇다면 이번에 개발하신 다이나플라지아의 장점 강점은 뭐가 있을까요?

[인터뷰]
기존 대부분의 PIM 반도체들은 SRAM 메모리를 사용 하였는데요. DRAM은 훨씬 높은 집적도를 갖는 메모리입니다. 다시 말해 DRAM을 사용하면 같은 크기의 반도체 칩을 만든다고 해도 훨씬 더 많은 용량을 가지고, 더 빠른 처리 속도를 보이게 됩니다.

이러한 DRAM의 장점 때문에 DRAM을 이용하여 PIM을 개발하려는 다른 연구들도 있었지만, DRAM 자체에서 발생하는 누설전류에 의한 설계의 어려움 때문에 성능이 제한적이었습니다. 개발된 '다이나플라지아'에서는 이러한 누설전류에 영향을 받지 않고 DRAM에서도 높은 처리 속도와 효율성을 보일 수 있는 새로운 아날로그 연산 방식을 개발해 적용하였습니다.

뿐만 아니라, 다이나플라지아에는 하나의 셀이 메모리, 연산기, 데이터 변환기의 기능을 동시에 지원할 수 있는 ‘트리플모드 셀’을 개발되어 사용되었는데요, 이 때문에 더 복잡한 AI 모델을 더 효율적으로 가속 할 수 있게 됩니다.

정리하자면, 개발된 방식은 처리 속도를 높이고 효율성을 높여서, 인공지능 연산 시 기존 PIM 기반 반도체보다 더 빠르게 추론을 마칠 수 있고, 스마트폰 등 모바일 기기에서는 더 적은 배터리 소모로 인공지능 기능을 지원할 수 있게 됩니다.

[앵커]
그러니깐 다이나플라지아 개발하신 셀 하나로 데이터저장, 연산, 데이터 변환에 이르기까지 3가지 기능을 모두 할 수 있다는 건데, 원리를 좀 더 깊이 설명해주신다면요?

[인터뷰]
'다이나플라지아'에는 하나의 DRAM 셀이 메모리, 연산기, 데이터 변환기의 기능을 동시에 지원할 수 있는 ‘트리플모드 셀’이 개발되어 사용되었는데요, 이를 통해 높은 집적도로 빠른 처리 속도를 보일 수 있고, 또한 더 복잡한 AI 모델을 더 효율적으로 가속할 수 있게 됩니다.

트리플모드 셀은 데이터 3개의 트랜지스터와 2개의 축전기 구성되어 있는데요. 셀을 구성하는 트랜지스터와 모드 제어 선으로 적절히 제어하여 트리플모드 셀의 3가지 모드가 지원됩니다.

예를 들어 연산을 수행하는 연산기 모드에서는 메모리 셀에 가중치를 저장하고 모드 제어 선으로 입력값을 넣어서 인공지능 연산에 필요한 곱셈 연산을 수행할 수 있습니다. 이러한 연산기 구조는 누설전류에 영향을 받지 않고 DRAM에서도 높은 처리 속도와 효율성을 보일 수 있는 새로운 아날로그 연산 방식을 지원합니다.

또한, 메모리로 쓰이는 경우에는 모드 제어 선을 통해 2개의 트랜지스터를 끄고 축전기로서 사용 하여 메모리 셀로 이용할 수 있게 합니다. 이렇게 되면 셀 주소를 선택하여 내부 데이터를 입출력 할 수 있습니다.

마지막으로 데이터 변환 모드에서는 모드 제어 선을 통해 하나의 단위 셀을 축전기 기반DAC으로 변경하게 됩니다. 따라서 아날로그 입력값을 축차 비교 방식으로 디지털 값으로 변환할 수 있게 됩니다.


YTN 사이언스 김기봉 ([email protected])

#AI #AI반도체 #반도체 #뉴스 #정보
[YTN 사이언스 기사원문] https://science.ytn.co.kr/program/vie...
[프로그램 제작 문의] [email protected]