SK하이닉스, 美서 차세대 AI 반도체 해법 ’PIM’ 특허 획득
20일 미국특허청(USPTO)에 따르면 USPTO는 최근 SK하이닉스가 지난 2022년 출원한 ’PIM 컨트롤러와 고속 인터페이스의 명령에 응답하여 메모리 액세스 작업과 산술 작업을 수행하는 PIM 장치(특허번호 US 12386777 B2)’라는 제목의 특허를 승인했다. PIM은 메모리 내부에 연산 기능을 탑재해 데이터를 메모리 자체에서 처리하는 기술로, HBM부터 LPDDR D램까지 다양한 고성능 메모리에 적용될 수 있다.
신규 특허의 핵심은 메모리 접근 연산과 산술 연산을 분리된 경로에서 동시에 수행하는 구조다. PIM 컨트롤러가 메모리 접근 명령을 내리고, 고속 인터페이스가 산술 연산 명령을 전달하면 PIM 장치가 이를 각각 처리한다.
쉽게 말해 데이터를 단순 저장·전송하던 메모리가 내부에서 직접 계산까지 수행해 기존처럼 중앙처리장치(CPU)와 메모리 간 데이터를 주고받는 병목 문제를 줄이는 방식이다. 이로 인해 AI 연산에서 대규모 데이터 처리 속도가 향상되고 전력 소모가 줄어드는 효과가 나타난다.
PIM 기술은 특히 딥러닝 등 AI 연산 효율을 높이는 데 중요한 기술로 꼽힌다. 기존 시스템에서는 CPU가 계산을 담당하고 메모리는 데이터를 공급하는 구조라 전송량이 늘수록 성능이 저하된다. 반면 PIM은 메모리 내부에서 연산이 이뤄져 대역폭 활용이 극대화되고 시스템 에너지 효율도 향상된다.
SK하이닉스는 우선 고대역폭 메모리(HBM)보다 모바일·노트북 등 엣지 AI 기기에서 PIM의 활용성이 높을 것이라고 보고 있다. 모바일 기기에 최적화된 LPDDR D램부터 PIM 기술을 적용할 것으로 예상된다.
강욱성 SK하이닉스 (KS:000660) 차세대상품기획담당 부사장은 최근 열린 ’OCP 코리아 테크데이 2025’에서 "먼 미래에는 HBM에도 PIM이 필요할지 모르지만, 결국 응용처에 따라갈 것"이라며 "모바일 D램인 LPDDR에 적용 가능성이 더 크다고 본다"고 말했다.
이어 "스마트폰의 경우 폼팩터 제한이 있어 메모리 팩이 하나밖에 없다"며 "하나당 대역폭을 올려야 하는 필요가 커지기 때문에 엣지 AI용으로 적합할 것"이라고 덧붙였다.
국내 메모리 반도체 양대산맥인 삼성전자와 SK하이닉스는 앞다퉈 프로토타입을 내놓으며 PIM 기술 개발과 상용화에 박차를 가하고 있다. AI 확산으로 고용량·고성능 메모리 수요가 증가함에 따라 메모리 반도체에 PIM 기술을 접목하기 위한 경쟁도 가속화될 전망이다.
삼성전자는 2021년 세계 최초로 HBM에 PIM을 적용한 ’HBM-PIM’ 개발에 성공했다. 기존 HBM2 대비 성능은 2배 증가하고 에너지 소비는 70% 줄일 수 있다. 작년에는 온디바이스 AI 구현에 적합한 LPDDR5X-PIM를 선보인 바 있다.
SK하이닉스는 지난 2022년 PIM 기술을 개발하고 GDDR6 메모리에 접목한 첫 제품 ’GDDR6-AiM’을 공개했다. 일반 D램 대비 연산 속도를 16배까지 높이고 전력 소모는 80%까지 줄여주는 것이 특징이다. 올 초 미국 라스베이거스에서 열린 ‘CES 2025’에서 GDDR6-AiM 기반 가속기 카드 ’AiMX(AiM based Accelerator)’를 전시하기도 했다.
