로옴 주식회사 (본사 : 교토)는, IoT 분야의 엣지 컴퓨터 · 엔드 포인트※1용으로 AI (인공지능)를 통해 모터나 센서 등을 탑재하는 전자기기의 고장 예지 (고장 징후 검출)를 초저소비전력 및 실시간으로 실현할 수 있는 온 디바이스 학습※ AI 칩 (온 디바이스 학습 AI 액셀레이터 탑재 SoC)을 개발하였습니다. 일반적으로 AI 칩은, 그 기능을 실현하기 위해, 판단 기준을 설정하는 「학습」과 학습한 정보로부터 처리를 판단하는 「추론」을 실행합니다. 이때 「학습」은 방대한 데이터를 데이터베이스화하여 수시로 갱신할 필요가 있기 때문에 학습을 실행하는 AI 칩에는 높은 연산 능력이 요구됨과 동시에 소비전력도 커지게 됩니다. 이에 따라 클라우드 컴퓨터용으로 고가의 고성능 AI 칩의 개발이 계속 추진되고 있지만, 더 효율적인 IoT 사회 구축의 열쇠가 되는 엣지 컴퓨터 · 엔드 포인트용으로 현장 학습이 가능한 저전력 AI 칩의 개발은 어려웠습니다. 이번에 개발한 AI 칩은 게이오 대학 (Keio University)의 Matsutani 교수가 개발한 「온 디바이스 학습 알고리즘」을 베이스로 로옴이 상용화를 위해 개발한 AI 액셀레이터※2 (AI 전용 하드웨어 연산 회로)와 로옴의 고효율 8-bit CPU 「tinyMicon MatisseCORE™ (이하, Matisse)」를 중심으로 구성하였습니다. 2만 게이트의 초소형 AI 액셀레이터와 고효율 CPU와의 조합으로, 불과 수 10mW (학습 가능한 기존 AI 칩 대비 1/1000)의 초저소비전력으로 학습 · 추론이 가능합니다. 클라우드 서버와의 연계가 없어도 기기가 설치된 현장에서 미지의 입력 데이터에 대해 「이상 상태」를 수치화하여 출력할 수 있으므로, 폭넓은 용도에서 실시간 고장 예지를 실현할 수 있습니다. 향후 로옴은, 본 AI 칩의 AI 액셀레이터를 모터나 센서의 고장 예지를 위해 IC 제품에 탑재할 예정입니다. 2023년에 제품화 착수, 2024년에 제품으로서 양산할 예정입니다.
게이오 대학 (Keio University) 이공학부 정보공학과 Matsutani Hiroki 교수 5G 통신이나 디지털 트윈※3 등 IoT 기술의 진보에 따라, 클라우드 컴퓨팅의 진화도 요구되고 있습니다. 그러나, 모든 데이터를 클라우드 서버에서 처리하는 것은 부하나 비용, 소비전력 면에서 현실적이지 않습니다. 우리가 연구하는 「온 디바이스 학습」이나, 개발한 「온 디바이스 학습 알고리즘」은 엣지 측에서의 효율적인 데이터 처리를 실현하여, 더 좋은 IoT 사회를 구축하기 위한 것입니다. 이번에 로옴은, 공동 연구로 개발한 온 디바이스 학습의 회로화 기술을 더욱 발전시켜, 상용화를 위해 코스트 퍼포먼스가 좋은 제품화에 이를 수 있는 길을 제시해 주었다고 생각합니다. 프로토타입 AI 칩이 가까운 미래에 로옴의 IC 제품에 탑재되어, 더 효율적인 IoT 사회의 실현에 기여할 수 있을 것으로 기대하고 있습니다.
tinyMicon MatisseCORE™ (Matisse : Micro arithmetic unit for tiny size sequencher)는 IoT 기술의 진보에 따라 아날로그 IC의 인텔리전트화를 목적으로 개발한 로옴의 독자적인 8-bit 마이크로 프로세서 (CPU)입니다. 내장 용도에 최적화된 명령 세트와 최신 컴파일러 기술을 통해, 콤팩트한 사이즈의 칩 면적과 프로그램 코드 사이즈, 그리고 고속 연산 처리를 높은 수준으로 실현하였습니다. 또한, 자동차의 기능 안전 규격 「ISO 26262」, ASIL-D 등에 대응하여, 높은 신뢰성이 요구되는 제품 용도에도 대응할 수 있습니다. 독자적인 「실시간 디버그 기능」을 탑재하여, 디버그 시의 처리가 어플리케이션의 프로그램 동작에 일절 영향을 미치지 않으므로, 어플리케이션 동작과 동시에 디버그할 수 있습니다.
<AI 칩의 상세 내용>
개발한 프로토타입 온 디바이스 학습 AI 칩 (개발 품번 : BD15035)은 AI의 베이스로 게이오 대학의 Matsutani 교수가 개발한 「온 디바이스 학습 알고리즘 (3층 뉴럴 네트워크※4의 AI 회로)」을 채용하였습니다. 로옴은 이 AI 회로를 상용화하기 위해, 500만 게이트에서 2만 게이트로 0.4%까지 소형화하고, 독자적인 AI 액셀레이터 「AxlCORE-ODL」로서 재구축하였습니다. 그리고 로옴의 고효율 8-bit 마이크로 프로세서 「tinyMicon MatisseCORE™」로 AI 액셀레이터의 연산 제어를 실행함으로써, 불과 수 10mW의 초저소비전력으로 AI의 학습 · 추론을 가능하게 하였습니다. 이에 따라, 클라우드 서버와의 연계나 사전 AI 학습이 없어도 기기가 설치된 현장에서 미지의 입력 데이터 · 패턴 (예 : 가속도, 전류, 조도, 음성 등)에 대해 「이상 상태」를 수치화하여 출력할 수 있으므로, 클라우드 서버나 통신의 비용을 억제할 수 있으며, 현장 AI를 통한 실시간 고장 예지 (고장 징후 검출)를 실현할 수 있습니다. 또한, 본 AI 칩 평가용으로, 마이컴 보드 「Arduino※5」용 확장 기판을 장착할 수 있는 (Arduino 호환 단자 구비) 평가 보드를 구비하고 있습니다. 평가 보드 상에 무선 통신 모듈 (Wi-Fi와 Bluetooth® ) 및 64kbit EEPROM (메모리)를 실장하였습니다. 이 평가 보드에 센서 등의 유닛을 접속하고, 센서를 모니터링 대상에 탑재함으로써 AI 칩의 효과를 디스플레이 상에서 확인할 수 있습니다. 평가 보드는 대여가 가능하오니, 로옴 영업으로 문의하여 주십시오 (단, NDA 계약 필요).
<게이오 대학 (Keio University) Matsutani Hiroki 교수 프로필>
게이오 대학 이공학부 정보공학과 전임 강사, 준교수를 거쳐, 2022년부터 교수 역임. 계산기 아키텍처, 기계 학습, 빅데이터 기반 기술의 연구에 종사. 엣지 컴퓨팅 및 인공지능 분야의 연구 실시. 본 연구는 2017년도와 2020년도에 정부 연구 개발 프로젝트의 JST CREST에 채택되었으며, 현재 2020년도 채택된 「온 디바이스 학습 기술의 확립과 사회 실장」으로 진행중.
<용어 설명>
※1 : 엣지 컴퓨터 · 엔드 포인트
빅데이터의 기초가 되는 서버 및 컴퓨터가 클라우드와 연계하여, 클라우드 서버 및 클라우드 컴퓨터로 불리우는 반면, 엣지 측이 되는 엣지 컴퓨터는 말단 측의 컴퓨터 또는 기기를 가리킨다. 엔드 포인트는 엣지 컴퓨터보다 한층 더 말단의 기기 · 지점을 가리킨다.
※2 : AI 액셀레이터
AI의 기능을 실현할 때, 소프트웨어를 통해 프로세서 (CPU)에서 처리시키는 것을, 하드웨어의 처리로 변경함으로써 처리 속도를 향상시키는 기기 장치 (또는 전자 회로).
※3 : 디지털 트윈
현실 세계의 정보를 가상 공간 (디지털 공간)에서 표현 · 재현하는 기술이다.
※4 : 3층 뉴럴 네트워크 (Neural Network)
인간의 뇌 구조에서 착상한 뉴럴 네트워크 (수식 · 함수 모델)에 있어서, 입력층, 중간층, 출력층으로 이루어진 처리 단계 중에서 중간층을 1층으로 하여 총 3층만으로 심플하게 구성한 것. 한층 더 복잡한 AI 처리를 하기 위해 중간층을 수십층까지 다층화한 것이 딥러닝 (심화 학습)이다.
※5 : Arduino (아두이노)
Arduino사가 제공하는, 마이컴과 입출력 보드로 구성된 기판, 소프트웨어 개발 환경으로 구성된 오픈 소스 플랫폼으로, 전 세계에 널리 보급되어 있다.
・「tinyMicon MatisseCORE™」는 로옴 주식회사의 상표 또는 등록상표입니다. ・ Bluetooth는 미국 Bluetooth SIG, Inc.의 상표 또는 등록상표입니다.
클라우드 서버 불필요, 현장에서 실시간으로 고장 예지를 실현하는
수 10mW 초저소비전력 온 디바이스 (On-Device) 학습 AI 칩 개발
※온 디바이스 (On-Device) 학습 : 동일 AI 칩 상에서 학습하는 것
2022년 9월 27일
<개요>
로옴 주식회사 (본사 : 교토)는, IoT 분야의 엣지 컴퓨터 · 엔드 포인트※1용으로 AI (인공지능)를 통해 모터나 센서 등을 탑재하는 전자기기의 고장 예지 (고장 징후 검출)를 초저소비전력 및 실시간으로 실현할 수 있는 온 디바이스 학습※ AI 칩 (온 디바이스 학습 AI 액셀레이터 탑재 SoC)을 개발하였습니다.
일반적으로 AI 칩은, 그 기능을 실현하기 위해, 판단 기준을 설정하는 「학습」과 학습한 정보로부터 처리를 판단하는 「추론」을 실행합니다. 이때 「학습」은 방대한 데이터를 데이터베이스화하여 수시로 갱신할 필요가 있기 때문에 학습을 실행하는 AI 칩에는 높은 연산 능력이 요구됨과 동시에 소비전력도 커지게 됩니다. 이에 따라 클라우드 컴퓨터용으로 고가의 고성능 AI 칩의 개발이 계속 추진되고 있지만, 더 효율적인 IoT 사회 구축의 열쇠가 되는 엣지 컴퓨터 · 엔드 포인트용으로 현장 학습이 가능한 저전력 AI 칩의 개발은 어려웠습니다.
이번에 개발한 AI 칩은 게이오 대학 (Keio University)의 Matsutani 교수가 개발한 「온 디바이스 학습 알고리즘」을 베이스로 로옴이 상용화를 위해 개발한 AI 액셀레이터※2 (AI 전용 하드웨어 연산 회로)와 로옴의 고효율 8-bit CPU 「tinyMicon MatisseCORE™ (이하, Matisse)」를 중심으로 구성하였습니다. 2만 게이트의 초소형 AI 액셀레이터와 고효율 CPU와의 조합으로, 불과 수 10mW (학습 가능한 기존 AI 칩 대비 1/1000)의 초저소비전력으로 학습 · 추론이 가능합니다. 클라우드 서버와의 연계가 없어도 기기가 설치된 현장에서 미지의 입력 데이터에 대해 「이상 상태」를 수치화하여 출력할 수 있으므로, 폭넓은 용도에서 실시간 고장 예지를 실현할 수 있습니다.
향후 로옴은, 본 AI 칩의 AI 액셀레이터를 모터나 센서의 고장 예지를 위해 IC 제품에 탑재할 예정입니다. 2023년에 제품화 착수, 2024년에 제품으로서 양산할 예정입니다.
게이오 대학 (Keio University) 이공학부 정보공학과 Matsutani Hiroki 교수
5G 통신이나 디지털 트윈※3 등 IoT 기술의 진보에 따라, 클라우드 컴퓨팅의 진화도 요구되고 있습니다. 그러나, 모든 데이터를 클라우드 서버에서 처리하는 것은 부하나 비용, 소비전력 면에서 현실적이지 않습니다. 우리가 연구하는 「온 디바이스 학습」이나, 개발한 「온 디바이스 학습 알고리즘」은 엣지 측에서의 효율적인 데이터 처리를 실현하여, 더 좋은 IoT 사회를 구축하기 위한 것입니다.
이번에 로옴은, 공동 연구로 개발한 온 디바이스 학습의 회로화 기술을 더욱 발전시켜, 상용화를 위해 코스트 퍼포먼스가 좋은 제품화에 이를 수 있는 길을 제시해 주었다고 생각합니다. 프로토타입 AI 칩이 가까운 미래에 로옴의 IC 제품에 탑재되어, 더 효율적인 IoT 사회의 실현에 기여할 수 있을 것으로 기대하고 있습니다.
<tinyMicon Matisse CORE ™에 대하여>
tinyMicon MatisseCORE™ (Matisse : Micro arithmetic unit for tiny size sequencher)는 IoT 기술의 진보에 따라 아날로그 IC의 인텔리전트화를 목적으로 개발한 로옴의 독자적인 8-bit 마이크로 프로세서 (CPU)입니다. 내장 용도에 최적화된 명령 세트와 최신 컴파일러 기술을 통해, 콤팩트한 사이즈의 칩 면적과 프로그램 코드 사이즈, 그리고 고속 연산 처리를 높은 수준으로 실현하였습니다. 또한, 자동차의 기능 안전 규격 「ISO 26262」, ASIL-D 등에 대응하여, 높은 신뢰성이 요구되는 제품 용도에도 대응할 수 있습니다. 독자적인 「실시간 디버그 기능」을 탑재하여, 디버그 시의 처리가 어플리케이션의 프로그램 동작에 일절 영향을 미치지 않으므로, 어플리케이션 동작과 동시에 디버그할 수 있습니다.
<AI 칩의 상세 내용>
개발한 프로토타입 온 디바이스 학습 AI 칩 (개발 품번 : BD15035)은 AI의 베이스로 게이오 대학의 Matsutani 교수가 개발한 「온 디바이스 학습 알고리즘 (3층 뉴럴 네트워크※4의 AI 회로)」을 채용하였습니다. 로옴은 이 AI 회로를 상용화하기 위해, 500만 게이트에서 2만 게이트로 0.4%까지 소형화하고, 독자적인 AI 액셀레이터 「AxlCORE-ODL」로서 재구축하였습니다. 그리고 로옴의 고효율 8-bit 마이크로 프로세서 「tinyMicon MatisseCORE™」로 AI 액셀레이터의 연산 제어를 실행함으로써, 불과 수 10mW의 초저소비전력으로 AI의 학습 · 추론을 가능하게 하였습니다. 이에 따라, 클라우드 서버와의 연계나 사전 AI 학습이 없어도 기기가 설치된 현장에서 미지의 입력 데이터 · 패턴 (예 : 가속도, 전류, 조도, 음성 등)에 대해 「이상 상태」를 수치화하여 출력할 수 있으므로, 클라우드 서버나 통신의 비용을 억제할 수 있으며, 현장 AI를 통한 실시간 고장 예지 (고장 징후 검출)를 실현할 수 있습니다.
또한, 본 AI 칩 평가용으로, 마이컴 보드 「Arduino※5」용 확장 기판을 장착할 수 있는 (Arduino 호환 단자 구비) 평가 보드를 구비하고 있습니다. 평가 보드 상에 무선 통신 모듈 (Wi-Fi와 Bluetooth® ) 및 64kbit EEPROM (메모리)를 실장하였습니다. 이 평가 보드에 센서 등의 유닛을 접속하고, 센서를 모니터링 대상에 탑재함으로써 AI 칩의 효과를 디스플레이 상에서 확인할 수 있습니다. 평가 보드는 대여가 가능하오니, 로옴 영업으로 문의하여 주십시오 (단, NDA 계약 필요).
<게이오 대학 (Keio University) Matsutani Hiroki 교수 프로필>
게이오 대학 이공학부 정보공학과 전임 강사, 준교수를 거쳐, 2022년부터 교수 역임. 계산기 아키텍처, 기계 학습, 빅데이터 기반 기술의 연구에 종사. 엣지 컴퓨팅 및 인공지능 분야의 연구 실시. 본 연구는 2017년도와 2020년도에 정부 연구 개발 프로젝트의 JST CREST에 채택되었으며, 현재 2020년도 채택된 「온 디바이스 학습 기술의 확립과 사회 실장」으로 진행중.
<용어 설명>
・「tinyMicon MatisseCORE™」는 로옴 주식회사의 상표 또는 등록상표입니다.
・ Bluetooth는 미국 Bluetooth SIG, Inc.의 상표 또는 등록상표입니다.
Latest News
Geely Group의 EV 브랜드 「ZEEKR」의 주요 모델 3개 차종에 양산 채용