IPU, 요즘 IT업계에서 참 핫하죠?
IPU는 Intelligence Processing Unit의 약자로 지능형 처리장치라고 불리는 AI 반도체 입니다.
IPU가 무엇인지 잘 모르시는 분들께 CPU와 GPU를 빗대어 간단한 설명을 드려볼게요.
CPU는 Central Processing Unit 의 약자로 컴퓨터의 기억, 해석, 연산, 제어를 담당하는 중앙처리장치로써 연산을 통제하는 부분에 초점을 둔다면, GPU는 Graphics Processing Unit 의 약자로 문자 그대로 그래픽 처리를 목적으로 합니다. 단순 픽셀처리 같은 개념을 초월해서 말이죠. 기존에 사용되던 중앙처리장치(CPU)와 그래픽처리장치(GPU)가 초기 AI 학습/추론에 쓰였지만 효율성에 한계가 자주 나타났어요. 여기에 지난 몇 년 간 AI가 더욱 발달하면서 NPU(Neural Processing Unit) 개념도 등장했지요.
유수의 기업에서 NPU를 개발하고 있지만, 현재까지 대안으로 떠오르고 있는 것이 그래프코어사의 NPU, IPU 입니다. (IPU 광고 아닙니다.ㅎㅎ 더이상의 자세한 설명은 생략!)
지콘스튜디오를 서비스하고 있는 트위그팜의 수장, 백선호 대표의 인터뷰를 요약해서 여러분들께 가장 먼저 공개해드려요!
안녕하세요, 트위그팜 백선호 대표입니다. 지콘스튜디오 서비스를 하고 있는 트위그팜은 한국의 인공지능 자연어처리 분야(NLP) 전문 기업입니다.
가장 진화된 기술로 누구나 필요로 하고 쉽게 경험할 수 있는 일상 속의 디지털 커뮤니케이션 기술을 연구합니다.
트위그팜은 현재 B2B 사업으로 AI 기반 맞춤형 번역기, 데이터 비식별화 처리기, 데이터 검수기 서비스를 제공하고 있습니다.
서비스를 운영하는 가운데 고객의 니즈를 충족하는 모델링 데이터를 구축하고 고객의 피드백을 적용하는 등의 전 과정을 독자적으로 운영하고 있습니다.
특히, 트위그팜은 많은 고객의 요구사항 중 하나인 맞춤형 번역기에 대해 연구/개발을 집중하고 있습니다. (자타공인 맞춤형 번역기 분야의 선두주자)
현재 해당 분야의 기술력을 쌓고 시장에서 경쟁력을 높여가고 있습니다. 지콘스튜디오 서비스의 맞춤번역을 보시면 알 수 있지요.
저희는 자체 개발한 Transformer 기반 언어처리 모델을 사용하고 있으며, PyTorch 프레임워크에서 대부분의 개발이 진행되고 있습니다.
데이터 수집에서 데이터 전처리, 그리고 모델링과 학습, 피드백을 적용하는 모든 일련의 과정은 시간&비용 이슈가 따릅니다.
GPU를 사용하며 시간 대비 효율의 측면에서 갈증이 있었고, 그 과정에서 IPU를 적용하게 됐습니다.
첨단 기술을 적용해 시장 경쟁력을 높이겠다는 기대감으로 IPU를 도입했고, 현재는 비용 대비 학습 시간을 획기적으로 줄여 시장 수요에 좀 더 탄력적으로 대응할 수 있게 되었습니다.
저희 같은 스타트업이 시장 경쟁력을 확보하고 유지하는데 두 가지 핵심 사안이 존재합니다.
Time to Technology (기술 개발에 소요되는 시간)와 Time to Market (시장에 제품이 출시되기 까지의 시간을 까지 소요되는 시간)입니다.
이 부분을 최소화 하는 것이 관건인데, 그래프코어의 IPU를 통해 기존 GPU 대비 107배 정도 빠른 학습 속도를 경험할 수 있었고, 비용 문제를 해결하면서도 효율성을 개선할 수 있었습니다.
지콘스튜디오는 오늘도 더 나은 번역 서비스를 제공하기 위해 열심히 고군분투하고 있습니다.
NIA(한국지능정보사회진흥원), NIPA(정보통신산업진흥원), TTA(한국정보통신기술협회) 등의 국가 기관과 수년째 협력중이고,
국내 유명 방송국 S사 산하의 모든 유튜브 자막 서비스를 책임지고 있지요.
또한 ㅋㅋㅇ워크 협업툴에서, 웹툰 플랫폼 Ycxxx에서, 군 특수부대와 서울 소재의 Y대학교와 C대학교에서의 번역 서비스도 저희 지콘스튜디오가 담당하고 있습니다.
무럭무럭, 꾸준히 성장하고 있는 지콘스튜디오를 계속 지켜봐주세요.
다음 포스팅에서 만나요~
오늘도 Wel-con🎉