
현재 위치 :뉴스
생성형 다음은 ‘엣지 AI’ 온다…디바이스에서 실시간 처리 기술
출처:bada 편집 :编辑部 발표:2023/12/01 09:02:36
기기·시스템 처리 데이터 분석…실시간 응답
모건스탠리 “엣지AI, 2024년 새로운 조력자”
올해 인공지능(AI) 열풍을 일으킨 챗GPT로 생성형 AI의 시대가 열린 가운데 AI(EdgeAI)‘가 새로운 화두로 떠오를 전망이다.
AI에 대한 폭발적인 관심을 바탕으로 대형 기술 기업의 주가가 상승 곡선을 그린 만큼, 엣지 AI를 미리 눈여겨 봐야 한다는 견해도 나왔다. 생성형 AI 서버에 쓰이는 고대역폭메모리(HBM)에 이어 엣지AI에 특화된 D램 수요도 급증할 것으로 예상되면서 업황 개선 기대감도 나오고 있다.
생성형 AI는 주어진 데이터를 기반으로 새로운 내용을 생성하는 것에 초점이 맞춰진 기술이다. 이를 통해 이미지, 텍스트, 음성 등 다양한 종류의 데이터를 만드는데 데 사용된다. 반면 온디바이스 AI로도 불리는 엣지AI는 로컬 기기, 시스템에서 처리한 데이터를 분석해 실시간 응답, 로컬 처리 등의 이점을 제공하는 기술이다.
모건스탠리는 “AI가 새로운 소비자들의 사용 사례에 스며들 것이다”며 “2024년에는 쿼리 비용 절감, 지연시간 개선, 개인화 향상, 데이터 보안·개인정보 보호 강화, 접근성 개선 등의 이점을 제공하는 ’엣지AI‘가 2024년 AI의 새로운 조력자가 될 것이다”고 기대하기도 했다.
엣지AI의 시장규모는 보다 확대될 전망이다. 글로벌 시장조사기관 GMI(Global Market Insight)에 따르면 엣지 AI 시장규모는 2022년 50억달러에서 연평균 20%씩 성장해 오는 2032년 700억달러(약 87조원) 규모 까지 커질 전망이다.
올해 AI 기술 향상이 빨랐던 점을 감안하면 성장세는 더욱 가파를 것이라는 관측도 나온다.
시장 성장세에 발맞춰 기업들도 발 빠른 대응에 나서고 있다. 국내외 주요 기업들은 서버, 클라우드 없이 IT 기기 자체에 칩을 탑재해 연결성과 보안성을 높인 엣지AI 제품을 선보이고 있다.
퀄컴은 지난 10월 개최한 ’스냅드래곤 서밋 2023’에서 온디바이스 AI 기능을 구현한 애플레케이션프로세서(AP) ‘스냅드래곤 8 3세대’ 칩셋을 공개했다. 차세대 모바일 컴퓨팅용 프로세서 ‘스냅드래곤 X 엘리트’를 발표하면서 PC로 온디바이스 AI 생태계를 확장하겠다는 구상도 꺼냈다.
대만 팹리스(반도체 설계전문) 업체 미디어텍은 자체 AI 가속기 차세대 APU(APU 790)를 적용한 ‘디멘시티 9300’ 선보였다. 디멘시티9300은 초당 토큰 20개의 속도로 매개변수 최대 70억개에 달하는 대규모언어모델(LLM)을 지원한다. 비보, 오포, 샤오미 등 중국 스마트폰에 대거 탑재된다.
구글은 최근 자체 개발한 온디바이스 AI AP ‘텐서 G3’를 적용한 스마트폰 ‘픽셀 8 시리즈’를 공개했다. 자체 음성인식 AI ‘구글 어시스턴트‘와 대규모 AI모델 ’바드‘를 통합한 AI 비서 ’어시스턴트 위드 바드‘ 출시도 진행할 예정이다.
삼성전자는 내년 1월 출시 예정인 ’갤럭시S24‘ 시리즈에 자체 개발한 생성형 AI ’가우스‘를 탑재한다. 가우스는 △텍스트를 생성하는 언어 모델 △코드를 생성하는 코드 모델 △이미지를 생성하는 이미지 모델 등 3가지 모델로 구성된 프로그램이다.
삼성의 AI 기술이 탑재된 제품을 사용하면 개인정보 전송 없이 기기 제어, 문장 요약, 문법 교정 등을 편하게 사용 가능하다.