폰테크 후기, 폰테크, 폰테크당일 당일폰테크 [서울=뉴시스] 김경택 기자 = AI(인공지능) 최적화·경량화 기술 기업 노타는 낮은 사양의 디바이스에서도 대규모 언어모델(LLM)을 구현할 수 있는 LLM 최적화 서비스를 오픈했다고 25일 밝혔다.
회사 측에 따르면 이번에 선보인 LLM 최적화 서비스는 디바이스 사양에 관계없이 LLM과 비전-언어모델(VLM)을 최적화해 모델의 성능은 유지하면서 빠른 추론 속도를 가능하게 하는 것을 강점으로 한다.
생성형 AI가 하드웨어에 빠르게 적용되는 시장 환경에 맞춰 클라우드 또는 온디바이스 환경에 관계없이 최적화 개발을 할 수 있어 가전제품, 모빌리티 등 하드웨어 교체 비용이 부담되는 기업에서 최신 성능의 LLM 서비스 적용이 가능하다고 회사 측은 설명했다.
LLM 최적화 서비스는 ▲다양한 칩셋에서 호환 가능 ▲복잡한 파라미터를 가진 LLM의 높은 최적화 난이도 극복 ▲LLM 경량화로 메모리·연산 효율 향상 ▲LLM 사용에 따른 디바이스 전력 비용 절약 ▲LLM 사용에 따른 클라우드 운영비용 절감 등의 효과를 제공한다. 이를 통해 제품에서 빠른 추론 속도와 높은 LLM 성능을 구현할 수 있다.
더불어 기존 사양의 하드웨어를 그대로 사용하기 때문에 별도의 인프라 투자 없이 새로운 LLM 모델을 적용할 수 있다는 점에서 비용 효율성이 높고 기술 경쟁력 확보에도 유리하다고 회사 측은 전했다.
채명수 노타 대표는 “LLM 최적화 서비스는 다양한 AI 모델을 실제 하드웨어에 최적화해 온 노타의 경험을 기반으로 개발됐다”며 “별도의 하드웨어 교체 없이 최신 언어모델을 안정적으로 적용해 비용 부담을 줄이고, 동시에 한층 향상된 사용자 경험을 제공할 수 있다는 점에서 차별화된 의미가 있다”고 말했다.
한편 정부 주도의 ‘AI 국가대표(독자 AI 파운데이션 모델 개발 프로젝트)’ 정예팀으로 선정된 노타는 최근 증권신고서가 통과, 연내 코스닥 상장을 목표로 하고 있다.
◎공감언론 뉴시스 mrkt@newsis.com [서울=뉴시스] 김경택 기자 = AI(인공지능) 최적화·경량화 기술 기업 노타는 낮은 사양의 디바이스에서도 대규모 언어모델(LLM)을 구현할 수 있는 LLM 최적화 서비스를 오픈했다고 25일 밝혔다.
회사 측에 따르면 이번에 선보인 LLM 최적화 서비스는 디바이스 사양에 관계없이 LLM과 비전-언어모델(VLM)을 최적화해 모델의 성능은 유지하면서 빠른 추론 속도를 가능하게 하는 것을 강점으로 한다.
생성형 AI가 하드웨어에 빠르게 적용되는 시장 환경에 맞춰 클라우드 또는 온디바이스 환경에 관계없이 최적화 개발을 할 수 있어 가전제품, 모빌리티 등 하드웨어 교체 비용이 부담되는 기업에서 최신 성능의 LLM 서비스 적용이 가능하다고 회사 측은 설명했다.
LLM 최적화 서비스는 ▲다양한 칩셋에서 호환 가능 ▲복잡한 파라미터를 가진 LLM의 높은 최적화 난이도 극복 ▲LLM 경량화로 메모리·연산 효율 향상 ▲LLM 사용에 따른 디바이스 전력 비용 절약 ▲LLM 사용에 따른 클라우드 운영비용 절감 등의 효과를 제공한다. 이를 통해 제품에서 빠른 추론 속도와 높은 LLM 성능을 구현할 수 있다.
더불어 기존 사양의 하드웨어를 그대로 사용하기 때문에 별도의 인프라 투자 없이 새로운 LLM 모델을 적용할 수 있다는 점에서 비용 효율성이 높고 기술 경쟁력 확보에도 유리하다고 회사 측은 전했다.
채명수 노타 대표는 “LLM 최적화 서비스는 다양한 AI 모델을 실제 하드웨어에 최적화해 온 노타의 경험을 기반으로 개발됐다”며 “별도의 하드웨어 교체 없이 최신 언어모델을 안정적으로 적용해 비용 부담을 줄이고, 동시에 한층 향상된 사용자 경험을 제공할 수 있다는 점에서 차별화된 의미가 있다”고 말했다.
한편 정부 주도의 ‘AI 국가대표(독자 AI 파운데이션 모델 개발 프로젝트)’ 정예팀으로 선정된 노타는 최근 증권신고서가 통과, 연내 코스닥 상장을 목표로 하고 있다.
◎공감언론 뉴시스 mrkt@newsis.com 폰테크 달인은 복잡한 용어 대신 이해하기 쉬운 설명과 투명한 절차로 상담부터 입금까지 전 과정을 깔끔하게 안내합니다. 합리적인 시세 기준으로 모델·상태별 견적을 제시하고, 불필요한 수수료나 숨은 비용은 없습니다. 폰테크가 처음이신 분도 안전하게 진행하시도록 신원 확인·안전결제·개인정보 보호 원칙을 지킵니다. 채널 상담, 방문 상담, 비대면 상담까지 상황에 맞춰 연결되며, 진행 여부는 고객이 결정합니다. 폰테크 달인은 결과만큼 과정의 신뢰를 중요하게 생각합니다. 당일 문의·당일 진행을 목표로 있지만, 무리한 권유 없이 조건이 맞을 때만 안내합니다. 진행 후에는 간단한 체크리스트와 거래 내역을 제공해 재확인할 수 있고, 사후 문의도 응답합니다. 합리, 안전, 투명—폰테크 달인의 기준입니다. 온라인 접수로 상담을 시작할 수 있으며, 자주 묻는 질문을 통해 폰테크 전 과정을 미리 확인하실 수 있습니다. 처음부터 끝까지 ‘내가 이해한 만큼만 진행’하는 곳, 그게 폰테크 달인입니다. #폰테크 #폰테크당일 #당일폰테크 #비대면폰테크 https://phonetech.store/