top of page
작성자 사진GAISA

프렌들리AI, 오픈소스 생성형 AI 모델 활용지원 ‘서버리스 엔드포인트’ 출시

  • 생성형 AI 모델을 자사서비스에 통합하여 텍스트 생성, 이미지 생성 등 활용 가능

  • 라마2(Llama 2), 스테이블 디퓨전(Stable Diffusion), 코드 라마(CodeLlama), 미스트랄(Mistral) 등 인기 있는 생성형 AI 모델 지원



생성형 AI 추론 서빙 분야를 선도하고 있는 스타트업 ‘프렌들리AI(FriendliAI)’(대표이사 전병곤)가 생성형 AI 모델을 쉽게 활용할 수 있는 ‘프렌들리AI 서버리스 엔드포인트(Friendli Serverless Endpoints)’ 서비스를 출시했다고 4일 밝혔다.


프렌들리AI 서버리스 엔드포인트는 △연구자 △개발자 △머신러닝 엔지니어 △데이터 과학자가 서빙 인프라 관리를 신경 쓸 필요 없이 최신 생성형 AI 모델들을 쉽게 사용할 수 있도록 돕는 서비스다. 기존 생성형 AI 활용에 있어 많은 수의 인력과 시간을 투입하여 진행해야 했던 복잡한 인프라 설치 및 운영 과정과 모델 서빙의 GPU 최적화 등의 문제를 해결했다... (하략) [기사 전문 보기] https://www.mk.co.kr/news/it/10913212 [출처 : 매일경제 미라클아이]


Comments


bottom of page