anythingllm-mobile란?
AnythingLLM Mobile은 AnythingLLM의 로컬 우선 철학을 스마트폰으로 가져옵니다. 우리는 지능이 비밀스럽고 즉시 사용되어야 하며, 당신이 소유한 모든 장치에서 사용되어야 하며, 당신이 원하는 모든 맥락을 가져야 한다고 믿습니다.
휴대폰은 가장 최신 기기조차 모델을 실행하기 전에 과열이나 메모리 부족으로 인해 제한을 받을 수 있으므로 AnythingLLM Mobile은 혼합 접근 방식을 채택합니다. 즉, 휴대폰은 에이전트의 운반 수단이 되고, 모델은 당신에게 가장 적합한 위치에 존재할 수 있습니다.
주요 기능
휴대폰에서 소형 언어 모델(SLM)을 실행할 수 있으며, 네트워크를 통해 LM Studio, AnythingLLM 데스크탑 버전 또는 llama.cpp와 연결하거나 이미 사용 중인 클라우드 공급업체에 연결할 수 있습니다.
장치에서 RAG(검색 강화 생성) 작업을 지원합니다. PDF, Word, Excel 등 형식의 문서를 포함하여 임베딩, 벡터 데이터베이스 및 재정렬은 모두 장치에서 완료됩니다.
