anythingllm-mobile

01 / OVERVIEW

anythingllm-mobile 是什么？

AnythingLLM Mobile将AnythingLLM的本地优先理念带到手机上。我们相信，智能应该私密、即时，并且可以在您拥有的每台设备上使用，拥有您希望它拥有的所有上下文。

移动设备，即使是最先进的设备，在运行模型之前也会因过热或内存不足而受到限制，因此AnythingLLM Mobile采用了一种混合方法：您的手机是代理的载体，而模型可以存在于对您来说最合适的地方。

02 / CAPABILITIES

主要功能

可在手机上运行小型语言模型（SLM），并可通过网络与LM Studio、AnythingLLM桌面版或llama.cpp配对，或连接到您已经使用的云提供商。
支持在设备上进行RAG（检索增强生成）操作，包括PDF、Word、Excel等格式的文档，嵌入、向量数据库和重排序均在设备上完成。