anythingllm-mobileとは?
AnythingLLM Mobileは、AnythingLLMのローカル優先の理念をスマートフォンに持ち込みます。私たちは、スマートフォンが所有するすべてのデバイスで使用でき、所有者が望むすべてのコンテキストを持つ、プライバシーがあり、即時性があり、スマートであるべきだと信じています。
モバイルデバイス、最も高度なデバイスであっても、モデルを実行する前に過熱またはメモリ不足によって制限されるため、AnythingLLM Mobileはハイブリッドアプローチを採用しています。つまり、あなたのスマートフォンはエージェントのホストであり、モデルはあなたにとって最も適切な場所に存在できます。
主な機能
スマートフォン上で小型言語モデル(SLM)を実行でき、ネットワークを通じてLM Studio、AnythingLLMデスクトップ版、またはllama.cppとペアリングすることができ、またはすでに使用しているクラウドプロバイダーに接続できます。
デバイス上でRAG(検索強化生成)操作をサポートしており、PDF、Word、Excelなどの形式のドキュメントを含み、埋め込み、ベクトルデータベース、および再順序付けはすべてデバイス上で完了します。
