AnythingLLM: 여러분이 찾던 모든 것을 아우르는 AI 앱입니다.

제품 개요

AnythingLLM은 기성 상용 빅언어 모델 또는 인기 있는 오픈소스 빅언어 모델과 벡터 데이터베이스 솔루션을 결합하여 더 이상 제약 없이 로컬에서 실행하거나 원격으로 호스팅하여 제공하는 모든 문서와 지능적인 채팅을 할 수 있는 풀스택 애플리케이션입니다.

AnythingLLM은 문서를 다음과 같은 그룹으로 나눕니다.작업 공간 (워크스페이스) 개체를 사용할 수 있습니다. 작업 공간은 문서의 컨테이너화가 추가된 스레드처럼 작동합니다. 작업 공간은 문서를 공유할 수 있지만 작업 공간의 콘텐츠가 서로 간섭하거나 오염시키지 않으므로 각 작업 공간의 컨텍스트를 명확하게 유지할 수 있습니다.

AnythingLLM의 멋진 기능 중 일부는 다음과 같습니다.

• 🆕 自定义AI代理
• 🆕 无代码AI代理构建器
• 🖼️ 다중 사용자 인스턴스 지원 및 권한 관리(클로즈드 소스 및 오픈 소스 LLM 지원!)
• 👤 다중 사용자 인스턴스 지원 및 권한 관리 도커 버전만 해당
• 🦾 작업 공간의 지능형 에이전트(웹 검색, 코드 실행 등)
• 💬 为您的网站定制的可嵌入聊天窗口
• 📖 여러 문서 유형(PDF, TXT, DOCX 등) 지원
• 간단한 사용자 인터페이스를 통해 벡터 데이터베이스의 문서를 관리하세요.
• 두 가지 대화 모드:채팅노래로 응답상담(문서 등). 채팅 모드는 이전 대화를 기록합니다. 쿼리 모드는 문서에 대한 간단한 질문과 답변을 수행합니다.
• 참조한 문서의 내용이 채팅에서 제공됩니다!
• 100% 클라우드 배포 준비 완료.
• "나만의 LLM 모델 배포하기".
• 대용량 문서를 높은 효율성과 낮은 소비량으로 관리하세요. 대용량 문서나 녹취록을 한 번만 임베드하면 됩니다. 다른 문서 챗봇 솔루션보다 90%를 절약하세요.
• 사용자 지정 통합을 위한 전체 개발자 API!

지원되는 LLM, 임베딩 모델, 전사 모델 및 벡터 데이터베이스

LLM에서 지원합니다:

• 任何与llama.cpp兼容的开源模型
• OpenAI
• OpenAI (通用)
• Azure OpenAI
• Anthropic
• Google Gemini Pro
• Hugging Face (聊天模型)
• Ollama (聊天模型)
• LM Studio (所有模型)
• LocalAi (所有模型)
• Together AI (聊天模型)
• Fireworks AI (聊天模型)
• Perplexity (聊天模型)
• OpenRouter (聊天模型)
• Novita AI (聊天模型)
• Mistral
• Groq
• Cohere
• KoboldCPP
• PPIO (聊天模型)

지원되는 임베딩 모델:

• AnythingLLM原生嵌入器(기본값)
• OpenAI
• Azure OpenAI
• LocalAi (全部)
• Ollama (全部)
• LM Studio (全部)
• Cohere

지원되는 전사 모델:

• AnythingLLM内置 (기본값)
• OpenAI

TTS(텍스트 음성 변환) 지원:

• 브라우저 내장(기본값)
• PiperTTSLocal - 在浏览器中运行
• OpenAI TTS
• ElevenLabs
• 모든 OpenAI 호환 TTS 서비스

STT(음성 텍스트 변환) 지원:

• 브라우저 내장(기본값)

지원되는 벡터 데이터베이스:

• LanceDB (기본값)
• Astra DB
• Pinecone
• Chroma
• Weaviate
• QDrant
• Milvus
• Zilliz

기술 개요

이 단일 라이브러리는 크게 세 부분으로 구성됩니다:

• 프론트엔드LLM에서 사용할 수 있는 모든 콘텐츠를 쉽게 만들고 관리하기 위해 실행할 수 있는 viteJS + React 프런트엔드입니다.
• server모든 상호작용을 처리하고 모든 벡터 데이터베이스 관리 및 LLM 상호작용을 수행하는 NodeJS 익스프레스 서버입니다.
• 도커Docker 명령어 및 빌드 프로세스 + 소스에서 빌드하는 방법에 대한 정보.
• 수집기: UI에서 문서를 처리하고 구문 분석하기 위한 NodeJS express 서버입니다.