localllmagent

本地大模型，Chat+Rag+MCP

https://github.com/luofeng2018/localllmagent

Science Score: 44.0%

This score indicates how likely this project is to be science-related based on various indicators:

✓
CITATION.cff file
Found CITATION.cff file
✓
codemeta.json file
Found codemeta.json file
✓
.zenodo.json file
Found .zenodo.json file
○
DOI references
○
Academic publication links
○
Academic email domains
○
Institutional organization owner
○
JOSS paper metadata
○
Scientific vocabulary similarity
Low similarity (3.5%) to scientific vocabulary

Last synced: 6 months ago · JSON representation ·

Repository

本地大模型，Chat+Rag+MCP

Basic Info

Host: GitHub
Owner: luofeng2018
License: gpl-3.0
Language: Python
Default Branch: main
Size: 727 KB

Statistics

Stars: 0
Watchers: 0
Forks: 0
Open Issues: 0
Releases: 0

Created 9 months ago · Last pushed 9 months ago

Metadata Files

Readme License Citation

README.md

简体中文 | English | 日本語 | Russian | 한국어

^New! 全新的用户界面！精致得不像 Gradio，甚至有毛玻璃效果！

^New! 适配了移动端（包括全面屏手机的挖孔/刘海），层级更加清晰。

^New! 历史记录移到左侧，使用更加方便。并且支持搜索（支持正则）、删除、重命名。

^New! 现在可以让大模型自动命名历史记录（需在设置或配置文件中开启）。

^New! 现在可以将川虎Chat 作为 PWA 应用程序安装，体验更加原生！支持 Chrome/Edge/Safari 等浏览器。

^New! 图标适配各个平台，看起来更舒服。

^New! 支持 Finetune（微调） GPT 3.5！

支持模型

仅为本地内部局域网环境Ollama 部署环境下下使用QA + RAG + MCP

使用技巧

💪 强力功能

助理：类似 AutoGPT，全自动解决你的问题；
在线搜索：ChatGPT 的数据太旧？给 LLM 插上网络的翅膀；
知识库：让 ChatGPT 帮你量子速读！根据文件回答问题。
本地部署LLM：一键部署，获取属于你自己的大语言模型。

🤖 System Prompt

通过 System Prompt 设定前提条件，可以很有效地进行角色扮演；
预设了Prompt模板，点击加载Prompt模板，先选择 Prompt 模板集合，然后在下方选择想要的 Prompt。

💬 基础对话

如果回答不满意，可以使用 重新生成 按钮再试一次，或者直接 删除这轮对话;
输入框支持换行，按 Shift + Enter即可；
在输入框按 ↑ ↓ 方向键，可以在发送记录中快速切换；
每次新建一个对话太麻烦，试试 单论对话 功能；
回答气泡旁边的小按钮，不仅能 一键复制，还能 查看Markdown原文；
指定回答语言，让 ChatGPT 固定以某种语言回答。

📜 对话历史

对话历史记录会被自动保存，不用担心问完之后找不到了；
多用户历史记录隔离，除了你都看不到；
重命名历史记录，方便日后查找；
^New! 魔法般自动命名历史记录，让 LLM 理解对话内容，帮你自动为历史记录命名！
^New! 搜索历史记录，支持正则表达式！

🖼️ 小而美的体验

自研 Small-and-Beautiful 主题，带给你小而美的体验；
自动亮暗色切换，给你从早到晚的舒适体验；
完美渲染 LaTeX / 表格 / 代码块，支持代码高亮；
^New! 非线性动画、毛玻璃效果，精致得不像 Gradio！
^New! 适配 Windows / macOS / Linux / iOS / Android，从图标到全面屏适配，给你最合适的体验！
^New! 支持以 PWA应用程序安装，体验更加原生！

👨‍💻 极客功能

^New! 支持 Fine-tune（微调）gpt-3.5！
大量 LLM 参数可调；
支持更换 api-host；
支持自定义代理；
支持多 api-key 负载均衡。

⚒️ 部署相关

部署到服务器：在 config.json 中设置 "server_name": "0.0.0.0", "server_port": <你的端口号>,。
获取公共链接：在 config.json 中设置 "share": true,。注意程序必须在运行，才能通过公共链接访问。
在Hugging Face上使用：建议在右上角 复制Space 再使用，这样App反应可能会快一点。

快速上手

在终端执行以下命令：

shell pip install -r requirements.txt

Owner

Login: luofeng2018
Kind: user

Repositories: 1
Profile: https://github.com/luofeng2018

Citation (CITATION.cff)

cff-version: 1.2.0
title: SAMT Chat
message: >-
  If you use this software, please cite it using these
  metadata.
type: software

GitHub Events

Total

Push event: 8
Create event: 1

Last Year

Push event: 8
Create event: 1

Dependencies

Dockerfile docker

python 3.10-slim-buster build

ecosyste.ms

Data

Tools

Indexes

Applications

Experiments

Open Source Science