TaoAI·发现最好的AI工具
4
免费

TigerBot

虎博科技开源的通用大语言模型系列,覆盖 7B 至 180B 的基座与对话模型,同时开放预训练语料、指令数据、训练脚本与在线接口,适合私有化部署与领域微调。

开源大模型大语言模型模型微调私有化部署API
访问官网 →

TigerBot 是什么

TigerBot 是虎博科技(TigerResearch)开源的通用大语言模型系列,官方在仓库首页把它定位为「以世界级的基础大模型,贡献于中国式的创新」,产品端则提供网页、App、小程序与开放接口三种入口。模型覆盖 7B、13B、70B、180B 四个参数档位,每一档都分为 base(基座)与 chat(对话)两类权重,同时把预训练语料、指令微调数据与配套的评测流程一并公开。权重同时发布到 Hugging Face 与魔搭 ModelScope 两个平台,2023 年 12 月官方发布技术报告介绍训练与应用落地细节。产品侧在 2024 年 6 月为搜索模式补上信息源链接,2024 年 12 月发布中文临床术语体系 MedCT 与对应的医疗命名实体识别模型。对需要私有化部署或做领域微调的团队来说,TigerBot 的价值在于「权重、训练脚本、语料、接口」这一整套东西都是公开的。

TigerBot 的主要功能

  • 多规模权重:提供 7B、13B、70B、180B 的基座与对话版本;对话模型另有 4bit、8bit 量化版,官方给出的 70B 对话 4bit 体积约为 37GB,13B 对话 4bit 约为 11.5GB。
  • 长上下文:13B 与 70B 对话模型在 2024 年 3 月升级后把上下文长度提升到 100K;更早的 16K 版本借助 YaRN 对位置编码做外推。
  • 多种推理方式:仓库自带命令行推理脚本与基于 Streamlit 的网页演示,并支持 exllamav2 量化推理与动态量化模型加载。
  • 可复现的训练流程:预训练与微调两套脚本均开源,预训练数据规模为 500B tokens,知识截止到 2023 年 8 月,工程上用到了 GQA、flash-attn、RoPE、全局训练以及张量并行与流水线并行。
  • 开源语料:中文预训练集约 55G、英文约 51G,合计约 106G,覆盖书籍、互联网与百科三类;指令数据按用户自然分布归纳为 10 大类、120 小类任务,并附带过滤与清洗规则说明。
  • 评测体系:基于 OpenCompass 搭建自动评测,官方在多个中英文基准上给出与其他开源模型的对比结果。
  • 开放接口:接口分组包括对话、插件、微调、向量、摘要、PDF 转文本与文生图;2023 年 9 月对话接口上线函数调用能力。
  • 检索增强:产品端提供搜索增强与文件增强两种模式,便于在回答里引用外部资料。
  • 医疗方向成果:MedCT 中文临床术语体系、医疗命名实体识别模型与医疗基础模型,并公开了真实临床标注数据。

如何使用 TigerBot

  1. 准备运行环境:官方示例用 conda 创建 Python 3.8 环境,装好对应 CUDA 版本的 PyTorch,再把 TigerBot 仓库克隆到本地并安装依赖清单中的包。
  2. 按硬件条件挑选权重,到 Hugging Face 或魔搭 ModelScope 取用;显存紧张时可以选 4bit 量化版本,官方建议 7B 与 13B 使用单张 A100 40G,70B 需要四张。
  3. 单机试跑走命令行:设置可见的 GPU 后运行推理脚本,并指定模型路径、最大输入长度与最大输出长度等参数;对话中输入 clear 可清空历史,输入 exit 结束会话。
  4. 希望有图形界面时用 Streamlit 启动网页演示脚本,参数与命令行一致;量化模型另有对应的演示脚本。
  5. 要承接并发请求时,官方推荐用 Hugging Face 的 TGI 镜像把 TigerBot 部署成服务,再由业务侧调用本地接口;也可以直接使用官网提供的在线接口,按场景选择对话、向量或摘要等分组。
  6. 做领域适配时参考仓库训练章节准备数据格式,先在基座模型上继续预训练,再用指令数据做微调与对齐。

TigerBot 的应用场景

  • 教育与科研:官方明确对教育和科研开发者免费开放 70B 对话模型的接口,适合课堂演示、课题实验与对照研究。
  • 私有化部署:权重与训练脚本都可下载,数据不出内网,适合对合规有要求的机构自建推理服务。
  • 垂直领域微调:依托开源基座加上自有语料,可以向医疗、法律、专利等方向做增量训练;官方自身就给出了医疗方向的 MedCT 成果。
  • 长文档处理:借助从 16K 到 100K 的上下文窗口,可以把论文、PDF 或 Word 文档直接交给 TigerBot 阅读和总结。
  • 数据工程:需要自建语料的研究团队可以直接取用官方开源的中英文预训练集与指令数据,省掉一部分清洗工作。
  • 智能体与工具调用:对话接口支持函数调用,可以按「用户提问 → 模型 → 第三方接口 → 模型」的链路拼装插件式应用。
  • 内容与娱乐:官方用成语接龙演示过大模型做文字游戏的能力,这类玩法也能迁移到问答、出题与文案创作。

TigerBot 常见问题

TigerBot 是免费的吗?

TigerBot 目前可免费使用,无需付费即可体验核心功能。具体额度与限制请以官网说明为准。

TigerBot 适合哪些场景?

TigerBot 属于AI聊天助手类工具,主要覆盖 开源大模型、大语言模型、模型微调、私有化部署、API 等使用场景。是否适合你的需求,可结合这些能力点与自己的工作流对照判断。

有哪些和 TigerBot 类似的工具?

与本页收录的同类工具相比,DeepSeek、ChatGPT、豆包 等定位相近。可以对照各自的定价模式、能力侧重和使用场景再做选择。

信息最后更新于 2026-10-15。如信息有误,欢迎联系我们更正。

本页由 TaoAI 编辑部 整理维护 · 收录于 2025-01-01 · 最后更新 2026-10-15

信息来源:工具官网与公开资料,核对与引用规则见 来源与引用规范;工具信息可能随官方调整而变化,请以官网最新说明为准。纠错请联系我们。