--- title: Intern-S2-397B-GGUF canonical_url: "https://www.modelscope.cn/models/42ailab/Intern-S2-397B-GGUF" md_url: "https://www.modelscope.cn/models/42ailab/Intern-S2-397B-GGUF.md" repository: 42ailab/Intern-S2-397B-GGUF chinese_name: "Intern-S2-397B · 科研大模型" last_updated: 2026-09-24 license: apache-2.0 library_name: - gguf - pytorch frameworks: - Pytorch downloads: 11 stars: 1 tags: - gguf - llama.cpp - intern-s2 - science - moe --- # Intern-S2-397B-GGUF > Intern-S2-397B-GGUF - 42ailab 在 ModelScope 开源的模型。Intern-S2-397B · 科研大模型，在一台 128GB 内存的电脑上本地运行 42ailab/Intern-S2-397B-GGUF 是 ModelScope 魔搭社区上的机器学习模型，采用 apache-2.0 许可。 - **Repository**: 42ailab/Intern-S2-397B-GGUF - **License**: apache-2.0 - **Tags**: gguf, llama.cpp, intern-s2, science, moe - **Downloads**: 11 - **Stars**: 1 - **Last updated**: 2026-09-24 Source: https://www.modelscope.cn/models/42ailab/Intern-S2-397B-GGUF --- # Intern-S2-397B · 科研大模型，在一台 128GB 内存的电脑上本地运行 [![License: Apache 2.0](https://img.shields.io/badge/License-Apache_2.0-blue.svg)](https://www.apache.org/licenses/LICENSE-2.0) [![Runs Local](https://img.shields.io/badge/Runs-100%25_Local-brightgreen.svg)](https://42model.com) [![Platform](https://img.shields.io/badge/Platform-macOS_|_Windows_|_Linux-lightgrey.svg)](https://42model.com) 一个接近 4000 亿参数的科研大模型，压缩到约 98GB，在一台 128GB 内存的电脑上就能离线运行——读论文、推公式、写代码、做长链条的研究任务，**不上云、免费、私密**。 > **模型由[上海人工智能实验室（InternLM 团队）](https://modelscope.cn/models/Shanghai_AI_Laboratory/Intern-S2-397B)研发、以 Apache-2.0 开源**（Intern-S2-397B）。**本仓不是新模型**，而是我们把官方发布的权重转换并压缩成**能在个人电脑上离线运行**的量化部署档（GGUF），并做了质量校验——模型能力归上游，我们做的是「让它在本地跑起来」。 ## 一、它解决什么问题 Intern-S2-397B 是上海 AI 实验室面向**科学研究与长链条智能体任务**的旗舰模型。按官方介绍，它在 20 多个科学领域做了大规模强化学习训练，擅长通用推理和科学问题求解。 问题在于它太大了：官方全精度权重约 800GB（另有约 400GB 的 8 比特版），通常只能跑在数据中心的多卡服务器上，想用就得把你的论文、数据和思路上传到别人的服务器。 本仓把它压缩到约 98GB，让**一台 128GB 内存的 Mac 或 PC** 就能在本地跑起来： - **读文献、推导公式**：把论文段落贴进去，让它解释、复核推导； - **写研究代码**：数据处理、实验脚本、算法实现； - **长链条研究任务**：配合 AI 编程或智能体工具，把它当作本地后端使用。 ## 二、它是怎么做到的 **模型能力来自上海 AI 实验室的 Intern-S2-397B**。按官方模型卡，它采用「从科学文献页面直接学习」的新预训练方式，并在 20 多个科学领域上联合做强化学习；它是一个**混合专家模型**——每处理一个字只调用一小部分参数（总共 512 组「专家」，每次只用其中 10 组），所以同等能力下跑得更快、更省。 **我们做的**：以官方发布的 8 比特版权重（约 400GB）为起点继续压缩。要塞进 128GB 内存，平均每个参数只能留不到 2 比特。压缩的关键不在「压多狠」，而在「压哪里」： - 模型的大头是那 512 组专家（约占 9 成体积），**只对它们做极限压缩**； - 注意力等**体积很小、但对质量最敏感**的部分，**保持 8 比特精度不压**； - 最终约 98GB（平均每个参数约 1.95 比特），并**沿用与上游一致的 Apache-2.0 许可**。 我们实测过「所有部分一律压到 1 比特左右」的常见做法：模型会陷入重复、胡言乱语，完全不可用。按上面的方式分配后，同样四道测试题全部答对。 ## 三、效果如何 模型本体在公开基准上的完整评测，请以**上游官方模型卡**为准（[ModelScope](https://modelscope.cn/models/Shanghai_AI_Laboratory/Intern-S2-397B)）。这里只列**我们自己的复核**（Apple M3 Max · 128GB 内存）： | 我们复核的项目 | 结果 | |---|---| | 压缩保真：在一段它从未见过的中文技术文档上，逐字预测与 8 比特版本对比 | **81%** 的位置给出与 8 比特版本相同的首选答案 | | 压缩保真：同一段文档上的「意外程度」（困惑度，越低越好） | 本档比 8 比特版本高约 **9%** | | 四道测试题（中文解释、中文写作、时间计算、Python 编程） | 全部正常作答；计算题与编程题答案正确 | | 生成速度（GPU 运行） | 每秒约 **6–15 个 token** | 以上都是**我们的实测**，样本量有限（每题 1 次），不代表官方基准成绩。 ## 四、局限与下一步 - **需要 128GB 内存**：模型文件约 98GB，运行时还需要额外内存，内存更小的电脑跑不动。 - **本档只含文字能力**：官方模型还能看图，本档暂未包含看图所需的部分，只能处理文字。 - **会先长时间思考**：官方默认开启思考模式，回答前通常会先写很长一段推理过程；简单问题可在参数设置里关闭思考。 - **极限压缩必然有损**：与 8 比特版本相比，约有 2 成位置的首选答案不同；对精度要求极高的场景，请以官方原版为准。 - 下一步：补上看图能力，并在更多任务上做系统评测。 ## 五、怎么下载与使用 本模型专为 [活水模型（42model）](https://42model.com) 打包，推荐通过它获取： **方法一 · 桌面版**：在「模型库」→「科研」里下载 **Intern-S2-397B**，点「开始使用」。 **方法二 · 命令行（CLI）**： ```bash 42model download intern-s2:397b-iq1_s ``` ## 文件与许可 | 文件 | 作用 | |---|---| | `Intern-S2-397B-IQ1_S-mix-00001-of-00003.gguf` 等 3 个分片 | 模型本体（按平台单文件大小限制切分，下载后自动拼接） | 各文件 sha256 见本仓（`42ailab/Intern-S2-397B-GGUF`）的文件页，可自行校验。 **许可**：模型本体为 Intern-S2-397B，© 上海人工智能实验室，**Apache-2.0**（官方源：[ModelScope](https://modelscope.cn/models/Shanghai_AI_Laboratory/Intern-S2-397B) · [GitHub](https://github.com/InternLM/Intern-S1)——上游模型卡的代码仓链接即指向这个 Intern 系列仓）。本仓为其转换的 GGUF 部署档，同样遵循 [Apache-2.0](https://www.apache.org/licenses/LICENSE-2.0)，使用即表示同意上游许可条款。 ## 引用 上游官方模型卡未给出 Intern-S2-397B 的引用格式，**模型本体请以上游官方仓库为准**。其前身 **Intern-S2-Preview** 的技术报告如下（注意：这是 Preview 版本的报告，不是本模型的正式报告）： ```bibtex @misc{bai2026interns2previewscientificagenticfoundation, title={Intern-S2-Preview: Scientific Agentic Foundation Model}, author={Lei Bai and Jiaqi Cao and Chiyu Chen and Guanzhou Chen and Kai Chen and Guangran Cheng and Erfei Cui and Xuanlang Dai and Shengyuan Ding and Shangheng Du and Yanhui Duan and Yue Fan and Youqing Fang and Quan Gan and Yuanyuan Gao and Jiaye Ge and Lixin Gu and Yuzhe Gu and Qipeng Guo and Junjun He and Xin Hong and Ming Hu and Zhouqi Hua and Haian Huang and Junhao Huang and Zixian Huang and Minxi Jin and Lingkai Kong and Alexander Lam and Zehao Li and Zonglin Li and Tianhao Liang and Dahua Lin and Junyao Lin and Tianyang Lin and Zhouhan Lin and Jiangning Liu and Jin Liu and Kuikun Liu and Wenran Liu and Yifei Liu and Yuhong Liu and Yuhong Liu and Zhoumianze Liu and Ziyan Liu and Ziyu Liu and Haijun Lv and Han Lv and Chengqi Lyu and Le Ma and Ningsheng Ma and Zerun Ma and Haoyang Peng and Runyu Peng and Jifei Shan and Zixin Shang and Kou Shi and Xiang Shi and Qisheng Su and Xuerui Su and Hao Sun and Xiao Sun and Yanan Sun and Yu Sun and Huanze Tang and Yinghao Tang and Wenhui Tian and Zhongbo Tian and Bingli Wang and Haomin Wang and Jiarui Wang and Jingzhi Wang and Rui Wang and Xiquan Wang and Yi Wang and Zhecan Wang and Ziyi Wang and Zun Wang and Rubin Wei and Lianyi Wu and Wen Wu and Yue Wu and Yuhan Wu and Zhenyu Wu and Zijian Wu and Shuhao Xing and Jun Xu and Xingle Xu and Xuenan Xu and Xiangchao Yan and Ziang Yan and Bowen Yang and Danni Yang and Lin Yang and Zhiqi Yang and Qian Yao and Haochen Ye and Peng Ye and Jinhui Yin and Jiashuo Yu and Dingbo Yuan and Fei Yuan and Yuhang Zang and Bo Zhang and Chao Zhang and Chen Zhang and Hongjie Zhang and Junming Zhang and Wenlong Zhang and Wenwei Zhang and Yiming Zhang and Zhuo Zhang and Ziyang Zhang and Haiteng Zhao and Penghao Zhao and Yibo Zhao and Zhonghan Zhao and Zhihang Zhong and Bowen Zhou and Peiheng Zhou and Xin Zhou and Xinyu Zhou and Yunhua Zhou and Dongsheng Zhu and Yicheng Zou}, year={2026}, eprint={2608.13505}, archivePrefix={arXiv}, primaryClass={cs.LG}, url={https://arxiv.org/abs/2608.13505}, } ``` 若**本仓的 GGUF 量化部署档**对你有帮助，可另附： ```bibtex @misc{yang2026interns2397bgguf, title = {Intern-S2-397B-GGUF: A Local Quantized Build of Shanghai AI Laboratory's Intern-S2-397B}, author = {Yang, Zhiping}, year = {2026}, howpublished = {\url{https://modelscope.cn/models/42ailab/Intern-S2-397B-GGUF}}, organization = {42ailab}, note = {GGUF 量化与本地部署封装；模型本体为上海人工智能实验室 Intern-S2-397B（Apache-2.0）。Contact: contact@42ailab.com} } ``` 联系我们：**contact@42ailab.com** ## 关于我们 **[活水 AI 实验室（42ailab）](https://42ailab.com)** — 探索智能边界的 AI 创新实验室，以认知科学为基石，推动 AI 与人类智能的深度融合，真正理解并增强智能 —— 碳基的，也是硅基的。 **[活水模型（42model）](https://42model.com)** — 由活水 AI 实验室出品的高性能本地 AI 大模型推理引擎，让翻译、转写、识别、对话、编程等 AI 能力在你的本机免费私密运行；并可借云端算力微调专属模型，回传本机运行。