将 LLMs 精调至 1.58 比特：使极端量化变简单
中文翻译: Zipxuan 本文也提供英文版本 English。 随着大语言模型（LLMs […]
将 LLMs 精调至 1.58 比特：使极端量化变简单 Read More »
2024 年 12 月
python 任何有效的标识符作为变量名或函数名，包括中文字符
作为一个C语言开发者，第一次知道 python 还能支持中文的参数和函数名，还要啥中文编译系统 User: 帮
python 任何有效的标识符作为变量名或函数名，包括中文字符 Read More »
使用GPU内存和CPU内存装载大模型
这里测试的是开源模型是 meta-llama/Llama-3.1-405B-Instruct，属于开源模型里面
使用GPU内存和CPU内存装载大模型 Read More »
将两个教师模型的知识蒸馏到一个学生模型中
一、描述： 使用 AutoModelForCausalLM 来实现从两个教师模型（teacher1 和 tea
将两个教师模型的知识蒸馏到一个学生模型中 Read More »