LLM – 杰力皓博

Tülu 3: 开源语言模型后训练的下一个时代

发表评论 / AI, AI 新闻 / AI, LLM / 2024年11月22日

[ Ai2 最新发布 Tülu 3，基于 Llama 3.1 模型，首次完全开源了顶级语言模型的后训练全套方案 […]

Tülu 3: 开源语言模型后训练的下一个时代 Read More »

AI, LLM

对话中微调，提高模型能力

发表评论 / AI, LLM, LLMS / LLM, 微调 / 2024年11月13日

支持用户反馈的收集，并在累积足够的高质量反馈数据后进行微调。这个版本的代码会在每次对话后，询问用户是否满意模型

对话中微调，提高模型能力 Read More »

LLM, 微调

取消任何LLM模型的严格审查

发表评论 / AI, AI 新闻, LLM, LLMS / abliteration, LLM / 2024年9月18日

第三代 Llama 模型提供了微调（Instruct）版本，这些版本在理解和遵循说明方面表现出色。然而，这

取消任何LLM模型的严格审查 Read More »

abliteration, LLM

从0开始构建自己的LLM

发表评论 / AI, LLM, LLMS / LLM / 2024年9月12日

下面是一些从0开始构建自己的LLM：完全从0开始，最快仅用3小时！即可训练出仅为26M大小的微型语言模型Mi

从0开始构建自己的LLM Read More »

LLM

欢迎 FalconMamba：首款强大的无关注 7B 型号

发表评论 / AI, AI 新闻, LLM, LLMS / falcon-mamba-7b, LLM / 2024年8月13日

Falcon Mamba 是阿布扎比技术创新研究所（TII）根据 TII Falcon

欢迎 FalconMamba：首款强大的无关注 7B 型号 Read More »

falcon-mamba-7b, LLM

不含 MatMul 的 LM

发表评论 / AI, AI 新闻, LLM, LLMS / LLM, MatMul / 2024年7月18日

介绍 MatMul-Free LM 是一种语言模型架构，无需矩阵乘法（MatMul）运算。此存储库提供了与

不含 MatMul 的 LM Read More »

LLM, MatMul

AI(LLM)的多次越狱

发表评论 / AI, AI 新闻, LLM, LLMS / AI, LLM, 越狱 / 2024年7月4日

我们研究了一种“越狱”技术——一种可以用来逃避大型语言模型（LLM）开发人员设置的安全护栏的方法。这种技术，我

AI(LLM)的多次越狱 Read More »

AI, LLM, 越狱

Meta Large Language Model Compiler：编译器优化的基础模型

发表评论 / AI, AI 新闻, LLM, LLMS / Compiler, LLM, Meta, 编译器 / 2024年6月28日

Meta推出了Meta LLM 编译器（Meta Large Language Model Compiler）

Meta Large Language Model Compiler：编译器优化的基础模型 Read More »

Compiler, LLM, Meta, 编译器

5种LLM微调技术直观解释

发表评论 / AI, LLM, LLMS / LLM, 微调 / 2024年6月10日

微调 LLM 传统的微调（如下图所示）对于 LLM 来说是不可行的，因为这些模型有数十亿个参数，大小为数百 G

5种LLM微调技术直观解释 Read More »

LLM, 微调

黑客喜欢的一些开源模型

发表评论 / AI, LLM, LLMS / LLM / 2024年6月6日

这里只是说明一些模型会提供一些攻击代码，但并不是每次都能成功。这里是用的ollama 已有的模型进行的测试。

黑客喜欢的一些开源模型 Read More »

LLM