1. AI技术聚合首页
  2. IT

论文笔记–Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks

扎眼的阳光 • • IT • 阅读 57

论文笔记–Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks

1. 文章简介

  • 标题：Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks
  • 作者：Tiedong Liu, Bryan Kian Hsiang Low
  • 日期：2023
  • 期刊：arxiv preprint

2. 文章概括

  文章给出了一种可高精度完成基本数学运算的大模型Goat(Good at Arithmetic Tasks)，相比于GPT-4，Goat在多位数字的基本运算（加减乘除）上有大幅的精度提升。

3 文章重点技术

3.1 LLM的选择

  文章的Goat模型是在LLaMA[1]基础上进行微调的。之所以选择LLaMA，是因为研究表明分词是影响大模型数学运算能力的一个重要因素，而LLaMA对于处理数字的分词上要优于其它LLM。下表展示了文章对比的一些LLM的分词结果，可以看到LLaMA对与数字的分词是最合理最能支撑数学运算的。
tokenization

3.2 算数任务的可学习性(learnability)

  算数任务可划分为两类：LLM可学习(learnable)的任务和不可学习(unlearnable)的任务。研究表明，不可学习的任务可通过链式思维(Chain-of-Thought, COT)分解为可学习的任务。
  首先，文章对基本的数学运算进行划分。为此，文章进行了数值实验，将LLM可以以较高的精度解决的任务分类为可学习任务，反之LLM表现很差的任务被分类为不可学习任务。下表为文章将数学基本运算进行的分类。其中不可学习的任务包含两种：多位数*多位数，多位数/多位数。
learnability

3.3 大模型的加减乘除

  按照上述分类，所有的加法和减法都是可学习的任务，模型可以成功捕获到其中的数学操作模式，得到较高精度。
  针对乘法，如上表分类，多位数*一位数是可学习的任务，但多位数*多位数是不可学习的任务。为了让LLM计算多位数*多位数，我们将其划分为5个可学习的子任务

  • extraction：从自然语言指令中提取数学运算。如给定指令”Compute 126 * 234″，我们提取出其中的”126 * 234 =”这种标准的运算格式（对应上表中可学习任务-Copying）.
  • split: 将二者中较小的数划分。如上述标准运算格式，我们首先找到比较小的数”126″（对应上表中可学习任务-Comparison），然后我们将”126″进行分解得到”126=100+20+6″（对应上表中可学习任务-Split）.
  • expansion：按照分配律将乘法展开。如上述标准运算分解之后，我们得到”(100+20+6) * 234 = 100 * 234 + 20 * 234 + 6 * 234″（对应上表中可学习任务-Copying）.
  • product：计算分配之后的每一项的乘积。如上式可演变为” 100 * 234 + 20 * 234 + 6 * 234 = 1 * 234 (end+00) + 2 *234(end+0) + 6 * 234 =23400 + 4680 + 1404″，即通过多位数*一位数和末尾补0的操作完成（对应上表中可学习任务-Multiplication+Copying）.
  • adding：计算各子项之和。如上式结果求和为”23400 + 4680 + 1404 = 28080 + 1404 = 29484″即为最后结果（对应上表中可学习任务-Adding+Copying）.
      针对除法，多位数除以一位数的任务是可学习任务，现在我们考虑多位数除以多位数的任务。为此，我们通过慢除法来进行循环计算：论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks，其中论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks表示被除数的位数，论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks表示上一轮的商，论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks表示模型需要计算的值，要满足论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks，论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks表示除数。上式迭代的终止条件为论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks。考虑8914/64，首先第一轮的论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks，我们找到最大的可以使得论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks的论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks，得到论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks，对应的最大的论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks，即得到论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks；接下来论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks，则唏嘘找到最大的可以使得论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks的论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks，得到论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks，对应最大的论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks，即得到论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks；接下来论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks，则继续找到最大的可以使得论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks的论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks，得到论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks，对应最大的论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks，即得到论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks；最后论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks，终止判断。最后得到的商由上面所有的论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks组成，即论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks（相当于split的反向操作），余数为剩下的论文笔记--Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks。注意到上述整个过程只采用了基本的可学习任务，包括Copyting, Subtraction, Comparison, Multiplication(nD*1D), 反向split。

4. 数值实验结果

  文章随机生成了一百万个问答对，其中问题的自然语言部分是由多个不同的prompt形式组成，问题中包含的数字是不超过16位的随机数字，然后按照上述标准的COT产生回答作为标注数据。模型在LLaMA基础上通过上述数据进行微调，得到Goat模型。
  下表为文章的数值实验结果，可以看到Goat-7B在所有数学任务上表现基本上都在90%甚至95%以上，在unlearnable任务上精度远超过GPT-4。
exp

5. 文章亮点

  文章提出了一种Chain-of-Thought(COT)方法，可以有效地解决LLM无法正确进行数学基本运算的问题。文章基于该COT训练了大语言模型Goat，在基本数学运算能力上达到了SOTA水平。

6. 原文传送门

Goat: Fine-tuned LLaMA Outperforms GPT-4 on Arithmetic Tasks

7. References

[1] 论文笔记–LLaMA: Open and Efficient Foundation Language Models

文章出处登录后可见！

已经登录？立即刷新

共计人评分，平均分

到目前为止还没有投票！成为第一位评论此文章。

赞 (0)
扎眼的阳光的头像扎眼的阳光普通用户
0
上一篇 2023年12月13日
下一篇 2023年12月13日

相关推荐