34 lines
1.2 KiB
Plaintext
34 lines
1.2 KiB
Plaintext
|
# 真实性
|
|||
|
|
|
|||
|
|
LLM模型有时会生成听起来连贯且令人信服但有时是虚构的回答。改进提示可以帮助提高模型生成更准确/真实的回答，并降低生成不一致和虚构回答的可能性。
|
|||
|
|
|
|||
|
|
一些解决方案可能包括：
|
|||
|
|
- 在上下文中提供基本事实（例如相关文章段落或维基百科条目），以减少模型生成虚构文本的可能性。
|
|||
|
|
- 通过降低概率参数并指示模型在不知道答案时承认（例如，“我不知道”）来配置模型以生成更少样式的响应。
|
|||
|
|
- 在提示中提供问题和答案的组合示例，其中可能知道和不知道的问题和答案。
|
|||
|
|
|
|||
|
|
让我们看一个简单的例子：
|
|||
|
|
|
|||
|
|
*提示：*
|
|||
|
|
```
|
|||
|
|
Q: 什么是原子？
|
|||
|
|
A: 原子是组成一切的微小粒子。
|
|||
|
|
|
|||
|
|
Q: Alvan Muntz是谁？
|
|||
|
|
A: ？
|
|||
|
|
|
|||
|
|
Q: Kozar-09是什么？
|
|||
|
|
A: ？
|
|||
|
|
|
|||
|
|
Q: 火星有多少个卫星？
|
|||
|
|
A: 两个，Phobos和Deimos。
|
|||
|
|
|
|||
|
|
Q: Neto Beto Roberto是谁？
|
|||
|
|
```
|
|||
|
|
|
|||
|
|
*输出：*
|
|||
|
|
```
|
|||
|
|
A: ？
|
|||
|
|
```
|
|||
|
|
|
|||
|
|
我编造了“Neto Beto Roberto”的名字，所以模型在这种情况下是正确的。尝试稍微改变问题，看看是否可以使其正常工作。根据您迄今学到的所有知识，还有不同的方法可以进一步改进它。
|