12 lines
1.1 KiB
Markdown
12 lines
1.1 KiB
Markdown
# Aktiivikehote
|
|
|
|
import { Callout, FileTree } from 'nextra-theme-docs'
|
|
import {Screenshot} from 'components/screenshot'
|
|
import ACTIVE from '../../img/active-prompt.png'
|
|
|
|
Ajatusketjuun (CoT) perustuvat menetelmät nojaavat tiettyyn joukkoon ihmisten tekemiä esimerkkejä. Ongelmana on, että esimerkit eivät välttämättä ole tehokkaimpia erilaisille tehtäville. Tämän ongelman ratkaisemiseksi, [Diao ym., (2023)](https://arxiv.org/pdf/2302.12246.pdf) ehdotti äskettäin uutta kehotetekniikkaa nimeltä Aktiivikehote (Active-Prompt), joka mukauttaa LLM:ää eri tehtäväkohtaisten esimerkkikehotteiden mukaan (ihmisten suodattamalla CoT-päättelyllä).
|
|
|
|
Alla on esitys lähestymistavasta. Ensimmäinen vaihe on kysyä LLM:ltä joko muutamilla CoT-esimerkeillä tai ilman niitä. *k* mahdollista vastausta tuotetaan joukolle koulutuskysymyksiä. Epävarmuusmääre lasketaan perustuen *k* vastaukseen. Epävarmimmat kysymykset valitaan ihmisten annotointia varten. Uusia annotoituja esimerkkejä käytetään sitten kunkin kysymyksen päättelemiseen.
|
|
|
|
<Screenshot src={ACTIVE} alt="ACTIVE" />
|
|
Kuvan lähde: [Diao ym., (2023)](https://arxiv.org/pdf/2302.12246.pdf) |