事前学習済み言語モデル中の多段階推論に関与するニューロンに関する分析

• 資料種別: 記事
• タイトル: 事前学習済み言語モデル中の多段階推論に関与するニューロンに関する分析
• 巻次・部編番号: JSAI2023; 0
• 著者・編者: 沖村 樹; 岩澤 有祐; 小島 武; 松尾 豊
• 著者標目: OKIMURA Itsuki; 沖村 樹; IWASAWA Yusuke; 岩澤 有祐; KOJIMA Takeshi; 小島 武; MATSUO Yutaka; 松尾 豊
• 出版年月日等: 2023
• 出版年（W3CDTF）: 2023
• 並列タイトル等: Analyzing Neurons Engaged in Multi-step Reasoning in Pre-trained Language Models
• タイトル（掲載誌）: 人工知能学会全国大会論文集; Proceedings of the Annual Conference of JSAI
• 巻号年月日等（掲載誌）: JSAI2023 0
• 掲載巻: JSAI2023
• 掲載号: 0
• 掲載ページ: 2E4GS605-2E4GS605
• ISSN（掲載誌）: 2758-7347
• 著者別名: OKIMURA Itsuki; IWASAWA Yusuke; KOJIMA Takeshi; MATSUO Yutaka
• 件名標目: multi-step reasoning; chain-of-thought; language model; 多段階推論; 思考連鎖; 言語モデル
• 対象利用者: 一般
• DOI: 10.11517/pjsai.JSAI2023.0_2E4GS605
• オンライン閲覧公開範囲: インターネット公開
• 連携機関・データベース: 科学技術振興機構 : J-STAGE

• 要約等: <p>Prompts have attracted attention as a way to exploit the performance of pre-trained language models, one of which is the chain-of-thought prompt. C...