段階的指示と表形式出力を用いた大規模言語モデルによる依存構造解析
デジタルデータあり(科学技術振興機構)
すぐに読む
J-STAGE
全国の図書館の所蔵
国立国会図書館サーチが連携している各図書館等から取得した所蔵情報を表示します。
所蔵館、利用可否等の詳細・最新状況は情報提供元の各館のサイト・データベースで直接ご確認ください。所蔵館から取寄せることが可能かなど、資料の利用方法は、ご自身が利用されるお近くの図書館へご相談ください。詳細は ヘルプ をご覧ください。
その他
J-STAGE
デジタルCiNii Research
検索サービスデジタル遷移先のサイトで、CiNii Researchが連携している機関・データベースの所蔵状況を確認できます。
書誌情報
この資料の詳細や典拠(同じ主題の資料を指すキーワード、著者名)等を確認できます。
- 資料種別
- 記事
- 出版年月日等
- 2026
- 出版年(W3CDTF)
- 2026
- タイトル(掲載誌)
- 自然言語処理
- 巻号年月日等(掲載誌)
- 33 2
- 掲載巻
- 33
- 掲載号
- 2
- 掲載ページ
- 920-956
- 掲載年月日(W3CDTF)
- 2026
- ISSN(掲載誌)
- 13407619
- ISSN-L(掲載誌)
- 13407619
- 出版事項(掲載誌)
- The Association for Natural Language Processing
- 本文の言語コード
- jpn
- 件名標目
- 対象利用者
- 一般
- DOI
- 10.5715/jnlp.33.920
- 参照
- Security and Privacy Challenges of Large Language Models: A SurveyConstituency Parsing Using LLMsU-DepPLLaMA: Universal Dependency Parsing via Auto-regressive Large Language ModelsLarge Language Models Are No Longer Shallow ParsersHexatagging: Projective Dependency Parsing as TaggingChain-Of-Thought Prompting Elicits Reasoning in Large Language ModelsTransition-based Bubble Parsing: Improvements on Coordination Structure PredictionGiNZA - Universal Dependencies による実用的日本語解析Stanza: A Python Natural Language Processing Toolkit for Many Human LanguagesUnsupervised Cross-lingual Representation Learning at ScaleTetra-Tagging: Word-Synchronous Parsing with Linear-Time InferenceBuilding Universal Dependency Treebanks in KoreanUniversal Dependencies Version 2 for JapaneseUD-Japanese BCCWJ: Universal Dependencies Annotation for the Balanced Corpus of Contemporary Written JapaneseConstituent Parsing as Sequence LabelingExpletives in Universal Dependency TreebanksAn Empirical Study of Building a Strong Baseline for Constituency ParsingMembership Inference Attacks Against Machine Learning ModelsDeterministic Attention for Sequence-to-Sequence Constituent ParsingThe Universal Dependencies Treebank for SlovenianUniversal Dependencies for NorwegianEstonian Dependency Treebank: from Constraint Grammar tagset to Universal DependenciesTransition-Based Dependency Parsing with Stack Long Short-Term MemoryIdentifying Cascading Errors using Constraints in Dependency ParsingAn Improved Non-monotonic Transition System for Dependency ParsingA Gold Standard Dependency Corpus for English自動構築した大規模格フレームに基づく構文・格解析の統合的確率モデルPseudo-projective dependency parsingLong Short-Term MemoryBuilding a Large Annotated Corpus of English: The Penn Treebank
- 連携機関・データベース
- 国立情報学研究所 : CiNii Research
- 提供元機関・データベース
- Japan Link CenterCrossref
- 要約等
- <p>Large language models (LLMs) have achieved remarkable performances across a wide range of tasks. However, in dependency parsing—a fundamental task in natural language processing—obtaining structurally valid and highly accurate parse results is difficult. In this study, we propose a method that combines a chain-of-thought prompting strategy that performs Universal Dependencies (UD) part-of-speech tagging, head prediction, and dependency label prediction step-by-step with a simplified tabular output derived from the UD standard, CoNLL-U. We evaluated the proposed method using UD datasets covering 17 languages, with correct word segments given as inputs. The proposed method outperformed the baseline in terms of the labeled attachment score (LAS) in 15 languages. On the macro-average across 17 languages, it improved the LAS by 0.4 points. However, step-by-step prompting increased the dialogue context length and consequently degraded the throughput. Multilingual experiments further demonstrated cross-lingual generalization effects. Whereas the performance evaluation of LLM-based methods requires careful consideration of the potential contamination of the test data during pretraining, no clear influence of contamination on parsing accuracy was observed for the base models used in our experiments. These results demonstrated the effectiveness of combining step-by-step prompting and tabular output for LLM-based dependency parsing.</p><p>大規模言語モデル (LLM) は多様なタスクで高い性能を示しているが,自然言語処理の基礎タスクである依存構造解析では,構造的に妥当かつ高精度な解析結果を得ることが難しい.本研究では,LLMを用いた依存構造解析において,UD品詞推定,主辞判定,依存関係ラベル推定の各処理をステップ化した段階的指示プロンプトと,Universal Dependencies (UD) の標準フォーマットのCoNLL-Uを簡略化した表形式出力を組み合わせた依存構造解析手法を提案する.提案手法をUDの17言語のデータセットを用いて正解単語分割を入力で与える設定で評価した結果,提案手法はLabeled Attachment Score (LAS) においてベースラインを15言語で上回り,17言語のマクロ平均ではLASでベースラインを0.4ポイント上回った.多言語学習実験の結果から,言語間の一般化の作用の存在が示唆された.一方,段階的指示で対話文脈が長くなることにより,スループットは低下した.一般に,LLMを用いた手法の性能評価では,事前学習過程でのテストデータの混入が性能に影響を与えることが懸念されるが,本研究の実験で用いるベースモデルについては,テストデータの混入による解析精度への明確な影響は確認されなかった.これらの結果は,LLMによる依存構造解析で段階的指示と表形式出力を用いることの有効性を示すものである.また,関連研究で取り上げたU-DepPLLaMAの公開実装は,精度指標として(暗黙的に)適合率を用いており,他の手法のF1値による評価結果と正当な比較ができないと判断し,U-DepPLLaMAと同等の表現形式を用いた実験を提案手法の動作環境で実施することで代替した.これらの変更は,本研究の実験結果の客観性をより高めるためのものである.</p>
- DOI
- 10.5715/jnlp.33.920
- オンライン閲覧公開範囲
- インターネット公開
- 連携機関・データベース
- 科学技術振興機構 : J-STAGE