Scraps 最終更新 2026/10/26 17:03

原文著者: @suikou0 /

LLM が書いた返信を人の承認なしで送る前に「事実台帳に無い主張」を列挙させて止める(fail-closed の関門)

AIで作成し、掲載基準に基づいて自動選定した要約です。

  • LLM が書いた返信を送る前に「事実台帳に無い主張」を列挙させて止める仕組みを導入
  • 事実台帳をMarkdownで管理し、LLM に台帳にない主張を列挙させて停止、正規表現で過去の誤りを検出
  • 台帳にない主張があれば送らない、判定不能時はfail-closedで停止
LLM が書いた返信を人の承認なしで送る前に「事実台帳に無い主張」を列挙させて止める(fail-closed の関門) - Qiita

Qiita / 原文を読む