LLM が書いた返信を人の承認なしで送る前に「事実台帳に無い主張」を列挙させて止める(fail-closed の関門)
- LLM が書いた返信を送る前に「事実台帳に無い主張」を列挙させて止める仕組みを導入
- 事実台帳をMarkdownで管理し、LLM に台帳にない主張を列挙させて停止、正規表現で過去の誤りを検出
- 台帳にない主張があれば送らない、判定不能時はfail-closedで停止
LLM が書いた返信を人の承認なしで送る前に「事実台帳に無い主張」を列挙させて止める(fail-closed の関門) - Qiita


