検証可能AI
引用証明
Citation Proof
AI が応答に含めた引用が、実際に主張した出典文書から来たものであり、改竄も捏造もないことを暗号的に証明する仕組み。RAG パイプラインにおける真正性保証の核。
定義
引用証明は二段階で構成される。(1) 引用元文書の同一性: 出典文書のバイト列が宣言された docHash と一致する。(2) 引用文の出典適合性: 応答内の引用文字列が、その文書の指定された範囲に文字列として存在する。
後者の証明は、文書を相手に渡さず ゼロ知識証明 回路上で「文書のある位置に引用文字列が存在する」事実のみを証明する。文書が機密でも、引用部分の真正性だけを開示できる。
単純な「URL を添えるだけ」の出典付与とは性質が異なる。URL は事後改竄や差し替えが可能だが、引用証明は暗号的にバインドされるため、検証時点でハッシュ一致を確認するかぎり後から改竄できない。
Lemma Oracle での実装
Lemma は RAG 応答に対し、引用箇所ごとに ZK 証明を付与する。応答を受け取った側は、文書本体にアクセスせずとも引用の真正性を機械検証できる。
EU AI Act の透明性義務、ジャーナリズム・法務領域でのファクトチェック、医療文書の引用検証──いずれも引用証明が直接の解として機能する場面。
選択的開示 と組み合わせると、文書の特定段落・特定文だけを開示しつつ、それが正規の出典であることを証明できる。著作権の引用要件 (主従関係・出所明示) と暗号的真正性の同時成立。