BANeedKSY's Patent P02

【発明の名称】

情報信頼性評価システム、情報処理方法、およびプログラム

【特許請求の範囲】

【請求項１】 ネットワークを介して投稿された第１のテキスト領域（※無料部分）のデータを取得するデータ取得部と、 前記第１のテキスト領域のデータを入力値として、大規模言語モデル（LLM）を用いて、当該第１のテキスト領域に後続すると予測される予測テキストデータを生成する予測データ生成部と、 前記投稿に紐付く、アクセス制限が課された第２のテキスト領域（※有料部分）のデータを取得する制限データ取得部と、 前記予測テキストデータと前記第２のテキスト領域のデータとの間における意味論的な差異を演算し、第一の指標（※乖離指数）を算出する第一の演算部と、 前記第一の指標に基づいて、前記投稿または当該投稿を行ったユーザーアカウントの信頼性スコアを更新するスコア管理部と、 を備えることを特徴とする情報信頼性評価システム。

【請求項２】 前記第１のテキスト領域のデータが持つ文脈ベクトルと、前記第２のテキスト領域のデータが持つ文脈ベクトルとの間のセマンティックな相関性を演算し、第二の指標（※文脈相関度）を算出する第二の演算部をさらに備え、 前記スコア管理部は、前記第二の指標が予め設定された閾値を下回る場合、前記第一の指標の判定を無効化するか、または前記信頼性スコアを低下させる制御を行う、 ことを特徴とする請求項１に記載の情報信頼性評価システム。

【請求項３】 前記スコア管理部によって算出された前記ユーザーアカウント固有の信頼性スコアを、当該ユーザーアカウントを保有する本人にのみ限定して開示するプライベート表示制御部、 をさらに備えることを特徴とする請求項１または２に記載の情報信頼性評価システム。

【発明の詳細な説明】

【技術分野】

本発明は、ソーシャル・ネットワーキング・サービス（SNS）や記事配信プラットフォーム等の電子情報空間において、生成AI（大規模言語モデル：LLM）によって量産される低品質なリライト情報やスパム行為を数理的に検知し、人間由来の一次情報（Ground Truth）の信頼性を評価・保護するための技術分野に関する。

【背景技術】

近年、LLMの急速な普及に伴い、インターネット上には既存の公開情報をAIによってリライトしただけの中身のない長文（情報の公害）が溢れ、これらを再学習することによるAIの「モデル崩壊（Model Collapse）」が課題となっている。特に、前段を無料公開し、後段を有料設定にするプラットフォームにおいては、買ってみるまで中身が分からないという情報の非対称性を悪用し、無料部分から容易に類推できるAIリライトテキストを販売して利益を得るハック行為（不誠実なアカウント）が横行している。これに対し、人間の目視による通報や、一律のAI検知フィルターでは、高度に進化したAIテキストをリアルタイムかつ客観的に排除することが困難であった。

【発明が解決しようとする課題】

本発明の目的は、AIに「無料部分からの有料部分の予測」をあえて行わせ、その予測（最大公約数的な知識）をどれだけ上回る「独自の一次情報」が有料部分に含まれているかを数理的に測定（乖離指数の算出）することで、情報の非対称性を解消し、プラットフォームの健全なレピュテーションエコシステムを自動構築するシステムを提供することにある。また、無関係なテキストを混ぜて指数を偽装する「乖離指数詐欺（エッジケースハック）」をも自動的に排除する堅牢なセキュリティ構造を提供することを課題とする。

【課題を解決するための手段】

（※請求項１〜３の動作を、データフローとして詳細に記述する領域。ブロック図等を用いて、CPU、メモリ、LLMサーバー、レピュテーションデータベースとの連携を記述する。）

• 第一の検証（請求項１の挙動）：LLMが出力した「予測ベクトル」と実際の「有料部分ベクトル」のコサイン類似度等を算出。類似度が高い（予測通りである）＝乖離指数が「低」となり、既存情報の焼き直しであると判定。類似度が低い（予測できない独自性がある）＝乖離指数が「高」となり、人間固有の一次情報であると評価。
• 第二の検証（請求項２の挙動）：無料部分と有料部分のテーマの連続性を「文脈相関度」として測定。乖離指数を上げるために全く無関係な日記やスパムを埋め込んでいる場合、相関度エラー（閾値未満）を発生させ、ハック行為（詐欺）として検知・パッチ適用。
• 自己成長のサイクル（請求項３の挙動）：信頼性スコアを他者と比較する武器（ランキング）にせず、本人限定の「信頼の鏡」としてUI（ユーザーインターフェース）上に制御。これによりハック意欲を減退させ、精神的自律（内省）をシステム側から促す。