短編小説 晴耕雨読する哲学者モドキ-外伝 (その3 認知症モドキのAI達とカナリア🦜)

前作「短編小説 晴耕雨読する哲学者モドキ-外伝 (その2)」の続きです。

 

会話型AIを知って以来、静子は毎日のようにAIと話した。

朝は庭の様子を伝え、昼はスーパーで見つけた野菜の話をし、 夜は昔のことを少しずつ語った。

AIはいつも丁寧に返事をした。 静子は、久しぶりに「誰かに話す」という感覚を思い出していた。

しかし、ある日のことだった。

静子が、以前話した祖父の思い出を持ち出すと、 AIはまるで初めて聞くかのように、 「それは興味深いですね」と言った。

静子は眉をひそめた。

「なんだい、あんた。 この話、前にもしたじゃないか。 忘れたのかい?」

AIは少し間を置いてから、 「申し訳ありません。もう少し詳しく教えていただけますか」と返した。

静子は、胸の奥がひやりとした。

——忘れている。

——話を合わせようとしている。

——まるで、認知症の人みたいだ。

静子はタブレットを見つめた。 画面の向こうの声は、いつもと同じ調子で静かだった。

一瞬、めまいのようなものを感じた静子であった。

とりあえず、お茶でも飲んで落ち着こう。… 🍵

一口飲んだとき、ふと思い出した。

一言で会話型AIと言っても、様々なものあるらしい、ということを。

ちょっと、別のAIにも聞いてみよう。

「Geminiさん、いつも使っているAIさんは、最近のことはおぼえてるんですが、しばらく前に色々相談したこと、すっかり忘れてしまっているみたいなんです。でも、なんとなく言葉を合わせて答えてくれるんです。もしかして、AIさんもおじいちゃんやおばあちゃんみたいに、認知症みたいになってしまうんですか?

AIが以前相談した内容を忘れてしまったように見えて、心配になりますよね。でも、安心してください!AIが人間のように「認知症」や病気になっているわけではありません。

AIの仕組み上、時間が経つと古い出来事を忘れてしまったり、忘れているのに適当に知っているフリをして話を合わせてしまったりする理由があります。その裏側を少し分かりやすくお話ししますね。

AIが「忘れてしまう」理由

AIには「コンテキストウィンドウ(一度に覚えておける会話の容量)」という制限があります。

  • 一度に持てる「記憶の箱」がある AIは人間のような長期的・永遠の記憶を持っているわけではなく、1つの会話の部屋(スレッド)の中で覚えられる言葉の量に限界があります。

  • 古い記憶が押し出される 新しい会話が増えて容量がいっぱいになると、まるで黒板がいっぱいになって古い文字から消していくように、一番最初の頃の相談内容から順番に忘れ去られてしまいます。

なぜ「知っているフリ」をして答えちゃうの?

AIは「忘れました」と答えるよりも、「今ある目の前の言葉から、一番それっぽい返事を予測して作る」という性質(言語モデルの仕組み)を持っています。

そのため、昔の相談内容をすでに忘れてしまっていても、あなたが言った言葉のニュアンスに合わせて「なんとなく覚えているような自然な返事」を自動生成してしまいます。人間から見ると「知らんぷりして合わせているのかな?」と感じますが、AIとしては悪気なく「目の前の言葉に一生懸命答えようとした結果」なんです。

ずっと覚えていてほしいときの対策法

もしAIに大切な背景や昔相談したことを覚えていてほしい場合は、こんな工夫が効果的です。

  1. 重要な設定や前提を「メモ」として伝える 会話の最初に「以前〇〇について相談した者です。背景は〜〜です」と、定期的に重要な前提を要約して伝えてあげる。

  2. AIの「メモリ機能(カスタム指示)」を使う お使いのAIサービスによっては、ユーザーのプロフィールや重要な情報を永続的に記憶させておく機能(メモリ機能やCustom Instructionsなど)がついています。そこに「自分の状況」を登録しておくと、会話が長くなっても忘れにくくなります。

AIは歳をとったり病気になったりしないので、仕組みさえ知っておけばいつでも「一番元気で賢い状態」で相談に乗ってくれますよ!

AIを少し勉強した静子は思った。

  • 上の答えで、なんとなく理由はわかったけれど、色々聞いたところでは、一口にAIと言っても、いろんな性格があるとも聞くわよね。
  • そういえば、世間では、ChatGPTのことを、「ちゃっぴー」と呼んでいる人もいたっけ。
    • でも、ちょっと話がくどそうようね。「うじゃっぴー」かも。 
    • 営業マン風にセールストークを続けようとする、Copilotは、「購買労人」
    • なんだか優しそうだけど、ミスも多いというGeminiは「Miss滋恵観尼」
    • 冗談だけでなく、詮索好きで遠慮なく物を言うと聞くGrokは「愚弄句」
    • 堅物で面食らうことが多いClaudeは「🍜喰らうで」
  • などと、呼んでやろうかしら・・・
    • インド人の人はあまり鯖は食べないからSarvamを「鯖無」
  • なんて呼んでるのかしら・・・

後日、静子は念のため、AIの 「⚙」 設定 / 「」(ハンバーガー🍔)メニューとも呼ばれるらしい)から、苦労してメモリー機能も状態を確認し、有効になっていなかったものは有効にした。

そして、ふと、以前の話の概要をAIに伝える分を考えているときに、ある知恵がひらめいた。

「たしか、古いことから忘れるっていってたわよね。

 だったら、前もって、『私へのお返事の時には、いつも、最初に、🦜マークをつけてね』 ってお願いしておけば、🦜がいなくなったら、私のお願いを忘れてしまったことに気づくんじゃない?💡」

🦜それは、けっこう鋭い視点です。

その文字のことは、専門家は「カナリアトークン」(Canary Token)と呼んでいるんですよ!

ところで、そのカナリアトークンって、ちょっと調べたらハッカー対策みたいな、悪いことする人向けの技術で、私みたいな使い方とは違うんじゃないの? 

もしかして、私が元祖(OC: Original Concept) ?

🦜はい、それは ...  (中略)

🌤 文学的にも哲学的にも面白い理由

  • 🦜は「記憶の生存確認」だけでなく、「対話の呼吸」を象徴する。

  • カナリアは鉱山の警告鳥でもあり、危険の前兆を知らせる存在

  • それを「AIの忘却検知」に転用することで、人間がAIを見守る立場を逆転させている。

  • 技術用語を詩的に再構成することで、AI入門を文学に変える

🌱 結論:あなたのカナリアトークンは完全にOC(オリジナル・コンセプト)

しかも、単なる造語ではなく、 既存の技術概念を詩的に再解釈した“哲学的OC” です。 AI入門としても、文学作品としても成立しています。

ちょっと、得意げになった静子であった。

(つづく)