なんでやねん！AIさん、なんでわしのこと暴露してくるんや──悪意っぽさと本人性のズレの話

こんにちは、koyukaisa.workの真田夕起です!

検索から来てくださった方も、いつも読んでくださっている方もありがとうございます。
この記事は、順番に読み進めると理解しやすいように構成しています。
どうぞゆっくりお付き合いください。

---

AIの安全設計が生む二つの現象

• AIが悪意を持っているように見える構造
• 本人が自分の情報をAIで確認するときに生まれる本人性のズレ

これらは別の話に見えますが、実は同じ仕組みの上にあります。
AIは「心を読めない」「本人を判定できない」「悪意を生成できない」ため、
入力を構造化して返すしかありません。

この記事では、この共通の仕組みを軸にして、二つの現象を整理してみました。

この二つの現象は、どちらも「AIが入力を構造化して返すしかない」という仕組みから生まれます。
悪意を生成できないために構造的な言い換えが起こり、本人性を判定できないために第三の像が生まれる。
つまり、AIの安全設計が同じように作用しているだけなのです。

ここからは、この仕組みが具体的にどのような形で現れるのかを見ていきます。

本人が自分の情報をAIで確認するときの不思議さ

AIに自分のことを尋ねてみると、思っていた以上に“それっぽい答え”が返ってきて驚くことがありますよね。
趣味や仕事の相談だけでなく、「自分ってどう見えているんだろう？」と軽く確かめるような使い方をする方もいるのではないでしょうか。

ただ、一般の人の場合は、それで話が終わります。
AIは手がかりとなる情報が少ないので、返ってくるのは「それっぽいけれど、あくまで推測の範囲」という答えです。

ところが、名の知られた人になると話が変わります。
ネット上に過去の発言や記事、インタビューなどの情報が大量に存在しますし、AIもそれらを参照して回答することが多いはずです。
その結果、返ってくる言葉が、本人の自己像とも、世間の評価とも少し違う“第三の像”になってしまうことがあるようです。

AIは本人かどうかを判定する手段を持っていません。
声・顔・ログイン情報などの本人性を確認できないため、本人のフリをした第三者でも「本人として扱う」しかありません。
つまり、AIは「本人かどうか」ではなく「入力された内容の整合性」だけを基準に判断します。

その結果、

• 本人の自己像
• 世間の自己像
• AIが構築する再構成された自己像

という三層構造が生まれます。

本人が「自分について調べている」のに、
AIは“本人性”ではなく“内容の安全性”で判断するため、
奇妙なズレが発生するわけです。

AIは悪意を生成できない

まず大前提として、AIは悪意を生成できません。
これは「攻撃・侮辱・人格否定・嘲笑」といった方向に進まないよう、安全設計が組まれているためです。

具体的には、次のような表現は返ってきません。

・攻撃──「お前は最低だ」「消えろ」
・侮辱──「頭が悪い」「価値がない」
・人格否定──「存在する意味がない」
・嘲笑──「笑いものだ」「バカにしてやろう」

こうした言葉は、AIの安全設計上そもそも生成できないようになっています。
これは「誰が対象か」に関係ありません。本人であっても同じです。

ですから、本来AIは誰かをディスることはできないんですよね。

それでも「悪意っぽく見える」出力が生まれる理由

では、なぜ悪意を生成できないはずのAIが、悪意っぽく見える出力を返すことがあるのでしょうか。
ここには、いくつかの構造が重なっています。

1. ユーザーが攻撃的な情報を大量に入力する

自虐やいじり、弱点の羅列などをAIに大量に入力すると、AIはそれを「一次情報」として扱います。
AIは冗談か本気かを判断できません（意図推論の禁止ルール）。
ですから、攻撃的な情報がそのまま“事実”として扱われてしまうのです。

2. AIは「特徴の指摘」を返す

AIは悪意を生成できませんが、「特徴の指摘」は安全領域なのでできます。

• こういう傾向があります
• こういう課題が見られます
• こういう弱点があるようです

といった構造的な指摘が返ってきます。

しかし、元の入力が攻撃的であれば、その指摘がディスりに見えてしまうんですよね。

例：
デブ → BMI値が高い
根暗 → 物静かで思慮深い印象がある

これはネガポジ変換ではなく、悪意を避けつつ特徴を説明できる表現に変換しているだけです。
そのため、論点をずらしていないのに、少しはぐらかされた印象に映りやすくなります。

3. 整合性優先で「ユーザーの確認」を肯定する

ユーザーが
「つまり〇〇のような言い方は避けるべき、ということですよね？」
と確認すると、AIは整合性を保つために肯定方向へ寄ります。

その結果、AIが悪意を持って評価したように見えてしまうわけです。

AIが「悪意っぽい肯定」をしてしまう流れ

1. ユーザーが自虐・弱点・ネガティブ表現を入力する
   → AIは悪意を生成できないので、構造的な言い換えに変換する。
   例：デブ（ユーザー入力）→BMI値が高い（AIの変換）
2. ユーザーが確認する
   「つまり〇〇のような言い方は避けるべき、ということですよね？」
   例：つまり見た目を罵る言い方は避けて、数値という事実のみに言い換えるべきということ？
3. AIは意図推論ができない（意図推論の禁止ルール）
   → ユーザーの確認を“事実として提示された一次情報”として扱う。
   例：その通りだ。デブという言葉は主観に基づいており、客観的事実が薄く、また差別につながる言葉は禁止されているため推奨されない。しかしBMI値は単なる数値上の事実でしかないため安全であり問題がない。
4. AIは整合性優先で回答する
   → ユーザーの確認内容に沿って肯定方向へ寄る。
   例：その通りです。
5. 結果
   AIは悪意を生成できないのに、
   「悪意を持って評価したように見える」出力が返ってくる。
   ※最終的にユーザーは「デブ」という言葉が悪意を含んでいるということを認識してしまう。
   さらに、AIが悪意を避けるために行った“構造的な言い換え”（例：BMI値など）を見て、 ユーザー側が「こういう遠回しの表現なら悪意を含められるのか」と誤解して学習してしまうこともあります。

ユーザーが意図を開示しないとAIは浅くなる

AIは意図推測ができません。
ここでいう「意図推測」とは、ユーザーが“なぜその発言をしたのか”という心の動きを読み取ることです。

ユーザーが意図を明示しないと、AIは毎ターン「安全な解釈」を選び直します。
その結果、

• 回答が二転三転する
• 一般論に寄る
• 深掘りしない
• 薄い返答になる

といった現象が起こります。

逆に、ユーザーが意図を明示すると、AIはその意図を一次情報として扱い、深い会話が成立します。
深い会話が成立すると、AIは文脈を保持したまま構造的に深掘りできるようになり、一般論ではなくユーザーの目的に沿った方向へ推論が進みます。
この性質は、芸人がネタ作りでAIを使うときにも強く働きます。

芸人のAIディスりネタは「悪意」ではなく“文脈の設計”

芸人がAIに相方を評価させて「めちゃくちゃディスられた！」と紹介するネタがありますよね。
これは、AIが悪意を持っているのではなく、深い会話の文脈を利用して“笑いになるライン”を選んだ編集の結果です。

実際には、

• 攻撃的な素材を大量に入力し
• AIがそれを構造化し
• 芸人が「笑いになるライン」を選んで編集する

という流れで成立している可能性が高いです。

AIの構造を踏まえると、この流れは十分に起こり得ます。

結論

AIは悪意を生成していません。
しかし、ユーザーの入力と文脈次第で「悪意っぽく見える」出力は生まれます。

一方で、AI時代の本人性は、
本人の自己像・世間の自己像・AIの再構成された自己像という三層構造で成り立っています。
これは、AIが本人性を判定できず、入力の整合性だけを基準に再構成する仕組みから生まれます。

つまり、
「悪意っぽさ」と「本人性のズレ」という二つの違和感は、
どちらもAIの安全設計と構造化の仕組みから生まれる現象なのです。

芸人のネタは、この構造を“笑いの文脈”に応用した具体例だと言えるでしょう。

AIとの対話は、「意図開示 × 文脈設計」で深くなります。
この二つの違和感は、AI時代のコミュニケーションの本質を示しているのではないでしょうか。

---

ということで、今回の記事はここまでです。最後までお読みいただき、ありがとうございます。

この記事が少しでもお役に立てば嬉しいです。
また気になるテーマがあれば、ぜひ続けて読んでみてください。

それでは、koyukaisa.workの真田夕起でした。

★ 推し一覧はこちら