【情シス野郎 チラシの裏】は、「情報処理安全確保支援士」資格を持つ情シス担当が、仕事や自らの体験を通して得た知識や技術を、技術面に詳しくない人でも読みやすいよう「チラシの裏」に書くかのごとく書き散らす！というシリーズです。
＊＊＊＊＊＊
また野球か？と思われるかもしれないが、先日、帰宅中いつものようにXのTLを速読スワイプしていたら、目を疑うようなニュースで親指が止まった。
「プロ野球球団の監督が暴行容疑で逮捕」
翌日からセパ交流戦が始まるタイミングで、また特定の球団を煽るネタかと思ったが、まさかの事実だった。
詳細は報道の通りだが、家族から児童相談所への連絡をトリガーとして逮捕に至ったとのことだ。児童相談所への連絡を後押ししたのは、ChatGPTだったという。
家庭内の出来事についての意見を述べたいのではなく、おれが気になったのは、ChatGPTにどのようなプロンプトを与え、どのような回答がされたのか、という点である。
「調べもの」にAIを利用している人の割合は、2025年10月時点で43.5％。同年3月では28.7％のため、大きく増加している※。
（※「生成AIの信頼度に関するアンケート調査 Vol.2│2025年10月調査（ナイル株式会社）」）
今ではさらに増えているだろう。
それだけ調べものや相談の最初の選択肢としてAIが普及している。
人には話しづらい、気まずい内容も気軽に相談出来るし、場所も時間も選ばない。回答は数秒で得られ、他の誰かに伝わり噂になることのない安心感もある。
人間関係、仕事、勉学、育児、恋愛、性、容姿、性格、お金、将来、など古来より人間の悩みは尽きることがない。
AIには、誰かに気兼ねすることなく赤裸々に打ち明けることができる。そしてその場で一定の事実に基づいた回答を、論理的かつ利用者に寄り添った文言で、無料で受けることができる。
誰しも使いたくなるのは当然だが、リスクもある。
AIの回答は基本的に利用者寄りである。
プロンプトを与えたのが利用者である以上、判断材料は利用者のフィルタがかかった情報が中心であり、利用者が望むであろう、忖度した回答になりがちである。
継続的に使わせるための、サービスとしての思惑もあるかもしれない。
「さすがチャッピー、おれのことを分かってくれるのは君だけさ。」
常に味方のふりをしたクールな小悪魔に手のひらで踊らされている、ルパン的な状態である。
まあAIに悪意はなく、ルパンは騙されているのを分かっていて乗っていることもあるが、それはさておき、「ふむ。こういう質問にはこう回答されるのか。」という視点が必要である。
まあ、これはAI相手に限らない話だが。
「忖度はせず可能な限りフラットに回答すること」という前提を設定に入れておくと多少は防止できるが、フラットに回答された結果だから正しい、という思い込みもまた危険であり、なんとも難しい。
周囲の人に相談する場合、複数人に聞けば複数の回答があり、必然的に自己判断が入る。相談する機会を得るためには時間も必要なので、時間経過とともに冷静になることができる。
かつ人は、相手の性格や感情を見ながら言葉を選ぶことができる。しかしAIはそこまで分からない。
利用者が与えた文章の情報が全てであり、怒り狂っていても表現されていなければ分かりようがない。
もちろん人同士であっても同様だが、直接見て聞いていれば何かしら感じるものがあるだろう。
そういう感情こみのコミュニケーションで、今はまだAIは人に及ばない。
「もしかすると○○さんは感情的になっているかもしれませんので、一度冷静になることをお勧めいたします。」
で冷静になれる人間はどのくらいいるだろうか。
話を戻すが、今回どのような相談の内容だったかは知る由もないが、これまでの家族関係や過去に同様のケースがあったのか、父親や自分自身の立場、何より自分がどうしたいのか。
AIはあくまで利用者側が主体的に、状況や立場、背景、感情などを整理分析したうえでプロンプトを与えることではじめて最適に近い回答が期待できるものである。
そのあたりを含めて聞き取りつつ、冷静になる時間を設けながら、勘案してもらえる正規相談先として案内されたのかもしれないが、それ自体、相談相手としてのAIの限界であることをAI自身が示している。
また、AIはあたかも正しいかのような顔をして嘘をつく。
先日小5男子の平均身長について質問したところ、おれが得た回答と妻が得た回答が異なった。
何れも文科省の公開情報を基にした回答とのことだったが、おれの方の情報が1年古かったため、妻は自分が正しいと主張していた。
しかし、実際に文科省のWebサイトで確認したところ、どちらも違っていた。
そういう簡単な情報ですら普通に間違ううえに、回答に自信がないようなそぶりは全くなく、完全に正しいという顔で回答するのがAIである。
明確な情報ソースが示されていればいいが、そうでない場合、相手は不二子ちゃんだと思って疑って接するくらいでいいだろう。
