DXで日本のビジネスをサポート|ソルクシーズ公認ブログ

現場の取り組み

情シス野郎チラシの裏【65】 AIゾンビ

現場の取り組み

【情シス野郎 チラシの裏】は、「情報処理安全確保支援士」資格を持つ情シス担当が、仕事を通して得た知識や技術を、技術面に詳しくない人でも読みやすいよう「チラシの裏」に書くかのごとく書き散らす!というシリーズです。

******

X(旧Twitter)ユーザーの皆さん、インプレゾンビをご存じだろうか?

何万回も閲覧されている人気ポストのリプライを何気なく開いた時に並んでいる、ただ絵文字が付いただけのリプライ

トレンド一覧に並んでいる単語が記載されているだけで、全然関係のない動物の画像が添付されている意味不明なポスト

トレンドに上がっている単語を3つほど羅列しただけの、「さーて次回のサザエさんは?」ポスト

昨年あたりからこういったポストを目にするようになった。
アカウントの名前が明らかに日本人でないものも多い。

これらは全てインプレッション稼ぎ目的のポストである。
閲覧数を増やしてインプレッションを稼ぐと、X社の収益分配プログラムの仕組みにより投稿者は収益を得ることが出来る。

インプレゾンビはその収益を目的として投稿される無意味なポストとその投稿者を指すが、要するに他人のふんどしで相撲を取るどころか、ふんどしを次々と履き替えて土俵に上がるハイエナである。

とはいえ、それなりに収益を得るためには大量にゾンビポストを投稿する必要がある。
1つ1つ手動で投稿していたらとても割に合わないだろう。

そこでハイエナが目をつけたのがAIである。

インプレゾンビにはAIを利用して自動的に人気ポストにいち早くリプライしたり、トレンドワードを用いたポストを投稿したりするボットアカウントが多く存在する。

しかしこの場合、AIは物事の正誤や善悪を判断せず、インプレッションの多さでふんどしを決めるだろう。

能登半島地震の際には、事実ではない救助要請のポストが拡散されて問題になったことは記憶に新しいし、噂に過ぎない企業の不正や有名人の不貞行為などが話題になれば、インプレゾンビという名のAIによってまたたく間に拡散され、全く身に覚えのない風評被害につながることは想像に難くない。

先日、ChatGPTを開発したOpenAI社は、自社製品を利用した脅威についての報告書を発表し、その中で中国やロシアなどを拠点としたいくつかの組織が世論操作目的でAIを利用していることが特定された、と明らかにした。

この世論操作活動にはXなどのSNSが利用され、生成AIによる投稿が行われているとのことだが、日本は世界で最もXの利用時間(:閲覧時間)が長い国であるため、AI投稿による世論操作は効果的に機能してしまうかもしれない。

AI自体は素晴らしい技術だが、かつてノーベルが土木工事で使うために発明した(諸説あり)ダイナマイトが戦争を激化させてしまったように、本来の目的から外れて利用され、開発者が望まない結果がもたらされてしまうのは悲しいことだ。

個人的には、AIに踊らされないよう注意すべき時代が、いつの間にか到来していたことに驚きである。気をつけよう。

タイトルとURLをコピーしました