ロシアからの新たな情報脅威としての「人工知能への介入」＝ウクライナ偽情報対策センター

偽情報対策センターがテレグラム・チャンネルで報告した。

同センターは、「ますます多くの研究者が、ロシアからの新たな情報脅威である、人工知能の操作に注目している。具体的には、英国のシンクタンク『戦略対話研究所』（ＩＳＤ）は、クレムリンが、現代のチャットボットや生成ＡＩシステムの基盤となる、大規模言語モデル（ＬＬＭ）に影響を与えるための意図的な作戦を展開していると警告している」と伝えた。

この戦術は「ＬＬＭグルーミング」と呼ばれており、偽の情報を大量にインターネットに投入し、それらのデータが機械学習システムに取り込まれるようにするものだという。すると、その結果として、人工知能がクレムリンのメッセージを再現し始める。これは新たな情報影響力行使の形であり、その操作はソーシャルメディアやフェイクニュースだけでなく、何百万人もの人々が信頼できる情報源として認識している技術インフラ（ＡＩ）を通じて行われていると説明されている。

さらに、これまでのプロパガンダとは異なり、ＡＩを介した影響は人間の媒介を必要としないことも重要だと指摘されている。ＡＩアルゴリズムは、従来のメディアでは達成不可能な規模と速度でクレムリンのメッセージを拡散できる。この手段によると、あらゆるチャットボットや検索が隠れた影響力行使のチャンネルになる可能性があると警告されている。

その上で同センターは、それが民主主義世界にとって根本的に新しい脅威、情報面の主権侵害を生み出していると指摘している。センターは、アルゴリズムが何百万人もの人々の意見を形成する現代の世界において、クレムリンはデータをコントロールすることが新たな地政学的権力の形態になることを理解していると説明している。