AIの脅威：誤情報と2024年選挙

2024年の米国大統領選挙まであと1ヶ月となった今、AIが世論形成においてかつてない役割を果たしていることは疑いようがありません。AIは様々な業界でイノベーションを推進してきましたが、同時に、その能力を悪用して偽情報や欺瞞を企てる者たちにとって、ますますアクセスしやすくなっています。. 

国家情報長官室として 9月下旬に概要が発表された, ロシアとイランはAIを利用してアメリカの選挙に影響を与えようとしている。この警告は、今年の国際選挙で既に見られたAIによる偽情報キャンペーンが、今やアメリカでも起こっていることを裏付けている。選挙まで残り1ヶ月となった今、ディープフェイクを含むAIによる偽情報の増加は、有権者、政府、そしてソーシャルメディアプラットフォームにとって新たな課題となっている。.

誤情報の増加

スイムレーン 最近、サイバーセキュリティの意思決定者500人を対象に、職場内外におけるAIの活用に関する認識について調査を実施しました。完全なレポートは10月に公開される予定ですが、待てない統計データがありました。 サイバーセキュリティの意思決定者の74%は、AIを利用して誤解を招く情報を生成することは米国にとって重大なリスクをもたらすことに同意している。. これらの人々は、AI技術がますます安価になり、アクセスしやすくなっていることを身をもって知っています。その結果、11月5日に向けて、誤解を招く情報の量はますます増加するでしょう。.

AIはもはや、潤沢なリソースを持つ組織だけの領域ではありません。今日では、インターネット接続と基本的な知識があれば誰でもAIツールにアクセスできます。この民主化は多くの点で刺激的ですが、同時に、ディープフェイク動画から誤解を招く記事に至るまで、捏造されたメディアというパンドラの箱の鍵を開け、オンラインプラットフォームを氾濫させる脅威となっています。.

AIの最も憂慮すべき脅威の一つはディープフェイクの増加である。ディープフェイクとは、個人の行動や発言をリアルに捏造した非常に説得力のある動画であり、倫理的・社会的に深刻な影響を及ぼしている。最近の テイラー・スウィフトを巻き込んだディープフェイク いかに簡単に特定できる人物が標的にされるかを、身の毛もよだつ思いで思い知らせる出来事でした。そしてこれは、今年私たちが目にした数多くの事例の一つに過ぎません。.

視覚的な誤情報は、人々が本能的に見たものを信じてしまうため、特に危険です。そのため、一般の人にとっては、本物と改変されたコンテンツの区別が難しくなります。その影響は甚大で、特に政治の世界では、ディープフェイクによって候補者の信用が失墜したり、有権者を操作したりする可能性があります。.

法的および倫理的なグレーゾーン

AIと誤情報の交差は、特に言論の自由に関して難しい問題を提起します。ディープフェイクやAIによって操作されたコンテンツは、創造的な表現と悪意のある意図の境界線を曖昧にしています。編集されたコンテンツは、どの時点で芸術や風刺の域を脱し、危険な嘘へと変貌するのでしょうか？

法的な観点から見ると、この問題は特に難しい。偽情報に対処する法律はいくつかあるが、AI生成コンテンツの進化により、その執行は困難になっている。欧州連合は最近、 人工知能法, これはEUにおけるAIシステムに関する初の規制となります。しかし、米国では、ディープフェイクやAIコンテンツを規制する現行の連邦規制は、技術の急速な進歩に対応しきれていない可能性があり、重大な倫理的および法的課題が未解決のままとなっています。.

これからどこへ向かうのか

ディープフェイク、偽音声、あるいは高度にカスタマイズされたテキストメッセージなど、選挙に影響を与えるために利用されているのと同じAI駆動型の技術が、組織への侵入にもますます利用されています。現実には、AIは政治的操作に利用されているだけではありません。例えば、タイミングよくカスタマイズされたメールを送信し、新築住宅購入者を騙して決済金を誤った口座に振り込ませるといった、高度に標的を絞ったフィッシング攻撃にも利用されています。.

このレベルの高度化は、攻撃者に新たな手段をもたらし、既に拡大している攻撃対象領域をさらに拡大させます。業界全体でテクノロジーへの依存が深まるにつれ、サイバー脅威の量と複雑さはますます増大するでしょう。.

この急速なエスカレーションに対応するために、企業は オートメーション 統合する 人工知能 防御にAIが浸透しつつあります。攻撃側と防御側の双方でAIが活用されるようになるため、効率性が鍵となります。私たちが目指すべき方向性は明確です。攻撃者の先手を打つだけでなく、彼らと共に進化し、AIを活用してますます高度化するデジタル環境の課題に対処していくことです。.