ChatGPTと新しいAIは、興奮と恐怖を伴う形でサイバーセキュリティに大きな影響を与えています。

生成的人工知能は、サイバーセキュリティを変革しており、攻撃者と防御者の両方に役立っています。サイバー犯罪者はAIを利用して大規模かつ洗練された攻撃を行っています。そして、防御者は同じ技術を使用して、重要なインフラ、政府機関、企業ネットワークを保護しています。これは、脅威インテリジェンスプラットフォームであるRecorded FutureのCEOであるクリストファー・アールバーグ氏が発言しています。

生成AIは、悪意のある行為者がイノベーションを起こし、新しい攻撃戦略を開発するのを支援しており、それにより彼らはサイバーセキュリティの防御策の一歩先に進むことができます。AIは、サイバー犯罪者が攻撃を自動化し、攻撃対象の表面をスキャンし、さまざまな地理的領域や人口統計に合ったコンテンツを生成するのを助けるため、異なる国で幅広い範囲の潜在的な被害者を狙うことができます。サイバー犯罪者は、信憑性のあるフィッシングメールを作成するためにこの技術を採用しました。AIによって生成されたテキストは、攻撃者がより個人に合わせたメールやテキストメッセージを作成するのに役立ち、ターゲットを騙す可能性が高くなります。

"クリエイティブに考える必要はないと思いますが、実際にはこれはサイバー犯罪者が著作者になるのを助ける可能性があるという問題があります」、アールバーグ氏は述べました。

防御者は攻撃を防ぐためにAIを利用しています。組織はこの技術を使って、リークを防止したり、ネットワークの脆弱性を先読みしたりしています。それはまた、特定のキーワードの警告を設定したり、オンラインでの機密情報の検出を動的に自動化するタスクを行ったりします。脅威ハンターはAIを使用して、異常なパターンを特定したり、大量のデータを要約したり、情報源の複数の情報と隠れたパターンをつなぎ合わせたりしています。

作業はまだ専門家の手が必要ですが、アールベリュク氏は、ChatGPTのようなプロジェクトで見ている生成型AI技術は助けになると述べています。

「私たちは分析サイクルを加速させ、思考のスピードで分析を行うために助けを求めています」と彼は述べました。「それは非常に困難なことであり、私たちはここで突破口を見つけていると思います。それは非常に興奮することです。」

Ahlbergさんは、高度に知能を持つ機械がもたらす可能性のある脅威についても議論しました。世界がますますデジタル化し、つながり合うにつれて、現実を曲げ、認識を形作る能力が悪意のある行為者によって悪用される可能性があります。これらの脅威は国家に限定されるものではなく、それによって風景は一層複雑で非対称になります。

人工知能は、これらの新興脅威への対策に役立つ潜在能力を持っていますが、それ自体にもリスクが存在します。例えば、高い処理能力を持つ機械は、人間よりも速く、効果的にシステムをハックすることができます。これらの脅威に対抗するためには、AIが防御的に使用され、制御が誰にあるのかを明確に理解する必要があります。

AIが社会により統合されるにつれて、立法者、裁判官、その他の意思決定者がその技術とその影響を理解することが重要です。技術の専門家と政策立案者の間に強力な連携を構築することは、脅威狩りやその先のAIの未来を進む上で重要になります。

セキュリティにおけるAIの機会、課題、および倫理的な考慮事項は複雑で進化しています。バイアスのないAIモデルの確保と意思決定における人間の関与の維持は、倫理的な課題を管理するのに役立ちます。警戒心、協力、そして技術の明確な理解が、高度な知性を持つ機械の潜在的な長期的な脅威に対処する上で重要となります。

Ahlberg氏は、中国、ロシア、そして経済的な敵対者が自律型マシンを展開することについても懸念を示しました。これらの国々はおそらくAIの開発を遅らせたり、倫理的な考慮を共有することはありません。そのようなマシンの「電源を切る」という能力を持つことは賢明な保護策ですが、テクノロジーが社会や世界経済に統合されることで、それを切り離すのは困難になると彼は指摘しています。Ahlberg氏は、製品やマシンの設計において、それを制御するのは誰かという点について明確にする必要があると強調しています。

「インターネットがすべてのことにおいて大きな影響を与えたのは、インターネットが世界の情報が集まる場所になったからです」とアールベリさんは語りました。「これらの大きな言語モデルは非常に魔法のようなことをしていて...思考サイクルを加速させているのです。」

彼は付け加えました、「次の25年で、世界はインターネットの映し出しになります。」