公共部門でジェネレーティブAIを安全に活用する方法

ジェネレーティブ人工知能（AI）は、世界の注目を集めています。何百万人もの人々が GenAI サービスを毎日使用していますが、それが私たちの組織に与える影響を発見し始めたばかりです。ChatGPTのようなジェネレーティブAIプラットフォームが提供する生産性の向上とイノベーションへの支援は、特に公共部門において、すでに私たちの働き方を変えています。ジェネレーティブAIは、政府機関が公共政策、サービス、プログラムに関するより適切かつ迅速な意思決定を行うのに役立ちます。公務員の時間を空けるために日常的なタスクを自動化する場合でも、公共サービスを改善する場合でも、その影響は甚大です。ボストン・コンサルティング・グループは、ジェネレーティブAIが米国の公共部門にもたらす生産性の向上は、2033年までに年間5190億ドルに達すると予測しています。

政府におけるジェネレーティブAIの機会

公共部門は、ジェネレーティブAIをさまざまな機能にどのように活用するかを理解する初期段階にまだありますが、 ボストン・コンサルティング・グループ 政府機関向けのユースケースをいくつか定義しています。

• 政策立案能力の拡大
• サービス提供成果の向上
• 政府の内部業務の改善
• 規制の策定、コンプライアンス、報告を合理化
• 政府全体の戦略と政策の促進

政府機関はこれらのユースケースを大規模に実現するよう取り組んでいるため、導入の各段階でサイバーセキュリティ体制への影響を考慮する必要があります。ジェネレーティブAIは生産性を大幅に高め、イノベーションを支援できますが、市民や政府のデータを保護する必要があります。GenAI を利用することで、プライベートデータは他の一般的なデータ損失手段よりもはるかに幅広い利用者に届く可能性があります。ChatGPTやその他のプラットフォームは、モデルのトレーニングや改善のために、チャット履歴などのデータを保存します。つまり、入力データをモデルのトレーニングに使用して、後で他のユーザーに公開できる可能性があるということです。さらに、ChatGPTのようなプラットフォームは、ハッカーがより高度で効果的なフィッシング攻撃を仕掛ける際の障壁を下げました。これらのツールは多くの言語で非常に説得力があり正確な文章を作成できるからです。

政府機関は、潜在的なセキュリティリスクを食い止めながら、ジェネレーティブAIが市民、企業、政府にもたらすプラスの影響のバランスを取れるようにする必要があります。

AI に関する行政命令

2023年10月30日、大統領は次のように発表しました。人工知能の安全、確実、かつ信頼できる開発および使用に関する大統領令」これは、AIの安全で責任ある使用を最優先課題としていました。今回の大統領令は人工知能に焦点を当てているが、ジェネレーティブAIには重要な側面がある。

「政府機関は、ジェネレーティブAIの使用を政府機関による広範な一般的な禁止または阻止を課すことを思いとどまらせる」が、代わりに「少なくともアメリカ人の権利に影響を与えるリスクが低い実験や日常業務の目的で」ジェネレーティブAIを利用するための適切な保護措置を講じるよう求められている。

ユーザーとデータを保護するために、ジェネレーティブAIの使用を禁止したい機関もあります。しかし、このアプローチはイノベーションと生産性を著しく阻害するだけでなく、大統領令により推奨されなくなりました。

エージェンシー内でジェネレーティブAIを安全に活用する方法

政府機関は、以下を利用して行政命令に沿った方法でジェネレーティブAIの使用を確保する方法を見つけることができます。

データ損失に対する階層型アプローチ

ほとんどの組織は、GenAI のガードレールとしてデータ損失防止ポリシー (DLP) を採用します。しかし、DLP だけでは十分ではありません。 ユーザーがデータを入力する手段はさまざまであるため。代わりに、政府機関は、ジェネレーティブAIプラットフォームの具体的な利用方法に対応する新しい機能を備えた階層型アプローチを採用する必要があります。

グループレベルとドメインレベルの保護

ジェネレーティブAIの保護手段としてテクノロジーを採用する場合、ドメインごとではなく、ジェネレーティブAIグループレベルでポリシーを有効にすることが非常に重要です。新しいジェネレーティブ AI プラットフォームが登場しても、セキュリティチームと IT チームが一貫してポリシーを更新し続けることはほぼ不可能です。

インターネットを媒介する脅威からの保護

ジェネレーティブAIが機関内のプロセスを改善するために使用されているように、攻撃者はジェネレーティブAIを使用して攻撃の質と速度を向上させています。政府機関は、インターネットを媒介する脅威から保護するテクノロジーを採用して、攻撃者がどれだけ改善しても、ユーザーとデータを保護し続ける必要があります。

ブラウザセキュリティで最も信頼されている名前

Menlo Securityを使用すると、政府機関はジェネレーティブAIを安全に採用し、データ損失とフィッシング攻撃の両方から保護できます。Menlo Securityは政府機関の保護に役立ちます。 データ損失に対して Menlo Securityのデータ損失防止（DLP）、コピー＆ペースト、文字制限制御、ブラウザフォレンジックを使用して、ChatGPTやその他のジェネレーティブAIツールへのデータ入力を制御することによるリスクがあります。回避型フィッシング攻撃の場合、Menlo Securityは、ゼロデイ攻撃や既知のWebエクスプロイト、武器化された文書、悪意のあるペイロードを含むパスワードで保護されたアーカイブ、および難読化技術から政府機関を保護するのに役立ちます。

AIガバナンスは反復的ですが、政府機関を保護するための行動を開始することが重要です。Menlo Securityがどのように役立つかを学ぶには、 パーソナライズされたデモにご参加ください。