공공 부문 내에서 제너레이티브 AI를 안전하게 활성화하는 방법

제너레이티브 인공 지능 (AI) 은 전 세계의 관심을 끌고 있습니다.수백만 명의 사람들이 매일 GenAI 서비스를 사용하고 있으며, 이제 막 GenAI 서비스가 우리 조직에 미칠 수 있는 영향을 발견하기 시작했습니다.ChatGPT와 같은 제너레이티브 AI 플랫폼이 제공하는 혁신에 대한 생산성 향상과 지원은 이미 특히 공공 부문에서 우리가 일하는 방식을 바꾸고 있습니다.제너레이티브 AI는 기관이 공공 정책, 서비스 및 프로그램에 대해 더 빠르고 정확한 결정을 내릴 수 있도록 도와줍니다.공무원의 시간을 절약하기 위해 일상적인 작업을 자동화하든 공공 서비스를 개선하든 그 영향은 상당합니다.보스턴 컨설팅 그룹은 2033년까지 미국 공공 부문에서 제너레이티브 AI가 제공하는 생산성 향상의 가치가 연간 5190억 달러에 달할 것으로 추정합니다.

정부 내 제너레이티브 AI의 기회

공공 부문은 아직 다양한 기능 내에서 제너레이티브 AI를 활용하는 방법을 이해하는 초기 단계에 있지만 보스턴 컨설팅 그룹 정부를 위한 몇 가지 사용 사례를 정의했습니다.

• 정책 개발을 위한 역량 확대
• 서비스 제공 성과 향상
• 정부 내부 업무 개선
• 규정 개발, 규정 준수 및 보고를 간소화합니다.
• 정부 전체의 전략 및 정책 가속화

기관에서 이러한 사용 사례를 대규모로 지원하기 위해 노력함에 따라 각 채택 단계에서 사이버 보안 태세에 미치는 영향을 고려해야 합니다.제너레이티브 AI는 상당한 생산성을 제공하고 혁신을 지원할 수 있지만 시민과 정부의 데이터는 보호되어야 합니다.GenAI를 사용하면 사설 데이터가 다른 일반적인 데이터 손실 경로보다 훨씬 더 많은 대상에게 도달할 수 있습니다.ChatGPT 및 기타 플랫폼은 채팅 기록과 같은 데이터를 저장하여 모델을 학습하고 개선합니다.즉, 입력 데이터를 사용하여 모델을 학습시키고 나중에 다른 사용자에게 노출될 수 있습니다.또한 ChatGPT와 같은 플랫폼은 해커가 보다 정교하고 효과적인 피싱 공격을 감행할 수 있는 장벽을 낮췄습니다. 이러한 도구는 여러 언어로 매우 설득력 있고 정확한 글을 작성할 수 있기 때문입니다.

기관은 제너레이티브 AI가 시민, 기업, 정부에 미칠 수 있는 긍정적인 영향의 균형을 맞추는 동시에 잠재적인 보안 위험을 차단해야 합니다.

AI에 관한 행정 명령

2023년 10월 30일, 대통령은 “인공 지능의 안전하고 보안되며 신뢰할 수 있는 개발 및 사용에 관한 행정 명령“AI를 안전하고 책임감 있게 사용하는 것이 가장 시급했습니다.이번 행정 명령은 인공 지능에 초점을 맞추고 있지만, 제너레이티브 AI에는 다음과 같은 핵심 측면이 있습니다.

“기관들은 제너레이티브 AI의 사용을 광범위하게 금지하거나 차단하는 것을 권장하지 않는다.” 대신 “적어도 미국인의 권리에 영향을 미칠 위험이 낮은 실험 및 일상 업무의 목적으로” 제너레이티브 AI를 활용하기 위한 적절한 보호 장치를 마련할 것을 촉구합니다.

사용자와 데이터를 보호하기 위해 일부 기관에서는 제너레이티브 AI 사용을 차단하고자 할 수 있습니다.그러나 이러한 접근 방식은 혁신과 생산성을 크게 저해할 뿐만 아니라 이제는 행정 명령에 의해 권장되지 않습니다.

기관 내에서 제너레이티브 AI를 안전하게 활성화하는 방법

기관은 다음과 같이 행정 명령에 부합하는 방식으로 제너레이티브 AI 사용을 보호하는 방법을 찾을 수 있습니다.

데이터 손실을 위한 계층적 접근 방식

대부분의 조직은 데이터 손실 방지 정책 (DLP) 을 GenAI의 가드레일로 채택할 것입니다.하지만 DLP만으로는 충분하지 않습니다. 사용자가 데이터를 입력하는 다양한 경로로 인해.대신 기관은 제너레이티브 AI 플랫폼이 활용되는 특정 방식을 다루는 새로운 기능을 갖춘 계층형 접근 방식을 채택해야 합니다.

그룹 수준과 도메인 수준의 보호

제너레이티브 AI를 위한 보호 수단으로 기술을 채택할 때는 도메인별 정책과 달리 제너레이티브 AI 그룹 수준에서 정책을 활성화하는 것이 매우 중요합니다.새로운 제너레이티브 AI 플랫폼이 등장함에 따라 보안 및 IT 팀이 정책을 일관되고 지속적으로 업데이트하는 것은 거의 불가능합니다.

인터넷을 통한 위협으로부터 보호

기관 내 프로세스를 개선하는 데 제너레이티브 AI가 사용되는 것처럼, 악의적인 공격자들은 공격의 품질과 속도를 개선하기 위해 제너레이티브 AI를 사용하고 있습니다.기관은 악의적인 공격자가 아무리 개선되더라도 사용자와 데이터를 보호할 수 있도록 인터넷으로 인한 위협으로부터 보호하는 기술을 채택해야 합니다.

브라우저 보안에서 가장 신뢰할 수 있는 이름

Menlo Security를 통해 기관은 제너레이티브 AI를 안전하게 채택하고 데이터 손실과 피싱 공격으로부터 보호할 수 있습니다.멘로 시큐리티는 기관을 보호하는 데 도움이 됩니다. 데이터 손실 방지 Menlo 보안 데이터 손실 방지 (DLP), 복사 및 붙여넣기, 문자 제한 제어 및 브라우저 포렌식을 사용하여 ChatGPT 및 기타 생성 AI 도구에 입력되는 데이터를 제어하여 위험을 감수합니다.Menlo Security는 피싱 공격을 회피하기 위해 제로데이 및 알려진 웹 익스플로잇, 무기화된 문서, 악성 페이로드가 포함된 암호로 보호되는 아카이브, 난독화 기법으로부터 기관을 보호합니다.

AI 거버넌스는 반복적이지만 기관을 보호하기 위한 조치를 취하는 것이 중요합니다.멘로 시큐리티가 어떻게 도움이 될 수 있는지 알아보려면 맞춤형 데모에 참여하세요.