NEUIGKEITEN:
Menlo Security kündigt strategische Partnerschaft mit Google an
Generative künstliche Intelligenz (KI) hat die kollektive Aufmerksamkeit der Welt auf sich gezogen. Millionen von Menschen nutzen täglich die Dienste von GenAI, und wir haben gerade erst angefangen zu entdecken, welche Auswirkungen dies auf unsere Organisationen haben könnte. Die Steigerung der Produktivität und die Unterstützung von Innovationen, die generative KI-Plattformen wie ChatGPT bieten, verändern bereits unsere Arbeitsweise, insbesondere im öffentlichen Sektor. Generative KI kann Behörden dabei helfen, bessere und schnellere Entscheidungen in Bezug auf öffentliche Richtlinien, Dienste und Programme zu treffen. Ganz gleich, ob es darum geht, alltägliche Aufgaben zu automatisieren, um einem Beamten Zeit zu verschaffen, oder um die Verbesserung eines öffentlichen Dienstes — die Wirkung ist erheblich. Die Boston Consulting Group schätzt, dass sich die Produktivitätsgewinne generativer KI für den öffentlichen Sektor in den USA bis 2033 auf 519 Milliarden US-Dollar pro Jahr belaufen werden.
Der öffentliche Sektor befindet sich noch in einem frühen Stadium des Verständnisses, wie generative KI in verschiedenen Funktionen eingesetzt werden kann, jedoch Boston Consulting Group hat einige Anwendungsfälle für die Regierung definiert:
Während die Behörden daran arbeiten, diese Anwendungsfälle in großem Umfang zu ermöglichen, müssen die Auswirkungen auf die Cybersicherheit in jeder Phase der Einführung berücksichtigt werden. Generative KI kann zwar zu erheblicher Produktivität führen und Innovationen unterstützen, aber die Daten der Bürger und der Regierung müssen geschützt werden. Mit GenAI haben private Daten das Potenzial, ein viel breiteres Publikum zu erreichen als andere typische Arten von Datenverlust. ChatGPT und ähnliche Plattformen speichern Daten wie den Chatverlauf, um ihre Modelle zu trainieren und zu verbessern. Das bedeutet, dass Eingabedaten zum Trainieren der Modelle verwendet und möglicherweise später anderen Benutzern zugänglich gemacht werden könnten. Darüber hinaus haben Plattformen wie ChatGPT die Barrieren für Hacker gesenkt, um raffiniertere und effektivere Phishing-Angriffe zu starten, da diese Tools in vielen Sprachen sehr überzeugende und korrekte Texte erzeugen können.
Behörden müssen sicherstellen, dass sie in der Lage sind, die positiven Auswirkungen, die generative KI auf Bürger, Unternehmen und Regierungen haben kann, abzuwägen und gleichzeitig die potenziellen Sicherheitsrisiken zu verhindern.
Am 30. Oktober 2023 veröffentlichte der Präsident eine“Exekutivverordnung über die sichere und vertrauenswürdige Entwicklung und Nutzung künstlicher Intelligenz„was dem sicheren und verantwortungsvollen Umgang mit KI höchste Dringlichkeit eingeräumt hat. Während sich diese Exekutivverordnung auf künstliche Intelligenz konzentriert, gibt es im Bereich der generativen KI einen wichtigen Aspekt:
„Behörden werden davon abgehalten, weitreichende allgemeine Verbote oder Blockaden für den Einsatz generativer KI durch Behörden zu verhängen“, sondern stattdessen aufgefordert, angemessene Schutzmaßnahmen zu ergreifen, um generative KI „zumindest für Experimente und Routineaufgaben einzusetzen, die ein geringes Risiko bergen, die Rechte der Amerikaner zu beeinträchtigen“.
Um Benutzer und Daten zu schützen, möchten einige Behörden möglicherweise den Einsatz generativer KI blockieren. Dieser Ansatz würde jedoch nicht nur Innovation und Produktivität erheblich behindern, sondern wird jetzt auch durch die Executive Order davon abgehalten.
Behörden können einen Weg finden, die Nutzung generativer KI so abzusichern, dass sie der Executive Order entspricht, indem sie:
Die meisten Unternehmen werden Richtlinien zur Verhinderung von Datenverlust (DLP) als Leitplanken für GenAI einführen. DLP allein reicht jedoch nicht aus aufgrund der unterschiedlichen Möglichkeiten, auf denen Benutzer Daten eingeben. Stattdessen müssen die Behörden einen mehrschichtigen Ansatz mit neuen Funktionen verfolgen, die sich mit der spezifischen Art und Weise befassen, wie generative KI-Plattformen genutzt werden.
Bei der Einführung von Technologie als Schutzmaßnahme für generative KI ist es äußerst wichtig, Richtlinien auf generativer KI-Gruppenebene und nicht auf Domänenbasis zu aktivieren. Es wäre für Sicherheits- und IT-Teams fast unmöglich, Richtlinien konsistent und ständig zu aktualisieren, wenn neue generative KI-Plattformen entstehen.
So wie generative KI zur Verbesserung der Prozesse innerhalb von Behörden eingesetzt wird, nutzen böswillige Akteure generative KI, um die Qualität und Geschwindigkeit ihrer Angriffe zu verbessern. Behörden müssen Technologien einsetzen, die vor Bedrohungen aus dem Internet schützen, damit Nutzer und Daten geschützt bleiben, egal wie sehr sich böswillige Akteure verbessern.
Menlo Security ermöglicht es Behörden, generative KI sicher einzusetzen und sich sowohl vor Datenverlust als auch vor Phishing-Angriffen zu schützen. Menlo Security hilft, Behörden zu schützen gegen Datenverlust Risiko durch Kontrolle der Dateneingabe in ChatGPT und andere generative KI-Tools mithilfe von Menlo Security Data Loss Prevention (DLP), Copy & Paste und Character Limit Controls sowie Browser Forensics. Bei ausweichenden Phishing-Angriffen schützt Menlo Security Behörden vor Zero-Day- und bekannten Web-Exploits, bewaffneten Dokumenten, passwortgeschützten Archiven mit bösartigen Nutzdaten und Verschleierungstechniken.
Die KI-Governance ist iterativ, aber es ist wichtig, Maßnahmen zum Schutz der Behörden zu ergreifen. Um zu erfahren, wie Menlo Security helfen kann, besuchen Sie uns für eine personalisierte Demo.
