Einblicke in die KI-Sicherheitsgovernance von Sicherheitsexperten

Künstliche Intelligenz (KI) verändert die Welt rasant. Cybersicherheit Die Landschaft bietet innovative Lösungen für komplexe Herausforderungen. Diese Innovation wirft jedoch kritische Fragen auf: 

• Wie sollten wir die KI-Governance gestalten, um einen verantwortungsvollen Einsatz zu gewährleisten und Schäden zu minimieren? 
• Macht KI es unmöglich, Innovation und Vertraulichkeit in Einklang zu bringen?

Wir bei Swimlane setzen uns für innovative und zukunftsweisende Lösungen ein, die sowohl sicher als auch wirkungsvoll für Ihr Unternehmen sind. Dabei legen wir Wert auf Transparenz, damit Sie sich im Informationsdschungel zurechtfinden und fundierte Entscheidungen treffen können.

Wir sind vor Kurzem eine Partnerschaft eingegangen mit Sapio Forschung Eine Studie befragte 500 Führungskräfte im Bereich Cybersicherheit in den USA und Großbritannien, um die anhaltende Debatte um die Regulierung von KI zu untersuchen. Die Ergebnisse zeigen unterschiedliche Meinungen darüber, wer die Verantwortung für die Überwachung von KI tragen sollte, und verdeutlichen wichtige Perspektiven auf die Rechenschaftspflicht von Regierungen und Anbietern.

Unsere Forschung liefert zwar wertvolle Erkenntnisse, doch die unverfälschten Perspektiven ehemaliger und aktueller Chief Information Security Officers (CISOs) besitzen eine ganz besondere Aussagekraft. In einem kürzlich abgehaltenen Webinar…, KI-Realitätscheck: CISOs erläutern ihre Rolle in der Cybersicherheit, CEO von TAG Cyber und ehemaliger CISO von AT&T Ed Amoroso trat dem Swimlane CISO bei Michael Lyborg für eine ausführliche Diskussion über die Forschungsergebnisse und den Stand der KI in der Cybersicherheit.

Dieser Blogbeitrag ist der erste Teil einer dreiteiligen Serie, die die Forschungsergebnisse und die im Webinar vorgestellten Expertenmeinungen zusammenfasst. Lesen Sie weiter, um die wichtigsten Ergebnisse zu entdecken, und laden Sie den vollständigen Bericht für detailliertere Informationen herunter: Erfüllt KI ihre Versprechen im Bereich Cybersicherheit?

Wichtigste Forschungsergebnisse im Bereich KI

Das Paradoxon von Politik und Praxis 

Während 70%-Organisationen über Protokolle für den Datenaustausch mit öffentlichen großen Sprachmodellen (LLMs) verfügen, ist 74% bekannt, dass Mitarbeiter sensible Daten in diese Modelle eingeben. Dies deutet auf eine Diskrepanz zwischen Richtlinie und Praxis hin.

Der KI-Hype-Zyklus: Müdigkeit und Akzeptanz 

Trotz zunehmender KI-Müdigkeit und Skepsis prägt die Nachfrage nach KI- und Machine-Learning-Expertise weiterhin die Prioritäten der Arbeitskräfte.

• 76% der Befragten glauben, dass die aktuelle KI Der Markt ist mit Hype übersättigt.
• 55% der Befragten äußerten Müdigkeit aufgrund der ständigen Fokussierung auf KI

Demgegenüber stehen 851 von 30 Befragten, die bestätigen, dass Erfahrung mit KI und ML ihre Einstellungsentscheidungen beeinflusst. Dies deutet darauf hin, dass KI-Kenntnisse trotz des Hypes in der Arbeitswelt zunehmend an Bedeutung gewinnen.

Ist KI nur überbewertet oder treibt sie tatsächlich das Wachstum voran? Diese Frage ist zwar noch Gegenstand von Diskussionen, doch unser kürzlich abgehaltenes Webinar lieferte Einblicke von aktuellen und ehemaligen CISOs und befasste sich eingehend mit diesem Thema. 

In KI-Realitätscheck: CISOs erläutern ihre Rolle in der Cybersicherheit, Swimlane-CISO Mike Lyborg und Tag-Cyber-CEO Ed Amoroso waren sich einig, dass KI bereits heute konkrete Lösungen bietet. Sie betonten jedoch, dass Anbieter, die ihre Kommunikation mit KI überfrachten, ohne Anwendungsfälle aus der Praxis aufzuzeigen, lediglich zur Informationsflut beitragen und es Sicherheitsverantwortlichen und Einkäufern erschweren, die relevanten Informationen herauszufiltern. 

Wenn Sie Schwierigkeiten haben, sich im unübersichtlichen Fachjargon der KI-Branche zurechtzufinden, bietet Ihnen dieser Blog zum Thema … 8 wichtige Fragen an Anbieter von KI-Sicherheit wird Ihnen helfen, die Informationsflut zu durchdringen und fundiertere Entscheidungen zu treffen.

Die Debatte um KI-Governance 

Unser Forschungsbericht untersucht auch die zentrale Frage der KI-Governance und beleuchtet dabei eine gespaltene Sichtweise: 

• Begrenzte Rolle der Regierung: Lediglich 28% der Befragten sind der Ansicht, dass die Regierung die primäre Verantwortung für die KI-Governance tragen sollte.
• Verantwortung des Anbieters: Fast die Hälfte (46%) ist der Ansicht, dass die Unternehmen, die KI entwickeln, in erster Linie für die Folgen verantwortlich sein sollten, wenn KI-Systeme Schaden verursachen.

Um diese uneinheitliche Landschaft besser zu verstehen, haben wir unsere CISO-Experten nach ihren praktischen Erfahrungen gefragt. Hier ist eine Zusammenfassung ihrer Aussagen. 

• Organische Regierungsführung: Sowohl Amoroso als auch Lyborg betonen die Notwendigkeit einer organischen KI-Governance, die sich parallel zur Technologie weiterentwickelt. Sie warnen vor übermäßigen staatlichen Eingriffen.
• Individuelle Verantwortung: Die CISOs erkannten zwar die Rolle von Anbietern und Organisationen an, betonten aber gleichzeitig die Wichtigkeit der individuellen Verantwortung für den ethischen und verantwortungsvollen Umgang mit KI-Tools.

Tipps und Erkenntnisse für CISOs im Zeitalter der KI 

Sowohl Forschungsdaten als auch Expertenmeinungen aus der Praxis unterstreichen die Notwendigkeit eines ausgewogenen Ansatzes für KI in der Cybersicherheit. KI bietet zwar ein immenses Innovationspotenzial, doch müssen Organisationen die Risiken für die Vertraulichkeit proaktiv angehen. Dies beinhaltet:

• Klare Richtlinien und Schulungen: Die Festlegung und Durchsetzung klarer Richtlinien für den Einsatz von KI in Verbindung mit einer umfassenden Mitarbeiterschulung ist unerlässlich.
• Fokus auf Wert: Es ist entscheidend, den KI-Hype zu durchschauen und sich auf Lösungen zu konzentrieren, die echten Mehrwert bieten.
• Gemeinsame Regierungsführung: Um sich in der komplexen Landschaft der KI zurechtzufinden und ihre verantwortungsvolle und ethische Nutzung zu gewährleisten, ist ein kollaborativer Ansatz in der Steuerung erforderlich, der Regierungsbehörden, Anbieter und einzelne Nutzer einbezieht.

KI ist kein Allheilmittel für alle Probleme Herausforderungen der Cybersicherheit. Mit durchdachter Steuerung und dem Fokus auf ein ausgewogenes Verhältnis zwischen Innovation und Vertraulichkeit kann KI jedoch ein wirksames Instrument zur Verbesserung der Sicherheitslage sein. Wichtig ist, das Potenzial von KI zu nutzen und gleichzeitig ihre Risiken zu minimieren, damit Innovation nicht auf Kosten der Vertraulichkeit geht.