Der Einsatz von KI sollte uns nicht davon abhalten, selbst zu denken.
Wir sind uns alle einig, dass „wir unseren Verstand einsetzen sollten“ und unterscheiden müssen, wann KI angebracht ist und wann nicht. Allerdings gibt es hier noch eine subtilere Frage.
Wir neigen dazu, unser Urteil auszusetzen, wenn wir mit den Fähigkeiten der KI konfrontiert werden.
Und ... Anbieter wissen das und kommunizieren oft nur die Stärken, ohne die Nachteile ihrer KI-Produkte zu erwähnen.
Das Ergebnis: Die Menschen haben unrealistische Erwartungen, die KI nicht erfüllen kann. Sie kaufen ein Tool in der Annahme, dass es alle ihre Probleme lösen wird, und sind am Ende enttäuscht.
Wie der Blog Eight2Late betont, sollten Anbieter sich auf Folgendes konzentrieren:
- Die Fähigkeiten der KI nicht überbewerten
- Transparenz hinsichtlich Produktbeschränkungen
- Kunden zeigen, wie sie sinnvoll mit KI umgehen können (ergänzen, nicht ersetzen)
Dies ist besonders relevant für die Informationssicherheit und die Vorbereitung auf ISO 27001. Im vergangenen Jahr habe ich viele KI-Tools gesehen, die „Einhaltung der Norm“ versprechen.
Diejenigen, die mit ISO 27001 vertraut sind, wissen, dass KI zwar hilfreich sein kann, aber kein Tool die Einhaltung der Vorschriften garantieren kann, insbesondere wenn menschliches Handeln erforderlich ist: Umsetzung von Aktionsplänen, Managementbewertungen usw.
Ich verstehe den Drang, Fähigkeiten „überzubewerten“. Der Wettbewerb und die Aufregung, eine neue Lösung anzubieten, können dies begünstigen.
Letztendlich ist dies jedoch eine erfolglose Strategie, da nicht eingehaltene Versprechen zu enttäuschten Kunden führen.
Darüber hinaus ist es in entscheidenden Bereichen wie der Informationssicherheit von entscheidender Bedeutung, hinsichtlich der Produktbeschränkungen transparent zu sein. Die Dokumentation dieser Beschränkungen auf Produktseiten und innerhalb des Produkts selbst kann einen Unterschied machen. Es ist auch wichtig, den Benutzern Anleitungen zu geben, wo sie „weiterhin ihren Verstand einsetzen“ sollten.
Kurz gesagt: Wir sind noch dabei, die Rolle der KI in unserem Berufsleben zu definieren. Das Marketing übertreibt diese Rolle oft, was nicht immer zum Vorteil des Käufers ist.
Wenn es um Informationssicherheit geht, achte ich heute sowohl als Käufer als auch als Hersteller auf Folgendes:
- Transparenz hinsichtlich der Grenzen der KI
- Bereiche, in denen KI nicht vertrauenswürdig ist (wahrscheinlich falsche Informationen liefert)
- Kritisches Engagement fördern, nicht blindes Vertrauen
- Empfehlungen für zusätzliche Wissensquellen über KI hinaus, wie beispielsweise von Experten geleitete Kurse
- Hype vermeiden; KI ist nur ein Werkzeug, kein denkendes Wesen
- Aufzeigen der Gefahren und Risiken im Zusammenhang mit der Nutzung des KI-Systems
Diese Schritte können dazu beitragen, den Einsatz von KI im Sicherheitsbereich ethischer zu gestalten.
Jetzt fragen Sie sich vielleicht.
Wie passt der ISMS Copilot in diese Vision?
Der ISMS Copilot wurde unter Berücksichtigung dieser Grundsätze entwickelt. Er stellt sicher, dass KI als wertvolles Werkzeug dient, ohne menschliches Fachwissen in den Hintergrund zu drängen.
- Transparenz hinsichtlich Einschränkungen: Der ISMS Copilot macht deutlich, was er leisten kann und was nicht. Er unterstützt bei der Dokumentation, gibt Anleitungen und optimiert Prozesse, ersetzt jedoch nicht das menschliche Urteilsvermögen und die Entscheidungsfindung.
- Förderung kritischer Auseinandersetzung: Der Copilot ermutigt Benutzer, sich kritisch mit den bereitgestellten Informationen auseinanderzusetzen. Wir haben in der Benutzeroberfläche deutlich gemacht, dass der Assistent Fehler machen kann. Außerdem haben wir eine Reihe von Ressourcen veröffentlicht, die auf häufige Fehler im Rahmen des ISO 27001-Implementierungsprozesses hinweisen. Wir sind davon überzeugt, dass diese Aufklärungsmaßnahmen die Bedeutung menschlicher Kontrolle und Validierung unterstreichen.
- Ergänzende Wissensquellen: Der Copilot empfiehlt häufig zusätzliche Ressourcen wie von Experten geleitete Kurse oder offizielle ISO-Dokumentationen, um sicherzustellen, dass die Benutzer ein umfassendes Verständnis von ISO 27001 haben. Er erkennt, dass KI ein Werkzeug zur Erweiterung des menschlichen Fachwissens ist und keine eigenständige Lösung.
- Hype vermeiden: Der ISMS Copilot präsentiert sich nicht als Wunderlösung (genau das tun wir jetzt, aber wir haben es auch hier getan). Wir betonen, dass der ISMS Copilot lediglich ein Assistent ist, der Daten verarbeitet und auf der Grundlage trainierter Muster strukturierte Anleitungen gibt. Die Nutzer bleiben die Entscheidungsträger, sie sind Eigentümer ihres ISMS.
- Auf Gefahren hinweisen: Wir gehen offen mit den potenziellen Risiken um, die mit der Nutzung von KI verbunden sind. Wir fordern unsere Nutzer auf, die Grundsätze für einen sicheren Umgang mit KI-Systemen zu befolgen. Außerdem haben wir ein Trust Center eingerichtet, um Kunden dabei zu helfen, die mit der Nutzung des ISMS Copilot verbundenen Risiken zu verstehen.
Durch die Einhaltung dieser Grundsätze verfolgt ISMS Copilot einen ethischeren und realistischeren Ansatz für KI im Bereich der Informationssicherheit. Es hilft Anwendern, sich in den Komplexitäten der ISO 27001-Konformität zurechtzufinden und gleichzeitig die Kontrolle zu behalten, indem sie fundierte Entscheidungen auf der Grundlage einer Kombination aus KI-Unterstützung und ihrem Fachwissen treffen.
Wir hoffen, dass Sie diese Klarstellung zu schätzen wissen.