Por qué el ISMS Copilot no es una solución mágica

Usar IA no debería hacernos dejar de pensar.

Todos coincidimos en que "debemos usar el cerebro" y discernir cuándo la IA es apropiada y cuándo no. Sin embargo, hay un problema más sutil en juego aquí.

Tendemos a suspender nuestro juicio cuando se nos presentan las capacidades de la IA.

Y... los proveedores lo saben. A menudo comunican solo las fortalezas de sus productos de IA sin discutir sus desventajas.

El resultado: las personas tienen expectativas irreales que la IA no puede cumplir. Compran una herramienta pensando que resolverá todos sus problemas y terminan decepcionados.

Como señala el blog Eight2Late, los proveedores deberían enfocarse en:

• No exagerar las capacidades de la IA
• Ser transparentes sobre las limitaciones del producto
• Mostrar a los clientes cómo interactuar con la IA de manera significativa (aumentar, no reemplazar)

Esto es especialmente relevante en seguridad de la información y en la preparación para la ISO 27001. En el último año, he visto muchas herramientas de IA que prometen "cumplimiento con la norma".

Quienes conocen la ISO 27001 saben que la IA puede ayudar, pero ninguna herramienta puede garantizar el cumplimiento, especialmente cuando se requieren acciones humanas: completar planes de acción, revisiones de la dirección, etc.

Entiendo el impulso de "exagerar" las capacidades. La competencia y la emoción de ofrecer una nueva solución pueden impulsar esto.

Pero, en última instancia, es una estrategia perdedora porque las promesas incumplidas resultan en clientes decepcionados.

Además, en áreas críticas como la seguridad de la información, es vital ser transparente sobre las limitaciones de los productos. Documentar estas limitaciones en las páginas del producto y dentro del propio producto puede marcar la diferencia. También es esencial proporcionar orientación al usuario sobre dónde "seguir usando el cerebro".

En resumen, aún estamos descubriendo el papel de la IA en nuestras vidas profesionales. El marketing a menudo infla este papel, lo que no siempre beneficia al comprador.

Cuando se trata de seguridad de la información, esto es lo que ahora busco, tanto como comprador como creador:

• Transparencia sobre las limitaciones de la IA
• Áreas donde la IA no se puede confiar (probabilidad de producir información incorrecta)
• Fomentar un compromiso crítico, no una confianza ciega
• Recomendaciones para fuentes de conocimiento adicionales más allá de la IA, como cursos impartidos por expertos
• Evitar el bombo publicitario; la IA es solo una herramienta, no una entidad pensante
• Destacar los peligros y riesgos asociados con el uso del sistema de IA

Estos pasos pueden hacer que el uso de la IA sea más ético en el ámbito de la seguridad.

Ahora quizás te preguntes:

¿Cómo encaja el ISMS Copilot en esta visión?

El ISMS Copilot está diseñado con estos principios en mente. Asegura que la IA sirva como una herramienta valiosa sin opacar la experiencia humana.

• Transparencia sobre las limitaciones: El ISMS Copilot deja claro qué puede y no puede hacer. Asiste con la documentación, proporciona orientación y agiliza procesos, pero no reemplaza el juicio y la toma de decisiones humanas.
• Fomentar un compromiso crítico: El Copilot alienta a los usuarios a interactuar de manera crítica con la información que proporciona. Hemos dejado claro en la interfaz de usuario que el asistente puede cometer errores. También hemos publicado una serie de recursos para evitar errores comunes durante el proceso de implementación de la ISO 27001. Creemos que estos esfuerzos educativos enfatizan la importancia de la supervisión y validación humana.
• Fuentes de conocimiento complementarias: El Copilot suele recomendar recursos adicionales, como cursos impartidos por expertos o la documentación oficial de la ISO, asegurando que los usuarios tengan una comprensión integral de la ISO 27001. Reconoce que la IA es una herramienta para aumentar la experiencia humana, no una solución independiente.
• Evitar el bombo publicitario: El ISMS Copilot evita presentarse como una solución mágica (eso es exactamente lo que estamos haciendo ahora, pero también lo hicimos aquí). Insistimos en el hecho de que el ISMS Copilot es solo un asistente: procesa datos y proporciona orientación estructurada basada en patrones entrenados. Los usuarios siguen siendo los tomadores de decisiones; ellos son dueños de su SGSI.
• Destacar los peligros: somos transparentes sobre los riesgos potenciales asociados con el uso de la IA. Invitamos a nuestros usuarios a seguir los principios de interacción segura con sistemas de IA. También tenemos un centro de confianza para ayudar a los clientes a comprender los riesgos asociados con el uso del ISMS Copilot.

Al adherirnos a estos principios, el ISMS Copilot se alinea con un enfoque más ético y realista de la IA en la seguridad de la información. Ayuda a los usuarios a navegar las complejidades del cumplimiento de la ISO 27001 mientras garantiza que sigan en control, tomando decisiones informadas basadas en una combinación de asistencia de IA y su experiencia.

Esperamos que aprecies esta aclaración.