El uso de la IA no debería impedirnos pensar.
Todos estamos de acuerdo en que «debemos usar nuestro cerebro» y discernir cuándo es apropiado utilizar la IA y cuándo no. Sin embargo, hay una cuestión más sutil en juego aquí.
Tendemos a suspender nuestro juicio cuando nos enfrentamos a las capacidades de la IA.
Y... los proveedores lo saben, y a menudo solo comunican las ventajas sin mencionar los inconvenientes de sus productos de IA.
El resultado: la gente tiene expectativas poco realistas que la IA no puede cumplir. Compran una herramienta pensando que resolverá todos sus problemas y acaban decepcionados.
Como señala el blog Eight2Late, los proveedores deben centrarse en:
- No exagerar las capacidades de la IA
- Ser transparente sobre las limitaciones del producto
- Mostrar a los clientes cómo interactuar con la IA de forma significativa (complementar, no sustituir).
Esto es especialmente relevante en materia de seguridad de la información y preparación para la norma ISO 27001. En el último año, he visto muchas herramientas de IA que prometen «cumplimiento con la norma».
Quienes están familiarizados con la norma ISO 27001 saben que la IA puede ser de ayuda, pero ninguna herramienta puede garantizar el cumplimiento, especialmente cuando se requieren acciones humanas: completar planes de acción, revisiones de gestión, etc.
Entiendo la necesidad de «exagerar» las capacidades. La competencia y la emoción de ofrecer una nueva solución pueden impulsar esto.
Pero, en última instancia, es una estrategia perdedora, ya que las promesas incumplidas provocan la decepción de los clientes.
Además, en áreas cruciales como la seguridad de la información, es fundamental ser transparente sobre las limitaciones del producto. Documentar estas limitaciones en las páginas del producto y dentro del propio producto puede marcar la diferencia. También es esencial proporcionar orientación al usuario sobre dónde «seguir usando el cerebro».
En resumen, todavía estamos tratando de determinar el papel que desempeña la IA en nuestra vida profesional. El marketing suele exagerar este papel, lo que no siempre beneficia al comprador.
En lo que respecta a la seguridad de la información, esto es lo que ahora busco, tanto como comprador como fabricante:
- Transparencia sobre las limitaciones de la IA
- Áreas en las que no se puede confiar en la IA (probabilidad de generar información errónea)
- Fomentar el compromiso crítico, no la confianza ciega.
- Recomendaciones sobre fuentes de conocimiento adicionales más allá de la IA, como cursos impartidos por expertos.
- Evitar el sensacionalismo: la IA es solo una herramienta, no una entidad pensante.
- Destacar los peligros y riesgos asociados al uso del sistema de IA.
Estos pasos pueden hacer que el uso de la IA sea más ético en materia de seguridad.
Ahora te estarás preguntando.
¿Cómo encaja ISMS Copilot en esta visión?
El ISMS Copilot se ha diseñado teniendo en cuenta estos principios. Garantiza que la IA sea una herramienta valiosa sin eclipsar la experiencia humana.
- Transparencia sobre las limitaciones: ISMS Copilot deja claro lo que puede y no puede hacer. Ayuda con la documentación, proporciona orientación y agiliza los procesos, pero no sustituye el juicio y la toma de decisiones humanos.
- Fomentar el compromiso crítico: Copilot anima a los usuarios a comprometerse críticamente con la información que proporciona. Hemos dejado claro en la interfaz de usuario que el asistente puede cometer errores. También hemos publicado una serie de recursos para estar atentos a los errores comunes que se cometen durante el proceso de implementación de la norma ISO 27001. Creemos que estos esfuerzos educativos enfatizan la importancia de la supervisión y la validación humanas.
- Fuentes de conocimiento complementarias: Copilot suele recomendar recursos adicionales, como cursos impartidos por expertos o documentación oficial de la ISO, lo que garantiza que los usuarios tengan un conocimiento exhaustivo de la norma ISO 27001. Reconoce que la IA es una herramienta para aumentar la experiencia humana, no una solución independiente.
- Evitar el bombo publicitario: ISMS Copilot evita presentarse como una solución mágica (eso es exactamente lo que estamos haciendo ahora, pero también lo hicimos aquí). Insistimos en el hecho de que ISMS Copilot es solo un asistente que procesa datos y proporciona orientación estructurada basada en patrones entrenados. Los usuarios siguen siendo los responsables de la toma de decisiones, ellos son los propietarios de su ISMS.
- Destacamos los peligros: somos transparentes sobre los posibles riesgos asociados al uso de la IA. Invitamos a nuestros usuarios a seguir los principios de interacción segura con los sistemas de IA. También contamos con un centro de confianza para ayudar a los clientes a comprender los riesgos asociados al uso de ISMS Copilot.
Al adherirse a estos principios, ISMS Copilot se alinea con un enfoque más ético y realista de la IA en la seguridad de la información. Ayuda a los usuarios a navegar por las complejidades del cumplimiento de la norma ISO 27001, al tiempo que garantiza que mantengan el control y tomen decisiones informadas basadas en una combinación de asistencia de IA y su experiencia.
Esperamos que aprecie esta aclaración.