IA segura mediante IA TRiSM : reducción de ciberataques y brechas de seguridad

Abstract

Resulta evidente el aumento de la influencia de la inteligencia artificial (IA) en nuestra vida cotidiana, tanto en el ámbito empresarial como en el personal. La seguridad en los modelos de IA se vuelve fundamental debido a la creciente amenaza de ciberataques que pueden afectar las tomas de decisiones. El objetivo principal de este estudio se centra en evaluar la efectividad de técnicas de defensa en los sistemas de IA para mitigar la amenaza de ciberataques. Para ello se examinó el marco de trabajo AI TRiSM: AI Trust, Risk, and Security Management, y como resultado de este trabajo se brinda una guía de buenas prácticas para su aplicación. En esta investigación se enfatizó la importancia de gestionar la confianza, el riesgo y la seguridad en la IA para abordar de manera proactiva cuestiones de gobernanza y cumplimiento. Además, se subraya la necesidad de brindar explicaciones claras sobre el funcionamiento de la IA y establecer controles de acceso para las herramientas de generación de IA. A través del análisis de casos de uso empresariales se pudo evidenciar que AI TRiSM ofrece una solución integral para abordar riesgos relacionados con la confidencialidad de los datos, mantener un monitoreo constante y protegerse contra ataques, promoviendo sistemas de IA confiables, equitativos y seguros en un entorno de regulaciones en constante evolución