Técnicas de inteligencia artificial explicable basadas en una integración de lógica simbólica y nosimbólica

Abstract

El aprendizaje profundo (deep learning - DL) aprovecha el potencial de las redes neuronales profundas para influir en el proceso genérico del aprendizaje mediante la prueba y el error. Su efectividad se ha demostrado de manera sólida en diversas áreas. No obstante, los sistemas de DL heredan deficiencias de las técnicas actuales de aprendizaje profundo, como la necesidad de conjuntos de datos extensos para su óptimo funcionamiento. Carecen de la capacidad de razonamiento abstracto, lo que dificulta la ejecución de funciones cognitivas avanzadas como el razonamiento analógico o basado en hipótesis. Además, su funcionamiento es mayormente opaco para los humanos, lo que los hace inadecuados en ámbitos donde la verificabilidad es crucial. La explicabilidad se refiere a la capacidad de explicar las decisiones tomadas por un modelo en términos comprensibles para las personas. Su propósito es comprender por qué el modelo adoptó una decisión particular y reconocer las condiciones en las que tiene éxito o fracasa. En este sentido, la necesidad de integración entre lo neuronal y lo simbólico se vuelve evidente al enfrentar problemas de mayor complejidad. Los métodos de búsqueda para extraer reglas en redes neuronales profundas entrenadas realizan un análisis de los pesos y sesgos generados por la red. Al calcular la correlación entre los vectores de pesos con las salidas en cada capa, es factible reducir el espacio de búsqueda e identificar el camino crítico que conecta las entradas con los resultados obtenidos por la red neuronal. Basándonos en esta observación, este trabajo tiene como objetivo presentar un método para extraer el patrón de reglas aprendido por una red neuronal entrenada de tipo feedforward, analizar sus propiedades y explicar estos patrones mediante el uso de lógica de primer orden (FOL)