Dada la complejidad de los problemas que usualmente tiene que resolver un sistema experto, puede existir cierta duda en el usuario sobre la validez de respuesta obtenida. Por este motivo, es una condición indispensable que un sistema experto sea capaz de explicar su proceso de razonamiento o dar razón del por qué solicita tal cual información o dato.
Para que un sistema actúe como un verdadero experto, es deseable que reúna, en lo posible, lo mas importante de las características de un experto humano, esto es:
a) Habilidad para adquirir conocimiento.
b) Fiabilidad, para poder confiar en sus resultados o operaciones.
c) Solidez en el Dominio de su conocimiento.
d) Capacidad para resolver problemas
Estas características le permiten almacenar datos y conocimientos, sacar conclusiones lógicas, tomar decisiones, aprender de la experiencia y los datos existentes, comunicarse con expertos humanos, explicar el porque de las decisiones tomadas y realizar acciones como consecuencia de todo lo anterior. Técnicamente un sistema experto, contiene una base de conocimiento que incluye la experiencia acumulada de expertos humanos y un conjunto de reglas para aplicar esta base de conocimientos en una situación particular que se le indica al programa. Cada vez el sistema se mejora con adiciones a la base de conocimiento o al conjunto de reglas.