¿Cuál es el principal requisito para que una IA supere la inteligencia humana?
Si se inventara una inteligencia sobrehumana -ya fuera mediante la amplificación de la inteligencia humana o a través de la inteligencia artificial- mejoraría enormemente las capacidades humanas de resolución de problemas e inventiva. Una IA de este tipo se denomina IA Semilla porque si se creara una IA con capacidades de ingeniería que igualaran o superaran las de sus creadores humanos, tendría el potencial de mejorar de forma autónoma su propio software y hardware para diseñar una máquina aún más capaz, que podría repetir el proceso a su vez. Esta automejora recursiva podría acelerarse, permitiendo potencialmente un enorme cambio cualitativo antes de que se estableciera cualquier límite superior impuesto por las leyes de la física o la computación teórica. Se especula que, a lo largo de muchas iteraciones, una IA de este tipo superaría con creces las capacidades cognitivas humanas.
Un sistema de IA necesita tener la capacidad de automejora recursiva. Una vez disponible, dicha capacidad permitiría al sistema de IA acelerar su desarrollo a gran velocidad.