¿Cuál es el principal requisito para que una IA supere la inteligencia humana?
Si se inventara una inteligencia sobrehumana -ya fuera mediante la amplificación de la inteligencia humana o a través de la inteligencia artificial- mejoraría enormemente las capacidades humanas de resolución de problemas e inventiva. Una IA de este tipo se denomina IA Semilla porque si se creara una IA con capacidades de ingeniería que igualaran o superaran las de sus creadores humanos, tendría el potencial de mejorar de forma autónoma su propio software y hardware para diseñar una máquina aún más capaz, que podría repetir el proceso a su vez. Esta automejora recursiva podría acelerarse, permitiendo potencialmente un enorme cambio cualitativo antes de que se estableciera cualquier límite superior impuesto por las leyes de la física o la computación teórica. Se especula que, a lo largo de muchas iteraciones, una IA de este tipo superaría con creces las capacidades cognitivas humanas.
Un sistema de IA necesita tener la capacidad de automejora recursiva. Una vez disponible, dicha capacidad permitiría al sistema de IA acelerar su desarrollo a gran velocidad.
What is the main prerequisite for an AI to surpass human-level intelligence?
If a superhuman intelligence were to be invented—either through the amplification of human intelligence or through artificial intelligence—it would vastly improve over human problem-solving and inventive skills. Such an AI is referred to as Seed AI because if an AI were created with engineering capabilities that matched or surpassed those of its human creators, it would have the potential to autonomously improve its own software and hardware to design an even more capable machine, which could repeat the process in turn. This recursive self-improvement could accelerate, potentially allowing enormous qualitative change before any upper limits imposed by the laws of physics or theoretical computation set in. It is speculated that over many iterations, such an AI would far surpass human cognitive abilities.
An AI system needs to have the capability of recursive self-improvement. Once available such a capability would allow the AI system to accelerate its development at a rapid rate.