Dado el siguiente resumen del libro "Human Compatible" de Stuart Russell, ¿cuál es la propuesta del autor para superar las limitaciones del enfoque estándar para el desarrollo de la IA?
Russell empieza afirmando que el modelo estándar de investigación en IA, en el que la principal definición de éxito es conseguir cada vez mejores objetivos rígidos especificados por los humanos, es peligrosamente erróneo. Dichos objetivos pueden no reflejar realmente lo que pretenden los diseñadores humanos, por ejemplo, al no tener en cuenta los valores humanos no incluidos en los objetivos. Si una IA desarrollada según el modelo estándar llegara a ser superinteligente, probablemente no reflejaría plenamente los valores humanos y podría ser catastrófica para la humanidad. Russell afirma que, precisamente porque el plazo para desarrollar una IA de nivel humano o superinteligente es muy incierto, la investigación sobre seguridad debería iniciarse lo antes posible, ya que también es muy incierto el tiempo que se tardaría en completar dicha investigación.

Russell argumenta que el progreso continuo de la capacidad de la IA es inevitable debido a las presiones económicas. Tales presiones ya pueden verse en el desarrollo de las tecnologías de IA existentes, como los coches autoconducidos y el software de los asistentes personales. Además, la IA a nivel humano podría valer muchos billones de dólares. A continuación, Russell examina el debate actual en torno al riesgo de la IA. Ofrece refutaciones a una serie de argumentos habituales que descartan el riesgo de la IA y atribuye gran parte de su persistencia al tribalismo: los investigadores de la IA pueden ver las preocupaciones sobre el riesgo de la IA como un "ataque" a su campo. Russell reitera que hay razones legítimas para tomarse en serio las preocupaciones sobre el riesgo de la IA y que las presiones económicas hacen inevitable la innovación continua en la IA.

A continuación, Russell propone un enfoque para desarrollar máquinas probadamente beneficiosas que se centra en la deferencia hacia los humanos. A diferencia del modelo estándar de IA, en el que el objetivo es rígido y seguro, este enfoque haría que el verdadero objetivo de la IA siguiera siendo incierto, y que la IA sólo se acercara a la certeza sobre él a medida que obtuviera más información sobre los humanos y el mundo. Idealmente, esta incertidumbre evitaría malentendidos catastróficos sobre las preferencias humanas y fomentaría la cooperación y la comunicación con los humanos. Russell concluye pidiendo una gobernanza más estricta de la investigación y el desarrollo de la IA, así como una introspección cultural sobre la cantidad adecuada de autonomía que debe conservarse en un mundo dominado por la IA.
Russell sugiere que se entrene a las IA de forma que adquieran gradualmente conocimientos sobre lo que es realmente beneficioso para los humanos. Las IA desarrolladas de este modo cooperarían con los humanos, al tiempo que les dejarían un nivel de autonomía suficientemente alto.
Given the following summary of the book "Human Compatible" by Stuart Russell, what is the author's proposal to overcome the limitations of the standard approach for developing AI?
Russell begins by asserting that the standard model of AI research, in which the primary definition of success is getting better and better at achieving rigid human-specified goals, is dangerously misguided. Such goals may not actually reflect what human designers intend, such as by failing to take into account any human values not included in the goals. If an AI developed according to the standard model were to become superintelligent, it would likely not fully reflect human values and could be catastrophic to humanity. Russell asserts that precisely because the timeline for developing human-level or superintelligent AI is highly uncertain, safety research should be begun as soon as possible, as it is also highly uncertain how long it would take to complete such research.

Russell argues that continuing progress in AI capability is inevitable because of economic pressures. Such pressures can already be seen in the development of existing AI technologies such as self-driving cars and personal assistant software. Moreover, human-level AI could be worth many trillions of dollars. Russell then examines the current debate surrounding AI risk. He offers refutations to a number of common arguments dismissing AI risk and attributes much of their persistence to tribalism—AI researchers may see AI risk concerns as an "attack" on their field. Russell reiterates that there are legitimate reasons to take AI risk concerns seriously and that economic pressures make continued innovation in AI inevitable.

Russell then proposes an approach to developing provably beneficial machines that focuses on deference to humans. Unlike in the standard model of AI, where the objective is rigid and certain, this approach would have the AI's true objective remain uncertain, with the AI only approaching certainty about it as it gains more information about humans and the world. This uncertainty would, ideally, prevent catastrophic misunderstandings of human preferences and encourage cooperation and communication with humans. Russell concludes by calling for tighter governance of AI research and development as well as cultural introspection about the appropriate amount of autonomy to retain in an AI-dominated world.
Russell suggests that the AIs should be trained in a way that makes them gradually gain knowledge of what is truly beneficial to humans. AIs developed in this fashion would cooperate with humans while leaving them with a high enough level of autonomy.