Dado el siguiente resumen del libro "Human Compatible" de Stuart Russell, ¿cuál es la propuesta del autor para superar las limitaciones del enfoque estándar para el desarrollo de la IA?
Russell empieza afirmando que el modelo estándar de investigación en IA, en el que la principal definición de éxito es conseguir cada vez mejores objetivos rígidos especificados por los humanos, es peligrosamente erróneo. Dichos objetivos pueden no reflejar realmente lo que pretenden los diseñadores humanos, por ejemplo, al no tener en cuenta los valores humanos no incluidos en los objetivos. Si una IA desarrollada según el modelo estándar llegara a ser superinteligente, probablemente no reflejaría plenamente los valores humanos y podría ser catastrófica para la humanidad. Russell afirma que, precisamente porque el plazo para desarrollar una IA de nivel humano o superinteligente es muy incierto, la investigación sobre seguridad debería iniciarse lo antes posible, ya que también es muy incierto el tiempo que se tardaría en completar dicha investigación.

Russell argumenta que el progreso continuo de la capacidad de la IA es inevitable debido a las presiones económicas. Tales presiones ya pueden verse en el desarrollo de las tecnologías de IA existentes, como los coches autoconducidos y el software de los asistentes personales. Además, la IA a nivel humano podría valer muchos billones de dólares. A continuación, Russell examina el debate actual en torno al riesgo de la IA. Ofrece refutaciones a una serie de argumentos habituales que descartan el riesgo de la IA y atribuye gran parte de su persistencia al tribalismo: los investigadores de la IA pueden ver las preocupaciones sobre el riesgo de la IA como un "ataque" a su campo. Russell reitera que hay razones legítimas para tomarse en serio las preocupaciones sobre el riesgo de la IA y que las presiones económicas hacen inevitable la innovación continua en la IA.

A continuación, Russell propone un enfoque para desarrollar máquinas probadamente beneficiosas que se centra en la deferencia hacia los humanos. A diferencia del modelo estándar de IA, en el que el objetivo es rígido y seguro, este enfoque haría que el verdadero objetivo de la IA siguiera siendo incierto, y que la IA sólo se acercara a la certeza sobre él a medida que obtuviera más información sobre los humanos y el mundo. Idealmente, esta incertidumbre evitaría malentendidos catastróficos sobre las preferencias humanas y fomentaría la cooperación y la comunicación con los humanos. Russell concluye pidiendo una gobernanza más estricta de la investigación y el desarrollo de la IA, así como una introspección cultural sobre la cantidad adecuada de autonomía que debe conservarse en un mundo dominado por la IA.
Russell sugiere que se entrene a las IA de forma que adquieran gradualmente conocimientos sobre lo que es realmente beneficioso para los humanos. Las IA desarrolladas de este modo cooperarían con los humanos, al tiempo que les dejarían un nivel de autonomía suficientemente alto.