Escribe un párrafo sobre la gobernanza de la IA.
La carrera armamentística de la IA se está intensificando, y los avances se producen a un ritmo acelerado.

El lanzamiento de ChatGPT por OpenAI representa un profundo salto adelante en la forma en que los seres humanos interactúan con las máquinas, mostrando el asombroso progreso de los grandes modelos lingüísticos. Mientras tanto, capacidades de IA generativa como Dall-E, Stable Diffusion y Midjourney son capaces de generar imágenes muy realistas y detalladas a partir de descripciones de texto, demostrando un nivel de creatividad e imaginación que antes se creía exclusivamente humano.

Los humanos parecemos estar fundamentalmente programados para hacer avanzar continuamente la tecnología y mejorar nuestros conocimientos y capacidades. Además, el cerebro humano tiende a pensar linealmente, lo que hace que subestimemos el progreso exponencial de la tecnología. Las empresas y las naciones están incentivadas por las fuerzas del mercado y la teoría del juego geopolítico para perseguir una mejor inteligencia mediante el avance de la IA.

El Instituto del Futuro de la Vida ha publicado recientemente Pausa a los Experimentos Gigantes de IA: Una Carta Abierta. La carta -con notables firmantes como Elon Musk, Steve Wozniak y Andrew Yang- causó un gran revuelo, pues pedía una pausa de 6 meses en el desarrollo avanzado de la IA:

"Por lo tanto, pedimos a todos los laboratorios de IA que pongan inmediatamente en pausa, durante al menos 6 meses, el entrenamiento de sistemas de IA más potentes que la GPT-4. Esta pausa debe ser pública y verificable. Esta pausa debe ser pública y verificable, e incluir a todos los actores clave. Si dicha pausa no puede realizarse rápidamente, los gobiernos deberían intervenir e instituir una moratoria."

Gran parte del discurso público y de los medios de comunicación en respuesta a esta carta se ha centrado en quién la firmó y en rebatir la idea de que la humanidad se enfrenta a una amenaza existencial inminente de superinteligencia artificial. Las afirmaciones distópicas de una inteligencia artificial desbocada parecen hiperbólicas para mucha gente, y pedir una moratoria de 6 meses no es realista. Buena suerte convenciendo a China de que "ponga en pausa" sus esfuerzos en la carrera armamentística de la IA.

Pero, ¿no hay límites? ¿Deberíamos proceder sin directrices?

Por ejemplo...

¿Nos sentimos cómodos subcontratando decisiones a sistemas de IA de caja negra que carecen de transparencia y explicabilidad, haciendo imposible que los humanos comprendan el razonamiento que hay detrás de las decisiones?
¿Debería preocuparnos el desarrollo de armas autónomas impulsadas por IA que tomen decisiones sobre el uso de fuerza letal sin intervención humana?
¿Debería preocuparnos la posibilidad de que agentes maliciosos utilicen la IA con fines nefastos, como sofisticadas campañas de propaganda?
¿Están nuestras leyes, reglamentos y sistemas políticos actuales equipados para manejar la rápida afluencia de nuevas cuestiones de alineación de la IA con las que la sociedad tendrá que lidiar en un futuro muy próximo?
A medida que la IA se hace más avanzada, puede resultar difícil de entender, lo que podría conducir a resultados no deseados. Los sistemas de IA pueden comportarse de formas imprevistas y difíciles de controlar. El problema de la alineación de la IA es un reto social que requiere la colaboración entre investigadores, ingenieros, empresarios, responsables políticos y el público. También requerirá la cooperación internacional entre los gobiernos y el sector privado. No se trata sólo de un reto técnico, sino también filosófico y ético.

La carta abierta antes mencionada sigue recomendando:

"La investigación y el desarrollo de la IA deberían volver a centrarse en hacer que los potentes sistemas actuales de última generación sean más precisos, seguros, interpretables, transparentes, robustos, alineados, dignos de confianza y leales".

Éste es sin duda un objetivo loable, y puede lograrse haciendo IA al aire libre. Lo que nos falta actualmente es un marco. La sociedad necesita un conjunto de procedimientos y protocolos que hagan factible la recomendación del Instituto del Futuro de la Vida.

Conjuntamente, debemos considerar y debatir los pros y los contras de muchas ideas, entre otras:

Divulgación obligatoria de los detalles de los modelos, incluidos los conjuntos de datos de entrenamiento, las metodologías de evaluación y los sesgos conocidos
Desarrollo de un marco que establezca requisitos de supervisión y auditoría de modelos para los sistemas avanzados de IA
Aplicación de leyes que impongan responsabilidad por los daños causados por la IA
Establecimiento de una autoridad reguladora para la supervisión y el seguimiento de los sistemas de IA altamente capaces
El primer paso para lograr un marco productivo para el desarrollo seguro de la IA es un diálogo abierto entre las numerosas partes implicadas, que incluya a todos. Debemos elevarnos por encima del discurso hiperpolitizado al que a menudo nos obligan nuestros deshonestos y rotos medios de comunicación. Este tema es demasiado importante y sus ramificaciones son demasiado profundas. Únete a mí en la defensa de una conversación inteligente y respetuosa sobre la IA, que solicite la aportación y el debate abierto de un conjunto diverso de voces para ayudar a garantizar un camino hacia adelante que redunde en nuestro interés colectivo.