Thorn, una organización de defensa de los niños frente a los abusos sexuales, y All Tech Is Human, dedicada a abordar los complejos problemas de la tecnología y la sociedad, anunciaron ayer un compromiso de varias de las principales plataformas de inteligencia artificial generativa para "desarrollar, construir y entrenar modelos generativos de IA que aborden proactivamente los riesgos para la seguridad infantil".
Amazon, Anthropic, Civitai, Google, Meta, Metaphysic, Microsoft, Mistral AI, OpenAI y Stability AI se han comprometido con el documento Seguridad por diseño para la IA generativa: prevención de los abusos sexuales a menores, que define las medidas de mitigación y las estrategias prácticas que los desarrolladores, proveedores, plataformas de alojamiento de datos, plataformas sociales y motores de búsqueda de inteligencia pueden adoptar para aplicar estos principios.
Entre ellos, las compañías de IA se comprometen a "desarrollar, construir y entrenar modelos generativos de IA que aborden de forma proactiva los riesgos para la seguridad infantil". También prometen a "obtener de forma responsable" los conjuntos de datos de entrenamiento, así como "detectar y eliminar material de abuso sexual infantil y material de explotación sexual infantil de los datos de entrenamiento, e informar de cualquier caso confirmado a las autoridades pertinentes".
El documento señala una serie de líneas estratégicas de trabajo de prevención y para "hacer frente al uso indebido por parte de adversarios". La publicación y distribución de modelos generativos de IA se hará "después de haber sido entrenados y evaluados para garantizar la seguridad de los niños, proporcionando protecciones durante todo el proceso".