El entrenamiento de los grandes modelos de lenguaje de inteligencia artificial amenaza con convertirse en una especie de agujero negro que devore todo lo que pasa a su alrededor. Datos, datos y más datos -además de ingentes volúmenes de energía-. Nada parece ser suficiente para cubrir la necesidad de datos de entrenamiento de sus modelos. La agencia Reuters informa que Meta, Google, Amazon y Apple llegaron a sendos acuerdo con el repositorio de fotografías Shutterstock en el 2022, poco después del lanzamiento de ChatGPT. Cualquier tipo de datos es esencial para la IA, y eso incluye imágenes y vídeos.
Las estrategias para conseguir los datos están siendo variadas, incluída su utilización ilícita sin pedir permiso a los propietarios de sus derechos y con posibles vulneraciones de privacidad. El diario The New York Times, que en diciembre pasado interpuso una demanda en un juzgado federal contra OpenAI y Microsoft por utilizar sus artículos sin permiso, asegura que la compañía de ChatGPT estaba a finales del 2021 ante un problema de falta de datos y que sus ingenieros crearon un software de reconocimiento de voz llamado Whisper para transcribir los vídeos de YouTube, propiedad de Google. Después de un debate interno sobre este uso, un equipo de OpenAI acabó transcribiendo un millón de horas de vídeo sin pedir permiso.
Las compañías de IA no sólo están actuando por su cuenta, también están pagando. Según Reuters, el repositorio privado Photobucket, que tiene en la actualidad dos millones de usuarios que guardan -previo pago- sus 13.000 millones de fotos y vídeos en esta plataforma, está en conversaciones con empresas de IA para que puedan entrenar sus modelos con tarifas de entre 5 céntimos y 1 dólar por foto y más de 1 dólar por vídeo. Sería más práctico que las compañías de IA tirasen por el camino de enmedio: usar lo que estar en internet sin negociar nada, pero las demandas judiciales les ha llevado a buscar el acceso a lo que llaman "contenido de calidad", que es -¡sorpresa- el que ha sido creado por humanos.
Pero tienen un problema: llegar a acuerdos para usar enormes volúmenes de datos es caro y lleva tiempo. En Meta también se han enfrentado este dilema. Tienen la tecnología pero necesitan muchos más datos que los que son capaces de conseguir. Según The New York Times, directivos, abogados e ingenieros de la compañía de Facebook e Instagram se plantearon el uso a escondidas de datos de internet y también comprar la editorial Simon & Schuster para conseguir obras literarias de gran volumen. El propio Google está usando los vídeos de YouTube, aunque esto también podría violar los derechos de autor de los creadores de los vídeos.
La promesa de la IA se enfrenta a varios problemas de escala. Las proyecciones del instituto de investigación sobre inteligencia artificial Epoch apuntan a que el stock de datos lingüísticos de baja calidad de internet habrá sido agotado por las compañías entre el 2030 y el 2050, mientras que los datos lingüísticos de alta calidad se acabarán antes del 2026 y los datos de visión entre el 2030 y el 2060. Los investigadores advierte que sus conclusiones se basan "en la suposición poco realista" de que se mantendrán las tendencias actuales en el uso y la producción de datos de aprendizaje automático y de que no habrá grandes innovaciones en la eficiencia de los datos. Así que todo se puede acelerar.
Una de las opciones que les quedan a las empresas para entrenar a sus modelos es recurrir a los llamados "datos sintéticos", que son aquellos que generan los propios sistemas de inteligencia artificial. Puede ser una vía de salida ante el posible colapso. Mientras que el modelo más avanzado de OpenAI, GPT-4, fue entrenado con 12 billones de tokens, la estimación es que GPT-5, que podría llegar este año, necesitaría de 60 a 100 billones de tokens. El año pasado, la Oficina de Derechos de Autor de Estados Unidos recibió denuncias contra compañías de inteligencia artificial por el uso de obras originales de más de 10.000 grupos comerciales, autores y empresas. Todo dato es poco.
Tesla presentará su Robotaxi en agosto
El 8 de agosto es la fecha elegida por Tesla para presentar su Robotaxi, un coche de conducción autónoma, según ha revelado el fundador de la compañía, Elon Musk, en un tuit. Con anterioridad, el empresario había explicado que el Robotaxi sería un coche sin volante ni pedales. Los coches de Tesla en Estados Unidos pueden utilizar el sistema de conducción autónoma, en pruebas, que requiere que el conductor esté al volante atento en todo momento
Spotify crea listas con IA
La app de música Spotify, que estrenó hace unos meses su función DJ por AI, ha lanzado una nueva función en fase de pruebas (beta) para la creación de listas de reproducción. Se llama AI playlist y permite crear listas mediante indicaciones escritas. Está disponible inicialmente en el Reino Unido y Australia. Acepta peticiones extravagantes e imaginativas que pueden combinar géneros, estados de ánimo, artistas y décadas.
Sam Altman y Jony Ive planean un dispositivo
El consejero delegado de OpenAI, Sam Altman, y el ex diseñador de productos estrellas de Apple como el iPhone y el iMac, Jony Ive, están en conversaciones para recaudar hasta 1.000 millones de dólares de inversores de alto nivel para fundar empresa de dispositivos personales basados en inteligencia artificial. El dispositivo no se parecería a un teléfono, pero se integraría con ChatGPT.