Las demandas de recursos de ChatGPT se están saliendo de control

un servidor
panumas nikhomkhai / Pexels

No es ningún secreto que el crecimiento de la IA generativa ha exigido cantidades cada vez mayores de agua y electricidad, pero un nuevo estudio de The Washington Post e investigadores de la Universidad de California en Riverside muestra cuántos recursos necesita el chatbot de OpenAI para rendir al máximo. funciones básicas.

En términos de uso de agua, la cantidad necesaria para que ChatGPT escriba un correo electrónico de 100 palabras depende del estado y de la proximidad de los usuarios al centro de datos de OpenAI más cercano. Cuanto menos prevalece el agua en una región determinada y cuanto menos costosa es la electricidad, es más probable que el centro de datos dependa de unidades de aire acondicionado eléctricas. En Texas, por ejemplo, el chatbot solo consume aproximadamente 235 mililitros necesarios para generar un correo electrónico de 100 palabras. Ese mismo correo electrónico redactado en Washington, en cambio, requeriría 1.408 mililitros (casi un litro y medio) por correo electrónico.

Los centros de datos se han vuelto más grandes y más densamente poblados con el auge de la tecnología de inteligencia artificial generativa, hasta el punto que los sistemas de enfriamiento basados ​​en aire luchan por mantenerse al día. Esta es la razón por la que muchos centros de datos de IA han cambiado a esquemas de refrigeración líquida que bombean enormes cantidades de agua a través de las pilas de servidores, para extraer energía térmica y luego a una torre de refrigeración donde se disipa el calor acumulado.

Los requisitos eléctricos de ChatGPT tampoco son nada despreciables. Según The Washington Post, usar ChatGPT para escribir ese correo electrónico de 100 palabras consume suficiente corriente para operar más de una docena de bombillas LED durante una hora. Si incluso una décima parte de los estadounidenses usara ChatGPT para escribir ese correo electrónico una vez a la semana durante un año, el proceso usaría la misma cantidad de energía que cada hogar de Washington, DC, en 20 días. DC es el hogar de aproximadamente 670.000 personas.

Este no es un problema que se resolverá pronto y probablemente empeorará mucho antes de mejorar. Meta, por ejemplo, necesitó 22 millones de litros de agua para entrenar sus últimos modelos Llama 3.1 . Se descubrió que los centros de datos de Google en The Dalles, Oregón, consumen casi una cuarta parte de toda el agua disponible en la ciudad , según registros judiciales, mientras que el nuevo supercúmulo de xAI en Memphis ya demanda 150 MW de electricidad, suficiente para alimentar hasta 30.000 hogares. – de la empresa de servicios públicos local, Memphis Light, Gas and Water.