Spanish below / Versión en español abajo
Posted by Charley Cormany, EFCA Executive Director
Everyone Is Worried About EV and Electrification, but AI is the Real Threat to the Grid
At Efficiency First, we believe that electrifying buildings and transportation is critical to transitioning away from fossil fuels and toward clean energy. As soon as you mention the topic, though, someone will suggest that heat pumps and electric vehicles (EVs) will cripple the electrical grid. These concerns are valid but often overblown.
The United States’ electrical grid is often called the largest machine in the world, and there is no question that we need to invest in upgrading the system. That said, the grid has far more capacity for growth than most people understand. The grid is designed to support 100% of the potential load. It’s very unusual for all possible loads to occur simultaneously, but it can happen. If the loads exceed the capacity, some regions may fail, causing brownout or blackout conditions.
In California, peak loads usually happen between 4:00 p.m. and 8:00 p.m. in the summer. This is when people come home from work and flip on the air conditioner, which adds a significant load to the grid. Upgrading to an efficient electric heat pump can help reduce air conditioning loads during this time.
Electric Utilities have some tools to mitigate peak loads. Demand response (DR) is one method. DR allows the utility to shut off thousands or potentially millions of air conditioners for brief periods, which minimizes the strain on the grid and avoids the loss of service. The utility compensates customers for each DR event, as they reduce peak load. Time-of-use (TOU) rates are another tool. Time-of-use electric rates encourage customers to change behavior as they increase the price of electricity when there is high demand and reduce the rates when there is less demand. TOU rates work. For example, EVs are not a huge contributor to peak loads as most EV users charge at night, when demand is low and the rates are cheaper.
What’s less talked about is the impact of AI on the grid.
AI, the Unexpected Impact on the Grid
It’s hard to find any newsfeed that does not include something about Artificial Intelligence or AI. While there are plenty of discussions about the potential for AI to streamline our workflows or take over the world, there is less dialogue about AI’s environmental impacts — especially its impact on energy consumption.
As an energy geek, I am amazed at the impact AI is having on our electrical grid.
Data Centers Need Electricity for Operation and Cooling
The internet may seem like magic; you use your laptop to look something up, and voila, it gives you several possible suggestions. I suspect few people realize they have just used hundreds of individual machines to get that search result. Nor do they consider that those machines gobble up electricity to provide your search results. Yes, you add a load to the electrical grid every time you perform a browser search.
Imagine that your desktop computer is a server. I suspect you are aware of the heat expelled from the device, and so is your cat. The fans you hear move air across the chips and other components to help keep them cool. Crunching numbers at breakneck speed uses a lot of electricity, and the electricity running through the machine makes it warm. If it gets too hot, things go wrong. Have you ever left your phone in the direct sun and had it shut down due to thermal overload? Computers don’t like heat; if you put thousands of them in the same room, things get extremely hot quickly.
Large data centers use electricity to power servers and to cool the facility, placing substantial demands on the grid.
How much electricity could a single browser search use? It is estimated that a single Google search uses enough electricity to power a 60-watt light bulb (remember those) for 17 seconds. When you consider how many millions of internet searches happen, the amount of electricity required is enormous.
Along Comes AI
AI works differently from a standard browser search. A typical browser search provides you with a list of sites, and you then go to them and find the information. An AI system like ChatGPT, however, generates responses based on patterns it learned during training on massive datasets. Rather than searching the web in real-time, it processes your query through complex neural networks to generate new text, which requires far more computational power than simply matching keywords and ranking web pages. While many AI systems can search the web (like Google’s AI Overviews or ChatGPT’s web browsing), they’re still running these energy-hungry language models on top of the search process to analyze and summarize the results.
AI queries use an order of magnitude more energy than a typical browser search, according to some estimates. To put this in perspective: if a Google search powers a 60-watt light bulb for 17 seconds, an AI search powers it for nearly three minutes. That difference adds up quickly.
I suspect that supporting these new AI-driven data centers will use more electricity than the electrification of buildings or EVs. According to the International Energy Agency, a large data center can use 100 MW of power or more, consuming as much electricity annually as 350,000 to 400,000 electric cars. Imagine adding a small town to the grid and multiplying that by the number of data centers currently under construction.
Data Centers and Electricity – the Demand for Both is Significant
Are you aware that Microsoft has a long-term contract to revive the Three Mile Island Nuclear facility in Pennsylvania? Yes, the same one that had a partial meltdown in 1979, the worst nuclear accident in United States history. It turns out only one of the reactors was damaged, and recommissioning the existing facility is cheaper than building a new one from scratch. It has been estimated that the facility will be operational in 2027. All energy from Three Mile Island will be used exclusively to power Microsoft data centers.
xAI, an Elon Musk company, has built a vast data center outside Memphis, Tennessee. Inside the facility is Colossus, one of the most powerful AI supercomputers in the world. Providing power for the facility requires significant modification to the electrical grid and has proved to be a considerable challenge. For the near term, the facility is using gas turbine generators. The problem is that the generators are spewing tons of noxious emissions daily. Local residents are suffering from the health impacts of the exhaust fumes from the gas turbine generators.
To make things worse, most of the generators are not permitted, as the original intent was to use only a few for emergency back-ups. As you might guess, the facility is located in a disadvantaged community where most residents cannot respond to the impacts of xAI’s use of non-permitted, smog-producing generators.
It’s Not Just Electricity
As mentioned previously, AI data centers create a lot of heat. Some facilities use massive cooling towers and large amounts of water to mitigate the heat. Using water for cooling is effective if you have resources. Some facilities use recirculation loops to limit losses. Others rely on evaporation, which means the water is used once and lost to the atmosphere. In a world with water scarcity issues, using water to cool data centers does not make much sense.
Consider Your Use of AI
AI is the new shiny object and is appealing. It is powerful and can be extremely useful, but it comes at a cost. We have some colleagues who refuse to use AI due to its environmental impacts. I understand this perspective, but I am afraid the cat is already out of the bag.
AI is being forced on me at every turn. My new phone is “AI-enabled.” We bought a new computer for one of our staff members, which is “AI-ready.” Now, I have been notified that my EV is AI-capable and integrated into its operating system. I don’t think there is any escape from the proliferation of AI in today’s society.
Personally, I don’t refuse to use AI entirely. I may, however, consider if it makes sense for the application rather than choosing it as my default option.
Understanding the Impacts of AI
There is no question that we need to invest in infrastructure upgrades to the electrical distribution grid in the US. People often suggest the electrification of buildings and electric vehicles as the driver of updating the grid. I would argue that AI will have a much greater impact on the grid than building electrification and EVs combined. The AI revolution has arrived, and there are societal costs. Once again, there is no free lunch.
La mayor preocupación para la red eléctrica no son los vehículos eléctricos ni los edificios eléctricos
Todos se preocupan por los vehículos eléctricos y la electrificación, pero la verdadera amenaza para la red es la inteligencia artificial
En Efficiency First, creemos que electrificar los edificios y el transporte es fundamental para dejar atrás los combustibles fósiles y avanzar hacia una energía limpia. Sin embargo, tan pronto como se menciona el tema, alguien sugiere que las bombas de calor y los vehículos eléctricos (EVs) colapsarán la red eléctrica. Estas preocupaciones son válidas, pero a menudo se exageran.
La red eléctrica de Estados Unidos suele describirse como la máquina más grande del mundo, y no cabe duda de que debemos invertir en modernizar el sistema. Dicho esto, la red tiene mucha más capacidad de crecimiento de lo que la mayoría de la gente imagina. Está diseñada para soportar el 100% de la carga potencial. Es muy poco común que todas las cargas posibles ocurran al mismo tiempo, pero puede suceder. Si las cargas superan la capacidad, algunas regiones podrían fallar, causando apagones parciales o totales.
En California, los picos de demanda eléctrica suelen ocurrir entre las 4:00 p.m. y las 8:00 p.m. durante el verano. Es cuando las personas regresan del trabajo y encienden el aire acondicionado, lo que añade una carga significativa a la red eléctrica. Cambiar a una bomba de calor eléctrica eficiente puede ayudar a reducir esta carga durante ese período.
Las empresas eléctricas tienen algunas herramientas para mitigar los picos de demanda. Una de ellas es la respuesta a la demanda (DR, por sus siglas en inglés). Este método permite a la empresa eléctrica apagar miles o incluso millones de aires acondicionados por breves períodos de tiempo, lo que reduce la presión sobre la red y evita cortes de energía. A cambio, las empresas compensan a los clientes por participar en estos eventos de DR, ya que ayudan a reducir la demanda máxima.
Otra herramienta son las tarifas por horario de uso (TOU, por sus siglas en inglés). Estas tarifas eléctricas incentivan a los usuarios a cambiar su comportamiento, ya que aumentan el costo de la electricidad en horarios de alta demanda y lo reducen en horarios de menor demanda. Las tarifas TOU funcionan. Por ejemplo, los vehículos eléctricos (EVs) no son un gran factor de los picos de demanda, ya que la mayoría de sus usuarios los cargan durante la noche, cuando la demanda es baja y las tarifas son más económicas.
Lo que se menciona mucho menos es el impacto que tiene la inteligencia artificial (IA) en la red eléctrica.
La IA, el impacto inesperado en la red eléctrica
Es difícil encontrar un medio de noticias que no incluya algo sobre Inteligencia Artificial o IA. Aunque abundan las conversaciones sobre cómo la IA puede optimizar nuestro trabajo o incluso apoderarse del mundo, se habla mucho menos sobre sus impactos ambientales, especialmente sobre su impacto en el consumo de energía.
Como apasionado de la energía, me sorprende el impacto que la IA está teniendo en nuestra red eléctrica.
Los centros de datos necesitan electricidad para operar y para enfriarse
Internet puede parecer mágico: usas tu computadora para buscar algo y, voilà, te da varias sugerencias posibles. Sospecho que pocas personas se dan cuenta de que han utilizado cientos de máquinas para obtener ese resultado. Tampoco consideran que esas máquinas consumen grandes cantidades de electricidad para ofrecerte esa respuesta. Sí, cada vez que haces una búsqueda en tu navegador, estás añadiendo una carga a la red eléctrica.
Imagina que tu computadora de escritorio es un servidor. Supongo que ya sabes cuánto calor emite el dispositivo… y tu gato también. Los ventiladores que escuchas mueven aire sobre los chips y otros componentes para ayudar a mantenerlos fríos. Procesar datos a toda velocidad consume mucha electricidad, y la electricidad que recorre la máquina la calienta. Si se calienta demasiado, las cosas empiezan a fallar. ¿Alguna vez has dejado tu teléfono al sol y se ha apagado por sobrecalentamiento? A las computadoras no les gusta el calor; si pones miles de ellas en la misma habitación, las cosas se calientan muy rápido.
Los grandes centros de datos utilizan electricidad tanto para alimentar los servidores como para enfriar las instalaciones, lo que genera una gran demanda en la red eléctrica.
¿Cuánta electricidad podría usar una sola búsqueda en el navegador? Se estima que una sola búsqueda en Google consume suficiente electricidad como para encender una bombilla de 60 vatios (¿las recuerdas?) durante 17 segundos. Si consideras los millones de búsquedas que se realizan cada día, la cantidad de electricidad requerida es enorme.
Llega la inteligencia artificial (IA)
La IA funciona de manera diferente a una búsqueda estándar en el navegador. Una búsqueda típica te proporciona una lista de sitios web a los que puedes acceder para encontrar la información que necesitas. Un sistema de IA como ChatGPT, en cambio, genera respuestas basadas en patrones que aprendió durante su entrenamiento con enormes conjuntos de datos. En lugar de buscar en la web en tiempo real, procesa tu consulta a través de complejas redes neuronales para generar texto nuevo, lo cual requiere mucha más potencia de cómputo que simplemente hacer coincidir palabras clave y clasificar páginas web. Aunque muchos sistemas de IA pueden buscar en internet (como los resúmenes con IA de Google o la navegación web de ChatGPT), siguen ejecutando estos modelos lingüísticos de alto consumo energético además del proceso de búsqueda para analizar y resumir los resultados.
Se estima que las consultas realizadas con inteligencia artificial consumen un orden de magnitud más energía que una búsqueda típica en el navegador. Para ponerlo en perspectiva: si una búsqueda en Google puede encender una bombilla de 60 vatios durante 17 segundos, una consulta con IA la encendería durante casi tres minutos. Esa diferencia se acumula rápidamente.
Sospecho que el apoyo necesario para estos nuevos centros de datos impulsados por IA consumirá más electricidad que la electrificación de edificios o los vehículos eléctricos. Según la Agencia Internacional de Energía, un gran centro de datos puede usar 100 megavatios de potencia o más, lo que equivale al consumo anual de electricidad de entre 350,000 y 400,000 autos eléctricos. Es como añadir una pequeña ciudad a la red eléctrica… y multiplicarla por la cantidad de centros de datos que actualmente están en construcción.
Centros de Datos y Electricidad – La Demanda de Ambos es Significativa
¿Sabías que Microsoft tiene un contrato a largo plazo para reactivar la planta nuclear de Three Mile Island en Pennsylvania? Sí, la misma que tuvo un accidente parcial de fusión en 1979, el peor accidente nuclear en la historia de Estados Unidos. Resulta que solo uno de los reactores fue dañado, y volver a poner en funcionamiento la planta existente es más barato que construir una nueva desde cero. Se estima que la planta estará operativa en 2027. Toda la energía de Three Mile Island se usará exclusivamente para alimentar los centros de datos de Microsoft.
xAI, una empresa de Elon Musk, ha construido un vasto centro de datos fuera de Memphis, Tennessee. Dentro de la instalación se encuentra Colossus, una de las supercomputadoras de inteligencia artificial más poderosas del mundo. Proveer energía para la instalación requiere una modificación significativa de la red eléctrica y ha resultado ser un desafío considerable. A corto plazo, la instalación está usando generadores de turbina de gas. El problema es que los generadores emiten toneladas de gases nocivos diariamente. Los residentes locales están sufriendo los impactos en la salud debido a los humos de escape de los generadores de turbina de gas.
Para empeorar las cosas, la mayoría de los generadores no cuentan con los permisos correspondientes, ya que la intención original era usar solo unos pocos como respaldo de emergencia. Como te puedes imaginar, la instalación está ubicada en una comunidad desfavorecida donde la mayoría de los residentes no pueden responder a los impactos del uso por parte de xAI de generadores sin permiso que producen smog.
No es solo electricidad
Como se mencionó anteriormente, los centros de datos de IA generan mucho calor. Algunas instalaciones usan torres de enfriamiento masivas y grandes cantidades de agua para mitigar el calor. Usar agua para enfriar es efectivo si se cuenta con los recursos necesarios. Algunas instalaciones utilizan circuitos de recirculación para limitar las pérdidas. Otras dependen de la evaporación, lo que significa que el agua se usa una vez y se pierde en la atmósfera. En un mundo con problemas de escasez de agua, usar agua para enfriar centros de datos no tiene mucho sentido.
Considera tu uso de la IA
La inteligencia artificial es el nuevo objeto brillante y resulta muy atractiva. Es poderosa y puede ser extremadamente útil, pero tiene un costo. Tenemos algunos colegas que se niegan a usar IA debido a sus impactos ambientales. Entiendo esta perspectiva, pero me temo que ya no hay vuelta atrás.
La IA me está siendo impuesta en cada momento. Mi nuevo teléfono es “compatible con IA.” Compramos una computadora nueva para uno de nuestros colaboradores, que es “lista para IA.” Ahora, me han notificado que mi vehículo eléctrico cuenta con capacidad de IA integrada en su sistema operativo. No creo que haya escape de la proliferación de la IA en la sociedad actual.
Personalmente, no rechazo usar la IA por completo. Sin embargo, puedo considerar si tiene sentido para la aplicación en cuestión, en lugar de elegirla como mi opción predeterminada.
Entendiendo los impactos de la IA
No hay duda de que necesitamos invertir en actualizaciones de infraestructura para la red de distribución eléctrica en Estados Unidos. A menudo se sugiere que la electrificación de edificios y los vehículos eléctricos son los impulsores para actualizar la red. Sin embargo, yo argumentaría que la IA tendrá un impacto mucho mayor en la red que la electrificación de edificios y los vehículos eléctricos combinados. La revolución de la IA ha llegado, y con ella vienen costos para la sociedad. Una vez más, no hay almuerzo gratis.
