8 manieren om uw data center voor AI ‘ s stroomverbruik

0
5

Als de kunstmatige intelligentie neemt af in de enterprise-instellingen, dus zal datacenter energieverbruik. De AI is veel dingen, maar energiezuinig is niet een van hen.

Voor datacenters draaien typische enterprise-toepassingen, het gemiddelde energieverbruik van een rack is ongeveer 7 kW. Toch is het gemeenschappelijk voor AI-toepassingen voor het gebruik van meer dan 30 kW per rack, volgens de gegevens center organisatie AFCOM. Dat is omdat de AI vereist veel hoger processor gebruik, en de verwerkende bedrijven – vooral de Gpu ‘ s zijn stroomvreters. Nvidia Gpu ‘ s, bijvoorbeeld, kan het uitvoeren van meerdere ordes van grootte sneller dan een CPU, maar ze verbruiken twee keer zo veel vermogen per chip. Complicerende het probleem is dat veel datacenters al zijn macht beperkt.

LEES MEER: Heb je echt nodig high performance computing?

Koeling is ook een probleem: AI-gericht servers vereisen een grotere processor dichtheid, wat betekent dat er meer chips mee in de doos, en ze lopen erg warm. Een grotere dichtheid, samen met een hogere bezettingsgraad, neemt de vraag naar koeling vergeleken met een typische back-office-server. Hoger koeling op zijn beurt verhogen macht eisen.

Dus wat kan je doen als je wilt omarmen AI voor de concurrentie, maar de capaciteit van uw bestaande faciliteit niet aan de hoge dichtheid van de infrastructuur eisen van AI? Hier zijn een aantal opties.

Overweeg vloeibare koeling

Ventilator meestal verliest de levensvatbaarheid eenmaal een rek van meer dan 15 kW. Water heeft echter 3.000 keer de warmtecapaciteit van de lucht, volgens de CoolIT Systems, een maker van enterprise liquid cooling producten. Als een resultaat, server meubelmakers zijn het toevoegen van vloeistof leidingen naar hun kasten en aansluiten van leidingen op hun heat sinks in plaats van fans.

“Liquid cooling is zeker een zeer goede optie voor een hogere dichtheid wordt geladen,” zegt John Sasser, senior vice president voor data center operations bij Sabey, een ontwikkelaar en operator van datacentra. “Dat neemt de rommelige luchtstroom probleem. Water verwijdert veel meer warmte dan lucht en kunt u direct door middel van leidingen. Veel van de HPC (high performance computing)] is gedaan met vloeistof koeling.”

In de meeste datacenters zijn ingesteld voor luchtkoeling, dus vloeistof koeling vergt een investering, “maar dat zou een veel meer verstandige oplossing voor deze inspanningen, in het bijzonder wanneer een bedrijf besluit om te bewegen in de richting van [AI],” Sasser zegt.

Voer AI werkbelasting bij lagere resoluties

Bestaande datacenters zou het kunnen hanteren van AI computational workloads maar in een beperkt fashion, zegt Steve Conway, senior research vice president voor Hyperion Onderzoek. Vele, zo niet de meeste, werkbelasting kan worden gebruikt in de helft of een kwart van de precisie plaats van 64-bit dubbele precisie.

“Voor een aantal problemen, de helft van de precisie is goed,” zegt Conway. “Het uit te voeren op een lagere resolutie, met minder gegevens. Of met minder science in.”

Double-precision floating point berekeningen zijn in de eerste plaats nodig in wetenschappelijk onderzoek wordt vaak gedaan op moleculair niveau. Dubbele precisie is doorgaans niet gebruikt wordt, in AI, training of inference op diep leren modellen, omdat deze niet nodig is. Zelfs Nvidia pleit voor het gebruik van single – en half-precisie van berekeningen in diepe neurale netwerken.

Het bouwen van een AI-insluiting segment

AI zal een deel van uw business, maar niet alle, en dat zou moeten worden weerspiegeld in uw datacenter. “De nieuwe faciliteiten die worden gebouwd, overweegt de toewijzing van een deel van hun voorzieningen een hoog energieverbruik,” zegt Doug Hollidge, een partner met Vijf 9s Digitale, die bouwt en beheert datacenters. “Je bent niet van plan om al uw faciliteiten te hoger de dichtheid, want er zijn ook andere apps die een lagere trekken.”

Het eerste ding om te doen is het beoordelen van de energievoorziening van het gebouw, Hollidge zegt. “Als je gaat om het verhogen van energie-gebruik in de bouw, heb je te maken ervoor dat de power-provider kan het verhogen van de voeding.”

Breng in een ingenieur om te beoordelen welk deel van de data center-is-best uitgerust voor een hogere dichtheid mogelijkheden. Werkbelasting vereisten bepalen wat de beste oplossing, of het nu een hot aisle containment of koelvloeistof of een andere technologie. “Het is moeilijk te geven one-size-fits-all oplossing, omdat alle datacenters zijn anders,” Hollidge zegt.

Verspreid uw AI-systemen

Een alternatieve benadering in plaats van verdringing van al uw AI-systemen in één plek heter dan Death Valley in augustus – is het te verspreiden onder de rekken.

“De meeste van de apps zijn niet van hoge dichtheid. Ze worden uitgevoerd op acht tot 10 kilowatt en tot 15 kilowatt. Je kan dat met lucht,” zegt David McCall, chief innovation officer met QTS, een bouwer van datacenters.

In een geoptimaliseerde heterogene omgeving, een collocatie provider kan een rek of twee in een kast voor het hosten van een HPC-of AI-omgeving, en de rest van de rekken in de kast zijn gewijd aan de hosting van minder energie-intensieve toepassingen, zoals databases en back-office apps. Dat zal niet resulteren in een 5 kW-rack, maar het wordt een rack dichter bij 12 kW of 15 kW, in een omgeving die luchtkoeling kan omgaan, McCall zegt.

De controle hete luchtstroom in het datacenter

Standaard data center lay-out is hot aisle/cold aisle, waar de kasten zijn vastgelegd in afwisselende rijen zodat de koude lucht inname tegenover elkaar op een front-facing gangpad, en de warme lucht uitlaten tegenover elkaar op de wisselende back-gerichte gangpad. Dat werkt prima, maar kan lastig zijn als er een IT-medewerker nodig heeft om achter een kast om te werken op een server.

Het andere probleem is dat de lucht is “rommelig”, zoals Sasser zetten. Macht is vaak gemakkelijker in model want het stroomt door geleiders, en kunt u de controle (en dus plan en model), waar de macht gaat. De lucht gaat waar het wil, en is moeilijk te controleren.

Sabey klanten die willen hogere dichtheid omgevingen hot aisle containment pod control air flow. Het bedrijf zet de deuren aan het einde van de hot aisle en plastic platen over de top, dus warmte is gericht in een plafond inlaat pijp en de barrières houden van warme en koude lucht uit het mengen.

“In een luchtgekoelde server wereld, het advies dat ik geef is ga met een hot aisle containment omgeving”, Sasser zegt. “De andere advies dat ik zou geven is ervoor zorgen dat de data center is getest voor de luchtstroom, niet alleen gemodelleerd voor de luchtstroom. Modelleren is afhankelijk van veel variabelen, en ze gemakkelijk te veranderen.”

Overweeg een schoorsteen kast

Een andere manier om te helpen bij het beheren van de temperatuur in datacenters is het gebruik van een schoorsteen van de kast. In plaats van het ventileren van de hete lucht uit de rug, een schoorsteen kabinet maakt gebruik van goede oude natuurkunde convectie te sturen hete lucht in een schoorsteen, die vervolgens wordt aangesloten op een airconditioning-vent. Chatsworth Systemen is het best bekend voor deze stijl van kasten.

“De air pad is meer beperkt deze manier,” Sasser zegt. “Sinds die air pad is meer gedrongen, kunt u een grotere dichtheid in een kast dan met een hot aisle pod.”

Het verwerken van gegevens waar het zich bevindt

Het verplaatsen van gegevens rond heeft een zeer hoge energie kosten: Het kan oplopen tot 100 keer meer energie om gegevens te verplaatsen dan het kost om gegevens te verwerken, zegt Conway. Elke vorm van data beweging vereist elektriciteit, en die stroom neemt toe met het volume van de gegevens – een groot probleem is voor data-intensieve AI-toepassingen. “U wilt verplaatsen gegevens zoals zelden en zo weinig afstand als je kunt,” zegt Conway.

“De oplossing is niet om te verplaatsen van de gegevens meer of verder dan absoluut noodzakelijk is. Dus mensen streven ernaar om de gegevens dichter bij waar het wordt verwerkt. Een ding cloud service providers en mensen die gebruik maken van cloud-diensten over eens zijn is dat het geen zin heeft om een enorme hoeveelheid gegevens aan een derde partij cloud”, zegt hij.

Overweeg leasing datacenter ruimte

De meeste van de bedrijven op zoek naar AI, zijn bedrijven die lease-datacenter ruimte van een data center operator, Hollidge zegt. Er zijn een aantal data center operatoren die niet in staat zijn van het hanteren van een hoge dichtheid AI berekening, maar een aantal zijn overgestapt op het aanbieden van een gedeelte van een high density omgevingen voor AI.

“Je zou kunnen hebben om te gaan door middel van een aantal aanbieders voor te vinden, maar er is meer aandacht wordt besteed aan die op de data center operations kant,” Hollidge zegt. En een derde datacenter provider geeft u meer groei mogelijkheden. “De meeste van de tijd die je bent beter af met het aangaan van een flexibele huurovereenkomst die u toelaat om te groeien en te groeien uw AI business tegenstelling tot het gebouw en de grond omhoog.”

Wachten voor de volgende generatie servers

Supercomputers tot op heden nog niet al te veel gegevens vriendelijke, zegt Conway. Als supercomputers zijn groter geworden, de ontwerpen hebben gekregen minder data-centric. Het resultaat is dat er meer gegevens moeten worden verplaatst en geschuif tussen processors, geheugen en opslag systemen. En, zoals hierboven besproken, het kost meer kracht om gegevens te verplaatsen dan om het te verwerken.

De eerste exascale systemen zullen komen met meer accelerators en meer krachtige verbindingen voor het verplaatsen van gegevens. En vele innovaties die start in supercomputing, met inbegrip van Gpu ‘ s en de opslag-klasse geheugen (SCM), uiteindelijk hun weg naar beneden, naar meer mainstream-servers.

Toekomstige servers zal ook komen met een meer heterogene chip lay-out; in plaats van alle x86-Cpu ‘s, ze zijn Gpu’ s, fpga ‘ s, en AI versnellers. En voor high speed-opslag, NVMe-over-Stof-en SCM-zal worden meer betaalbaar. Servers zijn ingesteld om te veranderen in de komende jaren, en veel van de voorschotten zullen profiteren van enterprise AI applicatie-omgevingen.

Meer informatie over HPC en supercomputers

  • HPE te kopen Cray, bieden HPC als een service
  • Ontmanteling van de Titan supercomputer
  • 10 van de wereld ‘ s snelste supercomputers
  • Wat is quantum computing en waarom moeten ondernemingen de zorg?
  • Wie is de ontwikkeling van quantum computers?

Dit verhaal, “8 manieren om te bereiden uw datacenter voor AI ‘s power draw” werd oorspronkelijk gepubliceerd door