8 sätt att förbereda ditt datacenter för AI: s makt oavgjort

0
4

Artificiell intelligens tar fart i företagets inställningar, så kommer data center strömförbrukning. AI är många saker, men strömsnål är inte en av dem.

För datacenter som kör typiska affärssystem, genomsnittlig strömförbrukning för en bricka som är ca 7 kW. Men det är gemensam för AI-program för att använda mer än 30 kW per rack, enligt data center organisation AFCOM. Det beror på att AI kräver mycket högre processor användning, och processorer – särskilt Gpu – är en makt hungriga. Nvidia GPUs, till exempel, kan köra flera storleksordningar snabbare än en PROCESSOR, men de förbrukar dubbelt så mycket el per chip. Komplicerar frågan är att många datacenter är redan makten begränsad.

LÄS MER: behöver du verkligen high performance computing?

Kyla är också en fråga: AI-orienterade servrar kräver större processor densitet, vilket innebär att du förlorar mer marker förlagda i fält, och alla kör mycket varm. Större densitet, tillsammans med högre nyttjandegrad, ökar efterfrågan på kyla, jämfört med en typisk back-office-servern. Högre kylbehov i sin tur öka kraften krav.

Så vad kan du göra om du vill omfamna AI för konkurrensskäl, men med en effekt av din befintliga anläggning är inte upp till den höga densiteten infrastruktur krav AI? Här är några alternativ.

Överväga med flytande kylning

Fläkt kyla vanligtvis förlorar lönsamhet när ett rack som överstiger 15 kW. Vatten, dock har 3.000 gånger värmekapaciteten för luft, enligt CoolIT System, en tillverkare av företag med flytande kylning och produkter. Som ett resultat, server skåp beslutsfattare har varit att lägga vätska rör till sina skåp och ansluta vattnet rör deras kylare istället för fans.

“Med flytande kylning är definitivt ett mycket bra alternativ för högre densitet massor, säger John Sasser, senior vice president för verksamheten datacenter på Sabey, en utvecklare och operatör av datacenter. “Som tar bort den röriga luftflöde fråga. Vatten tar bort mycket mer värme än luft, och du kan styra den genom rör. En hel del av HPC (high performance computing] sker med flytande kylning.”

De flesta datacenter är att ställa upp för luftkylning, så med flytande kylning och kommer att kräva investeringar”, men det kan vara en mycket mer förnuftig lösning för dessa insatser, särskilt om ett företag bestämmer sig för att röra sig i riktning [AI],” Sasser säger.

Kör AI arbetsbelastning vid lägre upplösning

Befintliga datacenter skulle kunna hantera AI computational arbetsbelastning men i minskad mode, säger Steve Conway, senior research vice president för Hyperion Forskning. Många, om inte de flesta, arbetsbelastning kan användas på hälften eller en fjärdedel precision snarare än 64-bitars dubbel precision.

“För några problem, hälften precision är bra,” Conway säger. “Kör det i lägre upplösning, med mindre data. Eller med mindre vetenskap i det.”

Dubbel precision flyttal beräkningar är i första hand behövs för vetenskaplig forskning, som ofta sker på molekylär nivå. Dubbel precision är inte normalt används i AI utbildning eller slutledning på djupt lärande modeller eftersom det inte behövs. Även Nvidia förespråkare för användning av enkel – och halv-precision beräkningar i djup neurala nätverk.

Bygga en AI inneslutning segment

AI kommer att vara en del av ditt företag, men inte alla, och att detta bör återspeglas i ditt datacenter. “De nya anläggningar som byggs funderar på att fördela en viss del av sina anläggningar för att högre strömförbrukning, säger Doug Hollidge, en partner med Fem 9s Digital, som bygger och driver datacenter. “Du ska inte lägga alla dina lokaler för att högre densitet eftersom det finns andra appar som har lägre rita.”

Den första sak att göra är att bedöma energi till byggnaden, Hollidge säger. “Om du ska öka energianvändningen i byggnaden, du har att se till att power-leverantör kan öka strömmen.”

Att ta in en ingenjör för att bedöma vilken del av data center som är bäst utrustat för högre densitet kapacitet. Arbetsbördan krav kommer att bestämma den bästa lösningen, oavsett om det är varmt gång inneslutning eller flytande kylning eller någon annan teknik. “Det är svårt att ge en-storlek-passar-alla-lösning eftersom alla datacenter är olika,” Hollidge säger.

Sprid ut dina AI-system

En alternativ strategi – i stället för att trängas med alla dina AI-system till en varmare plats än Death Valley i augusti – är att sprida ut dem bland hyllorna.

“De flesta appar är inte hög densitet. De kör på åtta till 10 kw och upp till 15 kilowatt. Du kan hantera den med luft, säger David McCall, chief innovation officer med QTS, en byggare av datacenter.

I en optimerad heterogen miljö, en samlokalisering som leverantören kan ha ett rack eller två i ett skåp för att vara värd för ett HPC-eller AI-miljö, och resten av rack i skåp är dedikerad till att vara värd mindre resurskrävande program, till exempel databaser och back-office-appar. Det kommer inte att ge en 5 kW rack, men det blir ett rack närmare 12 kW 15 kW, vilket är en miljö som luftkylning kan hantera, McCall säger.

Kontroll varm luft flöde i datacentret

Standardiserad data center layout är varmt gång/kalla gångar, där skåp läggs ut i alternerande rader så att kall luft intag möter varandra på en framsidan gången, och att varm luft blåser mot varandra på apparatens baksida som vetter mot mittgången. Det fungerar bra, men kan vara knepigt om en IT-arbetare behöver för att komma bakom ett skåp för att arbeta på en server.

Det andra problemet är att luft är “stökiga”, som Sasser uttryckte det. Makt är ofta lättare att modellen eftersom den flyter genom en ledare, och du kan kontrollera (och därmed planera och modell), där strömmen går. Luften går när det vill och som är svåra att kontrollera.

Sabey kunder som vill ha högre densitet miljöer använda ett hot gången inneslutning pod för att styra luftflödet. Företaget sätter dörrar i slutet av hot gången och plast plattor ovanpå, så att värmen leds till ett tak insugningsrör och hinder hålla varm luft och kall luft blandas.

“I en luftkyld server världen, de råd jag ger är att gå med en varm aisle containment miljö,” Sasser säger. “Den andra råd jag vill ge är att se till att data center är testade för luftflöde, inte bara modelleras för luftflödet. Modellering är beroende på en mängd variabler, och de var så lätt att förändra.”

Överväga en skorsten skåp

Ett annat sätt att hjälpa till att hantera temperaturer i datacenter är att använda en skorsten skåp. Istället för ventilering den varma luften ut på baksidan, en skorsten skåp använder gamla goda fysik konvektion att skicka varm luft upp i en skorsten, som sedan kopplas till en luftkonditionering vent. Chatsworth System är mest känd för denna typ av skåp.

“Luften väg är mer begränsade på detta sätt,” Sasser säger. “Eftersom att luft väg som är mer låsta, du kan få större täthet i ett skåp än med ett varmt gång pod.”

Process data där det bor

Flytta data staden har en mycket hög energikostnad: Det kan ta upp till 100 gånger mer energi för att flytta data än det tar att bearbeta data, Conway säger. Någon form av uppgifter om förflyttningar kräver el, och att strömförbrukningen ökar med volymen av data – en viktig fråga för data-intensiva AI-program. “Du vill flytta data så sällan och så lite avstånd du kan,” Conway säger.

“Lösningen är inte att flytta data oftare eller längre än som är absolut nödvändigt. Så att människor strävar efter att sätta data närmare där den bearbetas. En sak leverantörer av molntjänster och människor som använder molntjänster är överens om är att det inte är vettigt att flytta en stor mängd data till en tredje part moln”, säger han.

Anser leasing data center utrymme

De flesta av de företag som vill genomföra AI är företag som hyresavtalet data center utrymme från ett datacenter operatör, Hollidge säger. Det finns vissa data center aktörer som inte klarar av att hantera höga densitet AI beräkning, men en del har gått över till att erbjuda en del av hög densitet miljöer för AI.

“Du kanske måste gå igenom ett fåtal leverantörer innan man hittar det, men det är mer uppmärksamhet åt att på data center operations sida,” Hollidge säger. Och en tredje part data center leverantör ger dig mer tillväxt val. “De flesta av den tid du är bättre att komma in i en flexibel hyresavtal som gör att du kan expandera och växa din AI verksamhet i motsats till att bygga grunden.”

Att vänta på nästa generations servrar

Superdatorer för att dagen har inte varit mycket data vänlig, Conway säger. Eftersom superdatorer har blivit större, design har fått mindre data-centrerad. Resultatet är att mer data måste flyttas runt och skytteltrafik mellan processorer, minne, lagring och system. Och som diskuterats ovan, kostar det mer kraft för att flytta data än att behandla den.

Den första exascale-system kommer att komma med fler acceleratorer och mer kraftfull sammanlänkningar för att flytta runt data. Och många innovationer som börjar i superdatorer, inklusive Grafikprocessorer och lagring-klass minne (SCM), för att så småningom arbeta sig ner till mer vanliga servrar.

Framtida servrar också kommer med en mer heterogen chip layout, istället för alla x86-Processorer, kommer de att inkludera Grafikprocessorer, Fpga: er och AI-acceleratorer. Och för hög hastighet lagring, NVMe-över-Tyg och SCM kommer att bli mer överkomligt. Servrar är inställd på att förändras under de kommande åren, och många av framstegen kommer att gynna företaget AI-miljöer.

Läs mer om HPC och superdatorer

  • HPE att köpa Cray, erbjuder HPC som en tjänst
  • Avvecklingen av superdator Titan
  • 10 av världens snabbaste superdatorer
  • Vad är quantum computing och varför bör företag hand?
  • Who: s utveckling av kvantdatorer?

Denna berättelse, “8 sätt att förbereda ditt datacenter för AI: s makt rita” var ursprungligen publicerad av