Bei einem ca. drei Jahre altem B-t-O Server eines Kunden bestehend aus dem Supermicro SuperChassis 732D2-500B mit einem X10SLH-F Mainboard wurden uns die Festplatten etwas zu warm. Punktuell hatten wir zu Spitzenzeiten bis zu 62°C ermittelt. Das Ganze hängt natürlich von den verbauten Festplatten ab, in diesem Fall vier 15K SAS HDDs, die im Vergleich zu 7K2 HDDs durchaus 10-20°C mehr an (Ab)wärme erzeugen können (“Erfahrungswert”, ermittelt an bzw. in diesem System).
Ungut ist, das bei diesem Gehäuse keine Lüftermontage für die HDDs vorgesehen ist und zu allem Überfluss bei den oberen zwei HDDs im Festplattenkäfig Frontseitig die Anschlussplatine für USB und Audio im Weg des Luftstroms sitzt. Eine Möglichkeit wäre nun diese Platine zu entfernen, dies würde zwar den Weg sozusagen frei machen, allerdings kommt dann nur bedingt mehr Frischluft an die HDDs ran.
Da ein paar Gewindebohrungen auf das Basisplatte frei waren, konnte mit ein wenig Lochband ein zusätzlicher 120mm Lüfter hinter dem Festplattenkäfig montiert werden. Dieser Lüfter wurde an den Anschluss “FANA” angebunden, dieser Punkt wird später noch relevant. Der Festplattenkäfig bleibt um 90° schwenkbar, so das man nach wie vor bequem die Laufwerke erreichen und ggf. austauschen kann.
Damit mehr Durchzug realisiert wird wäre eine Option, alle Lüfter höher Drehen zu lassen. Am einfachsten geht das in dem man den “Fan Mode” via IPMI bzw. im BMC ändert. Via Web-Interface des Management Moduls lautet der Weg:
- Configuration – Fan Mode (Default: Optimal Speed)
Da allerdings der Rest des Systems mit um die 30°C in Sachen Temperatur entspannt war und ein unnötiger Verschleiss der Lüfter und die zusätzliche Geräuschentwicklung nicht nötig sind, sollte halbwegs gezielt nur der neue HDD-Lüfter schneller laufen. An dieser Stelle kommt der Lüfter-Anschluss ins Spiel, denn Supermicro unterteilt die FAN-Anschlüsse in zwei Zonen: CPU Zone (FAN1 bis FAN4) und Peripheral Zone (FANA).
Da der neue Lüfter an “FANA” angeschlossen ist, kann man nun mittels IPMI gezielt für diese Zone eine höhere Drehzahl in Prozent konfigurieren. Dies geht mit ipmitool aus Linux heraus:
ipmitool raw 0x30 0x70 0x66 0x01 0x01 0x60
Der vorletzte Wert gibt die Zone an (0 = CPU Zone, 1 = Peripheral Zone).
Der letzte Wert gibt die Drehzahl in Prozent an.
Da der verbaute Lüfter laut Spezifikation maximal 1350 RPM “darf”, sollte dieser nicht auf 100% (0x64, entspricht 1400 RPM) laufen, daher wurde er auf 93,75% (0x60, laut Anzeige 1300 RPM) konfiguriert.
Hat man kein Linux auf dem Server installiert, kann man z.B. aus einer VM heraus die Konfiguration remote über’s Netzwerk durchführen:
ipmitool -I lanplus -H <BMC-IP> -U ADMIN raw 0x30 0x70 0x66 0x01 0x01 0x60
Unter Windows hatte ich leider mit Tools wie ipmicfg (von Supermicro) und ipmiutil keinen Erfolg die Einstellung zu ändern, daher blieb nur die Linux-Lösung.
Die Festplatten bleiben nun im Bereich von 43 – 47°C je nach Last und Einbauposition. In der Regel ist die unterste HDD am kühlsten und die Oberste am wärmsten.
Der Server-Hersteller/-Erbauer meinte auf Nachfrage zu dem Temperaturthema lediglich, das er die Server nach Spezifikation der Hersteller bauen würde und folglich nur die entsprechend freigegebenen Komponenten nehmen würde. In wie weit das zutrifft wurde nicht weiter hinterfragt. Faktisch war es allerdings so, das die Festplatten über ihren maximalen Temperaturbereich hinaus (max. 55°C laut Datenblatt) betrieben wurden. Kommt dann noch etwas Verschmutzung bei den An-/Absaugöffnungen hinzu, könnte es schnell noch schlechter werden. Leider fand sich keine Option, die Festplatten-Temperatur zu überwachen. Man könnte sich allerdings auf Basis der Ausgabe des Avago(LSI)-Kommandozeilen-Tools etwas “basteln”:
C:\Program Files (x86)\MegaRAID Storage Manager>echo. & echo %time% & echo. & st orcli -PDList -a0 | find /i "Drive Temperature" 14:56:06,44 Drive Temperature :43C (109.40 F) Drive Temperature :41C (105.80 F) Drive Temperature :45C (113.00 F) Drive Temperature :47C (116.60 F)
Quellen:
Any Source – Lüftersteuerung für Supermicro IPMI
STH – Supermicro X9/X10/X11 Fan Speed Control
Thomas Krenn – Wiki – IPMI Konfiguration unter Linux mittels ipmitool
Thomas Krenn – Wiki – Ipmitool zur Remotesteuerung von Servern nutzen
Update 18.05.2018
Allem Anschein nach ist die Änderung mittels ipmi-Tool nicht von Dauer. Nachdem der Server transportbedingt stromlos war, befand sich die Einstellung wieder auf ihrem ursprünglichen Zustand.
Update 10.08.2018
Leider scheint die Änderung mittels ipmi-Tool generell nicht von Dauer zu sein. Selbst im laufenden Betrieb wird immer mal wieder (ein Muster oder einen Intervall konnte ich bislang nicht erkennen) zurückgesetzt. Von daher kann es sinnvoll sein, den Befehl regelmässig zu wiederholen, z.B. per cronjob, Aufgabe, …
Verheiratet, Vater von zwei Kindern, eines an der Hand, eines im Herzen. Schon immer Technik-Freund, seit 2001 in der IT tätig und seit über 10 Jahren begeisterter Blogger. Mit meiner Firma IT-Service Weber kümmern wir uns um alle IT-Belange von gewerblichen Kunden und unterstützen zusätzlich sowohl Partner als auch Kollegen.
War das einer dieser Kunde, wo ein erhöhtes ausfallen der Cheetah HDDs bemerkt wurde ?
Nicht dass die einfach an dem Hitzetod zugrunde gehen.
Nö, andere Baustelle.
Aber bei dem Kunden mit den Cheetahs war das einer der ersten Gedanken, der sich nicht bestätigt hat.
Seagate hätte dann auch nicht ohne weiteres alle HDDs ausgetauscht.