Робоча станція NVIDIA Grace Hopper у фінальному та початковому вигляді / блог David Noel Ng, Reddit
Крім “золотої” оперативної пам’яті, робоча станція NVIDIA оснащена двома суперчипами Grace Hopper, двома 7-ядерними процесорами Grace та двома GPU Hopper H100.
Нереально вдале придбання дозволяє локально запускати велику мовну модель з 235 млрд параметрами. Щасливець Девід Ноель Нг пояснює у своєму блозі, що за $10 000 зараз можна придбати лише “вживані графічні процесори, ледве здатні обробляти 70 млрд”. Ймовірно, у Девіда непогано йдуть справи, адже коли він побачив “вочевидь фейкову” пропозицію в Reddit, він вирішив ризикнути. Проте навіть у такій ситуації покупець не втратив глузд, адже домігся знижки від початкової ціни €10 000.
“Виявляється, я живу поруч із продавцем, а він керує інтернет-магазином, який продає модифіковане серверне обладнання NVIDIA як настільні комп’ютери. Це все ще здавалося досить ризикованим, тому я провів деякі дослідження та знайшов відеоогляд одного з його настільних комп’ютерів на YouTube. Оскільки угода тепер здавалася принаймні правдоподібною, а продавець був лише за дві години їзди та погодився взяти готівку, настав час вирушити в баварську подорож”, — пише Девід Ноель Нг.
Звичайно ж, пропозиція мала застереження, котрі пояснюють величезну знижку та містила ризики монтажу, але, забігаючи уперед, все пройшло нормально і станція запрацювала. Охолодження системи було перероблене з рідинного на повітряне, вона мала неохайний вигляд, втратила можливість встановлення в стійку та працювала від блока живлення 3000 Вт, 230 В на 48 В.
Пам’ять 2 x 480 ГБ LPDDR5X ECC, котра, як пише Tom’s Hardware, вже виправдовує придбання, була не єдиною, встановленою у робочій станції. На її борту також встановлені 2x 96 ГБ пам’яті HBM3, тож загальний обсяг “оперативки” складає 1152 ГБ. Компоненти системи поєднуються за технологією NVLink-C2C з пропускною здатністю 900 ГБ/с, загальний TDP можна програмувати від 1000 Вт до 2000 Вт, у наявності інтерфейси підключення 2x PCIe Gen4 M.2 22110/2280, 4x FHFL PCIe Gen5 x16, 1x USB 3.2, 1x RJ45 IPMI та 1x Mini Displayport.
Доведення цього “ПК” до ладу потребувало неабиякої роботи паяльником та іншими інструментами, котру автор захопливо описує у блозі. Крім бруду, система була вкрай шумною та надзвичайно грілася, але продавець чесно продемонстрував її Девіду саме у такому вигляді.
“Якби це був спонсорований пост, вони, мабуть, не дозволили б мені згадати про температуру графічного процесора в 16 млн градусів або про те, де мені довелося вільно паяти компоненти, молячись богам електроніки”, — зауважує новий власник.
Для очищення та налагодження він використав ізопропілового спирту, чотири перероблених недорогих рідинних охолоджувача Arctic AiO, кілька мідних деталей, вирізаних на програмованому фрезерованому верстаті, кілограм деталей, надрукованих на 3D-принтері. Фінальний результат роботи можна побачити на обкладинці. Вочевидь, різницю в ціні частково покрили навички та робота чоловіка, тож це не зовсім дармова покупка.
