服務(wù)器裝 GROMACS、CP2K 裝習(xí)慣的人第一次部署 Materials Studio 8.0 多半會(huì)愣一下——這軟件和常見開源分子模擬工具的安裝邏輯不太一樣它有圖形化安裝器、獨(dú)立的 License 服務(wù)、Gateway 調(diào)度層還要照顧一堆 32 位兼容庫(kù)。我在某課題組先后部署過兩次 MS 8.0第一次從早上裝到天黑第二次只花了兩小時(shí)。差別在于第一次直接掛載鏡像點(diǎn)下一步完全沒做前置檢查第二次把系統(tǒng)版本、授權(quán)文件、遠(yuǎn)程圖形環(huán)境這三件事先捋清楚再動(dòng)手。這篇教程就按照后者的順序來(lái)寫重點(diǎn)覆蓋 CentOS 6/7 下 MS 8.0 服務(wù)端的完整安裝過程、License 授權(quán)配置、環(huán)境變量和并行計(jì)算設(shè)置以及裝完以后最常踩的幾個(gè)坑。適合需要在 Linux 計(jì)算節(jié)點(diǎn)上部署 MS 8.0 服務(wù)端、給 Windows/Mac 客戶端提供 Gateway 連接入口的課題組管理員參考。1. 安裝前的三件事系統(tǒng)版本、授權(quán)文件和遠(yuǎn)程圖形環(huán)境的確認(rèn)1.1 先確認(rèn) CentOS 版本和內(nèi)核架構(gòu)而不是直接開裝MS 8.0 這個(gè)年代的服務(wù)端對(duì)操作系統(tǒng)版本有明確邊界官方支持范圍主要在 Red Hat Enterprise Linux 5/6/7 這一條線上對(duì)應(yīng)到 CentOS 就是 CentOS 6 和 CentOS 7 最穩(wěn)CentOS 8 我沒試過不推薦在項(xiàng)目里拿它硬扛。拿到機(jī)器以后第一件事不是找安裝包而是先看清楚三樣?xùn)|西cat /etc/redhat-release uname -m df -h /optx86_64 架構(gòu)是基本要求雖然 MS 8.0 里還有不少 32 位組件但那是在 64 位內(nèi)核下用兼容庫(kù)跑不是讓你真的找一臺(tái) i686 機(jī)器。磁盤方面完整安裝 MS 8.0 所有模塊需要 40GB 左右如果你的 /opt 是系統(tǒng)盤最好提前規(guī)劃單獨(dú)掛載一塊數(shù)據(jù)盤避免裝到一半提示磁盤空間不足。內(nèi)存看節(jié)點(diǎn)用途單機(jī)做測(cè)試 8GB 起步如果打算跑并行計(jì)算子程序我建議按每個(gè)物理核心 2GB 以上預(yù)留后面并行章節(jié)會(huì)細(xì)說(shuō)。這里特別提醒一點(diǎn)MS 8.0 是上世紀(jì)風(fēng)格的老軟件安裝目錄里會(huì)塞大量的鏈接庫(kù)、模塊文件、幫助文檔如果放在 NFS 網(wǎng)絡(luò)存儲(chǔ)上安裝過程會(huì)非常慢而且個(gè)別模塊加載容易出怪問題。有條件就把安裝根目錄放在服務(wù)器本地盤后面沒那么多糟心事。1.2 授權(quán)文件決定部署形態(tài)浮動(dòng)授權(quán)還是節(jié)點(diǎn)鎖定MS 8.0 用的是 FlexNet 授權(quán)機(jī)制拿到手的授權(quán)文件通常是一個(gè)以 .lic 結(jié)尾的文本里面寫著授權(quán)類型、允許的 Feature 模塊清單、綁定的主機(jī)名或 MAC 地址。安裝前先搞清楚你拿到的是哪種授權(quán)這直接決定了 License 服務(wù)部署在哪臺(tái)機(jī)器上。如果是節(jié)點(diǎn)鎖定授權(quán)那授權(quán)文件綁定了某一臺(tái)服務(wù)器的 MAC 和 hostname你就只能在那一臺(tái)機(jī)器上運(yùn)行 lmgrd別想著換臺(tái)機(jī)器跑。如果是浮動(dòng)授權(quán)通常還附帶一個(gè)獨(dú)立 License 服務(wù)器地址和端口計(jì)算節(jié)點(diǎn)只需要在環(huán)境變量里寫MS_LICENSE_SERVERporthostname指向那臺(tái)授權(quán)服務(wù)器即可。在開始安裝之前有一件特別容易被忽略的事hostname 的規(guī)范化。很多 CentOS 機(jī)器裝好以后默認(rèn)叫l(wèi)ocalhost.localdomain這種主機(jī)名在 FlexNet 授權(quán)匹配時(shí)非常容易出問題。建議安裝前先定一個(gè)好記、規(guī)范的主機(jī)名比如計(jì)算節(jié)點(diǎn)叫cnode01hostnamectl set-hostname cnode01 echo 192.168.1.10 cnode01 /etc/hosts改完以后要么重啟要么重新登錄一次讓 hostname 全局生效。等授權(quán)文件到手以后再對(duì)照里面的 HOSTNAME 字段確認(rèn)大小寫完全一致。1.3 沒有顯示器怎么裝X11轉(zhuǎn)發(fā)與VNC的取舍MS 8.0 的服務(wù)端安裝器是 Java 圖形界面在服務(wù)器上裝就面臨一個(gè)現(xiàn)實(shí)問題服務(wù)器沒有顯示器。兩條路一是用 SSH X11 轉(zhuǎn)發(fā)二是用 VNC 起遠(yuǎn)程桌面。SSH X11 轉(zhuǎn)發(fā)聽起來(lái)簡(jiǎn)單ssh -X登錄然后跑安裝器就行但實(shí)際上跨網(wǎng)絡(luò)轉(zhuǎn)發(fā) Java Swing 界面非常卡而且經(jīng)常出現(xiàn)窗口畫不出來(lái)、部分按鈕點(diǎn)了沒反應(yīng)的情況。我第一次安裝就是在這上面耗了不少時(shí)間。后來(lái)學(xué)乖了直接在服務(wù)器上裝 tigervncyum install -y tigervnc-server vncserver :1 -geometry 1280x1024 export DISPLAY:1VNC 的桌面里開終端再跑安裝器穩(wěn)穩(wěn)當(dāng)當(dāng)。如果你對(duì)文本操作有經(jīng)驗(yàn)還可以用安裝器的 console 模式我自己后面幾次就直接./Install -console文本交互既快又不會(huì)因?yàn)閳D形庫(kù)缺失導(dǎo)致安裝器起不來(lái)可以少裝一堆圖形相關(guān)的依賴包。2. 前置依賴安裝32位兼容庫(kù)、Java運(yùn)行時(shí)與內(nèi)核參數(shù)調(diào)整2.1 32位兼容庫(kù)老版本軟件的硬性要求MS 8.0 服務(wù)端的相當(dāng)一部分核心子程序和授權(quán)工具還是 32 位二進(jìn)制CentOS 7 默認(rèn)只有 64 位環(huán)境缺了 i686 兼容庫(kù)裝到一半或者啟動(dòng)子程序的時(shí)候就會(huì)報(bào)類似error while loading shared libraries: libXp.so.6: cannot open shared object file的錯(cuò)誤。裝依賴這一步別省一次性把常用庫(kù)裝齊避免裝一個(gè)缺一個(gè)、缺一個(gè)裝一個(gè)的循環(huán)yum install -y glibc.i686 libXp.i686 libXt.i686 libXtst.i686 \ libXext.i686 libX11.i686 libXau.i686 libXrender.i686 \ libstdc.i686 compat-libstdc-33.i686 \ mesa-libGL.i686 zlib.i686 fontconfig.i686這里面的compat-libstdc-33.i686是老版本 MS 子程序的?？退峁┑氖桥f版 C 運(yùn)行時(shí)有的環(huán)境不裝也能過但裝上以后能避免后面遇到libstdc.so.5找不到。如果你用的是 CentOS 7libXp.i686在默認(rèn)倉(cāng)庫(kù)里就能找到如果 yum 提示找不到可以用yum provides */libXp.so.6查一下包里位置再手動(dòng)裝 rpm。2.2 Java運(yùn)行時(shí)和字體相關(guān)包的檢查MS 8.0 安裝器自己帶了一份 JRE所以理論上不強(qiáng)制要求你預(yù)裝 Java。但在實(shí)際部署里部分輔助工具和 Gateway 組件會(huì)調(diào)用系統(tǒng) Java環(huán)境里完全沒有 Java 還是可能出問題。我的做法是統(tǒng)一裝一個(gè) OpenJDK 8yum install -y java-1.8.0-openjdk裝完以后可以確認(rèn)一下java -version正常。要注意不要在服務(wù)器上裝一大堆亂七八糟的 JDK 版本然后亂改JAVA_HOMEMS 安裝器對(duì) Java 版本不敏感但對(duì)路徑里的空格、特殊字符很敏感。以前見過把 Java 解壓到帶中文的目錄里導(dǎo)致安裝器直接白屏這種環(huán)境問題最不值得排查。另外字體問題也經(jīng)常被忽略。圖形界面花屏、中文變成方塊、Gateway 的網(wǎng)頁(yè)控制臺(tái)字體異常很多都和缺少 X11 字體包有關(guān)yum install -y xorg-x11-fonts-ISO8859-1-75dpi \ xorg-x11-fonts-ISO8859-1-100dpi \ xorg-x11-fonts-type12.3 /etc/hosts、防火墻與SELinux的調(diào)整CentOS 7 上默認(rèn) firewalld 是開啟的SELinux 也是 enforcing。MS 8.0 的 License 服務(wù)和 Gateway 需要監(jiān)聽端口如果防火墻擋著客戶端就會(huì)連接不上而且這種問題的報(bào)錯(cuò)很誤導(dǎo)——它可能不是報(bào)連接失敗而是在客戶端界面里一直轉(zhuǎn)圈。一般 CPU 計(jì)算節(jié)點(diǎn)都放內(nèi)網(wǎng)我對(duì)防火墻的處理很簡(jiǎn)單放行 MS 需要的幾個(gè)端口然后保持防火墻開啟狀態(tài)不給課題組留下更大的安全缺口。MS 8.0 通常用到的端口是 License 的27080和 Gateway 的18888firewall-cmd --permanent --add-port27080/tcp firewall-cmd --permanent --add-port18888/tcp firewall-cmd --reloadSELinux 這塊說(shuō)實(shí)話很多老軟件的安裝腳本根本沒適配 SELinux與其查各種布爾值不如對(duì)這臺(tái)計(jì)算節(jié)點(diǎn)把它設(shè)為 permissive。生產(chǎn)環(huán)境管理員可能要權(quán)衡一下但對(duì)于課題組內(nèi)部的計(jì)算節(jié)點(diǎn)來(lái)說(shuō)這樣能省掉大量莫名奇妙的權(quán)限阻斷問題setenforce 0 sed -i s/^SELINUXenforcing/SELINUXpermissive/ /etc/selinux/config2.4 離線環(huán)境怎么準(zhǔn)備依賴包很多計(jì)算節(jié)點(diǎn)在內(nèi)網(wǎng)沒有外網(wǎng) yum 源這就非?？简?yàn)安裝前的準(zhǔn)備。如果你沒有提前把依賴包準(zhǔn)備好到了現(xiàn)場(chǎng)才發(fā)現(xiàn)yum install全都失敗那才是真正的地獄開局。離線環(huán)境有兩種做法。一種是在有外網(wǎng)的機(jī)器上先把需要安裝的包連同依賴一起下載下來(lái)yumdownloader --resolve --destdir/tmp/ms8_pkgs glibc.i686 libXp.i686 ...然后把整個(gè)目錄拷貝到服務(wù)器上用yum localinstall *.rpm裝。另一種是直接掛 CentOS 系統(tǒng)安裝光盤做本地源mount /dev/cdrom /mnt寫一個(gè)本地倉(cāng)庫(kù)配置文件指向 /mnt把 gpgcheck 關(guān)掉yum install就能直接從光盤里取包。這個(gè)方法對(duì) CentOS 6/7 都有效缺點(diǎn)是系統(tǒng)光盤倉(cāng)庫(kù)里不一定包含所有需要的包但至少基礎(chǔ)兼容庫(kù)是沒問題的。3. 主安裝流程掛載介質(zhì)、運(yùn)行安裝器與模塊勾選3.1 掛載ISO鏡像與安裝目錄規(guī)劃拿到安裝介質(zhì)以后上傳到服務(wù)器某個(gè)臨時(shí)目錄。如果是 ISO 文件就掛載mkdir -p /mnt/ms80 mount -o loop MaterialsStudio_8.0.iso /mnt/ms80 ls /mnt/ms80掛載以后看一眼目錄結(jié)構(gòu)找到Install腳本?，F(xiàn)在很多 Linux 軟件鏡像都喜歡用標(biāo)準(zhǔn)的install.sh但 MS 8.0 這個(gè)年代的安裝腳本一般就叫Install后面帶上個(gè)版本號(hào)或者不帶。如果執(zhí)行時(shí)提示Permission denied記得加執(zhí)行權(quán)限chmod x /mnt/ms80/Install安裝目錄我建議規(guī)劃為/opt/msiMS 安裝時(shí)會(huì)在這個(gè)根目錄下面按自己的一套邏輯再拆分出多個(gè)部分。別自作主張把目錄名改成MS80之類的保持默認(rèn)風(fēng)格后續(xù)跟官方文檔對(duì)照、找文件位置都省事。安裝用戶也別用 root 直接跑到最后后面我會(huì)說(shuō)改目錄屬主的問題。3.2 安裝器交互選項(xiàng)解讀啟動(dòng)安裝器有兩種方式圖形界面就./Install文本模式就./Install -console。如果你前面沒有開 VNC我強(qiáng)烈建議直接 console 模式交互過程不繁瑣逐項(xiàng)輸序號(hào)、輸路徑就行反而比圖形界面更不容易卡住。安裝過程中會(huì)詢問幾組關(guān)鍵信息安裝類型一般選完整安裝或者自定義安裝。如果介質(zhì)里包含多個(gè)平臺(tái)組件注意確認(rèn)當(dāng)前選擇的是 Linux 版本而不是 Windows 版本。安裝根目錄默認(rèn)通常是/opt/msi保持默認(rèn)或改成你規(guī)劃好的路徑。組件列表這一頁(yè)會(huì)列出所有模塊組件Gateway 是必選的其他材料計(jì)算模塊按需勾選。這里我要強(qiáng)調(diào)一個(gè)很多人踩過的坑安裝過程中會(huì)讓你填 License 服務(wù)器信息這個(gè)階段可以先跳過或者隨便填一個(gè)占位等主程序裝完以后單獨(dú)再配授權(quán)。因?yàn)?License 服務(wù)的調(diào)試經(jīng)常要反復(fù)重啟、改 hostname、看日志如果把它綁在安裝流程里一次搞定出錯(cuò)以后排查鏈路會(huì)很亂。先讓主程序落地再回頭收拾授權(quán)。3.3 模塊選擇策略別只想省那點(diǎn)空間模塊勾選這里我的建議是除非磁盤空間實(shí)在緊張否則全部選上。原因有三個(gè)第一MS 模塊之間不是完全獨(dú)立的很多模塊要調(diào)用公共數(shù)據(jù)文件、力場(chǎng)參數(shù)庫(kù)和輔助工具你少裝一個(gè)某個(gè)模塊可能在運(yùn)行到一半時(shí)才報(bào)缺文件。第二License 是按授權(quán)文件里的 Feature 控制每個(gè)模塊能不能用的你裝全模塊不會(huì)多消耗授權(quán)數(shù)只是占磁盤而已。第三后續(xù)補(bǔ)裝模塊需要重新跑安裝器而且如果安裝器版本或者介質(zhì)已經(jīng)被清理補(bǔ)裝成本比現(xiàn)在一次性選上高得多。如果你確實(shí)空間不夠最核心的組件請(qǐng)至少包含MaterialsVisualizer、Forcite、CASTEP、DMol3、MS Gateway。這幾個(gè)覆蓋了材料計(jì)算最常見的結(jié)構(gòu)搭建、分子動(dòng)力學(xué)和第一性原理計(jì)算需求。3.4 安裝后的目錄結(jié)構(gòu)核對(duì)與權(quán)限修正安裝過程會(huì)持續(xù)一段時(shí)間取決于服務(wù)器的 CPU 和磁盤速度。裝完以后別看安裝器提示“Success”就關(guān)終端先把根目錄結(jié)構(gòu)過一遍ls /opt/msi正常情況下你應(yīng)該能看到類似MaterialsStudio8.0、LicensePack、Gateway這樣的子目錄。如果某個(gè)目錄缺失說(shuō)明對(duì)應(yīng)組件沒裝上趕緊回看安裝日志找出是哪個(gè)步驟失敗。安裝日志一般在/tmp下或者安裝根目錄下的InstallLogs目錄里報(bào)錯(cuò)行會(huì)寫清楚是在復(fù)制哪個(gè)文件時(shí)失敗。然后做一件很重要的事把整個(gè)安裝目錄的屬主改成非 root 用戶。MS 子程序在運(yùn)行時(shí)可能會(huì)往安裝目錄寫臨時(shí)文件、日志如果用 root 全權(quán)持有客戶端任務(wù)以普通用戶身份執(zhí)行時(shí)反而會(huì)遇到權(quán)限問題。建議先建一個(gè)專門用于運(yùn)行 MS 的用戶useradd -m msi chown -R msi:msi /opt/msi不要小看這一步后面子程序莫名崩潰查到最后發(fā)現(xiàn)是作業(yè)目錄無(wú)寫權(quán)限的案例不在少數(shù)。4. License配置啟動(dòng)License服務(wù)與模塊授權(quán)驗(yàn)證4.1 License文件放置與方式選擇MS 8.0 的授權(quán)服務(wù)本質(zhì)上就是 FlexNet 的lmgrd授權(quán)文件是你從管理員那里拿到的.lic文件。部署方式分兩種如果課題組有獨(dú)立的授權(quán)服務(wù)器那計(jì)算節(jié)點(diǎn)根本不用跑 lmgrd只需要在環(huán)境變量里指向它比如MS_LICENSE_SERVER27080license-server。這種方式最省心License 服務(wù)只需要在一臺(tái)機(jī)器上維護(hù)所有計(jì)算節(jié)點(diǎn)共享。如果這里是唯一授權(quán)節(jié)點(diǎn)或者你想先在一臺(tái)機(jī)器上把服務(wù)跑通就要把.lic放到 LicensePack 的對(duì)應(yīng)目錄下。常見的位置是/opt/msi/LicensePack/share/licenses/具體目錄名以你介質(zhì)里的 LicensePack 結(jié)構(gòu)為準(zhǔn)可以用find /opt/msi -name *.lic或者find /opt/msi -type d -iname *licens*先探路。存放之前用文本編輯器打開.lic文件檢查里面的 HOSTID 和主機(jī)名跟你服務(wù)器的實(shí)際情況是否一致不一致的話后面 lmgrd 就算啟動(dòng)成功客戶端也會(huì)報(bào) invalid host。4.2 啟動(dòng)lmgrd并設(shè)置開機(jī)自啟假定授權(quán)服務(wù)就在本機(jī)用下面的方式手動(dòng)啟動(dòng) lmgrd 做驗(yàn)證License_ROOT/opt/msi/LicensePack/linux_x86_64 $License_ROOT/bin/lmgrd \ -c /opt/msi/LicensePack/share/licenses/MS80.lic \ -l /var/log/lmgrd.log啟動(dòng)以后第一件事不是急著連客戶端而是看日志。日志里如果出現(xiàn)類似License server started或者FlexNet Licensing version ...字樣就說(shuō)明基本成功了。然后確認(rèn)端口監(jiān)聽netstat -tunlp | grep 27080我這里用 27080 舉例具體端口要以授權(quán)文件里寫的信息為準(zhǔn)。為了讓重啟機(jī)器后授權(quán)服務(wù)自動(dòng)起來(lái)我習(xí)慣寫一個(gè)簡(jiǎn)單的 systemd 服務(wù)。CentOS 7 下在/etc/systemd/system/lmgrd.service里寫[Unit] DescriptionFlexNet License Server Afternetwork.target [Service] Typeforking ExecStart/opt/msi/LicensePack/linux_x86_64/bin/lmgrd -c /opt/msi/LicensePack/share/licenses/MS80.lic -l /var/log/lmgrd.log ExecStop/opt/msi/LicensePack/linux_x86_64/bin/lmutil lmdown Restarton-failure [Install] WantedBymulti-user.target然后執(zhí)行systemctl daemon-reload systemctl enable --now lmgrd。這里注意一個(gè)細(xì)節(jié)如果你的lmgrd實(shí)際是 32 位程序而系統(tǒng)里沒裝 32 位庫(kù)啟動(dòng)時(shí)可能直接報(bào)No such file or directory這不是文件不存在是加載器找不到對(duì)應(yīng)的 32 位 ld-linux回到第二章把兼容庫(kù)補(bǔ)上就好。4.3 用客戶端任務(wù)驗(yàn)證授權(quán)是否覆蓋到模塊License 啟動(dòng)成功不代表所有模塊都能用。每個(gè)模塊對(duì)應(yīng)一個(gè) Feature 名稱比如 CASTEP 對(duì)應(yīng)一個(gè)特征碼DMol3 對(duì)應(yīng)另一個(gè)。驗(yàn)證授權(quán)范圍最直接的辦法是拿客戶端實(shí)際提交一個(gè)小任務(wù)。在客戶端機(jī)器上輸入服務(wù)端 IP 和登錄賬號(hào)新建一個(gè)簡(jiǎn)單結(jié)構(gòu)比如一個(gè)小晶胞的幾何優(yōu)化計(jì)算引擎選 CASTEP 或者 DMol3提交任務(wù)。如果授權(quán)正常任務(wù)會(huì)在服務(wù)端排隊(duì)、運(yùn)行、最后正常返回結(jié)果。如果任務(wù)一提交就報(bào)錯(cuò)去 Gateway 日志或者任務(wù)日志里找 License 相關(guān)的關(guān)鍵詞比如Cannot find license for ...說(shuō)明授權(quán)文件里沒有這個(gè)模塊的 Feature或者該 Feature 的并發(fā)數(shù)已經(jīng)被占滿。License server system down說(shuō)明 lmgrd 根本沒在跑或者客戶端連不上授權(quán)端口。Invalid host說(shuō)明授權(quán)文件綁定的主機(jī)名跟實(shí)際不一致。驗(yàn)證完一個(gè)模塊后最好把幾個(gè)常用模塊都各提交一遍小任務(wù)一次性確認(rèn)所有模塊可用別到課題組日常計(jì)算時(shí)才發(fā)現(xiàn)某個(gè)模塊沒授權(quán)。5. 環(huán)境變量與并行計(jì)算讓子程序跑在真正的多核上5.1 環(huán)境變量配置給所有用戶生效MS 8.0 運(yùn)行需要的核心環(huán)境變量主要是三個(gè)export MS_INSTALL_ROOT/opt/msi/MaterialsStudio8.0 export MS_LICENSE_SERVER27080cnode01 export PATH$MS_INSTALL_ROOT/bin:$PATHMS_INSTALL_ROOT指向 MS 程序主目錄。MS_LICENSE_SERVER的格式是端口主機(jī)名主機(jī)名要跟 License 服務(wù)器的實(shí)際 hostname 一致如果你寫 IP 也可以但有些模塊對(duì) IP 解析方式敏感盡量寫 hostname。PATH里加入 bin 目錄后命令行工具和輔助程序才能被直接調(diào)用。為了讓所有登錄用戶都自動(dòng)生效我習(xí)慣寫到/etc/profile.d/ms8.sh里然后source /etc/profile或重新登錄。這里有個(gè)值得提醒的細(xì)節(jié)安裝目錄下的 bin 路徑可能不是標(biāo)準(zhǔn)的一層bin有的模塊會(huì)把可執(zhí)行文件放到各自模塊目錄下的深層路徑里如果你加了 bin 后敲命令還是提示 not found用ls $MS_INSTALL_ROOT看一下實(shí)際結(jié)構(gòu)把真實(shí)的 binaries 路徑加到 PATH。5.2 MPI運(yùn)行時(shí)選擇MS自帶的優(yōu)先MS 8.0 服務(wù)端跑并行計(jì)算時(shí)Gateway 會(huì)把任務(wù)提交給 MPI 運(yùn)行時(shí)執(zhí)行。有些新裝的服務(wù)器管理員圖省事系統(tǒng)里裝一個(gè)openmpi結(jié)果 MS 子程序一跑就崩或者提交任務(wù)后根本起不來(lái)并行進(jìn)程。原因很簡(jiǎn)單MS 8.0 適配的是它自帶的那套 MPI 運(yùn)行時(shí)和配套的進(jìn)程管理方式系統(tǒng)里的 OpenMPI 版本和它不一致時(shí)兩邊銜不上。我的做法是在 PATH 里讓 MS 自帶的 MPI 目錄排在系統(tǒng) MPI 前面優(yōu)先調(diào)用 MS 自己的運(yùn)行時(shí)。如果你不確定自帶的 MPI 放在哪找一下安裝目錄里帶mpirun或者mpiexec的路徑比如常見的是$MS_INSTALL_ROOT/../Mpi/mpich/bin用find /opt/msi -name mpirun搜一下。找到后把對(duì)應(yīng) bin 目錄加到環(huán)境變量的最前面。在 Gateway 的任務(wù)調(diào)度配置里進(jìn)程管理器這一項(xiàng)也要選擇本機(jī)直接執(zhí)行方式而不是默認(rèn)的遠(yuǎn)程 shell 方式。如果配置成需要 SSH 免密登錄每次任務(wù)啟動(dòng)都要多一步 SSH 握手還容易因?yàn)槊饷軟]配好導(dǎo)致任務(wù)在啟動(dòng)階段就卡死。5.3 并行實(shí)測(cè)4核、8核、16核的加速比與判斷環(huán)境配好了但怎么確認(rèn)并行真的生效我用過一個(gè)非常土的辦法跑一個(gè)相同的小體系單點(diǎn)能任務(wù)分別設(shè)置 1、4、8、16 核記錄每一輪的耗時(shí)。實(shí)測(cè)下來(lái)的數(shù)據(jù)大致長(zhǎng)這樣核數(shù)耗時(shí)(秒)相對(duì)單核加速比1520141603.38955.516707.4從這組數(shù)據(jù)能看出兩件事一是有加速說(shuō)明并行確實(shí)在起作用二是從 8 核到 16 核加速比提升很小說(shuō)明這個(gè)體系太小已經(jīng)出現(xiàn)并行通信開銷大于計(jì)算收益的情況。如果你提交 8 核任務(wù)但耗時(shí)和單核一模一樣那就要懷疑并行沒生效。用top看一下運(yùn)行時(shí)進(jìn)程數(shù)量如果只有一個(gè)主進(jìn)程在跑說(shuō)明 MPI 配置有問題回到 5.2 檢查運(yùn)行時(shí)的選擇。體系規(guī)模決定核數(shù)這是個(gè)特別重要的經(jīng)驗(yàn)原子數(shù)不到一百的體系4 核基本就到頭了幾百個(gè)原子的體系8 核比較劃算上千個(gè)原子的體系才值得上 16 核或更多。無(wú)腦加核只會(huì)讓任務(wù)排隊(duì)排得更久算得反而更慢。5.4 磁盤與內(nèi)存規(guī)劃靜默失敗的常見原因并行計(jì)算對(duì)內(nèi)存和磁盤的要求比想象的更高。MS 子程序在計(jì)算過程中會(huì)在臨時(shí)目錄產(chǎn)生大量中間文件/tmp如果空間太小任務(wù)會(huì)在沒有任何明確報(bào)錯(cuò)的情況下消失只在日志尾部留一行不明不白的錯(cuò)誤。這一步我吃過虧當(dāng)時(shí)一個(gè) 32 核任務(wù)跑了一個(gè)小時(shí)后突然退出查了半天最后發(fā)現(xiàn)/tmp只剩幾百兆。解決辦法是把臨時(shí)目錄指到大分區(qū)。在 MS 環(huán)境里設(shè)置export TMPDIR/scratch/ms8_tmp mkdir -p /scratch/ms8_tmp chown msi:msi /scratch/ms8_tmp如果/scratch是本地盤還能順便減少 NFS 網(wǎng)絡(luò)文件系統(tǒng)帶來(lái)的 IO 瓶頸。并行任務(wù)如果工作目錄掛在 NFS 上多個(gè)進(jìn)程同時(shí)讀寫同一個(gè)網(wǎng)絡(luò)目錄非常容易出現(xiàn)鎖沖突和文件同步問題。有條件的話把任務(wù)的本地工作目錄放到計(jì)算節(jié)點(diǎn)的本地盤跑完再同步回共享存儲(chǔ)這是老 HPC 管理員的基本素養(yǎng)。6. 高頻問題排查從錯(cuò)誤日志到解決方案的完整鏈路6.1 缺動(dòng)態(tài)庫(kù)用ldd定位而不是瞎猜啟動(dòng) MS 子程序時(shí)最常聽到的一句話是“報(bào)錯(cuò)說(shuō)找不到一個(gè) .so 文件”。報(bào)錯(cuò)信息五花八門有缺libXp.so.6的有缺libstdc.so.5的有缺libGL.so.1的。面對(duì)這類問題我的排查方式是先找到具體是哪個(gè)可執(zhí)行文件起不來(lái)然后用ldd看它到底缺什么ldd /opt/msi/MaterialsStudio8.0/modules/CASTEP/bin/castepexe | grep not found絕大多數(shù)情況缺什么就用包管理器去找它屬于哪個(gè)包而不是一次性裝一堆包碰運(yùn)氣yum provides */libXp.so.6找到包名后yum install對(duì)應(yīng)包的 i686 版本。這一套下來(lái)通常三五分鐘就能解決。不要圖省事直接把所有 32 位庫(kù)裝一遍萬(wàn)一裝錯(cuò)版本或者引入了庫(kù)沖突后面的排查才是真正的無(wú)底洞。6.2 圖形界面顯示異常字體與X環(huán)境的處理MS 安裝器或者客戶端連接后界面出現(xiàn)黑塊、窗體空白、字體全是小方塊這一般不是程序壞了而是圖形環(huán)境和字體的問題。安裝器黑屏?xí)r先確認(rèn)DISPLAY有沒有指向正確的 VNC 桌面再確認(rèn)字體包是否齊全xset -q如果 VNC 分辨率太低Java 渲染也會(huì)出問題把 VNC 的分辨率調(diào)到1280x1024或更高。實(shí)在不行就退回文本模式安裝./Install -console不需要 X 也能把主程序完整裝上。裝主程序和配 License 都不依賴圖形界面圖形界面只是給安裝過程提供便利別被它卡住整個(gè)項(xiàng)目進(jìn)度。6.3 Gateway無(wú)法啟動(dòng)端口與殘留進(jìn)程Gateway 是客戶端連服務(wù)器的入口它的默認(rèn)端口是 18888。如果你改了 Gateway 配置或者服務(wù)器重啟后沒正常關(guān)閉 Gateway再啟動(dòng)時(shí)會(huì)提示端口被占用最常見的場(chǎng)景是安裝過程中沒有把吉隆的舊進(jìn)程清干凈。排查鏈路很直接ps -ef | grep -i gateway ss -tlnp | grep 18888看到 18888 端口被某個(gè) Java 進(jìn)程占著要么把它停掉要么找到 Gateway 自帶的啟停腳本用正常方式重啟。MS 8.0 網(wǎng)關(guān)目錄下一般有g(shù)wstop、gwstart之類的腳本先執(zhí)行 gwstop確認(rèn)進(jìn)程退出以后再 gwstart。啟動(dòng)后等幾秒再檢查一次端口監(jiān)聽是否正常。如果客戶端連接時(shí)經(jīng)常自動(dòng)斷開還要檢查客戶端到服務(wù)器的 18888 端口是否被防火墻攔了。6.4 License報(bào)錯(cuò)從日志往上游看License 相關(guān)的報(bào)錯(cuò)是安裝后期的大頭。常見的表象有任務(wù)一提交就提示 license 錯(cuò)誤、客戶端顯示無(wú)法獲得授權(quán)、Gateway 日志里寫著 license server down。這些表面問題背后可能是完全不同的原因我的排查套路是從日志出發(fā)一層層往上游看先看 lmgrd 的日志tail -50 /var/log/lmgrd.log如果日志顯示License server started說(shuō)明服務(wù)正常問題可能出在客戶端環(huán)境變量寫的端口或主機(jī)名不對(duì)。如果日志根本沒有啟動(dòng)記錄那 lmgrd 進(jìn)程可能沒起來(lái)檢查進(jìn)程和端口。如果日志里有Invalid host字樣那問題在授權(quán)文件綁定信息上去跟授權(quán)文件里的 HOSTNAME 逐一比對(duì)。如果日志里有EXPIRED字樣查系統(tǒng)當(dāng)前時(shí)間和日期FlexNet 對(duì)時(shí)鐘漂移非常敏感節(jié)點(diǎn)時(shí)間被自動(dòng)校時(shí)撥亂的時(shí)候授權(quán)服務(wù)會(huì)間歇性地報(bào)告過期。還有一個(gè)很容易忽略的坑修改了/etc/hosts的 hostname 映射后沒有重啟 lmgrd。lmgrd 在啟動(dòng)時(shí)會(huì)把主機(jī)名緩存下來(lái)你改了 hosts 但不重啟它它用的還是老名字自然對(duì)不上授權(quán)。6.5 子程序中途消失內(nèi)存、磁盤和權(quán)限的賬任務(wù)提交后進(jìn)程起來(lái)但跑著跑著就沒了連個(gè)報(bào)錯(cuò)窗口都不彈這是最讓人頭疼的情況。這類問題的排查必須看系統(tǒng)層證據(jù)而不是反復(fù)重新提交任務(wù)。先看作業(yè)目錄下的日志和輸出文件尾部有沒有異常。接著看系統(tǒng)日志里有沒有內(nèi)核殺進(jìn)程的記錄dmesg -T | tail -50如果看到Out of memory: Kill process那就是典型的內(nèi)存不足子程序申請(qǐng)的內(nèi)存超過了節(jié)點(diǎn)可用內(nèi)存被內(nèi)核 OOM 殺掉。解決辦法是減少并行核數(shù)、換大內(nèi)存節(jié)點(diǎn)或者優(yōu)化計(jì)算的基組復(fù)雜度。如果內(nèi)存沒問題再檢查磁盤df -h /tmp df -h /opt臨時(shí)目錄或安裝目錄滿了程序?qū)懼虚g文件失敗也會(huì)靜默退出。磁盤沒問題的話接下來(lái)檢查權(quán)限。MS 子程序能不能在工作目錄和臨時(shí)目錄寫入取決于 MS 運(yùn)行用戶對(duì)這兩個(gè)目錄的權(quán)限。用ls -ld看目錄屬主用運(yùn)行 MS 的用戶實(shí)際去新建一個(gè)測(cè)試文件試試就知道。這套排查走完90% 的靜默消失都能定位到原因。說(shuō)實(shí)話MS 8.0 裝好一次以后非常穩(wěn)定我見過服務(wù)器上跑了好幾年都不需要再動(dòng)的。真正麻煩的從來(lái)不是安裝本身而是安裝前那些看著不起眼、關(guān)鍵時(shí)刻掉鏈子的前置檢查。希望這篇記錄能幫你少走幾個(gè)我走過的彎路。