清華NLP實(shí)驗(yàn)室 AI Infra 團(tuán)隊(duì)招募

發(fā)布于：03-14

清華NLP實(shí)驗(yàn)室 AI Infra 團(tuán)隊(duì)在高性能計(jì)算、分布式計(jì)算、模型風(fēng)洞、端側(cè)技術(shù)方面積累深厚，致力于構(gòu)建全球領(lǐng)先的大模型基礎(chǔ)設(shè)施。部分代表性成果包括：

　　?開(kāi)源AI Infra工具鏈：開(kāi)源了系列大模型訓(xùn)練、微調(diào)、壓縮的高效框架（BMTrain、BMInf、BMCook）

　　?模型風(fēng)洞技術(shù)：構(gòu)建了全流程的模型科學(xué)化訓(xùn)練技術(shù)：模型風(fēng)洞，支持「小鋼炮」MiniCPM系列大模型的高效訓(xùn)練、高效落地與高效推理，MiniCPM系列端側(cè)模型累積下載量超過(guò)400萬(wàn)次

　　?端側(cè)AI部署：支持高通、聯(lián)發(fā)科、英偉達(dá)、愛(ài)芯、瑞芯微、蘋(píng)果等端側(cè)芯片的全棧部署，擁有全球領(lǐng)先的端側(cè)AI部署經(jīng)驗(yàn)

　　?更多研究成果見(jiàn)

　　??https://github.com/openbmb

　　研究矩陣

　　?強(qiáng)化學(xué)習(xí)算法研發(fā)（高性能領(lǐng)域） - 支撐智能高性能計(jì)算

　　1. 研發(fā)面向高性能計(jì)算的強(qiáng)化學(xué)習(xí)算法，用強(qiáng)化學(xué)習(xí)等技術(shù)實(shí)現(xiàn)算子編程、算法實(shí)現(xiàn)、模型風(fēng)洞、數(shù)據(jù)配比和資源調(diào)配的全智能化。

　　2. 面向AI4HPC需求，搭建訓(xùn)練框架，構(gòu)建高質(zhì)量標(biāo)注數(shù)據(jù)

　　?模型風(fēng)洞 - 支撐科學(xué)化模型研發(fā)平臺(tái)

　　1. 構(gòu)建大模型訓(xùn)練風(fēng)洞，實(shí)現(xiàn)自動(dòng)化的風(fēng)洞實(shí)驗(yàn)/訓(xùn)練任務(wù)規(guī)劃，包括超參搜索規(guī)劃、Scaling驗(yàn)證規(guī)劃、數(shù)據(jù)配比規(guī)劃和并行計(jì)算規(guī)劃等

　　2. 設(shè)計(jì)好的評(píng)測(cè)指標(biāo)，提升模型風(fēng)洞實(shí)驗(yàn)置信度和預(yù)測(cè)能力

　　?高性能計(jì)算研發(fā) - 支撐模型訓(xùn)練框架

　　1. 持續(xù)改進(jìn)訓(xùn)推框架算力利用率，支撐多模態(tài)、強(qiáng)化學(xué)習(xí)、低精和稀疏等能力

　　2. 面向模型架構(gòu)創(chuàng)新，進(jìn)行高效算子開(kāi)發(fā)需求

　　3. 面向AI4HPC需求，構(gòu)建高質(zhì)量標(biāo)注數(shù)據(jù)，搭建訓(xùn)練框架，使AI具備進(jìn)行高性能計(jì)算開(kāi)發(fā)的能力

　　?端側(cè)前沿技術(shù)研發(fā) - 支撐模型高效應(yīng)用

　　1. 利用極低精度和稀疏卸載等技術(shù)，實(shí)現(xiàn)低功耗模型開(kāi)發(fā)

　　2. 開(kāi)發(fā)高效跨平臺(tái)統(tǒng)一端側(cè)部署框架

　　3. 探索存算一體、FPGA等平臺(tái)上端側(cè)模型技術(shù)潛力

　　?分布式計(jì)算研發(fā) - 支撐訓(xùn)練監(jiān)控與仿真平臺(tái)

　　1. 持續(xù)改進(jìn)強(qiáng)化學(xué)習(xí)訓(xùn)練框架，支持廣域任務(wù)學(xué)習(xí)和模型制備自主演化

　　2. 基于持續(xù)集成和配置代碼分離理念，逐步完成訓(xùn)練基礎(chǔ)設(shè)施重構(gòu)

　　3. 構(gòu)建高密度低成本的監(jiān)控中臺(tái)

　　人才招募

　　?博士后 / 研究員

　　關(guān)鍵要求

　　博士學(xué)位，計(jì)算機(jī)科學(xué)與技術(shù)專業(yè)背景者優(yōu)先考慮；

　　具備人工智能相關(guān)基礎(chǔ)理論、模型與算法等研究經(jīng)驗(yàn)，熟練掌握當(dāng)前機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、強(qiáng)化學(xué)習(xí)等領(lǐng)域的技術(shù)，對(duì)相關(guān)領(lǐng)域有濃厚的研究興趣，并有相關(guān)的優(yōu)秀論文、專利、科技研究報(bào)告等成果；

　　在人工智能領(lǐng)域發(fā)表過(guò)高水平學(xué)術(shù)論文或具有代表性成果，有ACL、EMNLP、NeurIPS、ICML、ICLR、AAAI等計(jì)算機(jī)相關(guān)頂級(jí)會(huì)議論文發(fā)表者優(yōu)先考慮。

　　你將收獲

　　博士后薪資、保險(xiǎn)等按照國(guó)家和清華大學(xué)博士后管理辦法執(zhí)行，外加實(shí)驗(yàn)室績(jī)效獎(jiǎng)勵(lì)；

　　優(yōu)秀人才推薦申請(qǐng)各類博士后支持計(jì)劃，包括博士后創(chuàng)新人才支持計(jì)劃、清華大學(xué)“水木學(xué)者”計(jì)劃、博士后科學(xué)基金項(xiàng)目、博士后國(guó) (境)外交流項(xiàng)目等。具體信息請(qǐng)查詢清華大學(xué)博士后官網(wǎng)。

　　?實(shí)習(xí)生

　　關(guān)鍵要求

　　能長(zhǎng)期參與實(shí)驗(yàn)室的科研工作（6個(gè)月以上）；

　　思維活躍、勇于創(chuàng)新，具有強(qiáng)烈的技術(shù)創(chuàng)新和研發(fā)熱情、責(zé)任心強(qiáng)、工作勤奮；

　　有較強(qiáng)編程能力者優(yōu)先，有深度學(xué)習(xí)或自然語(yǔ)言處理等相關(guān)研究經(jīng)驗(yàn)者優(yōu)先。

　　成長(zhǎng)計(jì)劃

　　大模型科研經(jīng)驗(yàn)及優(yōu)秀團(tuán)隊(duì)學(xué)術(shù)交流機(jī)會(huì)；

　　AI Infra大模型專業(yè)知識(shí)；

　　參與發(fā)表大模型相關(guān)頂會(huì)文章與開(kāi)發(fā)前沿開(kāi)源項(xiàng)目；

　　實(shí)驗(yàn)室認(rèn)證的實(shí)習(xí)證明和導(dǎo)師推薦機(jī)會(huì)。

　　加入我們

　　報(bào)名郵箱地址：thunlp@163.com

　　郵件主題：崗位類型+方向+姓名（例：研究員+分布式計(jì)算+張三）

　　郵件中應(yīng)包含：

　?。?）應(yīng)聘申請(qǐng)，包括本人意愿、工作設(shè)想、預(yù)期目標(biāo)。

　?。?）本人簡(jiǎn)歷（個(gè)人履歷應(yīng)包含第一學(xué)歷至今，附近照）。

　　（3）充分反映本人學(xué)術(shù)水平的有關(guān)材料，包括發(fā)表論文及收錄情況、獲獎(jiǎng)情況、主要負(fù)責(zé)和參與課題情況等。

　　?更多信息請(qǐng)?jiān)L問(wèn)實(shí)驗(yàn)室招聘門(mén)戶

　　??https://nlp.csai.tsinghua.edu.cn/join_us/

　　關(guān)于我們

　　清華大學(xué)自然語(yǔ)言處理與社會(huì)人文計(jì)算實(shí)驗(yàn)室（TsinghuaNLP）成立于 20 世紀(jì)七十年代末，是國(guó)內(nèi)開(kāi)展自然語(yǔ)言處理研究最早、深具影響力的科研單位，也是中國(guó)中文信息學(xué)會(huì)計(jì)算語(yǔ)言學(xué)專業(yè)委員會(huì)及中國(guó)人工智能學(xué)會(huì)因果與不確定性人工智能專業(yè)委員會(huì)的掛靠單位。實(shí)驗(yàn)室在學(xué)術(shù)總體帶頭人孫茂松教授及學(xué)術(shù)方向帶頭人劉洋教授、劉知遠(yuǎn)副教授的帶領(lǐng)下，圍繞以中文為核心的自然語(yǔ)言處理，在語(yǔ)言大模型、跨模態(tài)大模型、中文信息處理、機(jī)器翻譯、知識(shí)圖譜、智慧教育、社會(huì)人文和藝術(shù)計(jì)算等方面開(kāi)展系統(tǒng)深入的研究，在國(guó)內(nèi)外具有較大的學(xué)術(shù)影響。近年來(lái)，實(shí)驗(yàn)室承擔(dān)了國(guó)家 973 項(xiàng)目、國(guó)家重點(diǎn)研發(fā)項(xiàng)目、國(guó)家社會(huì)科學(xué)基金重大項(xiàng)目等多項(xiàng)重要研究任務(wù)，并與騰訊、華為等企業(yè)建立密切的學(xué)術(shù)合作關(guān)系。

　　Website：http://nlp.csai.tsinghua.edu.cn/

　　Email：thunlp@163.com

　　GitHub：https://github.com/thunlp

　　https://github.com/OpenBMB

　　Twitter：https://twitter.com/TsinghuaNLP