崗位職責(zé)：
1.?負(fù)責(zé)大模型、AIGC內(nèi)容安全的優(yōu)化工作，優(yōu)化內(nèi)容審核模型，制定和完善內(nèi)容安全策略，及時(shí)修復(fù)線上的安全漏洞；??2.?安全漏洞處理：根據(jù)線上負(fù)反饋與抽檢的badcase，對內(nèi)容安全策略進(jìn)行優(yōu)化，對線上業(yè)務(wù)內(nèi)容安全badcase優(yōu)化閉環(huán)；
??3.?內(nèi)容安全策略制定：綜合考慮輿情、時(shí)事政策、用戶反饋等數(shù)據(jù)，利用數(shù)據(jù)分析、數(shù)據(jù)增強(qiáng)、語義相似度、知識增強(qiáng)等技術(shù)制定和優(yōu)化內(nèi)容安全策略；
??4.?內(nèi)容安全策略評測：通過設(shè)計(jì)測試用例，自動化評測安全策略的有效性，指導(dǎo)安全策略的優(yōu)化。
??5.?跟進(jìn)輿情與法律監(jiān)管最新要求，參與制定和完善內(nèi)容安全標(biāo)準(zhǔn)和規(guī)范6.?調(diào)研跟蹤行業(yè)內(nèi)容安全方案，嘗試并落地到工作當(dāng)中。
??職位要求：
??1.?計(jì)算機(jī)、數(shù)學(xué)、統(tǒng)計(jì)、數(shù)據(jù)分析、大數(shù)據(jù)、AI安全等相關(guān)專業(yè)，本科及以上學(xué)歷
??2.?具備數(shù)據(jù)分析能力，掌握Python，熟練使用pandas等數(shù)據(jù)分析的庫，精通正則表達(dá)式，具有一定的數(shù)據(jù)分析、數(shù)據(jù)挖掘的經(jīng)驗(yàn)；
??3.?具備良好的測試思維，可以舉一反三地設(shè)計(jì)完備的測試用例，能對內(nèi)容安全策略進(jìn)行質(zhì)量檢測；
??4.?具有良好的溝通能力與團(tuán)隊(duì)協(xié)作精神，主觀能動性強(qiáng)，做事細(xì)心靠譜；
??5.?有內(nèi)容審核、AI安全能力工作經(jīng)歷者優(yōu)先。