OpenAI總裁Brockman也在個人賬號上發(fā)表了這則消息，而此前他剛剛和馬斯克等人探討了AI的安全問題,。

　　此次招募的目的說起來也很簡單安全,、安全,，還是安全。不懂技術(shù)也能報(bào)名

　　OpenAI的通告中具體提到了紅隊(duì)此前的成果,，包括與OpenAI內(nèi)部人員共同發(fā)現(xiàn)的DALL-E2偏見問題和GPT的越獄風(fēng)險(xiǎn),。

　　具體來說，這些專業(yè)學(xué)科包括但不限于下表中的物理學(xué)、化學(xué)等自然科學(xué),，以及法律,、心理等社會科學(xué)和其他領(lǐng)域。

　　看到OpenAI通告中的這個表格,，有網(wǎng)友忍不住發(fā)表了自己的疑問(不過通告中已經(jīng)說了不限于這些領(lǐng)域):

　　不過通過中透露,，紅隊(duì)在模型開發(fā)的各個階段都可以進(jìn)行研究，具體任務(wù)會結(jié)合專業(yè)領(lǐng)域和空閑時(shí)間進(jìn)行分配,。

　　此次招募的報(bào)名截止時(shí)間為今年的12月1日,，采用滾動錄用方式，截止后將根據(jù)實(shí)際情況決定是否或何時(shí)再次開啟,。

　　比如對模型的安全性進(jìn)行評估分析并形成報(bào)告,，OpenAI為此提供了Evals開源庫，其中包括模板和示例,。

　　另一方面則是加入研究人員訪問計(jì)劃(Researcher Access Program),，還可以獲得API點(diǎn)數(shù)來研究如何讓模型更可靠。

　　哈佛大學(xué)Berkman Klein研究中心附屬機(jī)構(gòu)成員Aviv Ovadya就認(rèn)為,，破解團(tuán)隊(duì)比紅隊(duì)的進(jìn)展要迅速多了,。

　　除此之外，還有網(wǎng)友擔(dān)心安全性能的提升會導(dǎo)致ChatGPT等模型的性能下降,。 One More Thing