OpenAI總裁Brockman也在個(gè)人賬號(hào)上發(fā)表了這則消息，而此前他剛剛和馬斯克等人探討了AI的安全問(wèn)題,。

　　此次招募的目的說(shuō)起來(lái)也很簡(jiǎn)單安全,、安全,，還是安全。不懂技術(shù)也能報(bào)名

　　OpenAI的通告中具體提到了紅隊(duì)此前的成果,，包括與OpenAI內(nèi)部人員共同發(fā)現(xiàn)的DALL-E2偏見(jiàn)問(wèn)題和GPT的越獄風(fēng)險(xiǎn),。

　　具體來(lái)說(shuō)，這些專(zhuān)業(yè)學(xué)科包括但不限于下表中的物理學(xué),、化學(xué)等自然科學(xué),，以及法律、心理等社會(huì)科學(xué)和其他領(lǐng)域,。

　　看到OpenAI通告中的這個(gè)表格,，有網(wǎng)友忍不住發(fā)表了自己的疑問(wèn)(不過(guò)通告中已經(jīng)說(shuō)了不限于這些領(lǐng)域):

　　不過(guò)通過(guò)中透露，紅隊(duì)在模型開(kāi)發(fā)的各個(gè)階段都可以進(jìn)行研究,，具體任務(wù)會(huì)結(jié)合專(zhuān)業(yè)領(lǐng)域和空閑時(shí)間進(jìn)行分配,。

　　此次招募的報(bào)名截止時(shí)間為今年的12月1日，采用滾動(dòng)錄用方式,，截止后將根據(jù)實(shí)際情況決定是否或何時(shí)再次開(kāi)啟,。

　　比如對(duì)模型的安全性進(jìn)行評(píng)估分析并形成報(bào)告，OpenAI為此提供了Evals開(kāi)源庫(kù),，其中包括模板和示例,。

　　另一方面則是加入研究人員訪問(wèn)計(jì)劃(Researcher Access Program)，還可以獲得API點(diǎn)數(shù)來(lái)研究如何讓模型更可靠,。

　　哈佛大學(xué)Berkman Klein研究中心附屬機(jī)構(gòu)成員Aviv Ovadya就認(rèn)為,，破解團(tuán)隊(duì)比紅隊(duì)的進(jìn)展要迅速多了。

　　除此之外,，還有網(wǎng)友擔(dān)心安全性能的提升會(huì)導(dǎo)致ChatGPT等模型的性能下降,。 One More Thing