【新智元導(dǎo)讀】不到一年時(shí)間實(shí)現(xiàn)活躍用戶(hù)數(shù)量翻倍的OpenAI正是炙手可熱,，但最近因?yàn)楹虯nthropic共同簽署了一項(xiàng)政府安全協(xié)議又卷入非議,。加上最近的SB 1047法案,，AI安全領(lǐng)域正是沸反盈天。

　　雖然OpenAI經(jīng)常被曝出財(cái)務(wù)狀況不佳,，5月就發(fā)布的Her也一直鴿到現(xiàn)在，但這些都不影響他們的「頂流」地位,。

　　不僅最近要開(kāi)啟新一輪融資,，而且活躍用戶(hù)數(shù)相比去年11月已經(jīng)增長(zhǎng)了一倍，每周有超過(guò)2億人使用ChatGPT,。

　　雖然2022年底ChatGPT推出后,，谷歌、微軟和Meta都推出了各自的AI聊天應(yīng)用,，紛紛要在這個(gè)競(jìng)爭(zhēng)激烈的市場(chǎng)中分一杯羹,，但OpenAI的用戶(hù)數(shù)量依舊不斷增長(zhǎng)。

　　據(jù)報(bào)道,，Meta的AI助手擁有4000萬(wàn)日活躍用戶(hù),、至少4億月活躍用戶(hù)，相比OpenAI還是有不小的差距,。

　　除了個(gè)人用戶(hù),，OpenAI還表示，92%的財(cái)富500強(qiáng)公司正在使用他們的產(chǎn)品,。自7月份GPT-4o mini模型發(fā)布以來(lái),，API的使用量也翻了一番,。

　　5月份的時(shí)候，GPT-4o剛發(fā)布,，四大會(huì)計(jì)事務(wù)所之一普華永道就和OpenAI達(dá)成了合作協(xié)議,，成為了ChatGPT的「經(jīng)銷(xiāo)商」，負(fù)責(zé)將相關(guān)軟件轉(zhuǎn)售給其他企業(yè),，10萬(wàn)名普華永道員工也將在工作中使用ChatGPT,。

　　管理咨詢(xún)巨頭Bain也表示，他們與OpenAI合作,，將包括ChatGPT在內(nèi)的技術(shù)集成到自己開(kāi)發(fā)的管理系統(tǒng),、研究和流程中。這個(gè)AI系統(tǒng)已經(jīng)被可口可樂(lè)用上了,。

　　奧特曼在給科技媒體Axios的聲明中寫(xiě)道,，「使用OpenAI的工具已經(jīng)成為人們?nèi)粘Ｉ�活的一部分，這些產(chǎn)品正在醫(yī)療保健和教育等領(lǐng)域產(chǎn)生真正的影響,，無(wú)論是協(xié)助完成日常任務(wù),、解決難題或是釋放創(chuàng)造力�,！�

　　奧特曼特意cue到醫(yī)療健康領(lǐng)域,，讓人不禁聯(lián)想到他本人和OpenAI的創(chuàng)業(yè)基金正在大力支持的初創(chuàng)Thrive AI Health，旨在提供個(gè)性化的AI健康教練,。

　　然而,，就在Axios的作者Shaun Ralston發(fā)推特宣布OpenAI的這一成就時(shí)，下面的置頂評(píng)論竟然是——「AI統(tǒng)治世界的邪惡計(jì)劃即將來(lái)臨」,。

　　OpenAI和Anthropic分別簽署了一項(xiàng)史無(wú)前例的協(xié)議——在發(fā)布模型之前,，會(huì)先拿給美國(guó)政府進(jìn)行安全測(cè)試。

　　美國(guó)商務(wù)部下轄的國(guó)家標(biāo)準(zhǔn)與技術(shù)研究所（NIST）在新聞稿中表示,，Anthropic和OpenAI均簽署了一份諒解備忘錄,，達(dá)成與美國(guó)人工智能安全研究所的「AI安全研究、測(cè)試和評(píng)估的正式合作」,。

　　根據(jù)這項(xiàng)協(xié)議,，AI安全研究所將在新模型公開(kāi)發(fā)布之前及之后獲得訪問(wèn)權(quán)限，并和相關(guān)公司展開(kāi)合作研究,。

　　美國(guó)AI安全研究所還將與英國(guó)的AI安全研究所合作,，共同審查模型以標(biāo)記潛在安全風(fēng)險(xiǎn)，向OpenAI和Anthropic提供關(guān)于其模型的潛在安全改進(jìn)的反饋,。

　　研究所主任Elizabeth Kelly稱(chēng)這些協(xié)議為「幫助負(fù)責(zé)任地引導(dǎo)AI未來(lái)發(fā)展的重要里程碑,，在她看來(lái)，安全是推動(dòng)突破性技術(shù)創(chuàng)新的關(guān)鍵,。

　　這一協(xié)議的出臺(tái)正值加州準(zhǔn)備通過(guò)SB 1047法案,，反映了美國(guó)各級(jí)政府和立法者對(duì)AI安全的日益關(guān)注,。

　　SB 1047旨在規(guī)范AI在加州的開(kāi)發(fā)和部署，已于周三在民主黨控制的州參議院上以壓倒性多數(shù)通過(guò)投票,。

　　由于進(jìn)行過(guò)修改,，參議院還將在本周再次投票，決定是否通過(guò)修正案,，但這被認(rèn)為只是「走個(gè)過(guò)場(chǎng)」,。實(shí)際上，SB 1047只待州長(zhǎng)批準(zhǔn),，即可在2026年1月1日正式生效施行,。

　　然而，加州州長(zhǎng)Gavin Newsom尚未表明自己對(duì)法案的立場(chǎng),，在技術(shù)高管,、風(fēng)險(xiǎn)投資家、學(xué)者和議員們展開(kāi)的激烈游說(shuō)中,，他必須在9月30日前做出決定,。

　　該法案最具爭(zhēng)議的方面之一，是要求AI公司內(nèi)置一個(gè)「緊急停止開(kāi)關(guān)」,，以防止模型引入對(duì)公共安全的新威脅,，尤其是模型「在人類(lèi)有限監(jiān)督或干預(yù)」運(yùn)行時(shí)。

　　據(jù)報(bào)道,，Anthropic是謹(jǐn)慎支持該法案的AI公司之一,，聲稱(chēng)在最后一輪修訂后，法規(guī)的潛在好處可能超過(guò)成本,。

　　他表示,，盡管還不確定法案中「看起來(lái)令人擔(dān)憂(yōu)或模棱兩可」的方面，但由于最近對(duì)法案的修改,，Anthropic最初對(duì)該法案阻礙創(chuàng)新的擔(dān)憂(yōu)已大大減少。

　　Anthropic的聯(lián)合創(chuàng)始人Jack Clark表示,，「安全,、可信賴(lài)的AI對(duì)技術(shù)的正面影響至關(guān)重要�,！�

　　在致法案共同發(fā)起人,、加州參議員Scott Wiener的信中，OpenAI的首席戰(zhàn)略官Jason Kwon表示,，在對(duì)前沿AI模型的監(jiān)管中,，應(yīng)該由美國(guó)政府率先帶頭，以考慮對(duì)國(guó)家安全和競(jìng)爭(zhēng)力的影響,。

　　可以看出,，雖然Anthropic和OpenAI對(duì)SB 1047有截然不同的態(tài)度,，但對(duì)于加強(qiáng)AI安全監(jiān)管似乎有相似的立場(chǎng)，這也能解釋為何這兩家公司會(huì)率先與美國(guó)AI安全研究所達(dá)成協(xié)議,。

　　正如Jason Kwon所說(shuō)的,，「在負(fù)責(zé)任的AI開(kāi)發(fā)方面，該研究所發(fā)揮著關(guān)鍵作用,，希望我們的合作能為世界其他地區(qū)提供一個(gè)可借鑒的框架,。」

　　反對(duì)者的陣營(yíng)同樣強(qiáng)大,，不僅有OpenAI,、谷歌、Meta,、HuggingFace等科技公司和各種風(fēng)投資本,，還有AI社區(qū)的知名學(xué)者/KOL吳恩達(dá)和李飛飛。

　　SB 1047之所以舉足輕重,，讓全美的科技圈都坐立不安,，不僅是因?yàn)榧又菰贏I行業(yè)的地位，更是由于美國(guó)的立法傳統(tǒng)——加州通過(guò)的法案有時(shí)會(huì)影響其他州的立法者,。

　　不同于OpenAI的反對(duì)理由,，很多批評(píng)者認(rèn)為，該法案過(guò)于「杞人憂(yōu)天」——用所謂的「緊急開(kāi)關(guān)」預(yù)防世界末日出現(xiàn),，卻對(duì)Deepfake和虛假信息等眾多現(xiàn)有的安全風(fēng)險(xiǎn)視而不見(jiàn),。

　　更有爭(zhēng)議的一點(diǎn)是，SB 1047要求開(kāi)發(fā)者監(jiān)控客戶(hù)對(duì)AI技術(shù)的使用情況,，并在造成傷害時(shí)承擔(dān)巨額罰款——例如,，如果有人入侵自動(dòng)駕駛系統(tǒng)并導(dǎo)致事故，開(kāi)發(fā)該系統(tǒng)的公司將被追責(zé),。

　　此外,，法案中存在定義模糊的問(wèn)題——AI模型「造成關(guān)鍵傷害，或?qū)嵸|(zhì)上提供關(guān)鍵傷害的能力」時(shí),，需要為此負(fù)責(zé),。

　　其中，「關(guān)鍵傷害」被描述為大量傷亡,、超過(guò)5億美元的損失或其他「同等嚴(yán)重」的傷害,；但開(kāi)發(fā)者究竟在什么條件下會(huì)被追責(zé)、要承擔(dān)什么樣的責(zé)任,，這些方面都是語(yǔ)焉不詳,。

　　致力于支持小型科技初創(chuàng)的私人風(fēng)投a16z的普通合伙人Martin Casado敦促州長(zhǎng)否決法案，希望他能聽(tīng)取眾多專(zhuān)家的意見(jiàn)，因?yàn)榉ò傅陌l(fā)起人Scott Wiener「基本上忽視了他們」,。

　　吳恩達(dá)最近頻頻撰文呼吁,，「還有時(shí)間阻止加州的SB 1047成為法律」。他認(rèn)為該法案的監(jiān)管重點(diǎn)出現(xiàn)了偏差,，「我們應(yīng)該監(jiān)管有害的AI應(yīng)用,，而不是通用AI模型�,！�

　　科技巨頭,、風(fēng)投資本為自己的利益據(jù)理力爭(zhēng)時(shí)，也有批評(píng)者站出來(lái)說(shuō),，SB 1047對(duì)開(kāi)源且不以盈利為目的的開(kāi)發(fā)者同樣不公平,。

　　一個(gè)開(kāi)源軟件組織的聯(lián)合創(chuàng)始人Chris Lengerich表示，這種不確定性意味著重大的財(cái)務(wù)影響,，因?yàn)榉ò敢�求開(kāi)發(fā)者雇用專(zhuān)門(mén)的審計(jì)員來(lái)檢查他們的工作,。

　　法案的規(guī)定適用于花費(fèi)超過(guò)1億美元訓(xùn)練的AI模型，或花費(fèi)超過(guò)1000萬(wàn)美元微調(diào)現(xiàn)有模型的開(kāi)發(fā)者——很多小型的科技公司就會(huì)落入后者的范疇,。

　　如果技術(shù)導(dǎo)致「對(duì)他人造成死亡或人身傷害」,、「對(duì)財(cái)產(chǎn)造成損害」等，AI開(kāi)發(fā)者將面臨的罰款將是開(kāi)發(fā)費(fèi)用10%～30%,。

　　一家開(kāi)源AI公司的政策研究員總結(jié)道,，「這意味著對(duì)財(cái)產(chǎn)造成任何損害都可能導(dǎo)致數(shù)千萬(wàn)美元的罰款，而不僅限于災(zāi)難性事件」,。比如,，黑客可能利用AI激活消防灑水器并造成水資源浪費(fèi)。

　　除此之外,，法案還要求開(kāi)發(fā)者評(píng)估其模型的衍生產(chǎn)品并防止它們可能造成的任何傷害,，包括客戶(hù)微調(diào)模型、以其他方式修改模型（如越獄）或?qū)⑵渑c其他軟件組合的情況,。

　　但問(wèn)題在于,，一旦開(kāi)源軟件發(fā)布，開(kāi)發(fā)者通常無(wú)從得知其他開(kāi)發(fā)者或客戶(hù)的具體操作,，因?yàn)槿藗兛梢灾苯訉⒛Ｐ拖螺d到個(gè)人設(shè)備上,。

　　本文為澎湃號(hào)作者或機(jī)構(gòu)在澎湃新聞上傳并發(fā)布，僅代表該作者或機(jī)構(gòu)觀點(diǎn),，不代表澎湃新聞的觀點(diǎn)或立場(chǎng),，澎湃新聞僅提供信息發(fā)布平臺(tái),。申請(qǐng)澎湃號(hào)請(qǐng)用電腦訪問(wèn),。