【新智元導讀】不到一年時間實現(xiàn)活躍用戶數(shù)量翻倍的OpenAI正是炙手可熱,，但最近因為和Anthropic共同簽署了一項政府安全協(xié)議又卷入非議。加上最近的SB 1047法案,，AI安全領域正是沸反盈天,。

　　雖然OpenAI經(jīng)常被曝出財務狀況不佳,，5月就發(fā)布的Her也一直鴿到現(xiàn)在，但這些都不影響他們的「頂流」地位。

　　不僅最近要開啟新一輪融資,，而且活躍用戶數(shù)相比去年11月已經(jīng)增長了一倍,，每周有超過2億人使用ChatGPT。

　　雖然2022年底ChatGPT推出后,，谷歌,、微軟和Meta都推出了各自的AI聊天應用，紛紛要在這個競爭激烈的市場中分一杯羹,，但OpenAI的用戶數(shù)量依舊不斷增長,。

　　據(jù)報道，Meta的AI助手擁有4000萬日活躍用戶,、至少4億月活躍用戶,，相比OpenAI還是有不小的差距。

　　除了個人用戶,，OpenAI還表示,，92%的財富500強公司正在使用他們的產(chǎn)品。自7月份GPT-4o mini模型發(fā)布以來,，API的使用量也翻了一番,。

　　5月份的時候，GPT-4o剛發(fā)布,，四大會計事務所之一普華永道就和OpenAI達成了合作協(xié)議,，成為了ChatGPT的「經(jīng)銷商」，負責將相關軟件轉售給其他企業(yè),，10萬名普華永道員工也將在工作中使用ChatGPT,。

　　管理咨詢巨頭Bain也表示，他們與OpenAI合作,，將包括ChatGPT在內(nèi)的技術集成到自己開發(fā)的管理系統(tǒng),、研究和流程中。這個AI系統(tǒng)已經(jīng)被可口可樂用上了,。

　　奧特曼在給科技媒體Axios的聲明中寫道,，「使用OpenAI的工具已經(jīng)成為人們?nèi)粘Ｉ�活的一部分，這些產(chǎn)品正在醫(yī)療保健和教育等領域產(chǎn)生真正的影響,，無論是協(xié)助完成日常任務,、解決難題或是釋放創(chuàng)造力�,！�

　　奧特曼特意cue到醫(yī)療健康領域,，讓人不禁聯(lián)想到他本人和OpenAI的創(chuàng)業(yè)基金正在大力支持的初創(chuàng)Thrive AI Health，旨在提供個性化的AI健康教練,。

　　然而,，就在Axios的作者Shaun Ralston發(fā)推特宣布OpenAI的這一成就時,，下面的置頂評論竟然是——「AI統(tǒng)治世界的邪惡計劃即將來臨」。

　　OpenAI和Anthropic分別簽署了一項史無前例的協(xié)議——在發(fā)布模型之前,，會先拿給美國政府進行安全測試,。

　　美國商務部下轄的國家標準與技術研究所（NIST）在新聞稿中表示，Anthropic和OpenAI均簽署了一份諒解備忘錄,，達成與美國人工智能安全研究所的「AI安全研究,、測試和評估的正式合作」,。

　　根據(jù)這項協(xié)議,，AI安全研究所將在新模型公開發(fā)布之前及之后獲得訪問權限，并和相關公司展開合作研究,。

　　美國AI安全研究所還將與英國的AI安全研究所合作,，共同審查模型以標記潛在安全風險，向OpenAI和Anthropic提供關于其模型的潛在安全改進的反饋,。

　　研究所主任Elizabeth Kelly稱這些協(xié)議為「幫助負責任地引導AI未來發(fā)展的重要里程碑,，在她看來，安全是推動突破性技術創(chuàng)新的關鍵,。

　　這一協(xié)議的出臺正值加州準備通過SB 1047法案,，反映了美國各級政府和立法者對AI安全的日益關注。

　　SB 1047旨在規(guī)范AI在加州的開發(fā)和部署,，已于周三在民主黨控制的州參議院上以壓倒性多數(shù)通過投票,。

　　由于進行過修改，參議院還將在本周再次投票,，決定是否通過修正案,，但這被認為只是「走個過場」。實際上,，SB 1047只待州長批準,，即可在2026年1月1日正式生效施行。

　　然而,，加州州長Gavin Newsom尚未表明自己對法案的立場,，在技術高管、風險投資家,、學者和議員們展開的激烈游說中,，他必須在9月30日前做出決定。

　　該法案最具爭議的方面之一,，是要求AI公司內(nèi)置一個「緊急停止開關」,，以防止模型引入對公共安全的新威脅，尤其是模型「在人類有限監(jiān)督或干預」運行時,。

　　據(jù)報道,，Anthropic是謹慎支持該法案的AI公司之一,，聲稱在最后一輪修訂后，法規(guī)的潛在好處可能超過成本,。

　　他表示,，盡管還不確定法案中「看起來令人擔憂或模棱兩可」的方面，但由于最近對法案的修改,，Anthropic最初對該法案阻礙創(chuàng)新的擔憂已大大減少,。

　　Anthropic的聯(lián)合創(chuàng)始人Jack Clark表示，「安全,、可信賴的AI對技術的正面影響至關重要,。」

　　在致法案共同發(fā)起人,、加州參議員Scott Wiener的信中,，OpenAI的首席戰(zhàn)略官Jason Kwon表示，在對前沿AI模型的監(jiān)管中,，應該由美國政府率先帶頭,，以考慮對國家安全和競爭力的影響。

　　可以看出,，雖然Anthropic和OpenAI對SB 1047有截然不同的態(tài)度,，但對于加強AI安全監(jiān)管似乎有相似的立場，這也能解釋為何這兩家公司會率先與美國AI安全研究所達成協(xié)議,。

　　正如Jason Kwon所說的,，「在負責任的AI開發(fā)方面，該研究所發(fā)揮著關鍵作用,，希望我們的合作能為世界其他地區(qū)提供一個可借鑒的框架,。」

　　反對者的陣營同樣強大,，不僅有OpenAI,、谷歌、Meta,、HuggingFace等科技公司和各種風投資本,，還有AI社區(qū)的知名學者/KOL吳恩達和李飛飛。

　　SB 1047之所以舉足輕重,，讓全美的科技圈都坐立不安,，不僅是因為加州在AI行業(yè)的地位，更是由于美國的立法傳統(tǒng)——加州通過的法案有時會影響其他州的立法者,。

　　不同于OpenAI的反對理由,，很多批評者認為，該法案過于「杞人憂天」——用所謂的「緊急開關」預防世界末日出現(xiàn),，卻對Deepfake和虛假信息等眾多現(xiàn)有的安全風險視而不見,。

　　更有爭議的一點是,，SB 1047要求開發(fā)者監(jiān)控客戶對AI技術的使用情況，并在造成傷害時承擔巨額罰款——例如,，如果有人入侵自動駕駛系統(tǒng)并導致事故,，開發(fā)該系統(tǒng)的公司將被追責。

　　此外,，法案中存在定義模糊的問題——AI模型「造成關鍵傷害,，或實質上提供關鍵傷害的能力」時，需要為此負責,。

　　其中,，「關鍵傷害」被描述為大量傷亡、超過5億美元的損失或其他「同等嚴重」的傷害,；但開發(fā)者究竟在什么條件下會被追責,、要承擔什么樣的責任，這些方面都是語焉不詳,。

　　致力于支持小型科技初創(chuàng)的私人風投a16z的普通合伙人Martin Casado敦促州長否決法案，希望他能聽取眾多專家的意見,，因為法案的發(fā)起人Scott Wiener「基本上忽視了他們」,。

　　吳恩達最近頻頻撰文呼吁，「還有時間阻止加州的SB 1047成為法律」,。他認為該法案的監(jiān)管重點出現(xiàn)了偏差,，「我們應該監(jiān)管有害的AI應用，而不是通用AI模型,�,！�

　　科技巨頭、風投資本為自己的利益據(jù)理力爭時,，也有批評者站出來說,，SB 1047對開源且不以盈利為目的的開發(fā)者同樣不公平。

　　一個開源軟件組織的聯(lián)合創(chuàng)始人Chris Lengerich表示,，這種不確定性意味著重大的財務影響,，因為法案要求開發(fā)者雇用專門的審計員來檢查他們的工作。

　　法案的規(guī)定適用于花費超過1億美元訓練的AI模型,，或花費超過1000萬美元微調(diào)現(xiàn)有模型的開發(fā)者——很多小型的科技公司就會落入后者的范疇,。

　　如果技術導致「對他人造成死亡或人身傷害」、「對財產(chǎn)造成損害」等,，AI開發(fā)者將面臨的罰款將是開發(fā)費用10%～30%,。

　　一家開源AI公司的政策研究員總結道，「這意味著對財產(chǎn)造成任何損害都可能導致數(shù)千萬美元的罰款,，而不僅限于災難性事件」,。比如,，黑客可能利用AI激活消防灑水器并造成水資源浪費。

　　除此之外,，法案還要求開發(fā)者評估其模型的衍生產(chǎn)品并防止它們可能造成的任何傷害,，包括客戶微調(diào)模型、以其他方式修改模型（如越獄）或將其與其他軟件組合的情況,。

　　但問題在于,，一旦開源軟件發(fā)布，開發(fā)者通常無從得知其他開發(fā)者或客戶的具體操作,，因為人們可以直接將模型下載到個人設備上,。

　　本文為澎湃號作者或機構在澎湃新聞上傳并發(fā)布，僅代表該作者或機構觀點,，不代表澎湃新聞的觀點或立場,，澎湃新聞僅提供信息發(fā)布平臺。申請澎湃號請用電腦訪問,。