AI合成生物再登Nature子刊!美國防部高度關(guān)注直面這些迫在眉睫的風(fēng)險……
會議聚焦人工智能(AI)與生物制造深度融合路徑,,舉行了《2025人工智能賦能生物制造產(chǎn)業(yè)創(chuàng)新發(fā)展藍(lán)皮書》啟動儀式,,還創(chuàng)辦了2025生物科學(xué)智能產(chǎn)業(yè)生態(tài)聯(lián)盟,
與此同時,,越來越多企業(yè)將“AI+合成生物學(xué)”作為重要戰(zhàn)略,,上市龍頭中嘉必優(yōu)、華恒生物,、凱賽生物,、川寧生物等均有所布局。足以看到,,業(yè)界對兩者跨界融合所催生的創(chuàng)新潛力寄予厚望,。
然而隨著AI合成生物學(xué)的發(fā)展,背后的 軍民兩用風(fēng)險,、治理差距和道德困境也隨之出現(xiàn),,我們需要相關(guān)的監(jiān)督策略和法規(guī)來使行業(yè)負(fù)責(zé)任、可持續(xù)的發(fā)展,。
最初,,機器學(xué)習(xí)和生物設(shè)計工具用于生物設(shè)計任務(wù),例如根據(jù)氨基酸序列預(yù)測蛋 白質(zhì)結(jié)構(gòu),。曾獲2024諾貝爾化學(xué)獎,,為人們熟悉的AlphaFold就屬于此類。
而現(xiàn)在,,隨著transformer等深度學(xué)習(xí)架構(gòu)的日益普及,,大型語言模型 (LLM) 被用于執(zhí)行更復(fù)雜的任務(wù)。
例如根據(jù)核酸序列預(yù)測物理結(jié)果,,使用使用AlphaFold 3,,已經(jīng)可以準(zhǔn)確預(yù)測生物分子相互作用的結(jié)構(gòu)。
而未來的生成式AI不僅會提供判別和預(yù)測能力,,還可能會誕生“AI生物設(shè)計師”,,類似 BioAutomata 這樣的平臺體現(xiàn)了這一愿景,AI已經(jīng)可以指導(dǎo)工程微生物的設(shè)計-構(gòu)建-測試-學(xué)習(xí)(DBTL)周期的每一步,。
Design-by-Data 和 Flatcarbon等初創(chuàng)公司利用AI,,對微生物、酵母或細(xì)胞系進行正向工程設(shè)計,。
許多用于生物設(shè)計的 AI 模型,,如生成神經(jīng)網(wǎng)絡(luò)或梯度提升模型,,都以“黑匣子”的形式運行。這一形式并不妨礙技術(shù)實用性,,但限制了安全的可評估性,,也可能延緩用于生物設(shè)計的 AI 模型的接受和合法化。
此外,,如果算法存在未被發(fā)現(xiàn)的缺陷或訓(xùn)練偏差,,黑客可以利用這些缺陷或訓(xùn)練偏差來故意輸出危險設(shè)計,那么生物安全風(fēng)險就會增加,。
美國國防部的DARPA最近發(fā)布的惡意AI報告,,就圍繞生物制造的數(shù)據(jù)或模型中毒進行了兵棋推演,突出了不透明系統(tǒng)的漏洞,。
而早在2024年,,該部門就啟動了生物制造Switch計劃,目標(biāo)開發(fā)一套敏捷,、可重新編程的生物制造系統(tǒng),,增加供應(yīng)鏈的彈性和適應(yīng)性,以滿足國防部的各種需求,。
而且AI 模型和工具的數(shù)字化和分布式特性使防止濫用的工作進一步復(fù)雜化,,與物理材料不同,包含 AI 算法或 DNA 序列的數(shù)字文件可以很容易地跨境共享和復(fù)制,,因此難以跟蹤和控制其傳播,。
從技術(shù)角度來看,需要增強的篩選方法來檢測和過濾掉潛在危險的序列,,包括由 AI 算法生成的序列,,在政策方面,需要國際協(xié)調(diào)和統(tǒng)一治理框架,。
最后,,論文強調(diào)了 關(guān)鍵的第一步是迫切需要解決人工智能合成生物學(xué)的黑匣子,不僅能加速科學(xué)理解和應(yīng)用開發(fā),,還能將技術(shù)交到更廣泛的用戶手中,,可以使問題解決大眾化,并從不同的貢獻者那里獲得創(chuàng)新解決方案,。