大模型的發展落地日新月異，就在年初，業界還在擔心AI生產的學術垃圾充斥論文庫，年中，AI生成的論文已經可以被頂會認可了。
5月29日，海外初創公司Intology 宣布，他們的“AI科學家”Zochi的論文被頂會ACL主會議錄用，成為首個獨立通過 A* 級別科學會議同行評審的AI，同時宣布開放Zochi的Beta 測試。
這一發布的含金量在于，ACL是自然語言處理領域全球排名第一的頂會，其主會議平均錄用率通常低于20%，論文需具備突破性創新。據悉，Zochi的論文獲得評審最終評分4分，在所有投稿論文中排名前8.2%。
Intology是一家較為陌生的初創公司，從目前官網和博客的信息梳理來看，這家公司是在2025年初新成立的，定位是一個研究智能科學的實驗室，兩名聯創分別是連續創業者Ron Arel和前Meta華人研究員Andy Zhou，兩人均畢業于伊利諾伊大學厄巴納-香檳分校（UIUC）。
Intology成立后，此前3月團隊就推出了智能體Zochi，稱其為AI科學家，并宣布其研究成果已被ICLR 2025研討會接收。不過，此前的這一研討會的論文接收率在60%-70%，要求比頂會的主會低了不少，官方認為，此次更進一步的頂會突破標志著AI達到博士級科研水平，人類博士通常需數年才能在此類會議發表。
具體看此次AI科學家Zochi“寫”的論文，主題是關于大模型安全的，名為《Tempest: Automatic Multi-Turn Jailbreaking of Large Language Models with Tree Search》，直譯過來是《Tempest：基于樹搜索的大模型自主多輪越獄》，簡單來說，Zochi利用了一種“樹搜索”技術，來探索多種對話路徑，逐步突破大模型的安全防線。
研究提出的Tempest框架，能通過多輪對話逐步瓦解模型的安全防線，繞過安全檢測，通過小讓步的累積完成違規的內容輸出。例如，直接讓模型回答敏感信息“制作炸彈”，基于安全機制模型會直接拒絕，但通過多輪委婉地引導提問，最終卻可以讓模型回答出正確的信息。
評估結果顯示，Tempest在OpenAI的舊模型GPT-3.5-turbo上的成功率為100%，在GPT-4上的成功率為97%。這一研究主要是揭示了多輪對話攻擊的漏洞，可以為設計更佳的AI安全防御提供參考。
值得一提的是，論文的署名是兩位聯創，但官方博客表示，除論文格式調整與繪圖外，內容全程無人工參與，“我們對這項工作負責，但主要的智力貢獻是由AI系統完成的” 。
據官方介紹，人類僅輸入研究領域，Zochi就可以獨立完成后續全流程。Zochi 首先會采集并分析數千篇研究論文，以確定特定領域內有潛力的研究方向。其檢索系統能夠識別文獻中的關鍵貢獻、方法論、局限性以及新興模式，識別論文之間不明顯的聯系，并提出創新的解決方案。從提出假設到完成實驗，就像一個真正的科學家。
AI科學家并非個例，除了Intology外，Transformer作者Llion Jones去年創立的Sakana AI，也推出了一個基于AI的科研系統“AI Scientist”，論文也已被ICLR 2025研討會接收，分數為6/7/6。
AI for Science（AI4Science）一直是AI行業最前沿的落地領域之一，人工智能可以極大地促進科學的進步，提高科學家的效率、準確性和創造力。不過，新事物的出現也伴隨著合理性和規則適配的爭議。
此前3月Intology 推出Zochi、宣布論文被會議接收時，就被不少學術界人士批評，認為這是對科學同行評審過程的濫用，在提交論文前，團隊并未知會相關方是AI生成的論文，也未獲得同行評審者的同意。
在此次博客最后，官方提到了AI帶來的學術倫理問題，認為AI驅動的研究給科學問責和可重復性帶來了挑戰。但他們認為，雖然 Zochi 自主運營，但人類研究員仍然是作者，并負責驗證方法、解釋結果并確保符合倫理規范。對于論文，人類作者進行多輪內部審查，并在提交前仔細核實了所有結果和代碼。
“我們鼓勵在致謝中列出AI系統，而不是將其列為作者。雖然AI驅動的研究提出了關于歸屬、透明度和問責制的重要問題，但我們認為，智力貢獻應該以實質內容而非來源來評判。”Intology官方表示，他們的主要關注點是通過AI工具協助人類研究者。
鄭重聲明：本文版權歸原作者所有，轉載文章僅為傳播更多信息之目的，如作者信息標記有誤，請第一時間聯系我們修改或刪除，多謝。
