青青草在在观免费1_草草在线视频_国产女人高潮毛片_国产麻豆剧果冻传媒仙踪林老_又爽又色又舒服A片免费_福利导航大全_日韩亚洲欧美中文高清在线_红果免费剧场短剧大全剧名_刺激一区仑乱_免费黄色视屏网站_夫妻之间在线观看_毛片无码一区二区三区A片视频_麻豆免费观看高清完整视频在线_开心五月四房播播_少妇荡乳情欲办公室A片视频网站_麻豆精产国品一二三产区_无码一卡二卡三卡四卡视频版_搞逼综合网_好男人好社区好资源在线_在线观看快乐大本营

  • 虎科技 - 領先的互聯網科技媒體

伯克利開源AI編程冠軍DeepSWE:強化學習打造,訓練細節全揭秘

   時間:2025-07-07 17:18 來源:ITBEAR作者:鐘景軒

在人工智能編程領域,一場革命性的突破正在悄然發生。新晉AI編程冠軍DeepSWE,憑借其純強化學習的訓練方式,在基準測試中取得了59%的準確率,這一成績大幅刷新了現有技術的上限。

DeepSWE的誕生,打破了長期以來閉源模型在該領域的壟斷地位。這款開源軟件工程模型,基于Qwen3-32B架構,完全通過強化學習進行訓練,無需依賴任何“老師模型”。這一創新性的訓練方法,使得DeepSWE能夠從零開始,逐步成長為一個性能卓越的智能體。

DeepSWE的訓練過程充滿了挑戰與創新。它采用了模塊化RL后訓練框架rLLM,這一框架使得用戶能夠輕松構建一個由強化學習訓練的AI助手,極大地簡化了訓練流程。同時,DeepSWE在R2E-Gym訓練環境中進行訓練,該環境為高質量可執行軟件工程(SWE)任務提供了可擴展的管理方案。

在動作空間方面,R2E-Gym定義了包括執行Bash命令、搜索、文件編輯和完成/提交等四個工具。這些工具共同構成了DeepSWE在訓練過程中的操作基礎。而獎勵模型則采用了一種稀疏的結果獎勵模型(ORM),通過簡單的“成功/失敗”獎勵信號,DeepSWE自發地學會了高級程序員才具備的復雜行為,如主動思考邊緣案例和回歸測試,以及根據任務復雜程度自適應調整思考深度。

算法方面,DeepSWE摒棄了傳統的蒸餾方法,僅使用強化學習進行直接訓練。研發人員獨家改良的GRPO++算法,在之前的基礎上進行了增強,進一步提升了模型的穩定性和性能。還整合了包括Clip High (DAPO)、無KL損失(DAPO)、無獎勵標準差(Dr.GRPO)、長度歸一化(Dr.GRPO)、一法(Loop/RLOO)、緊湊過濾和無熵損失在內的七個算法,共同構成了DeepSWE的訓練配方。

其中,“緊湊過濾”算法對模型訓練尤為關鍵。它不僅有效防止了訓練過程中的獎勵崩潰,還減少了每一步的過度思考,鼓勵跨步驟的長篇推理,從而顯著提升了模型的性能。

然而,訓練過程中也遇到了不少挑戰。特別是在擴展SWE-Bench環境時,由于需要同時啟動大量Docker容器,一度導致Docker崩潰。為了解決這一問題,研發人員將Kubernetes支持集成到了R2E-Gym環境中,實現了容器的高效調度。同時,為每個服務器配備了高性能硬件,并提前下載了所需軟件鏡像,以確保訓練過程的順利進行。

在評估策略方面,DeepSWE采用了“測試時擴展(TTS)”策略,通過多方案生成和智能驗證的方式,將性能推向了新的高度。通過擴展上下文長度和擴展代理部署兩種方法,DeepSWE在SWE-Bench Verified上達到了59%的準確率,實現了新的技術上限。

DeepSWE的成功,離不開其背后的研發團隊。項目負責人Michael Luo,加州大學伯克利分校電氣工程與計算機科學系博士生,對人工智能和系統領域有著深入的研究。他帶領的團隊,憑借出色的研發能力和創新精神,成功打造了這款開源軟件工程模型。

DeepSWE的誕生,標志著人工智能編程領域的一次重大突破。它不僅刷新了技術的上限,更為未來的軟件開發和智能化轉型提供了無限可能。

 
 
更多>同類內容
推薦圖文
推薦內容
點擊排行
 
智快科技微信賬號
ITBear微信賬號

微信掃一掃
加微信拉群
電動汽車群
科技數碼群

主站蜘蛛池模板: 岐山县| 日喀则市| 油尖旺区| 西和县| 五指山市| 萍乡市| 开鲁县| 武胜县| 杭州市| 湟中县| 太和县| 晴隆县| 温州市| 白朗县| 缙云县| 通渭县| 通化县| 澄江县| 通化市| 汤阴县| 弥渡县| 育儿| 南陵县| 广东省| 鄂托克前旗| 呈贡县| 运城市| 休宁县| 泰安市| 湘潭市| 云阳县| 海淀区| 山阴县| 盐城市| 嘉祥县| 云梦县| 孝昌县| 梓潼县| 永胜县| 米林县| 镇康县|