10 億純 SNN 從頭擴展
18 歲開發者從隨機初始化訓練 10.8 億參數純脈衝神經網路用於語言建模,27k 步後損失收斂至 4.4。展現 93% 稀疏性、無目標俄文生成,以及自移 39% 激活至記憶模組。GitHub 釋出完整程式碼與 12GB 檢查點。
直接匹配不多,已補上最新動態。
Tag: #sparsity3 results
18 歲開發者從隨機初始化訓練 10.8 億參數純脈衝神經網路用於語言建模,27k 步後損失收斂至 4.4。展現 93% 稀疏性、無目標俄文生成,以及自移 39% 激活至記憶模組。GitHub 釋出完整程式碼與 12GB 檢查點。

Nord 是一個 144M 參數脈衝神經網路 (SNN) 語言模型,從頭在 FineWeb-Edu 上訓練,僅花費 A5000 GPU 的 10 美元。達到 97-98% 推理稀疏度,比 GPT-2 Small 更好的主題連貫性,並透過脈衝率提供可視化可解釋性。支援 STDP 在線學習,並採用原創架構。
大學生首篇 arXiv 論文探討 ~2% 前景稀疏下薄結構分割評估,連結白板數位化專案。分析區域/邊界指標、子集公平性、多種子訓練與穩健性。尋求回饋以利履歷與改進。

Eon 使用漏積分放電(LIF)模型,將果蠅大腦重建為數位系統。中國團隊據稱進一步採用精細神經元建模,以及支援跨身體遷移的平台,推進具身智慧研究。

據報導,UBTECH 已在 WRC 內以 1:1 比例重建客戶產線。此舉為具身智慧提供更實際的驗證與部署路徑,強調產線效能與系統整合,而非機器人出貨量。

Outer Biosciences 脫離隱身模式,開發出一套能讓手術切除的人類皮膚存活最長一個月的方法。該新創將組織產生的資料輸入 AI 模型,以預測可能有用的化合物,目前已籌得約 2,300 萬美元。

中國汽車製造商表示,受 AI 資料中心需求推動,印刷電路板與多層陶瓷電容器在全球短缺 20% 至 30%,價格已超過去年的三倍。汽車記憶體價格也在短短三個月內上漲約 180%。

Truffle Security 發現 768 組外洩的 AWS 金鑰,可對企業帳戶提供廣泛控制權,其中包括 526 組根金鑰。在受測憑證中,仍有 88% 處於啟用狀態;而 AWS 的隔離政策仍允許許多具破壞性的操作。

GDS Holdings 顯示,AI 相關資料中心訂單的增長速度快於已確認收入。這項趨勢反映需求強勁,但基礎設施擴建週期也使獲利延後。

TikTok 與 ByteDance 同意支付 4 億美元,和解美國司法部提起的案件;該案指控數百萬名未滿 13 歲兒童使用平台,且其資料在未獲家長同意下遭到蒐集。愛爾蘭監管機構也曾在 2023 年因兒童帳戶問題對 TikTok 罰款 3.45 億歐元。