arXiv:2606.02857v1 Announce Type: cross Abstract: Zeroth-order (ZO) optimization is a memory-efficient alternative to backpropagation for fine-tuning large language models, but its deployment is limited by the high variance of gradient estimation. We propose GRZO, a Group-Relative Zeroth-Order optimizer that draws one pseudo-independent...
Läs hela artikeln hos källan.
![[Ekstra] Splitter nytt Microsoft-alternativ på vei til danske kommuner](https://images.gfx.no/1000/2927/2927947/Skjermbilde%202026-06-15%20kl.%2011.27.00.png)
Kommentarer (0)
Inga kommentarer ännu. Bli först med att kommentera!