RMSprop
RMSprop 是一种自适应学习率优化器，与 Adagrad 非常相似。RMSprop 为每个参数存储过去梯度的平方加权平均值，并用它来缩放其学习率。这允许学习率根据梯度的幅度自动降低或升高，并且防止学习率降低。
RMSprop
类 bitsandbytes.optim.RMSprop
< 源代码 >( 参数 学习率 = 0.01 阿尔法 = 0.99 艾普斯 = 1e-08 权重衰减 = 0 动量 = 0 居中 = False 优化器位数 = 32 参数 = None 最小8位大小 = 4096 百分位数裁剪 = 100 分块 = True )
RMSprop8bit
类 bitsandbytes.optim.RMSprop8bit
< 源代码 >( params lr = 0.01 alpha = 0.99 eps = 1e-08 weight_decay = 0 momentum = 0 centered = False args = None min_8bit_size = 4096 percentile_clipping = 100 block_wise = True )
RMSprop32bit
类 bitsandbytes.optim.RMSprop32bit
< 源代码 >( params lr = 0.01 alpha = 0.99 eps = 1e-08 weight_decay = 0 momentum = 0 centered = False args = None min_8bit_size = 4096 percentile_clipping = 100 block_wise = True )