-
FLOPS (Floating point of per Second) 的缩写,意指每秒浮点运算次数。用来衡量硬件的性能。
-
FLOPs (Floating point of operations) 的缩写,是浮点运算次数,可以用来衡量算法/模型复杂度。
Gradient descent optimization algorithms
on-line : one pair of (x, y) at a time step,add new data any time.
off-line : pour all (x, y) into the memory for train at every time step.
参数优化 = Learning Rate + Gradient
Time complexity & Space complexity
1 对题目的意思确认理解无误
2 想出所有的可能的解决办法,同时比较这些办法的时空复杂度
3 找出时空复杂度最优的方法
4 测试结果