如下所示：
import numpy as np
data = np.array([[1,1],[2,2],[3,3],[4,4],[5,5]])
y = np.array([1,2,3,4,5])
print '-------第1种方法：通过打乱索引从而打乱数据,好处是1:数据量很大时能够节约内存,2每次都不一样----------'
data = np.array([[1,1],[2,2],[3,3],[4,4],[5,5]])
data_num, _= data.shape #得到样本
最小二乘法是先将方程自变量与因变量化为系数矩阵X，再求该矩阵的转置矩阵（X1），接着求矩阵X与他的转置矩阵的X1的乘积（X2），然后求X2的逆矩阵。最后整合为系数矩阵W，求解后分别对应截距b、a1、和a2。可见计算一个矩阵的逆是相当耗费时间且复杂的,而且求逆也会存在数值不稳定的情况。
梯度下降法迭代的次数可能会比较多,但是相对来说计算量并不是很大。且其有收敛性保证。故在大数据量的时候,使用梯度下降法比较好。
梯度下降法
import numpy as np
from matplotlib imp
最小二乘法是先将方程自变量与因变量化为系数矩阵X，再求该矩阵的转置矩阵（X1），接着求矩阵X与他的转置矩阵的X1的乘积（X2），然后求X2的逆矩阵。最后整合为系数矩阵W，求解后分别对应截距b、a1、和a2。可见计算一个矩阵的逆是相当耗费时间且复杂的,而且求逆也会存在数值不稳定的情况。
梯度下降法迭代的次数可能会比较多,但是相对来说计算量并不是很大。且其有收敛性保证。故在大数据量的时候,使用梯度下降法比较好。
梯度下降法
import numpy as np
from matplotlib imp
最小二乘法是先将方程自变量与因变量化为系数矩阵X，再求该矩阵的转置矩阵（X1），接着求矩阵X与他的转置矩阵的X1的乘积（X2），然后求X2的逆矩阵。最后整合为系数矩阵W，求解后分别对应截距b、a1、和a2。可见计算一个矩阵的逆是相当耗费时间且复杂的,而且求逆也会存在数值不稳定的情况。
梯度下降法迭代的次数可能会比较多,但是相对来说计算量并不是很大。且其有收敛性保证。故在大数据量的时候,使用梯度下降法比较好。
梯度下降法
import numpy as np
from matplotlib imp
在编写爬虫爬取数据的时候，因为很多网站都有反爬虫措施，所以很容易被封IP，就不能继续爬了。在爬取大数据量的数据时更是瑟瑟发抖，时刻担心着下一秒IP可能就被封了。
本文就如何解决这个问题总结出一些应对措施，这些措施可以单独使用，也可以同时使用，效果更好。
伪造User-Agent
在请求头中把User-Agent设置成浏览器中的User-Agent，来伪造浏览器访问。比如：
headers ={‘User-Agent’:’Mozilla/5.0 (X11; Linux x86_64) Apple
