大数据成长之路
Hadoop
历史之路
HDFS JavaAPI
副本因子的坑
如果通过hdfs shell上传的文件那么他的副本因子是根据 hdfs-site.xml中的配置,
如果是通过Java API方式那么他会使用副本因子为3的配置
项目实践
用户行为日志分析
日志数据内容
访问的系统属性:操作系统,浏览器等等
访问特征:点击的网址,从其中网址替换过的(引用网址),页面停留时间等
访问信息:session_id,访问ip
数据处理流程
Flume:Web日志写入HDFS中
数据清理脏数据