分享

大数据项目之电商数仓(用户行为数据采集)(一)

问题导读:
1、什么是数据仓库?
2、集群资源应该如何进行规划?
3、如何设计数据库表字段?



第1章 数据仓库概念


1.png


第2章 项目需求及架构设计

2.1 项目需求分析

2.png

2.2 项目框架

2.2.1 技术选型

3.png

2.2.2 系统数据流程设计

4.png

2.2.3 框架版本选型

5.png

6.png

2.2.4    服务器选型

7.png

2.2.5 集群资源规划设计

8.png

2)测试集群服务器规划

9.png

第3章 数据生成模块

3.1 埋点数据基本格式

  • 公共字段:基本所有安卓手机都包含的字段
  • 业务字段:埋点上报的字段,有具体的业务类型
下面就是一个示例,表示业务字段的上传。

  1. {
  2. "ap":"xxxxx",//项目数据来源 app pc
  3. "cm": {  //公共字段
  4.         "mid": "",  // (String) 设备唯一标识
  5.         "uid": "",  // (String) 用户标识
  6.         "vc": "1",  // (String) versionCode,程序版本号
  7.         "vn": "1.0",  // (String) versionName,程序版本名
  8.         "l": "zh",  // (String) language系统语言
  9.         "sr": "",  // (String) 渠道号,应用从哪个渠道来的。
  10.         "os": "7.1.1",  // (String) Android系统版本
  11.         "ar": "CN",  // (String) area区域
  12.         "md": "BBB100-1",  // (String) model手机型号
  13.         "ba": "blackberry",  // (String) brand手机品牌
  14.         "sv": "V2.2.1",  // (String) sdkVersion
  15.         "g": "",  // (String) gmail
  16.         "hw": "1620x1080",  // (String) heightXwidth,屏幕宽高
  17.         "t": "1506047606608",  // (String) 客户端日志产生时的时间
  18.         "nw": "WIFI",  // (String) 网络模式
  19.         "ln": 0,  // (double) lng经度
  20.         "la": 0  // (double) lat 纬度
  21.     },
  22. "et":  [  //事件
  23.             {
  24.                 "ett": "1506047605364",  //客户端事件产生时间
  25.                 "en": "display",  //事件名称
  26.                 "kv": {  //事件结果,以key-value形式自行定义
  27.                     "goodsid": "236",
  28.                     "action": "1",
  29.                     "extend1": "1",
  30. "place": "2",
  31. "category": "75"
  32.                 }
  33.             }
  34.         ]
  35. }
复制代码

示例日志(服务器时间戳 | 日志):

  1. 1540934156385|{
  2.     "ap": "gmall",
  3.     "cm": {
  4.         "uid": "1234",
  5.         "vc": "2",
  6.         "vn": "1.0",
  7.         "la": "EN",
  8.         "sr": "",
  9.         "os": "7.1.1",
  10.         "ar": "CN",
  11.         "md": "BBB100-1",
  12.         "ba": "blackberry",
  13.         "sv": "V2.2.1",
  14.         "g": "abc@gmail.com",
  15.         "hw": "1620x1080",
  16.         "t": "1506047606608",
  17.         "nw": "WIFI",
  18.         "ln": 0
  19.     },
  20.         "et": [
  21.             {
  22.                 "ett": "1506047605364",  //客户端事件产生时间
  23.                 "en": "display",  //事件名称
  24.                 "kv": {  //事件结果,以key-value形式自行定义
  25.                     "goodsid": "236",
  26.                     "action": "1",
  27.                     "extend1": "1",
  28. "place": "2",
  29. "category": "75"
  30.                 }
  31.             },{
  32.                 "ett": "1552352626835",
  33.                 "en": "active_background",
  34.                 "kv": {
  35.                      "active_source": "1"
  36.                 }
  37.             }
  38.         ]
  39.     }
  40. }
复制代码

下面是各个埋点日志格式。其中商品点击属于信息流的范畴

3.2 事件日志数据

3.2.1 商品列表页(loading)

事件名称:loading

10.png

11.png

3.2.2 商品点击(display)

事件标签:display


12.png

13.png

3.2.3 商品详情页(newsdetail)

事件标签:newsdetail

14.png

15.png

3.2.4 广告(ad)

事件名称:ad


16.png

17.png

3.2.5 消息通知(notification)

事件标签:notification

18.png

3.2.6 用户前台活跃(active_foreground)

事件标签: active_foreground


19.png

3.2.7 用户后台活跃(active_background)

事件标签: active_background

20.png

3.2.8 评论(comment)

描述:评论表


21.png

22.png

3.2.9 收藏(favorites)

描述:收藏


23.png

3.2.10 点赞(praise)

描述:所有的点赞表


24.png

25.png

3.2.11 错误日志

26.png

3.3 启动日志数据

事件标签: start

27.png

  1. {
  2.     "action":"1",
  3.     "ar":"MX",
  4.     "ba":"HTC",
  5.     "detail":"",
  6.     "en":"start",
  7.     "entry":"2",
  8.     "extend1":"",
  9.     "g":"43R2SEQX@gmail.com",
  10.     "hw":"640*960",
  11.     "l":"en",
  12.     "la":"20.4",
  13.     "ln":"-99.3",
  14.     "loading_time":"2",
  15.     "md":"HTC-2",
  16.     "mid":"995",
  17.     "nw":"4G",
  18.     "open_ad_type":"2",
  19.     "os":"8.1.2",
  20.     "sr":"B",
  21.     "sv":"V2.0.6",
  22.     "t":"1561472502444",
  23.     "uid":"995",
  24.     "vc":"10",
  25.     "vn":"1.3.4"
  26. }
复制代码

3.4 数据生成脚本


28.png

3.4.1 创建Maven工程

1)创建log-collector
2)创建一个包名:com.kgg.appclient
3)在com.kgg.appclient包下创建一个类,AppMain。
4)在pom.xml文件中添加如下内容

  1. <!--版本号统一-->
  2. <properties>
  3.     <slf4j.version>1.7.20</slf4j.version>
  4.     <logback.version>1.0.7</logback.version>
  5. </properties>
  6. <dependencies>
  7.     <!--阿里巴巴开源json解析框架-->
  8.     <dependency>
  9.         <groupId>com.alibaba</groupId>
  10.         <artifactId>fastjson</artifactId>
  11.         <version>1.2.51</version>
  12.     </dependency>
  13.     <!--日志生成框架-->
  14.     <dependency>
  15.         <groupId>ch.qos.logback</groupId>
  16.         <artifactId>logback-core</artifactId>
  17.         <version>${logback.version}</version>
  18.     </dependency>
  19.     <dependency>
  20.         <groupId>ch.qos.logback</groupId>
  21.         <artifactId>logback-classic</artifactId>
  22.         <version>${logback.version}</version>
  23.     </dependency>
  24. </dependencies>
  25. <!--编译打包插件-->
  26. <build>
  27.     <plugins>
  28.         <plugin>
  29.             <artifactId>maven-compiler-plugin</artifactId>
  30.             <version>2.3.2</version>
  31.             <configuration>
  32.                 <source>1.8</source>
  33.                 <target>1.8</target>
  34.             </configuration>
  35.         </plugin>
  36.         <plugin>
  37.             <artifactId>maven-assembly-plugin </artifactId>
  38.             <configuration>
  39.                 <descriptorRefs>
  40.                     <descriptorRef>jar-with-dependencies</descriptorRef>
  41.                 </descriptorRefs>
  42.                 <archive>
  43.                     <manifest>
  44.                         <mainClass>com.kgg.appclient.AppMain</mainClass>
  45.                     </manifest>
  46.                 </archive>
  47.             </configuration>
  48.             <executions>
  49.                 <execution>
  50.                     <id>make-assembly</id>
  51.                     <phase>package</phase>
  52.                     <goals>
  53.                         <goal>single</goal>
  54.                     </goals>
  55.                 </execution>
  56.             </executions>
  57.         </plugin>
  58.     </plugins>
  59. </build>
复制代码
注意:com.kgg.appclient.AppMain要和自己建的全类名一致。

3.4.2 公共字段Bean

1)创建包名:com.kgg.bean
2)在com.kgg.bean包下依次创建如下bean对象

  1. package com.kgg.bean;
  2. /**
  3. * 公共日志
  4. */
  5. public class AppBase{
  6.     private String mid; // (String) 设备唯一标识
  7.     private String uid; // (String) 用户uid
  8.     private String vc;  // (String) versionCode,程序版本号
  9.     private String vn;  // (String) versionName,程序版本名
  10.     private String l;   // (String) 系统语言
  11.     private String sr;  // (String) 渠道号,应用从哪个渠道来的。
  12.     private String os;  // (String) Android系统版本
  13.     private String ar;  // (String) 区域
  14.     private String md;  // (String) 手机型号
  15.     private String ba;  // (String) 手机品牌
  16.     private String sv;  // (String) sdkVersion
  17.     private String g;   // (String) gmail
  18.     private String hw;  // (String) heightXwidth,屏幕宽高
  19.     private String t;   // (String) 客户端日志产生时的时间
  20.     private String nw;  // (String) 网络模式
  21.     private String ln;  // (double) lng经度
  22.     private String la;  // (double) lat 纬度
  23.     public String getMid() {
  24.         return mid;
  25.     }
  26.     public void setMid(String mid) {
  27.         this.mid = mid;
  28.     }
  29.     public String getUid() {
  30.         return uid;
  31.     }
  32.     public void setUid(String uid) {
  33.         this.uid = uid;
  34.     }
  35.     public String getVc() {
  36.         return vc;
  37.     }
  38.     public void setVc(String vc) {
  39.         this.vc = vc;
  40.     }
  41.     public String getVn() {
  42.         return vn;
  43.     }
  44.     public void setVn(String vn) {
  45.         this.vn = vn;
  46.     }
  47.     public String getL() {
  48.         return l;
  49.     }
  50.     public void setL(String l) {
  51.         this.l = l;
  52.     }
  53.     public String getSr() {
  54.         return sr;
  55.     }
  56.     public void setSr(String sr) {
  57.         this.sr = sr;
  58.     }
  59.     public String getOs() {
  60.         return os;
  61.     }
  62.     public void setOs(String os) {
  63.         this.os = os;
  64.     }
  65.     public String getAr() {
  66.         return ar;
  67.     }
  68.     public void setAr(String ar) {
  69.         this.ar = ar;
  70.     }
  71.     public String getMd() {
  72.         return md;
  73.     }
  74.     public void setMd(String md) {
  75.         this.md = md;
  76.     }
  77.     public String getBa() {
  78.         return ba;
  79.     }
  80.     public void setBa(String ba) {
  81.         this.ba = ba;
  82.     }
  83.     public String getSv() {
  84.         return sv;
  85.     }
  86.     public void setSv(String sv) {
  87.         this.sv = sv;
  88.     }
  89.     public String getG() {
  90.         return g;
  91.     }
  92.     public void setG(String g) {
  93.         this.g = g;
  94.     }
  95.     public String getHw() {
  96.         return hw;
  97.     }
  98.     public void setHw(String hw) {
  99.         this.hw = hw;
  100.     }
  101.     public String getT() {
  102.         return t;
  103.     }
  104.     public void setT(String t) {
  105.         this.t = t;
  106.     }
  107.     public String getNw() {
  108.         return nw;
  109.     }
  110.     public void setNw(String nw) {
  111.         this.nw = nw;
  112.     }
  113.     public String getLn() {
  114.         return ln;
  115.     }
  116.     public void setLn(String ln) {
  117.         this.ln = ln;
  118.     }
  119.     public String getLa() {
  120.         return la;
  121.     }
  122.     public void setLa(String la) {
  123.         this.la = la;
  124.     }
  125. }
复制代码

3.4.3 启动日志Bean

  1. package com.kgg.bean;
  2. /**
  3. * 启动日志
  4. */
  5. public class AppStart extends AppBase {
  6.     private String entry;//入口: push=1,widget=2,icon=3,notification=4, lockscreen_widget =5
  7.     private String open_ad_type;//开屏广告类型:  开屏原生广告=1, 开屏插屏广告=2
  8.     private String action;//状态:成功=1  失败=2
  9.     private String loading_time;//加载时长:计算下拉开始到接口返回数据的时间,(开始加载报0,加载成功或加载失败才上报时间)
  10.     private String detail;//失败码(没有则上报空)
  11.     private String extend1;//失败的message(没有则上报空)
  12.     private String en;//启动日志类型标记
  13.     public String getEntry() {
  14.         return entry;
  15.     }
  16.     public void setEntry(String entry) {
  17.         this.entry = entry;
  18.     }
  19.     public String getOpen_ad_type() {
  20.         return open_ad_type;
  21.     }
  22.     public void setOpen_ad_type(String open_ad_type) {
  23.         this.open_ad_type = open_ad_type;
  24.     }
  25.     public String getAction() {
  26.         return action;
  27.     }
  28.     public void setAction(String action) {
  29.         this.action = action;
  30.     }
  31.     public String getLoading_time() {
  32.         return loading_time;
  33.     }
  34.     public void setLoading_time(String loading_time) {
  35.         this.loading_time = loading_time;
  36.     }
  37.     public String getDetail() {
  38.         return detail;
  39.     }
  40.     public void setDetail(String detail) {
  41.         this.detail = detail;
  42.     }
  43.     public String getExtend1() {
  44.         return extend1;
  45.     }
  46.     public void setExtend1(String extend1) {
  47.         this.extend1 = extend1;
  48.     }
  49.     public String getEn() {
  50.         return en;
  51.     }
  52.     public void setEn(String en) {
  53.         this.en = en;
  54.     }
  55. }
复制代码

3.4.3 错误日志Bean

  1. package com.kgg.bean;
  2. /**
  3. * 错误日志
  4. */
  5. public class AppErrorLog {
  6.     private String errorBrief;    //错误摘要
  7.     private String errorDetail;   //错误详情
  8.     public String getErrorBrief() {
  9.         return errorBrief;
  10.     }
  11.     public void setErrorBrief(String errorBrief) {
  12.         this.errorBrief = errorBrief;
  13.     }
  14.     public String getErrorDetail() {
  15.         return errorDetail;
  16.     }
  17.     public void setErrorDetail(String errorDetail) {
  18.         this.errorDetail = errorDetail;
  19.     }
  20. }
复制代码

3.4.4 事件日志Bean之商品点击


  1. package com.kgg.bean;
  2. /**
  3. * 商品点击日志
  4. */
  5. public class AppDisplay {
  6.     private String action;//动作:曝光商品=1,点击商品=2,
  7.     private String goodsid;//商品ID(服务端下发的ID)
  8.     private String place;//顺序(第几条商品,第一条为0,第二条为1,如此类推)
  9.     private String extend1;//曝光类型:1 - 首次曝光 2-重复曝光(没有使用)
  10.     private String category;//分类ID(服务端定义的分类ID)
  11.     public String getAction() {
  12.         return action;
  13.     }
  14.     public void setAction(String action) {
  15.         this.action = action;
  16.     }
  17.     public String getGoodsid() {
  18.         return goodsid;
  19.     }
  20.     public void setGoodsid(String goodsid) {
  21.         this.goodsid = goodsid;
  22.     }
  23.     public String getPlace() {
  24.         return place;
  25.     }
  26.     public void setPlace(String place) {
  27.         this.place = place;
  28.     }
  29.     public String getExtend1() {
  30.         return extend1;
  31.     }
  32.     public void setExtend1(String extend1) {
  33.         this.extend1 = extend1;
  34.     }
  35.     public String getCategory() {
  36.         return category;
  37.     }
  38.     public void setCategory(String category) {
  39.         this.category = category;
  40.     }
  41. }
复制代码

3.4.5 事件日志Bean之商品详情页

  1. package com.kgg.bean;
  2. /**
  3. * 商品详情
  4. */
  5. public class AppNewsDetail {
  6.     private String entry;//页面入口来源:应用首页=1、push=2、详情页相关推荐=3
  7.     private String action;//动作:开始加载=1,加载成功=2(pv),加载失败=3, 退出页面=4
  8.     private String goodsid;//商品ID(服务端下发的ID)
  9.     private String showtype;//商品样式:0、无图1、一张大图2、两张图3、三张小图4、一张小图5、一张大图两张小图    来源于详情页相关推荐的商品,上报样式都为0(因为都是左文右图)
  10.     private String news_staytime;//页面停留时长:从商品开始加载时开始计算,到用户关闭页面所用的时间。若中途用跳转到其它页面了,则暂停计时,待回到详情页时恢复计时。或中途划出的时间超过10分钟,则本次计时作废,不上报本次数据。如未加载成功退出,则报空。
  11.     private String loading_time;//加载时长:计算页面开始加载到接口返回数据的时间 (开始加载报0,加载成功或加载失败才上报时间)
  12.     private String type1;//加载失败码:把加载失败状态码报回来(报空为加载成功,没有失败)
  13.     private String category;//分类ID(服务端定义的分类ID)
  14.     public String getEntry() {
  15.         return entry;
  16.     }
  17.     public void setEntry(String entry) {
  18.         this.entry = entry;
  19.     }
  20.     public String getAction() {
  21.         return action;
  22.     }
  23.     public void setAction(String action) {
  24.         this.action = action;
  25.     }
  26.     public String getGoodsid() {
  27.         return goodsid;
  28.     }
  29.     public void setGoodsid(String goodsid) {
  30.         this.goodsid = goodsid;
  31.     }
  32.     public String getShowtype() {
  33.         return showtype;
  34.     }
  35.     public void setShowtype(String showtype) {
  36.         this.showtype = showtype;
  37.     }
  38.     public String getNews_staytime() {
  39.         return news_staytime;
  40.     }
  41.     public void setNews_staytime(String news_staytime) {
  42.         this.news_staytime = news_staytime;
  43.     }
  44.     public String getLoading_time() {
  45.         return loading_time;
  46.     }
  47.     public void setLoading_time(String loading_time) {
  48.         this.loading_time = loading_time;
  49.     }
  50.     public String getType1() {
  51.         return type1;
  52.     }
  53.     public void setType1(String type1) {
  54.         this.type1 = type1;
  55.     }
  56.     public String getCategory() {
  57.         return category;
  58.     }
  59.     public void setCategory(String category) {
  60.         this.category = category;
  61.     }
  62. }
复制代码

3.4.6 事件日志Bean之商品列表页

  1. package com.kgg.bean;
  2. /**
  3. * 商品列表
  4. */
  5. public class AppLoading {
  6.     private String action;//动作:开始加载=1,加载成功=2,加载失败=3
  7.     private String loading_time;//加载时长:计算下拉开始到接口返回数据的时间,(开始加载报0,加载成功或加载失败才上报时间)
  8.     private String loading_way;//加载类型:1-读取缓存,2-从接口拉新数据   (加载成功才上报加载类型)
  9.     private String extend1;//扩展字段 Extend1
  10.     private String extend2;//扩展字段 Extend2
  11.     private String type;//加载类型:自动加载=1,用户下拽加载=2,底部加载=3(底部条触发点击底部提示条/点击返回顶部加载)
  12.     private String type1;//加载失败码:把加载失败状态码报回来(报空为加载成功,没有失败)
  13.     public String getAction() {
  14.         return action;
  15.     }
  16.     public void setAction(String action) {
  17.         this.action = action;
  18.     }
  19.     public String getLoading_time() {
  20.         return loading_time;
  21.     }
  22.     public void setLoading_time(String loading_time) {
  23.         this.loading_time = loading_time;
  24.     }
  25.     public String getLoading_way() {
  26.         return loading_way;
  27.     }
  28.     public void setLoading_way(String loading_way) {
  29.         this.loading_way = loading_way;
  30.     }
  31.     public String getExtend1() {
  32.         return extend1;
  33.     }
  34.     public void setExtend1(String extend1) {
  35.         this.extend1 = extend1;
  36.     }
  37.     public String getExtend2() {
  38.         return extend2;
  39.     }
  40.     public void setExtend2(String extend2) {
  41.         this.extend2 = extend2;
  42.     }
  43.     public String getType() {
  44.         return type;
  45.     }
  46.     public void setType(String type) {
  47.         this.type = type;
  48.     }
  49.     public String getType1() {
  50.         return type1;
  51.     }
  52.     public void setType1(String type1) {
  53.         this.type1 = type1;
  54.     }
  55. }
复制代码

3.4.7 事件日志Bean之广告

  1. package com.kgg.bean;
  2. /**
  3. * 广告
  4. */
  5. public class AppAd {
  6.     private String entry;//入口:商品列表页=1  应用首页=2 商品详情页=3
  7.     private String action;//动作:请求广告=1 取缓存广告=2  广告位展示=3 广告展示=4 广告点击=5
  8.     private String content;//状态:成功=1  失败=2
  9.     private String detail;//失败码(没有则上报空)
  10.     private String source;//广告来源:admob=1 facebook=2  ADX(百度)=3 VK(俄罗斯)=4
  11.     private String behavior;//用户行为:    主动获取广告=1    被动获取广告=2
  12.     private String newstype;//Type: 1- 图文 2-图集 3-段子 4-GIF 5-视频 6-调查 7-纯文 8-视频+图文  9-GIF+图文  0-其他
  13.     private String show_style;//内容样式:无图(纯文字)=6 一张大图=1  三站小图+文=4 一张小图=2 一张大图两张小图+文=3 图集+文 = 5
  14.                            //一张大图+文=11   GIF大图+文=12  视频(大图)+文 = 13
  15.                            //来源于详情页相关推荐的商品,上报样式都为0(因为都是左文右图)
  16.     public String getEntry() {
  17.         return entry;
  18.     }
  19.     public void setEntry(String entry) {
  20.         this.entry = entry;
  21.     }
  22.     public String getAction() {
  23.         return action;
  24.     }
  25.     public void setAction(String action) {
  26.         this.action = action;
  27.     }
  28.     public String getContent() {
  29.         return content;
  30.     }
  31.     public void setContent(String content) {
  32.         this.content = content;
  33.     }
  34.     public String getDetail() {
  35.         return detail;
  36.     }
  37.     public void setDetail(String detail) {
  38.         this.detail = detail;
  39.     }
  40.     public String getSource() {
  41.         return source;
  42.     }
  43.     public void setSource(String source) {
  44.         this.source = source;
  45.     }
  46.     public String getBehavior() {
  47.         return behavior;
  48.     }
  49.     public void setBehavior(String behavior) {
  50.         this.behavior = behavior;
  51.     }
  52.     public String getNewstype() {
  53.         return newstype;
  54.     }
  55.     public void setNewstype(String newstype) {
  56.         this.newstype = newstype;
  57.     }
  58.     public String getShow_style() {
  59.         return show_style;
  60.     }
  61.     public void setShow_style(String show_style) {
  62.         this.show_style = show_style;
  63.     }
  64. }
复制代码

3.4.8 事件日志Bean之消息通知

  1. package com.kgg.bean;
  2. /**
  3. * 消息通知日志
  4. */
  5. public class AppNotification {
  6.     private String action;//动作:通知产生=1,通知弹出=2,通知点击=3,常驻通知展示(不重复上报,一天之内只报一次)=4
  7.     private String type;//通知id:预警通知=1,天气预报(早=2,晚=3),常驻=4
  8.     private String ap_time;//客户端弹出时间
  9.     private String content;//备用字段
  10.     public String getAction() {
  11.         return action;
  12.     }
  13.     public void setAction(String action) {
  14.         this.action = action;
  15.     }
  16.     public String getType() {
  17.         return type;
  18.     }
  19.     public void setType(String type) {
  20.         this.type = type;
  21.     }
  22.     public String getAp_time() {
  23.         return ap_time;
  24.     }
  25.     public void setAp_time(String ap_time) {
  26.         this.ap_time = ap_time;
  27.     }
  28.     public String getContent() {
  29.         return content;
  30.     }
  31.     public void setContent(String content) {
  32.         this.content = content;
  33.     }
  34. }
复制代码

3.4.9 事件日志Bean之用户前台活跃

  1. package com.kgg.bean;
  2. /**
  3. * 用户前台活跃
  4. */
  5. public class AppActive_foreground {
  6.     private String push_id;//推送的消息的id,如果不是从推送消息打开,传空
  7.     private String access;//1.push 2.icon 3.其他
  8.     public String getPush_id() {
  9.         return push_id;
  10.     }
  11.     public void setPush_id(String push_id) {
  12.         this.push_id = push_id;
  13.     }
  14.     public String getAccess() {
  15.         return access;
  16.     }
  17.     public void setAccess(String access) {
  18.         this.access = access;
  19.     }
  20. }
复制代码

3.4.10 事件日志Bean之用户后台活跃

  1. package com.kgg.bean;
  2. /**
  3. * 用户后台活跃
  4. */
  5. public class AppActive_background {
  6.     private String active_source;//1=upgrade,2=download(下载),3=plugin_upgrade
  7.     public String getActive_source() {
  8.         return active_source;
  9.     }
  10.     public void setActive_source(String active_source) {
  11.         this.active_source = active_source;
  12.     }
  13. }
复制代码

3.4.11 事件日志Bean之用户评论

  1. package com.kgg.bean;
  2. /**
  3. * 评论
  4. */
  5. public class AppComment {
  6.     private int comment_id;//评论表
  7.     private int userid;//用户id
  8.     private  int p_comment_id;//父级评论id(为0则是一级评论,不为0则是回复)
  9.     private String content;//评论内容
  10.     private String addtime;//创建时间
  11.     private int other_id;//评论的相关id
  12.     private int praise_count;//点赞数量
  13.     private int reply_count;//回复数量
  14.     public int getComment_id() {
  15.         return comment_id;
  16.     }
  17.     public void setComment_id(int comment_id) {
  18.         this.comment_id = comment_id;
  19.     }
  20.     public int getUserid() {
  21.         return userid;
  22.     }
  23.     public void setUserid(int userid) {
  24.         this.userid = userid;
  25.     }
  26.     public int getP_comment_id() {
  27.         return p_comment_id;
  28.     }
  29.     public void setP_comment_id(int p_comment_id) {
  30.         this.p_comment_id = p_comment_id;
  31.     }
  32.     public String getContent() {
  33.         return content;
  34.     }
  35.     public void setContent(String content) {
  36.         this.content = content;
  37.     }
  38.     public String getAddtime() {
  39.         return addtime;
  40.     }
  41.     public void setAddtime(String addtime) {
  42.         this.addtime = addtime;
  43.     }
  44.     public int getOther_id() {
  45.         return other_id;
  46.     }
  47.     public void setOther_id(int other_id) {
  48.         this.other_id = other_id;
  49.     }
  50.     public int getPraise_count() {
  51.         return praise_count;
  52.     }
  53.     public void setPraise_count(int praise_count) {
  54.         this.praise_count = praise_count;
  55.     }
  56.     public int getReply_count() {
  57.         return reply_count;
  58.     }
  59.     public void setReply_count(int reply_count) {
  60.         this.reply_count = reply_count;
  61.     }
  62. }
复制代码

3.4.12 事件日志Bean之用户收藏

  1. package com.kgg.bean;
  2. /**
  3. * 收藏
  4. */
  5. public class AppFavorites {
  6.     private int id;//主键
  7.     private int course_id;//商品id
  8.     private int userid;//用户ID
  9.     private String add_time;//创建时间
  10.     public int getId() {
  11.         return id;
  12.     }
  13.     public void setId(int id) {
  14.         this.id = id;
  15.     }
  16.     public int getCourse_id() {
  17.         return course_id;
  18.     }
  19.     public void setCourse_id(int course_id) {
  20.         this.course_id = course_id;
  21.     }
  22.     public int getUserid() {
  23.         return userid;
  24.     }
  25.     public void setUserid(int userid) {
  26.         this.userid = userid;
  27.     }
  28.     public String getAdd_time() {
  29.         return add_time;
  30.     }
  31.     public void setAdd_time(String add_time) {
  32.         this.add_time = add_time;
  33.     }
  34. }
复制代码

3.4.13 事件日志Bean之用户点赞

  1. package com.kgg.bean;
  2. /**
  3. * 点赞
  4. */
  5. public class AppPraise {
  6.     private int id; //主键id
  7.     private int userid;//用户id
  8.     private int target_id;//点赞的对象id
  9.     private int type;//点赞类型 1问答点赞 2问答评论点赞 3 文章点赞数4 评论点赞
  10.     private String add_time;//添加时间
  11.     public int getId() {
  12.         return id;
  13.     }
  14.     public void setId(int id) {
  15.         this.id = id;
  16.     }
  17.     public int getUserid() {
  18.         return userid;
  19.     }
  20.     public void setUserid(int userid) {
  21.         this.userid = userid;
  22.     }
  23.     public int getTarget_id() {
  24.         return target_id;
  25.     }
  26.     public void setTarget_id(int target_id) {
  27.         this.target_id = target_id;
  28.     }
  29.     public int getType() {
  30.         return type;
  31.     }
  32.     public void setType(int type) {
  33.         this.type = type;
  34.     }
  35.     public String getAdd_time() {
  36.         return add_time;
  37.     }
  38.     public void setAdd_time(String add_time) {
  39.         this.add_time = add_time;
  40.     }
  41. }
复制代码

3.4.14 主函数

29.png

在AppMain类中添加如下内容:

  1. package com.kgg.appclient;
  2. import java.io.UnsupportedEncodingException;
  3. import java.util.Random;
  4. import com.alibaba.fastjson.JSON;
  5. import com.alibaba.fastjson.JSONArray;
  6. import com.alibaba.fastjson.JSONObject;
  7. import com.kgg.bean.*;
  8. import org.slf4j.Logger;
  9. import org.slf4j.LoggerFactory;
  10. /**
  11. * 日志行为数据模拟
  12. */
  13. public class AppMain {
  14.     private final static Logger logger = LoggerFactory.getLogger(AppMain.class);
  15.     private static Random rand = new Random();
  16.     // 设备id
  17.     private static int s_mid = 0;
  18.     // 用户id
  19.     private static int s_uid = 0;
  20.     // 商品id
  21.     private static int s_goodsid = 0;
  22.     public static void main(String[] args) {
  23.         // 参数一:控制发送每条的延时时间,默认是0
  24.         Long delay = args.length > 0 ? Long.parseLong(args[0]) : 0L;
  25.         // 参数二:循环遍历次数
  26.         int loop_len = args.length > 1 ? Integer.parseInt(args[1]) : 1000;
  27.         // 生成数据
  28.         generateLog(delay, loop_len);
  29.     }
  30.     private static void generateLog(Long delay, int loop_len) {
  31.         for (int i = 0; i < loop_len; i++) {
  32.             int flag = rand.nextInt(2);
  33.             switch (flag) {
  34.                 case (0):
  35.                     //应用启动
  36.                     AppStart appStart = generateStart();
  37.                     String jsonString = JSON.toJSONString(appStart);
  38.                     //控制台打印
  39.                     logger.info(jsonString);
  40.                     break;
  41.                 case (1):
  42.                     JSONObject json = new JSONObject();
  43.                     json.put("ap", "app");
  44.                     json.put("cm", generateComFields());
  45.                     JSONArray eventsArray = new JSONArray();
  46.                     // 事件日志
  47.                     // 商品点击,展示
  48.                     if (rand.nextBoolean()) {
  49.                         eventsArray.add(generateDisplay());
  50.                         json.put("et", eventsArray);
  51.                     }
  52.                     // 商品详情页
  53.                     if (rand.nextBoolean()) {
  54.                         eventsArray.add(generateNewsDetail());
  55.                         json.put("et", eventsArray);
  56.                     }
  57.                     // 商品列表页
  58.                     if (rand.nextBoolean()) {
  59.                         eventsArray.add(generateNewList());
  60.                         json.put("et", eventsArray);
  61.                     }
  62.                     // 广告
  63.                     if (rand.nextBoolean()) {
  64.                         eventsArray.add(generateAd());
  65.                         json.put("et", eventsArray);
  66.                     }
  67.                     // 消息通知
  68.                     if (rand.nextBoolean()) {
  69.                         eventsArray.add(generateNotification());
  70.                         json.put("et", eventsArray);
  71.                     }
  72.                     // 用户前台活跃
  73.                     if (rand.nextBoolean()) {
  74.                         eventsArray.add(generatbeforeground());
  75.                         json.put("et", eventsArray);
  76.                     }
  77.                     // 用户后台活跃
  78.                     if (rand.nextBoolean()) {
  79.                         eventsArray.add(generateBackground());
  80.                         json.put("et", eventsArray);
  81.                     }
  82.                     //故障日志
  83.                     if (rand.nextBoolean()) {
  84.                         eventsArray.add(generateError());
  85.                         json.put("et", eventsArray);
  86.                     }
  87.                     // 用户评论
  88.                     if (rand.nextBoolean()) {
  89.                         eventsArray.add(generateComment());
  90.                         json.put("et", eventsArray);
  91.                     }
  92.                     // 用户收藏
  93.                     if (rand.nextBoolean()) {
  94.                         eventsArray.add(generateFavorites());
  95.                         json.put("et", eventsArray);
  96.                     }
  97.                     // 用户点赞
  98.                     if (rand.nextBoolean()) {
  99.                         eventsArray.add(generatePraise());
  100.                         json.put("et", eventsArray);
  101.                     }
  102.                     //时间
  103.                     long millis = System.currentTimeMillis();
  104.                     //控制台打印
  105.                     logger.info(millis + "|" + json.toJSONString());
  106.                     break;
  107.             }
  108.             // 延迟
  109.             try {
  110.                 Thread.sleep(delay);
  111.             } catch (InterruptedException e) {
  112.                 e.printStackTrace();
  113.             }
  114.         }
  115.     }
  116.     /**
  117.      * 公共字段设置
  118.      */
  119.     private static JSONObject generateComFields() {
  120.         AppBase appBase = new AppBase();
  121.         //设备id
  122.         appBase.setMid(s_mid + "");
  123.         s_mid++;
  124.         // 用户id
  125.         appBase.setUid(s_uid + "");
  126.         s_uid++;
  127.         // 程序版本号 5,6等
  128.         appBase.setVc("" + rand.nextInt(20));
  129.         //程序版本名 v1.1.1
  130.         appBase.setVn("1." + rand.nextInt(4) + "." + rand.nextInt(10));
  131.         // 安卓系统版本
  132.         appBase.setOs("8." + rand.nextInt(3) + "." + rand.nextInt(10));
  133.         // 语言  es,en,pt
  134.         int flag = rand.nextInt(3);
  135.         switch (flag) {
  136.             case (0):
  137.                 appBase.setL("es");
  138.                 break;
  139.             case (1):
  140.                 appBase.setL("en");
  141.                 break;
  142.             case (2):
  143.                 appBase.setL("pt");
  144.                 break;
  145.         }
  146.         // 渠道号   从哪个渠道来的
  147.         appBase.setSr(getRandomChar(1));
  148.         // 区域
  149.         flag = rand.nextInt(2);
  150.         switch (flag) {
  151.             case 0:
  152.                 appBase.setAr("BR");
  153.             case 1:
  154.                 appBase.setAr("MX");
  155.         }
  156.         // 手机品牌 ba ,手机型号 md,就取2位数字了
  157.         flag = rand.nextInt(3);
  158.         switch (flag) {
  159.             case 0:
  160.                 appBase.setBa("Sumsung");
  161.                 appBase.setMd("sumsung-" + rand.nextInt(20));
  162.                 break;
  163.             case 1:
  164.                 appBase.setBa("Huawei");
  165.                 appBase.setMd("Huawei-" + rand.nextInt(20));
  166.                 break;
  167.             case 2:
  168.                 appBase.setBa("HTC");
  169.                 appBase.setMd("HTC-" + rand.nextInt(20));
  170.                 break;
  171.         }
  172.         // 嵌入sdk的版本
  173.         appBase.setSv("V2." + rand.nextInt(10) + "." + rand.nextInt(10));
  174.         // gmail
  175.         appBase.setG(getRandomCharAndNumr(8) + "@gmail.com");
  176.         // 屏幕宽高 hw
  177.         flag = rand.nextInt(4);
  178.         switch (flag) {
  179.             case 0:
  180.                 appBase.setHw("640*960");
  181.                 break;
  182.             case 1:
  183.                 appBase.setHw("640*1136");
  184.                 break;
  185.             case 2:
  186.                 appBase.setHw("750*1134");
  187.                 break;
  188.             case 3:
  189.                 appBase.setHw("1080*1920");
  190.                 break;
  191.         }
  192.         // 客户端产生日志时间
  193.         long millis = System.currentTimeMillis();
  194.         appBase.setT("" + (millis - rand.nextInt(99999999)));
  195.         // 手机网络模式 3G,4G,WIFI
  196.         flag = rand.nextInt(3);
  197.         switch (flag) {
  198.             case 0:
  199.                 appBase.setNw("3G");
  200.                 break;
  201.             case 1:
  202.                 appBase.setNw("4G");
  203.                 break;
  204.             case 2:
  205.                 appBase.setNw("WIFI");
  206.                 break;
  207.         }
  208.         // 拉丁美洲 西经34°46′至西经117°09;北纬32°42′至南纬53°54′
  209.         // 经度
  210.         appBase.setLn((-34 - rand.nextInt(83) - rand.nextInt(60) / 10.0) + "");
  211.         // 纬度
  212.         appBase.setLa((32 - rand.nextInt(85) - rand.nextInt(60) / 10.0) + "");
  213.         return (JSONObject) JSON.toJSON(appBase);
  214.     }
  215.     /**
  216.      * 商品展示事件
  217.      */
  218.     private static JSONObject generateDisplay() {
  219.         AppDisplay appDisplay = new AppDisplay();
  220.         boolean boolFlag = rand.nextInt(10) < 7;
  221.         // 动作:曝光商品=1,点击商品=2,
  222.         if (boolFlag) {
  223.             appDisplay.setAction("1");
  224.         } else {
  225.             appDisplay.setAction("2");
  226.         }
  227.         // 商品id
  228.         String goodsId = s_goodsid + "";
  229.         s_goodsid++;
  230.         appDisplay.setGoodsid(goodsId);
  231.         // 顺序  设置成6条吧
  232.         int flag = rand.nextInt(6);
  233.         appDisplay.setPlace("" + flag);
  234.         // 曝光类型
  235.         flag = 1 + rand.nextInt(2);
  236.         appDisplay.setExtend1("" + flag);
  237.         // 分类
  238.         flag = 1 + rand.nextInt(100);
  239.         appDisplay.setCategory("" + flag);
  240.         JSONObject jsonObject = (JSONObject) JSON.toJSON(appDisplay);
  241.         return packEventJson("display", jsonObject);
  242.     }
  243.     /**
  244.      * 商品详情页
  245.      */
  246.     private static JSONObject generateNewsDetail() {
  247.         AppNewsDetail appNewsDetail = new AppNewsDetail();
  248.         // 页面入口来源
  249.         int flag = 1 + rand.nextInt(3);
  250.         appNewsDetail.setEntry(flag + "");
  251.         // 动作
  252.         appNewsDetail.setAction("" + (rand.nextInt(4) + 1));
  253.         // 商品id
  254.         appNewsDetail.setGoodsid(s_goodsid + "");
  255.         // 商品来源类型
  256.         flag = 1 + rand.nextInt(3);
  257.         appNewsDetail.setShowtype(flag + "");
  258.         // 商品样式
  259.         flag = rand.nextInt(6);
  260.         appNewsDetail.setShowtype("" + flag);
  261.         // 页面停留时长
  262.         flag = rand.nextInt(10) * rand.nextInt(7);
  263.         appNewsDetail.setNews_staytime(flag + "");
  264.         // 加载时长
  265.         flag = rand.nextInt(10) * rand.nextInt(7);
  266.         appNewsDetail.setLoading_time(flag + "");
  267.         // 加载失败码
  268.         flag = rand.nextInt(10);
  269.         switch (flag) {
  270.             case 1:
  271.                 appNewsDetail.setType1("102");
  272.                 break;
  273.             case 2:
  274.                 appNewsDetail.setType1("201");
  275.                 break;
  276.             case 3:
  277.                 appNewsDetail.setType1("325");
  278.                 break;
  279.             case 4:
  280.                 appNewsDetail.setType1("433");
  281.                 break;
  282.             case 5:
  283.                 appNewsDetail.setType1("542");
  284.                 break;
  285.             default:
  286.                 appNewsDetail.setType1("");
  287.                 break;
  288.         }
  289.         // 分类
  290.         flag = 1 + rand.nextInt(100);
  291.         appNewsDetail.setCategory("" + flag);
  292.         JSONObject eventJson = (JSONObject) JSON.toJSON(appNewsDetail);
  293.         return packEventJson("newsdetail", eventJson);
  294.     }
  295.     /**
  296.      * 商品列表
  297.      */
  298.     private static JSONObject generateNewList() {
  299.         AppLoading appLoading = new AppLoading();
  300.         // 动作
  301.         int flag = rand.nextInt(3) + 1;
  302.         appLoading.setAction(flag + "");
  303.         // 加载时长
  304.         flag = rand.nextInt(10) * rand.nextInt(7);
  305.         appLoading.setLoading_time(flag + "");
  306.         // 失败码
  307.         flag = rand.nextInt(10);
  308.         switch (flag) {
  309.             case 1:
  310.                 appLoading.setType1("102");
  311.                 break;
  312.             case 2:
  313.                 appLoading.setType1("201");
  314.                 break;
  315.             case 3:
  316.                 appLoading.setType1("325");
  317.                 break;
  318.             case 4:
  319.                 appLoading.setType1("433");
  320.                 break;
  321.             case 5:
  322.                 appLoading.setType1("542");
  323.                 break;
  324.             default:
  325.                 appLoading.setType1("");
  326.                 break;
  327.         }
  328.         // 页面  加载类型
  329.         flag = 1 + rand.nextInt(2);
  330.         appLoading.setLoading_way("" + flag);
  331.         // 扩展字段1
  332.         appLoading.setExtend1("");
  333.         // 扩展字段2
  334.         appLoading.setExtend2("");
  335.         // 用户加载类型
  336.         flag = 1 + rand.nextInt(3);
  337.         appLoading.setType("" + flag);
  338.         JSONObject jsonObject = (JSONObject) JSON.toJSON(appLoading);
  339.         return packEventJson("loading", jsonObject);
  340.     }
  341.     /**
  342.      * 广告相关字段
  343.      */
  344.     private static JSONObject generateAd() {
  345.         AppAd appAd = new AppAd();
  346.         // 入口
  347.         int flag = rand.nextInt(3) + 1;
  348.         appAd.setEntry(flag + "");
  349.         // 动作
  350.         flag = rand.nextInt(5) + 1;
  351.         appAd.setAction(flag + "");
  352.         // 状态
  353.         flag = rand.nextInt(10) > 6 ? 2 : 1;
  354.         appAd.setContent(flag + "");
  355.         // 失败码
  356.         flag = rand.nextInt(10);
  357.         switch (flag) {
  358.             case 1:
  359.                 appAd.setDetail("102");
  360.                 break;
  361.             case 2:
  362.                 appAd.setDetail("201");
  363.                 break;
  364.             case 3:
  365.                 appAd.setDetail("325");
  366.                 break;
  367.             case 4:
  368.                 appAd.setDetail("433");
  369.                 break;
  370.             case 5:
  371.                 appAd.setDetail("542");
  372.                 break;
  373.             default:
  374.                 appAd.setDetail("");
  375.                 break;
  376.         }
  377.         // 广告来源
  378.         flag = rand.nextInt(4) + 1;
  379.         appAd.setSource(flag + "");
  380.         // 用户行为
  381.         flag = rand.nextInt(2) + 1;
  382.         appAd.setBehavior(flag + "");
  383.         // 商品类型
  384.         flag = rand.nextInt(10);
  385.         appAd.setNewstype("" + flag);
  386.         // 展示样式
  387.         flag = rand.nextInt(6);
  388.         appAd.setShow_style("" + flag);
  389.         JSONObject jsonObject = (JSONObject) JSON.toJSON(appAd);
  390.         return packEventJson("ad", jsonObject);
  391.     }
  392.     /**
  393.      * 启动日志
  394.      */
  395.     private static AppStart generateStart() {
  396.         AppStart appStart = new AppStart();
  397.         //设备id
  398.         appStart.setMid(s_mid + "");
  399.         s_mid++;
  400.         // 用户id
  401.         appStart.setUid(s_uid + "");
  402.         s_uid++;
  403.         // 程序版本号 5,6等
  404.         appStart.setVc("" + rand.nextInt(20));
  405.         //程序版本名 v1.1.1
  406.         appStart.setVn("1." + rand.nextInt(4) + "." + rand.nextInt(10));
  407.         // 安卓系统版本
  408.         appStart.setOs("8." + rand.nextInt(3) + "." + rand.nextInt(10));
  409.         //设置日志类型
  410.         appStart.setEn("start");
  411.         //    语言  es,en,pt
  412.         int flag = rand.nextInt(3);
  413.         switch (flag) {
  414.             case (0):
  415.                 appStart.setL("es");
  416.                 break;
  417.             case (1):
  418.                 appStart.setL("en");
  419.                 break;
  420.             case (2):
  421.                 appStart.setL("pt");
  422.                 break;
  423.         }
  424.         // 渠道号   从哪个渠道来的
  425.         appStart.setSr(getRandomChar(1));
  426.         // 区域
  427.         flag = rand.nextInt(2);
  428.         switch (flag) {
  429.             case 0:
  430.                 appStart.setAr("BR");
  431.             case 1:
  432.                 appStart.setAr("MX");
  433.         }
  434.         // 手机品牌 ba ,手机型号 md,就取2位数字了
  435.         flag = rand.nextInt(3);
  436.         switch (flag) {
  437.             case 0:
  438.                 appStart.setBa("Sumsung");
  439.                 appStart.setMd("sumsung-" + rand.nextInt(20));
  440.                 break;
  441.             case 1:
  442.                 appStart.setBa("Huawei");
  443.                 appStart.setMd("Huawei-" + rand.nextInt(20));
  444.                 break;
  445.             case 2:
  446.                 appStart.setBa("HTC");
  447.                 appStart.setMd("HTC-" + rand.nextInt(20));
  448.                 break;
  449.         }
  450.         // 嵌入sdk的版本
  451.         appStart.setSv("V2." + rand.nextInt(10) + "." + rand.nextInt(10));
  452.         // gmail
  453.         appStart.setG(getRandomCharAndNumr(8) + "@gmail.com");
  454.         // 屏幕宽高 hw
  455.         flag = rand.nextInt(4);
  456.         switch (flag) {
  457.             case 0:
  458.                 appStart.setHw("640*960");
  459.                 break;
  460.             case 1:
  461.                 appStart.setHw("640*1136");
  462.                 break;
  463.             case 2:
  464.                 appStart.setHw("750*1134");
  465.                 break;
  466.             case 3:
  467.                 appStart.setHw("1080*1920");
  468.                 break;
  469.         }
  470.         // 客户端产生日志时间
  471.         long millis = System.currentTimeMillis();
  472.         appStart.setT("" + (millis - rand.nextInt(99999999)));
  473.         // 手机网络模式 3G,4G,WIFI
  474.         flag = rand.nextInt(3);
  475.         switch (flag) {
  476.             case 0:
  477.                 appStart.setNw("3G");
  478.                 break;
  479.             case 1:
  480.                 appStart.setNw("4G");
  481.                 break;
  482.             case 2:
  483.                 appStart.setNw("WIFI");
  484.                 break;
  485.         }
  486.         // 拉丁美洲 西经34°46′至西经117°09;北纬32°42′至南纬53°54′
  487.         // 经度
  488.         appStart.setLn((-34 - rand.nextInt(83) - rand.nextInt(60) / 10.0) + "");
  489.         // 纬度
  490.         appStart.setLa((32 - rand.nextInt(85) - rand.nextInt(60) / 10.0) + "");
  491.         // 入口
  492.         flag = rand.nextInt(5) + 1;
  493.         appStart.setEntry(flag + "");
  494.         // 开屏广告类型
  495.         flag = rand.nextInt(2) + 1;
  496.         appStart.setOpen_ad_type(flag + "");
  497.         // 状态
  498.         flag = rand.nextInt(10) > 8 ? 2 : 1;
  499.         appStart.setAction(flag + "");
  500.         // 加载时长
  501.         appStart.setLoading_time(rand.nextInt(20) + "");
  502.         // 失败码
  503.         flag = rand.nextInt(10);
  504.         switch (flag) {
  505.             case 1:
  506.                 appStart.setDetail("102");
  507.                 break;
  508.             case 2:
  509.                 appStart.setDetail("201");
  510.                 break;
  511.             case 3:
  512.                 appStart.setDetail("325");
  513.                 break;
  514.             case 4:
  515.                 appStart.setDetail("433");
  516.                 break;
  517.             case 5:
  518.                 appStart.setDetail("542");
  519.                 break;
  520.             default:
  521.                 appStart.setDetail("");
  522.                 break;
  523.         }
  524.         // 扩展字段
  525.         appStart.setExtend1("");
  526.         return appStart;
  527.     }
  528.     /**
  529.      * 消息通知
  530.      */
  531.     private static JSONObject generateNotification() {
  532.         AppNotification appNotification = new AppNotification();
  533.         int flag = rand.nextInt(4) + 1;
  534.         // 动作
  535.         appNotification.setAction(flag + "");
  536.         // 通知id
  537.         flag = rand.nextInt(4) + 1;
  538.         appNotification.setType(flag + "");
  539.         // 客户端弹时间
  540.         appNotification.setAp_time((System.currentTimeMillis() - rand.nextInt(99999999)) + "");
  541.         // 备用字段
  542.         appNotification.setContent("");
  543.         JSONObject jsonObject = (JSONObject) JSON.toJSON(appNotification);
  544.         return packEventJson("notification", jsonObject);
  545.     }
  546.     /**
  547.      * 前台活跃
  548.      */
  549.     private static JSONObject generatbeforeground() {
  550.         AppActive_foreground appActive_foreground = new AppActive_foreground();
  551.         // 推送消息的id
  552.         int flag = rand.nextInt(2);
  553.         switch (flag) {
  554.             case 1:
  555.                 appActive_foreground.setAccess(flag + "");
  556.                 break;
  557.             default:
  558.                 appActive_foreground.setAccess("");
  559.                 break;
  560.         }
  561.         // 1.push 2.icon 3.其他
  562.         flag = rand.nextInt(3) + 1;
  563.         appActive_foreground.setPush_id(flag + "");
  564.         JSONObject jsonObject = (JSONObject) JSON.toJSON(appActive_foreground);
  565.         return packEventJson("active_foreground", jsonObject);
  566.     }
  567.     /**
  568.      * 后台活跃
  569.      */
  570.     private static JSONObject generateBackground() {
  571.         AppActive_background appActive_background = new AppActive_background();
  572.         // 启动源
  573.         int flag = rand.nextInt(3) + 1;
  574.         appActive_background.setActive_source(flag + "");
  575.         JSONObject jsonObject = (JSONObject) JSON.toJSON(appActive_background);
  576.         return packEventJson("active_background", jsonObject);
  577.     }
  578.     /**
  579.      * 错误日志数据
  580.      */
  581.     private static JSONObject generateError() {
  582.         AppErrorLog appErrorLog = new AppErrorLog();
  583.         String[] errorBriefs = {"at cn.lift.dfdf.web.AbstractBaseController.validInbound(AbstractBaseController.java:72)", "at cn.lift.appIn.control.CommandUtil.getInfo(CommandUtil.java:67)"};        //错误摘要
  584.         String[] errorDetails = {"java.lang.NullPointerException\\n    " + "at cn.lift.appIn.web.AbstractBaseController.validInbound(AbstractBaseController.java:72)\\n " + "at cn.lift.dfdf.web.AbstractBaseController.validInbound", "at cn.lift.dfdfdf.control.CommandUtil.getInfo(CommandUtil.java:67)\\n " + "at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)\\n" + " at java.lang.reflect.Method.invoke(Method.java:606)\\n"};        //错误详情
  585.         //错误摘要
  586.         appErrorLog.setErrorBrief(errorBriefs[rand.nextInt(errorBriefs.length)]);
  587.         //错误详情
  588.         appErrorLog.setErrorDetail(errorDetails[rand.nextInt(errorDetails.length)]);
  589.         JSONObject jsonObject = (JSONObject) JSON.toJSON(appErrorLog);
  590.         return packEventJson("error", jsonObject);
  591.     }
  592.     /**
  593.      * 为各个事件类型的公共字段(时间、事件类型、Json数据)拼接
  594.      */
  595.     private static JSONObject packEventJson(String eventName, JSONObject jsonObject) {
  596.         JSONObject eventJson = new JSONObject();
  597.         eventJson.put("ett", (System.currentTimeMillis() - rand.nextInt(99999999)) + "");
  598.         eventJson.put("en", eventName);
  599.         eventJson.put("kv", jsonObject);
  600.         return eventJson;
  601.     }
  602.     /**
  603.      * 获取随机字母组合
  604.      *
  605.      * @param length 字符串长度
  606.      */
  607.     private static String getRandomChar(Integer length) {
  608.         StringBuilder str = new StringBuilder();
  609.         Random random = new Random();
  610.         for (int i = 0; i < length; i++) {
  611.             // 字符串
  612.             str.append((char) (65 + random.nextInt(26)));// 取得大写字母
  613.         }
  614.         return str.toString();
  615.     }
  616.     /**
  617.      * 获取随机字母数字组合
  618.      *
  619.      * @param length 字符串长度
  620.      */
  621.     private static String getRandomCharAndNumr(Integer length) {
  622.         StringBuilder str = new StringBuilder();
  623.         Random random = new Random();
  624.         for (int i = 0; i < length; i++) {
  625.             boolean b = random.nextBoolean();
  626.             if (b) { // 字符串
  627.                 // int choice = random.nextBoolean() ? 65 : 97; 取得65大写字母还是97小写字母
  628.                 str.append((char) (65 + random.nextInt(26)));// 取得大写字母
  629.             } else { // 数字
  630.                 str.append(String.valueOf(random.nextInt(10)));
  631.             }
  632.         }
  633.         return str.toString();
  634.     }
  635.     /**
  636.      * 收藏
  637.      */
  638.     private static JSONObject generateFavorites() {
  639.         AppFavorites favorites = new AppFavorites();
  640.         favorites.setCourse_id(rand.nextInt(10));
  641.         favorites.setUserid(rand.nextInt(10));
  642.         favorites.setAdd_time((System.currentTimeMillis() - rand.nextInt(99999999)) + "");
  643.         JSONObject jsonObject = (JSONObject) JSON.toJSON(favorites);
  644.         return packEventJson("favorites", jsonObject);
  645.     }
  646.     /**
  647.      * 点赞
  648.      */
  649.     private static JSONObject generatePraise() {
  650.         AppPraise praise = new AppPraise();
  651.         praise.setId(rand.nextInt(10));
  652.         praise.setUserid(rand.nextInt(10));
  653.         praise.setTarget_id(rand.nextInt(10));
  654.         praise.setType(rand.nextInt(4) + 1);
  655.         praise.setAdd_time((System.currentTimeMillis() - rand.nextInt(99999999)) + "");
  656.         JSONObject jsonObject = (JSONObject) JSON.toJSON(praise);
  657.         return packEventJson("praise", jsonObject);
  658.     }
  659.     /**
  660.      * 评论
  661.      */
  662.     private static JSONObject generateComment() {
  663.         AppComment comment = new AppComment();
  664.         comment.setComment_id(rand.nextInt(10));
  665.         comment.setUserid(rand.nextInt(10));
  666.         comment.setP_comment_id(rand.nextInt(5));
  667.         comment.setContent(getCONTENT());
  668.         comment.setAddtime((System.currentTimeMillis() - rand.nextInt(99999999)) + "");
  669.         comment.setOther_id(rand.nextInt(10));
  670.         comment.setPraise_count(rand.nextInt(1000));
  671.         comment.setReply_count(rand.nextInt(200));
  672.         JSONObject jsonObject = (JSONObject) JSON.toJSON(comment);
  673.         return packEventJson("comment", jsonObject);
  674.     }
  675.     /**
  676.      * 生成单个汉字
  677.      */
  678.     private static char getRandomChar() {
  679.         String str = "";
  680.         int hightPos; //
  681.         int lowPos;
  682.         Random random = new Random();
  683.         //随机生成汉字的两个字节
  684.         hightPos = (176 + Math.abs(random.nextInt(39)));
  685.         lowPos = (161 + Math.abs(random.nextInt(93)));
  686.         byte[] b = new byte[2];
  687.         b[0] = (Integer.valueOf(hightPos)).byteValue();
  688.         b[1] = (Integer.valueOf(lowPos)).byteValue();
  689.         try {
  690.             str = new String(b, "GBK");
  691.         } catch (UnsupportedEncodingException e) {
  692.             e.printStackTrace();
  693.             System.out.println("错误");
  694.         }
  695.         return str.charAt(0);
  696.     }
  697.     /**
  698.      * 拼接成多个汉字
  699.      */
  700.     private static String getCONTENT() {
  701.         StringBuilder str = new StringBuilder();
  702.         for (int i = 0; i < rand.nextInt(100); i++) {
  703.             str.append(getRandomChar());
  704.         }
  705.         return str.toString();
  706.     }
  707. }
复制代码

3.4.15 配置日志打印Logback

Logback主要用于在磁盘和控制台打印日志。

Logback具体使用:
1)在resources文件夹下创建logback.xml文件。
2)在logback.xml文件中填写如下配置

  1. <?xml version="1.0" encoding="UTF-8"?>
  2. <configuration debug="false">
  3.    <!--定义日志文件的存储地址 勿在 LogBack 的配置中使用相对路径 -->
  4.    <property name="LOG_HOME" value="/tmp/logs/" />
  5.    <!-- 控制台输出 -->
  6.    <appender name="STDOUT"
  7.       class="ch.qos.logback.core.ConsoleAppender">
  8.       <encoder
  9.          class="ch.qos.logback.classic.encoder.PatternLayoutEncoder">
  10.          <!--格式化输出:%d表示日期,%thread表示线程名,%-5level:级别从左显示5个字符宽度%msg:日志消息,%n是换行符 -->
  11.          <pattern>%d{yyyy-MM-dd HH:mm:ss.SSS} [%thread] %-5level %logger{50} - %msg%n</pattern>
  12.       </encoder>
  13.    </appender>
  14.    
  15.    <!-- 按照每天生成日志文件。存储事件日志 -->
  16.    <appender name="FILE"
  17.       class="ch.qos.logback.core.rolling.RollingFileAppender">
  18.       <!-- <File>${LOG_HOME}/app.log</File>设置日志不超过${log.max.size}时的保存路径,注意,如果是web项目会保存到Tomcat的bin目录 下 -->  
  19.       <rollingPolicy
  20.          class="ch.qos.logback.core.rolling.TimeBasedRollingPolicy">
  21.          <!--日志文件输出的文件名 -->
  22.          <FileNamePattern>${LOG_HOME}/app-%d{yyyy-MM-dd}.log</FileNamePattern>
  23.          <!--日志文件保留天数 -->
  24.          <MaxHistory>30</MaxHistory>
  25.       </rollingPolicy>
  26.       <encoder
  27.          class="ch.qos.logback.classic.encoder.PatternLayoutEncoder">
  28.          <pattern>%msg%n</pattern>
  29.       </encoder>
  30.       <!--日志文件最大的大小 -->
  31.       <triggeringPolicy
  32.          class="ch.qos.logback.core.rolling.SizeBasedTriggeringPolicy">
  33.          <MaxFileSize>10MB</MaxFileSize>
  34.       </triggeringPolicy>
  35.    </appender>
  36.     <!--异步打印日志-->
  37.     <appender name ="ASYNC_FILE" class= "ch.qos.logback.classic.AsyncAppender">
  38.         <!-- 不丢失日志.默认的,如果队列的80%已满,则会丢弃TRACT、DEBUG、INFO级别的日志 -->
  39.         <discardingThreshold >0</discardingThreshold>
  40.         <!-- 更改默认的队列的深度,该值会影响性能.默认值为256 -->
  41.         <queueSize>512</queueSize>
  42.         <!-- 添加附加的appender,最多只能添加一个 -->
  43.         <appender-ref ref = "FILE"/>
  44.     </appender>
  45.     <!-- 日志输出级别 -->
  46.    <root level="INFO">
  47.       <appender-ref ref="STDOUT" />
  48.       <appender-ref ref="ASYNC_FILE" />
  49.       <appender-ref ref="error" />
  50.    </root>
  51. </configuration>
复制代码

3.4.16 打包

1)采用Maven对程序打包

30.png

2)采用带依赖的jar包。包含了程序运行需要的所有依赖。

31.png

3)后续日志生成过程,在安装完Hadoop和Zookeeper之后执行。




最新经典文章,欢迎关注公众号


本帖被以下淘专辑推荐:

没找到任何评论,期待你打破沉寂

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /5 下一条