通过java 向kafka写入数据,druid从kafka加载数据
2017-07-10 00:00
357 查看
1、druid 中配置 加载kafka 任务。可以参考本人的 相关文章。
2、 向 kafka中发送数据,(注意:在向kafka中发送数据是,一定要注意dataSchema 中timestampSpec的配置,如果配置了时间字段(timestamp)写入数据时一定要赋值,否则druid将不会加载数据)
3、如果向kafka 发送数据有异常,可以参见本人java 写入kafka数据异常。
2、 向 kafka中发送数据,(注意:在向kafka中发送数据是,一定要注意dataSchema 中timestampSpec的配置,如果配置了时间字段(timestamp)写入数据时一定要赋值,否则druid将不会加载数据)
package com; import com.alibaba.fastjson.JSONObject; import org.apache.kafka.clients.producer.KafkaProducer; import org.apache.kafka.clients.producer.Producer; import org.apache.kafka.clients.producer.ProducerRecord; import org.apache.logging.log4j.LogManager; import org.apache.logging.log4j.Logger; import java.util.ArrayList; import java.util.List; import java.util.Properties; import java.util.UUID; import java.util.concurrent.ExecutionException; import java.util.concurrent.Future; /** * 功能描述,该部分必须以中文句号结尾。 * * @author panqingcui */ public class VisitorStatisticsProducer { private static final Logger LOGGER = LogManager.getLogger(); public static void main(String[] args) throws ExecutionException, InterruptedException { Properties props = new Properties(); props.put("bootstrap.servers", "192.168.2.176:9092"); props.put("acks", "all"); props.put("retries", 0); props.put("batch.size", 16384); props.put("linger.ms", 10); props.put("buffer.memory", 33554432); props.put("key.serializer", "org.apache.kafka.common.serialization.StringSerializer"); props.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer"); //wikiticker //visitor_statistics String topic = "visitor_statistics"; Producer<String, String> producer = new KafkaProducer<>(props); List<String> types = new ArrayList(); types.add("Andriod"); types.add("Apple Phone"); types.add("Windows Phone"); // {"isRobot":false,"channel":"#de.wikipedia","cityName":"Soest","timestamp":"2016-06-27T21:30:50.804Z","flags":"","isUnpatrolled":false,"page":"Fußball-Europameisterschaft 2016/England","countryName":"Germany","regionIsoCode":"NW","diffUrl":"https://de.wikipedia.org/w/index.php?diff=155683760&oldid=155683358","added":93,"metroCode":null,"comment":"alles bei allen Artikeln vereinheitlichen","commentLength":41,"isNew":false,"isMinor":false,"delta":93,"countryIsoCode":"DE","isAnonymous":true,"user":"80.187.112.223","regionName":"North Rhine-Westphalia","deltaBucket":0.0,"deleted":0,"namespace":"Main"} for (int i = 0; i < 1; i++) { JSONObject jsonObject = new JSONObject(); String id = UUID.randomUUID().toString(); jsonObject.put("new_user_id",id); if(i%2==0){ jsonObject.put("user_id", id); }else{ jsonObject.put("click_userid",id); } if(i%4==0){ jsonObject.put("is_new",true); }else { jsonObject.put("is_new",false); } // jsonObject.put("device_type",types.get(i%types.size())); // jsonObject.put("isRobot",false); // jsonObject.put("channel","#de.wikipedia"); // jsonObject.put("cityName","Soest"); jsonObject.put("timestamp","2017-06-27T21:30:50.804Z"); Future future = producer.send(new ProducerRecord<String, String>(topic, "test", jsonObject.toJSONString())); LOGGER.info(future.get().toString()); } producer.close(); } }
3、如果向kafka 发送数据有异常,可以参见本人java 写入kafka数据异常。
相关文章推荐
- Druid通过Kafka加载数据
- Kafka和Spark Streaming Java版本集成并将数据实时写入HBase
- Android使用webview控件加载本地html,通过Js与后台Java实现数据的传递
- JAVA通过Hibernate将文件写入ORACLE数据的BLOB字段 代码示例
- 好记性不如烂笔头32-java通过过滤器加载常用数据(4)
- Kafka和Spark Streaming Java版本集成并将数据实时写入HBase及代码
- 简单通过java的socket&serversocket以及多线程技术实现多客户端的数据的传输,并将数据写入hbase中
- Java连接kafka,并将数据写入hdfs
- 通过变更数据捕获改善增量加载
- Flex中DataGrid通过存储在List中的JAVABEAN提供数据时候,数据不能正常显示的问题
- Java操作Excel之理解JXL--读取Excel模板动态写入数据并生成Excel
- Java使用URLConnection写入和读取数据
- java:大数据文件写入,读取,分割,排序,合并
- 通过ajax来读取xml里面的数据,以及查询好数据如何写入xml里去 来供ajax读取
- 页面上通过struts标签获取javabean里的数据(s:property)
- Java SSH Hibernate通过代码实现从数据库中随机取出指定条数的随机数据
- JAVA通过JDBC访问SAS数据(通过IOM接口)
- dhl:asp.net mvc下用jQuery通过AJAX 实现HTTP 请求加载远程数据
- 通过ASP程序将EXCEL文件数据写入数据库
- JAVA代码:通过Socket读取返回的数据