濮阳杆衣贸易有限公司

主頁 > 知識庫 > Flume監(jiān)聽oracle表增量的步驟詳解

Flume監(jiān)聽oracle表增量的步驟詳解

熱門標(biāo)簽:南寧人工智能電銷機(jī)器人費(fèi)用 安陽外呼系統(tǒng)免費(fèi) 圖像地圖標(biāo)注 400電話是不是免費(fèi)申請 呼倫貝爾智能手機(jī)地圖標(biāo)注 海南400電話哪里辦理 濟(jì)南地圖標(biāo)注公司 貴陽電話外呼系統(tǒng)哪家好 分布式呼叫中心

需求:獲取oracle表增量信息,發(fā)送至udp514端口,支持ip配置

步驟:

(1)需要的jar  oracle的 odbc5.jar(oracle安裝目錄  /jdbc/lib下查找)

(2)flume的開源包flume-ng-sql-source-1.4.3.jar  最新的好像是1.5的 小版本記不住了 這個(gè)下載地址直接csdn上就有

這兩個(gè)jar 都拷貝到flume的lib下

(3)flume配置文件

a1.sources = r1
a1.sinks = k1
a1.channels = c1
#接收syslog配置
#a1.sources.r1.type = syslogudp
#a1.sources.r1.port = 514
#a1.sources.r1.host = 0.0.0.0
###########sql source#################
a1.sources.r1.type = org.keedio.flume.source.SQLSource
a1.sources.r1.hibernate.connection.url = jdbc:oracle:thin:@10.9.224.36:1521/soc
# Hibernate Database connection properties
a1.sources.r1.hibernate.connection.user = soc_app
a1.sources.r1.hibernate.connection.password = soc_app
a1.sources.r1.hibernate.connection.autocommit = true
a1.sources.r1.hibernate.dialect = org.hibernate.dialect.Oracle10gDialect
a1.sources.r1.hibernate.connection.driver_class = oracle.jdbc.driver.OracleDriver
a1.sources.r1.run.query.delay=1
a1.sources.r1.status.file.path = /usr/local/flume
a1.sources.r1.status.file.name = a1.sqlSource.status
# Custom query
a1.sources.r1.start.from = '2017-07-31 07:06:20'
a1.sources.r1.custom.query = SELECT CHR(39)||TO_CHAR(CREATETIME,'YYYY-MM-DD HH24:MI:SS')||CHR(39),MSG FROM FLUME_NG_SQL_SOURCE WHERE CREATETIME > TO_DATE($@$,'YYYY-MM-DD HH24:MI:SS') ORDER BY CREATETIME ASC
a1.sources.r1.batch.size = 6000
a1.sources.r1.max.rows = 1000
a1.sources.r1.hibernate.connection.provider_class = org.hibernate.connection.C3P0ConnectionProvider
a1.sources.r1.hibernate.c3p0.min_size=1
a1.sources.r1.hibernate.c3p0.max_size=10
###########sql source#################
#自定義類型
a1.sinks.k1.type = com.neusoft.utils.SyslogSink
#配置發(fā)送ip
a1.sinks.k1.destination = 10.9.224.36
a1.channels.c1.type = memory
a1.channels.c1.capacity = 10000
a1.channels.c1.transactionCapacity = 10000
a1.sources.r1.channels = c1
a1.sinks.k1.channel = c1
#啟動命令 ./flume-ng agent -c ../conf -f ../conf/flume-sql.conf -n a1 -Dflume.root.logger=INFO,console 

由于是自己定義的sink 在我的博客中也有提到,所以配置了自定義的sink。

總結(jié)

以上所述是小編給大家介紹的Flume監(jiān)聽oracle表增量的步驟詳解,希望對大家有所幫助,如果大家有任何疑問請給我留言,小編會及時(shí)回復(fù)大家的。在此也非常感謝大家對腳本之家網(wǎng)站的支持!

標(biāo)簽:南充 焦作 涼山 滁州 郴州 遼源 合肥 許昌

巨人網(wǎng)絡(luò)通訊聲明:本文標(biāo)題《Flume監(jiān)聽oracle表增量的步驟詳解》,本文關(guān)鍵詞  Flume,監(jiān)聽,oracle,表,增量,;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問題,煩請?zhí)峁┫嚓P(guān)信息告之我們,我們將及時(shí)溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò),涉及言論、版權(quán)與本站無關(guān)。
  • 相關(guān)文章
  • 下面列出與本文章《Flume監(jiān)聽oracle表增量的步驟詳解》相關(guān)的同類信息!
  • 本頁收集關(guān)于Flume監(jiān)聽oracle表增量的步驟詳解的相關(guān)信息資訊供網(wǎng)民參考!
  • 推薦文章
    闽清县| 新宾| 惠来县| 新闻| 周口市| 丹棱县| 元阳县| 巫溪县| 治多县| 西宁市| 台州市| 麻阳| 华亭县| 桓台县| 平凉市| 合川市| 巴彦淖尔市| 湖州市| 彭山县| 宕昌县| 昆山市| 阿坝县| 伊吾县| 阿荣旗| 海林市| 高安市| 长宁县| 镇巴县| 汉中市| 洛南县| 固阳县| 洪洞县| 贵阳市| 乳山市| 托克托县| 义乌市| 志丹县| 五常市| 金川县| 景谷| 石首市|