亚洲欧美第一页_禁久久精品乱码_粉嫩av一区二区三区免费野_久草精品视频

? 歡迎來到蟲蟲下載站! | ?? 資源下載 ?? 資源專輯 ?? 關于我們
? 蟲蟲下載站

?? segmentwriter.java

?? 爬蟲數據的改進,并修正了一些bug
?? JAVA
字號:
package net.nutch.segment;

import java.io.File;
import java.io.IOException;
import java.net.*;
import java.text.SimpleDateFormat;
import java.util.Date;
import org.apache.log4j.*;

import net.nutch.fs.LocalFileSystem;
import net.nutch.fs.NutchFileSystem;
import net.nutch.io.ArrayFile;
import net.nutch.parse.ParseData;
import net.nutch.parse.ParseText;


public class SegmentWriter {
	
	  public static final Logger LOG = Logger.getLogger("segment");
	  
	  public static final String SUM_DONE_NAME = "summary.done";  
	  
	  public ArrayFile.Writer parseTextWriter;
	  public ArrayFile.Writer parseDataWriter;

	  public long size = 0L;
	  
	  public File segmentDir;

	  public SegmentWriter(File dir, boolean force) throws Exception {
	    this(new LocalFileSystem(), dir, force, true, true);
	  }
	  
	  public SegmentWriter(NutchFileSystem nfs, File dir, boolean force) throws Exception {
	    this(nfs, dir, force, true, true);
	  }

	  /**
	   * Open a segment for writing. When a segment is open, its data files are created.
	   * 
	   * @param nfs NutchFileSystem to use
	   * @param dir directory to contain the segment data
	   * @param force if true, and segment directory already exists and its content
	   *        is in the way, sliently overwrite that content as needed.
	   *        If false and the above condition arises, throw an Exception. Note: this
	   *        doesn't result in an Exception, if force=false, and the target directory
	   *        already exists, but contains other data not conflicting with the segment
	   *        data.
	   * @param withParseText if true, write ParseText, otherwise ignore it. NOTE: if isParsed is
	   * false, this will be automaticaly set to false, too.
	   * @param withParseData if true, write ParseData, otherwise ignore it. NOTE: if isParsed is
	   * false, this will be automaticaly set to false, too.
	   * @throws Exception
	   */
	  public SegmentWriter(NutchFileSystem nfs, File dir, boolean force, 
	          boolean withParseText, boolean withParseData) throws Exception {
	    segmentDir = dir;
	    if (!nfs.exists(segmentDir)) {
	      nfs.mkdirs(segmentDir);
	    }
	    File out = null;

	    if (withParseText) {
	      out = new File(dir, ParseText.DIR_NAME);
	      if (nfs.exists(out) && !force) {
	        throw new Exception("Output directory " + out + " already exists.");
	      }
	      parseTextWriter = new ArrayFile.Writer(nfs, out.toString(), ParseText.class);
	    }
	    if (withParseData) {
	      out = new File(dir, ParseData.DIR_NAME);
	      if (nfs.exists(out) && !force) {
	        throw new Exception("Output directory " + out + " already exists.");
	      }
	      parseDataWriter = new ArrayFile.Writer(nfs, out.toString(), ParseData.class);
	    }
	  }

	  /** Create a new segment name */
	  public static String getNewSegmentName() {
	  	String ip = "";
	  	try{
	  		InetAddress localHost = InetAddress.getLocalHost();
	  		ip = localHost.getHostAddress();
	  	}catch(Exception e){
	  		LOG.warn("get local host ip error\n"+e.toString());
	  	}
	  	if (ip == null || ip.length()==0 || ip.equals("127.0.0.1")){
	  		LOG.warn("get local host ip error");
	  		ip = "";
	  	}else
	  		ip += ".";
	  	try{
	  		//File busy = new File("segmentName.lock");
	  		//while (!busy.createNewFile()){
	  		//	Thread.sleep(1000);
	  		//}
	  		String dateStr = new SimpleDateFormat("yyyyMMddHHmmss").format(new Date(System.currentTimeMillis()));
	  		Thread.sleep(1000);
	  		//busy.delete();
		  	return ip + dateStr;
	  	}catch(Exception e){
	  		return null;
	  	}
	  }

	  /** Sets the index interval for all segment writers. */
	  public synchronized void setIndexInterval(int interval) throws IOException {
	    if (parseTextWriter != null) parseTextWriter.setIndexInterval(interval);
	    if (parseDataWriter != null) parseDataWriter.setIndexInterval(interval);
	  }

	  private ParseText _pt = new ParseText();
	  private ParseData _pd = new ParseData();
	  
	  /**
	   * Append new values to the output segment.
	   * <p>NOTE: if this segment writer has some data files open, but the respective
	   * arguments are null, empty values will be written instead.</p>
	   * @param pt parseText, may be null (but see the note above)
	   * @param pd parseData, may be null (but see the note above)
	   * @throws IOException
	   */
	  public synchronized void append(ParseText pt, ParseData pd) throws IOException {

	    if (parseTextWriter != null) {
	      if (pt == null) pt = _pt;
	      parseTextWriter.append(pt);
	    }
	    if (parseDataWriter != null) {
	      if (pd == null) pd = _pd;
	      parseDataWriter.append(pd);
	    }
	    size++;
	  }
	  
	  /** Close all writers. */
	  public void close() {
	    if (parseTextWriter != null) try {
	      parseTextWriter.close();
	    } catch (Exception e) {
	      LOG.error("Exception closing parseTextWriter: " + e.getMessage());
	    }
	    if (parseDataWriter != null) try {
	      parseDataWriter.close();
	    } catch (Exception e) {
	      LOG.error("Exception closing parseDataWriter: " + e.getMessage());
	    }
	  }

	  public static void main(String[] args) {}
	}

?? 快捷鍵說明

復制代碼 Ctrl + C
搜索代碼 Ctrl + F
全屏模式 F11
切換主題 Ctrl + Shift + D
顯示快捷鍵 ?
增大字號 Ctrl + =
減小字號 Ctrl + -
亚洲欧美第一页_禁久久精品乱码_粉嫩av一区二区三区免费野_久草精品视频
色综合激情久久| 欧美视频自拍偷拍| 26uuu色噜噜精品一区二区| 麻豆精品视频在线观看视频| 欧美精品乱码久久久久久 | 国产成人精品免费在线| 久久婷婷色综合| 成人中文字幕电影| 国产精品午夜在线观看| 亚洲欧美偷拍三级| 中文字幕一区二区在线播放| 久久嫩草精品久久久精品一| 国产精品情趣视频| 国产一区二区三区av电影| 欧美一区二区三区色| 91网站最新网址| 精品系列免费在线观看| 日韩色在线观看| 亚洲图片欧美色图| 狠狠色狠狠色综合系列| 美日韩一级片在线观看| 欧美videossexotv100| 国产不卡一区视频| 亚洲国产成人自拍| 国产精品热久久久久夜色精品三区| 4438x亚洲最大成人网| 91欧美一区二区| 粉嫩欧美一区二区三区高清影视| 99久免费精品视频在线观看 | 久久99精品久久久久久国产越南| 国产成人精品免费视频网站| 欧美一区午夜精品| 精品一区二区三区日韩| 国产精品视频在线看| 久久精品国产澳门| 欧美一级精品大片| 亚洲免费在线看| 成人av在线资源网站| 51精品视频一区二区三区| 国产精品美女久久福利网站| 免费欧美日韩国产三级电影| 欧美色视频在线| 亚洲h动漫在线| 福利一区在线观看| 欧美一区二区国产| 日韩二区在线观看| 色婷婷久久99综合精品jk白丝| 欧美性xxxxxxxx| 亚洲裸体在线观看| 色94色欧美sute亚洲线路一久| 综合激情成人伊人| 亚洲自拍都市欧美小说| 在线播放日韩导航| 经典三级视频一区| 精品三级av在线| 久国产精品韩国三级视频| 91精品国产综合久久久蜜臀图片 | 美国欧美日韩国产在线播放| 99久久伊人网影院| 国产精品一区免费视频| 亚洲国产精品尤物yw在线观看| 久久久青草青青国产亚洲免观| 91小视频在线免费看| 国产a级毛片一区| 久久91精品久久久久久秒播| 亚洲成人av资源| 亚洲欧美日韩国产手机在线| 欧美哺乳videos| 成人午夜精品在线| 亚洲国产日韩一级| 精品国产91久久久久久久妲己| 欧美日韩在线电影| 久99久精品视频免费观看| 欧美mv日韩mv亚洲| 亚洲欧美一区二区三区国产精品| 国产精品99久久久久久宅男| 欧美精品日韩精品| 国产三区在线成人av| 欧美精品一二三| 国产激情精品久久久第一区二区| 久久久三级国产网站| 中文无字幕一区二区三区| 一区二区免费视频| 成人午夜激情影院| 国产91高潮流白浆在线麻豆| 亚洲国产视频在线| 精品国产乱码久久久久久1区2区 | 国产视频一区二区三区在线观看| 成人午夜视频网站| 99re热视频这里只精品| av在线这里只有精品| 成人久久18免费网站麻豆 | 国产精品毛片高清在线完整版| 亚洲女人小视频在线观看| 欧美xxxxx裸体时装秀| 精品国产一二三| 美女网站色91| 国产精品久久久久久久第一福利| 亚洲国产电影在线观看| 亚洲美女精品一区| 日韩电影在线观看电影| 国产精一品亚洲二区在线视频| 国产精品99久久久久久宅男| 一本久久a久久免费精品不卡| 日本韩国欧美在线| 制服丝袜亚洲色图| 国产三级一区二区| 精品国精品国产| 亚洲同性gay激情无套| 亚洲久草在线视频| 狠狠色狠狠色合久久伊人| 国产成+人+日韩+欧美+亚洲| 99视频一区二区| 一本大道综合伊人精品热热| 在线欧美日韩精品| 欧美午夜片在线观看| 欧美一区二区三区四区久久| 国产女主播一区| 天天做天天摸天天爽国产一区| 国产福利精品一区二区| 国产精品久久久久久久久免费丝袜 | 色欧美乱欧美15图片| 99re6这里只有精品视频在线观看| 成人免费视频一区| 成人听书哪个软件好| 欧美怡红院视频| 久久久久99精品国产片| 亚洲午夜一区二区三区| 国产乱色国产精品免费视频| 欧美午夜精品一区二区蜜桃| 国产日韩在线不卡| 日韩国产成人精品| 9色porny自拍视频一区二区| 91精品国产综合久久久久久漫画| 中文字幕av一区 二区| 欧美aaa在线| 91免费看`日韩一区二区| 欧美不卡激情三级在线观看| 色综合久久精品| 久久综合视频网| 亚洲一本大道在线| 欧美精品一二三| 国产成人综合在线| 日韩欧美色电影| 欧美色图第一页| 99九九99九九九视频精品| 国产一区二区主播在线| 日韩国产欧美三级| 午夜成人免费电影| 亚洲午夜在线视频| 久久久影视传媒| 欧美老肥妇做.爰bbww| 日本道免费精品一区二区三区| 99re成人在线| 色综合天天综合在线视频| 色综合天天天天做夜夜夜夜做| 成人一区在线观看| 东方aⅴ免费观看久久av| 日韩一区在线看| 欧美日本在线一区| av色综合久久天堂av综合| 免费高清不卡av| 五月婷婷欧美视频| 亚洲一线二线三线久久久| 国产欧美精品日韩区二区麻豆天美| 欧美日韩精品专区| 91天堂素人约啪| 欧美区一区二区三区| 欧美一区二区三区免费观看视频| 精品在线播放午夜| 婷婷六月综合网| 国产精品久线观看视频| 欧美一区二区三区啪啪| 国产精品一卡二| 综合亚洲深深色噜噜狠狠网站| 欧美丰满少妇xxxxx高潮对白| 成人av电影在线播放| 国产中文一区二区三区| 久久激情综合网| 日产国产高清一区二区三区| 亚洲午夜在线视频| 亚洲二区视频在线| 舔着乳尖日韩一区| 久久精品国产一区二区三区免费看 | 国产夜色精品一区二区av| 日韩视频在线你懂得| 亚洲精品在线电影| 欧美国产激情一区二区三区蜜月| 久久久久久电影| 国产精品成人免费| 日韩avvvv在线播放| 成人午夜激情片| 欧美精品vⅰdeose4hd| 国产精品少妇自拍| 亚洲欧洲日韩女同| 麻豆传媒一区二区三区| 99精品在线免费| 久久网这里都是精品| 亚洲午夜久久久久中文字幕久| 国产精品主播直播|