亚洲欧美第一页_禁久久精品乱码_粉嫩av一区二区三区免费野_久草精品视频

? 歡迎來到蟲蟲下載站! | ?? 資源下載 ?? 資源專輯 ?? 關于我們
? 蟲蟲下載站

?? model.java

?? 用來為垂直搜索引擎抓取數據的采集系統
?? JAVA
?? 第 1 頁 / 共 2 頁
字號:
/*
 * *****************************************************
 * Copyright (c) 2005 IIM Lab. All  Rights Reserved.
 * Created by xuehao at 2005-10-12
 * Contact: zxuehao@mail.ustc.edu.cn
 * *****************************************************
 */

package org.indigo.gui;
import java.io.File;
import java.util.ArrayList;
import java.util.HashMap;
import java.util.Observable;
import java.util.StringTokenizer;

import org.apache.commons.httpclient.NameValuePair;
import org.indigo.db.LogEntity;
import org.indigo.log.FileLogger;
import org.indigo.log.FileLoggerNumZero;
import org.indigo.log.FileLoggerParam;
import org.indigo.log.FileLoggerXml;
import org.indigo.pages.CollectedIdPageFactory;
import org.indigo.pages.CollectedIdsPage;
import org.indigo.pages.CollectedLinkedPages;
import org.indigo.pages.CollectedPage;
import org.indigo.pages.IdStrategy;
import org.indigo.pages.JNWAgriStrategy;
import org.indigo.pages.YztAgriStrategy;
import org.indigo.pages.VisitLinkedPages;
import org.indigo.pages.VisitPage;
import org.indigo.parser.IdFilter;
import org.indigo.parser.ItemParser;
import org.indigo.parser.PageParserManager;
import org.indigo.parser.Parser;
import org.indigo.util.MainConfig;
import org.indigo.util.TaskProperties;
import org.indigo.xml.ChildPair;
import org.indigo.xml.FiltPair;
/**
 * xyz;
 * xxx
 * <p>wbz</p>
 * 
 * 
 * 
 * 
 * 
 * 
 * 
 * @author wbz
 * 
 *
 */
public class Model extends Observable
{
    private String itsPropertyFile=null;
 
    private IView itsView = null;
    
    private String itsVisitBeginUrl=null;
    private String itsCollectedBeginUrl=null;
    private String itsVisitKey=null;
    private String itsCollectedKey=null;
    private String itsIdStrategy=null;
    private boolean itsDirectReturn=false;
    private String itsEncoding=null;
    private String itsIdFront=null, itsIdBack=null;
    private String itsIdBodyFront=null,itsIdBodyBack=null;
    private String itsInfoBodyFront=null,itsInfoBodyBack=null;
    private String itsLastItem=null;
    private int itsStart,itsEnd,itsInc;
    private ArrayList itsList=null;
    private boolean itsFilterFlag = true;
    private CollectedIdPageFactory idFactory=null;
    private boolean bLastReached=false;
    private boolean bLastItemAvailable=false;
    private boolean itsSplitIdFlag=false;
    private String itsSplitId=null;
    private String lastItemUrl=null;
    private boolean useUrlMark=false;
    private VisitPage itsVisitPage=null;
    private CollectedPage itsCollectedPage=null;
    private CollectedIdsPage itsIdsPage=null;
    private String childFront=null;
    private String childBack=null;
    private boolean existNest=false;
    private boolean IsIncludeJscript=false;
    private PageParserManager itsPageMag=null;
    private ArrayList paramerList=null;
    NameValuePair[] data=null;
    private String keyField=null;
    private String key=null;
    private String keyParam=null;
    private String formUrl=null;
    private boolean IsByLogin=false;
    private static final int itsMaxSize=100;
//    private static final int ItemParser = 0;
    private boolean isIdFilter=false;
 //   private String itsEncoding=null;
    public Model( String file )
    {
        itsPropertyFile = file;
    }
    private void readProperties()
    {
//        System.out.println( "Modal readProperty: " + itsPropertyFile );
        int i;
        
        TaskProperties props = new TaskProperties();
        props.open( itsPropertyFile );
//        System.out.println( itsPropertyFile );

        int vCount;
        itsVisitBeginUrl = props.getProperty("VisitBeginUrl");
        itsVisitKey = props.getProperty("VisitKey");
        String str2 = props.getProperty( "DirectReturn" );
        if( str2==null )
        	itsDirectReturn = false;
        else
        {
        	str2 = str2.trim();
        	if( str2.equalsIgnoreCase("true") )
        		itsDirectReturn = true;
        	else
        		itsDirectReturn = false;
        }
        
       
        itsStart = Integer.parseInt( props.getProperty("StartPageNum") );
        itsEnd = Integer.parseInt( props.getProperty("EndPageNum") );
        itsInc = Integer.parseInt( props.getProperty("incPageNum") );

        String idsStr=props.getProperty("IdsNest");
        if(idsStr!=null&&idsStr.equalsIgnoreCase("true"))
        	existNest=true;
        String JScript=props.getProperty("JScript");
        if(JScript!=null&&JScript.equalsIgnoreCase("true"))
        	IsIncludeJscript=true;
        if(IsIncludeJscript)
        {
        	keyField=props.getProperty("KeyField");
            key=props.getProperty("Key");
            keyParam=props.getProperty("KeyParam");
        	int paramCount=0;
        	String params=props.getProperty("ParamCount");
        	if(params!=null)
        		paramCount=Integer.parseInt(params);
        	
        	 formUrl=props.getProperty("FormUrl");
        	
        	 data=new NameValuePair[paramCount];
        	for(int ii=1;ii<=paramCount;ii++)
        	{String paramer=props.getProperty("Param"+ii);
        	 int kk=-1;
        	 kk=paramer.indexOf("=");
        	 if(kk!=-1)
        	 {
        		 NameValuePair pair=new NameValuePair(paramer.substring(0, kk),paramer.substring(kk+1));
        		 data[ii-1]=(pair);
        		 
        	 }
        		
        	}
        	
        }
        String LoginStr=props.getProperty("IsByLogin");
        if(LoginStr!=null&&LoginStr.equalsIgnoreCase("true"))
        	IsByLogin=true;
        if(IsByLogin)
        {
        	int paramCount=0;
        	String params=props.getProperty("ParamCount");
        	if(params!=null)
        		paramCount=Integer.parseInt(params);
        	
        	 formUrl=props.getProperty("FormUrl");
        	
        	 data=new NameValuePair[paramCount];
        	for(int ii=1;ii<=paramCount;ii++)
        	{String paramer=props.getProperty("Param"+ii);
        	 int kk=-1;
        	 kk=paramer.indexOf("=");
        	 if(kk!=-1)
        	 {
        		 NameValuePair pair=new NameValuePair(paramer.substring(0, kk),paramer.substring(kk+1));
        		 data[ii-1]=(pair);
        		 
        	 }
        		
        	}
        	
        }
        childFront=props.getProperty("ChildIdsFront");
        childBack=props.getProperty("ChildIdsBack");

        
        itsCollectedBeginUrl = props.getProperty("CollectedBeginUrl");
        itsCollectedKey = props.getProperty("CollectedKey");
        String str=null;
        
        str = props.getProperty( "IdStrategy" );
        if( str!=null )
        	itsIdStrategy = str.trim();
        
        str = props.getProperty( "Filter" );
        if( str==null )
        	itsFilterFlag = true;
        else
        {
        	str = str.trim();
        	if( str.equalsIgnoreCase("") )
        		itsFilterFlag = true;
        	else
        		itsFilterFlag = false;
        }
        /*
        str = props.getProperty( "CollectedIdSplit1" );
        if( str==null || str.equals("") )
            itsSplitIdFlag = false;
        itsSplitIdFlag = str.equalsIgnoreCase("true");
       */
//        itsSplitId = props.getProperty( "CollectedIdSplit" );
//        System.out.println( itsSplitId );
        
//        System.out.println( "itsCollectedBeginUrl:"+itsCollectedBeginUrl );
        /**
         * added by wbz;
         */
        itsIdBodyFront=props.getProperty("IdBodyFront");
        itsIdBodyBack=props.getProperty("IdBodyBack");
        itsInfoBodyFront=props.getProperty("InfoBodyFront");
        itsInfoBodyBack=props.getProperty("InfoBodyBack");
        itsIdFront = props.getProperty( "IdFront" );
        itsIdBack = props.getProperty( "IdBack" );
        itsEncoding=props.getProperty("Encode");
        //
        
        itsList = new ArrayList();
        
        
        int ruleCount = 0;
        int k;
        str = props.getProperty("RuleCount");
        ruleCount = Integer.parseInt(str);
        String front[] = new String[ruleCount];
        String back[] = new String[ruleCount];
        String child=new String();
        String tt=null;
        String tt1=null;
        String isVarDef=null;
        String varDefName=null;
        k=ruleCount;
        ChildPair cp=new ChildPair();
        /**
         * modified by wbz;
         */
        for (i = 0; i < k; )
        {
            str = props.getProperty("Front" + (i + 1) );
            front[i] = str;
            str = props.getProperty("Back" + (i + 1) );
            back[i] = str;
            tt1=props.getProperty("IsRegex"+(i+1));
            tt=props.getProperty("Default"+(i+1));
            isVarDef=props.getProperty("isVarDefault"+(i+1));
            varDefName=props.getProperty("varDefaultName"+(i+1));
            if(str!=null)
            	{
            	FiltPair fp=new FiltPair( front[i], back[i],tt1 ,tt);
            	fp.setIsVarDefault(isVarDef);
            	fp.setVarDefaultName(varDefName);
            	itsList.add( i,  fp);
            	}
            i++;
            if((child=props.getProperty("ChildRule" + (i + 1)))!=null)//
            {  
            	str = props.getProperty("Front" + (i + 1)+1 );
            	front[i] = str;
                str = props.getProperty("Back" + (i + 1)+1 );
                back[i] = str;
                cp.setItsStart(props.getProperty("Front"));
                cp.setItsEnd(props.getProperty("Back"));
                
            	itsList.add( i, new FiltPair( front[i],  back[i],i,cp) );
            	
            }//
          
            
            
        }
        String mark;
        itsLastItem = props.getProperty( "LastItem" );
        mark=props.getProperty("UseUrlMark");
        if(mark==null||mark.equals(""))
        {
        	useUrlMark=false;
        
        }
        else
        {
        	if(mark.equalsIgnoreCase("true"))
        	{
        		useUrlMark=true;
        		lastItemUrl=props.getProperty("LastItemUrl");
        		if(lastItemUrl==null)
        			lastItemUrl="";
        	}
        	else
        		useUrlMark=false;
        }
        str = props.getProperty( "LastItemAvailable" );
//        if(lastItemUrl!=null)
//        {
//        	lastItemUrl="";
//        }
        if( str==null || str.equals("") )
            bLastItemAvailable = false;
        else
        if( str.equalsIgnoreCase("true") )
            bLastItemAvailable = true;
        else
            bLastItemAvailable = false;
        String idTemp=props.getProperty("IdFilter");
        if(idTemp!=null&&idTemp.equals("true"))
        isIdFilter=true;
    }
    
    private void init()
    {
        itsVisitPage = new VisitPage( itsVisitKey );
        itsVisitPage.setBeginUrl( itsVisitBeginUrl );
        itsVisitPage.setParameters( itsStart, itsEnd, itsInc );
        itsVisitPage.setDirectReturn( itsDirectReturn );
        itsVisitPage.setIsIncludeJS(IsIncludeJscript);
        itsVisitPage.setJSValuePair(data);
        itsVisitPage.setKeyField(keyField);
        itsCollectedPage = new CollectedPage( itsCollectedKey );
        itsCollectedPage.setBeginUrl( itsCollectedBeginUrl );
        
        
        /*
        if( itsSplitIdFlag )
        {
            itsCollectedPage.setIdStrategy( new YztAgriStrategy() );
        }
        */
        /*
        if( itsSplitId.equalsIgnoreCase("jnw") )
        {
            itsCollectedPage.setIdStrategy( new JNWAgriStrategy() );
        }else
        if( itsSplitId.equalsIgnoreCase("yzt") )
        {
            itsCollectedPage.setIdStrategy( new YztAgriStrategy() );
        }
        */
        if( itsIdStrategy==null || itsIdStrategy.equalsIgnoreCase("") )
        {
        	
        }else
        {
        	try 
			{
				Class c = Class.forName( itsIdStrategy );
				IdStrategy s = (IdStrategy) c.newInstance();

?? 快捷鍵說明

復制代碼 Ctrl + C
搜索代碼 Ctrl + F
全屏模式 F11
切換主題 Ctrl + Shift + D
顯示快捷鍵 ?
增大字號 Ctrl + =
減小字號 Ctrl + -
亚洲欧美第一页_禁久久精品乱码_粉嫩av一区二区三区免费野_久草精品视频
亚洲综合激情另类小说区| 亚洲成人自拍偷拍| 亚洲综合一二区| 国产一区二区三区综合| 91国偷自产一区二区三区成为亚洲经典| 欧美精品xxxxbbbb| 亚洲天堂成人在线观看| 国产在线播精品第三| 欧美日韩精品系列| 国产精品入口麻豆九色| 麻豆91免费看| 555www色欧美视频| 一区二区三区免费看视频| 成人网页在线观看| 欧美极品另类videosde| 久久精品国产澳门| 制服丝袜亚洲网站| 天天操天天色综合| 欧美性一二三区| 一卡二卡三卡日韩欧美| jiyouzz国产精品久久| 久久久蜜桃精品| 国产在线一区二区综合免费视频| 欧美日韩在线综合| 亚洲国产wwwccc36天堂| 色狠狠一区二区| 亚洲另类在线视频| 91免费在线看| 亚洲精品国产a| 99久久综合99久久综合网站| 国产女人18毛片水真多成人如厕| 韩国女主播成人在线| 精品国产凹凸成av人导航| 奇米色一区二区三区四区| 欧美日本免费一区二区三区| 国产91清纯白嫩初高中在线观看| 日韩午夜小视频| 精品影院一区二区久久久| 精品久久一区二区| 国产精品一区一区| 欧美极品aⅴ影院| 91一区二区在线观看| 亚洲免费av高清| 欧美在线高清视频| 亚洲精品日日夜夜| 欧美日韩视频第一区| 日韩经典中文字幕一区| 欧美一区二区三区视频免费播放| 青青青爽久久午夜综合久久午夜| 亚洲精品一线二线三线| 国产精品一区免费在线观看| 亚洲国产精品成人综合色在线婷婷| 国产精品一区二区x88av| 久久香蕉国产线看观看99| 国产一区二区三区在线观看精品| 国产免费观看久久| 欧美在线视频你懂得| 日韩av一二三| 久久久国产精品午夜一区ai换脸 | 亚洲人被黑人高潮完整版| 99麻豆久久久国产精品免费优播| 亚洲资源在线观看| 日韩欧美高清一区| a4yy欧美一区二区三区| 亚洲国产中文字幕| 久久精品日产第一区二区三区高清版| 成人高清视频免费观看| 尤物av一区二区| 精品国产亚洲在线| 色999日韩国产欧美一区二区| 亚洲.国产.中文慕字在线| 久久免费偷拍视频| 欧美综合一区二区| 国产高清一区日本| 亚洲午夜免费电影| 日本一区二区在线不卡| 欧美日韩精品系列| 不卡av电影在线播放| 青青国产91久久久久久| 亚洲另类在线一区| 国产日韩欧美精品在线| 欧美电影在线免费观看| www.日本不卡| 精品亚洲成a人在线观看| 中文字幕一区二区三区精华液| 欧美一区二区三区成人| 色网站国产精品| 成人午夜电影网站| 精品一区二区免费视频| 亚洲午夜精品17c| 国产精品伦理在线| 亚洲精品在线一区二区| 欧美日韩国产系列| 色哟哟欧美精品| 国产成人亚洲综合a∨猫咪| 麻豆精品一区二区三区| 亚洲精选视频免费看| 国产精品沙发午睡系列990531| 日韩三级电影网址| 欧美日韩一级黄| 99久久免费视频.com| 国产成人av一区二区三区在线| 肉丝袜脚交视频一区二区| 亚洲欧洲在线观看av| 久久尤物电影视频在线观看| 欧美刺激脚交jootjob| 欧美群妇大交群中文字幕| 91老司机福利 在线| 99精品欧美一区二区蜜桃免费| 国产精品一区二区在线看| 精品一区二区免费| 老司机午夜精品| 天堂资源在线中文精品| 亚洲成av人片一区二区梦乃| 亚洲欧美激情视频在线观看一区二区三区| 日本一区二区三区四区| 欧美韩国日本综合| 国产精品久久毛片av大全日韩| 国产偷v国产偷v亚洲高清| 久久久久97国产精华液好用吗| 精品福利二区三区| 日韩久久免费av| 欧美变态凌虐bdsm| 日本一区二区免费在线| 日本一区二区成人在线| 国产欧美一区二区三区鸳鸯浴| 精品久久一二三区| 中文字幕欧美日本乱码一线二线| 国产精品初高中害羞小美女文| 国产精品电影一区二区| 亚洲精品福利视频网站| 亚洲成av人片www| 精品伊人久久久久7777人| 国产成人精品影视| 99在线热播精品免费| 欧美午夜精品一区二区蜜桃| 欧美人体做爰大胆视频| 精品国产乱码久久久久久闺蜜| 精品福利av导航| 亚洲欧洲日本在线| 亚洲丰满少妇videoshd| 久久av资源站| heyzo一本久久综合| 在线成人免费观看| 国产亚洲一区二区三区| 18成人在线视频| 日韩黄色小视频| 成人av电影在线播放| 欧美三级在线视频| 久久久精品国产99久久精品芒果| 日韩一区有码在线| 奇米亚洲午夜久久精品| 成人激情动漫在线观看| 欧美日本一区二区在线观看| 久久久国产精品午夜一区ai换脸 | 国产精品美女久久久久久久| 综合电影一区二区三区| 日韩在线观看一区二区| 国产精品一区二区三区四区| 91福利精品第一导航| 精品国产一二三| 亚洲一卡二卡三卡四卡无卡久久| 久久国产精品区| 欧美在线免费视屏| 日本一区二区三区视频视频| 日韩二区在线观看| 91亚洲午夜精品久久久久久| 欧美成人综合网站| 婷婷中文字幕一区三区| 91伊人久久大香线蕉| 久久久不卡网国产精品二区| 性欧美疯狂xxxxbbbb| av电影在线观看完整版一区二区| 精品久久国产老人久久综合| 一区二区三区中文字幕精品精品| 国产一区二区剧情av在线| 欧美日韩精品系列| 亚洲日本在线观看| 国产麻豆日韩欧美久久| 在线电影一区二区三区| 亚洲最大的成人av| av电影在线观看完整版一区二区| 久久丝袜美腿综合| 久久99久久精品| 日韩欧美视频一区| 美女诱惑一区二区| 日韩一本二本av| 免费精品视频最新在线| 欧美日韩夫妻久久| 亚洲自拍与偷拍| 色欧美日韩亚洲| 亚洲色图.com| 91啪亚洲精品| 亚洲精品视频免费看| 色婷婷精品大在线视频 | 午夜在线成人av| 色哟哟一区二区三区| 亚洲女爱视频在线| 色综合夜色一区| 亚洲综合色网站|