• Python多线程抓取

    [Python]
    post by Holmesian / 2011-7-5 15:48 Tuesday

            将前几天初玩Python时写的一小段代码改装成了多线程处理的结构:N个抓取线程加上一个入库进程。基本上注释里已经写得比较清楚了,感觉Python对多线程的支持确实不错,经测试下面的代码在使用100线程抓取时仅占用8MB左右内存和6%左右的CPU:

          &nb...

    阅读全文>>