很多人在自学的过程中不知道如何检验自己的学习程度,也不知道自己是否真的掌握了知识点,特别是在基础方面知识点,更加不知道怎么检测自己,今天小编就给大家三个问题和三个案例如果你自己能够轻松写出来,那么你基础学的还是蛮好的!

千万不要被所谓”元类是99%的python程序员不会用到的特性”这类的说辞吓住。因为每个中国人,都是天生的元类使用者

通过5个知识点轻松搞定Python的作用域,轻松搞定python

1、块级作用域

想想此时运行下面的程序会有输出吗?执行会成功吗?

#块级作用域

if 1 == 1:
 name = "lzl"

print(name)


for i in range(10):
 age = i

print(age)

我们先看下执行结果

C:/Users/L/PycharmProjects/s14/preview/Day8/作用域/main.py
lzl
9

Process finished with exit code 0

代码执行成功,没有问题;在Java/C#中,执行上面的代码会提示name,age没有定义,而在Python中可以执行成功,这是因为在Python中是没有块级作用域的,代码块里的变量,外部可以调用,所以可运行成功;  

 2、局部作用域

回顾之前学过的知识,我们学函数的时候,函数是个单独的作用域,Python中没有块级作用域,但是有局部作用域;看看下面的代码

#局部作用域

def func():
 name = "lzl"

print(name)

运行这段代码,想想会不会有输出?

Traceback (most recent call last):
 File "C:/Users/L/PycharmProjects/s14/preview/Day8/作用域/main.py", line 23, in <module>
 print(name)
NameError: name 'name' is not defined

运行报错,我相信这个大家都能理解,name变量只在func()函数内部中生效,所以在全局中是没法调用的;对上面代码做个简单调整,再看看结果如何?

#局部作用域

def func():
 name = "lzl"

func()   #执行函数
print(name)

对之前的代码添加了一句代码,在变量name打印之前,执行了一下函数,此时打印会不会有变化?

Traceback (most recent call last):
 File "C:/Users/L/PycharmProjects/s14/preview/Day8/作用域/main.py", line 23, in <module>
 print(name)
NameError: name 'name' is not defined

执行依然报错,还是回到刚才那句话:即使执行了一下函数,name的作用域也只是在函数内部,外部依然无法进行调用;把前两个知识点记住,接下来要开始放大招了

3、作用域链

对函数做下调整,看看下面的代码执行结果如何?

#作用域链

name = "lzl"
def f1():
 name = "Eric"
 def f2():
  name = "Snor"
  print(name)
 f2()
f1()

学过函数,肯定知道最后f1()执行完会输出Snor;我们先记住一个概念,Python中有作用域链,变量会由内到外找,先去自己作用域去找,自己没有再去上级去找,直到找不到报错

4、终极版作用域

好,铺垫了够了,终极版的来了~~

#终极版作用域

name = "lzl"

def f1():
 print(name)

def f2():
 name = "eric"
 f1()

f2()

想想最后f2()执行结果是打印“lzl”呢,还是打印“eric”?记住自己的答案,现在先不把答案贴出来,先看看下面这段代码:

#终极版作用域

name = "lzl"

def f1():
 print(name)

def f2():
 name = "eric"
 return f1

ret = f2()
ret()

#输出:lzl

执行结果为“lzl”,分析下上面的代码,f2()执行结果为函数f1的内存地址,即ret=f1;执行ret()等同于执行f1(),执行f1()时与f2()没有任何关系,name=“lzl”f1()在一个作用域链,函数内部没有变量是会向外找,所以此时变量name值为“lzl”;理解了这个,那么刚才没给出答案的那个终极代码你也知道答案了

#终极版作用域

name = "lzl"

def f1():
 print(name)

def f2():
 name = "eric"
 f1()

f2()

# 输出:lzl

是的,输出的是“lzl”,记住在函数未执行之前,作用域已经形成了,作用域链也生成了

5、新浪面试题

li = [lambda :x for x in range(10)]

判断下li的类型?li里面的元素为什么类型?

print(type(li))
print(type(li[0]))

# <class 'list'>
# <class 'function'>

可以看到li为列表类型,list里面的元素为函数,那么打印list里面第一个元素的返回值,此时返回值为多少?

#lambada 面试题

li = [lambda :x for x in range(10)]

res = li[0]()
print(res)

#输出:9

li第一个函数的返回值为9还不是0,记住:函数在没有执行前,内部代码不执行;博客里面的代码可以自己练练,加深下印象

总结

以上就是这篇文章的全部内容了,不知道对大家的学习和工作能不能带来一些帮助,如果大家有疑问可以留言交流。

1、块级作用域 想想此时运行下面的程序会有输出吗?执行会成功吗?
#块级作用域…

艾滋病是一种社会危害性极大的传染病,艾滋病病毒作为一种对人体免疫系统具有一定攻击性的病毒,它可以大量破坏人体免疫细胞,导致免疫功能丧失,危害人体健康。虽然数十年来随着医疗科技的进步,艾滋病逐渐成为可一种可控的慢性传染病,但由于根治艾滋病至今还是未能攻克的难题。因此,预防和控制艾滋病的任务还是极其艰巨的。

1 如果你需要一个良好的学习交流环境,那么你可以考虑Python学习交流群:548377875;
2 如果你需要一份系统的学习资料,那么你可以考虑Python学习交流群:548377875。

学懂元类,你只需要知道两句话:

金沙国际官网 1

金沙国际官网 2

  • 道生一,一生二,二生三,三生万物

  • 我是谁?我从哪来里?我要到哪里去?

为了防止艾滋病找上门来,需要了解哪些知识点?

金沙国际官网 , 

在python世界,拥有一个永恒的道,那就是”type”,请记在脑海中,type就是道。如此广袤无垠的python生态圈,都是由type产生出来的。

1、艾滋病的传播途径

基础的问题

道生一,一生二,二生三,三生万物。

  1. 道 即是 type

  2. 一 即是 metaclass(元类,或者叫类生成器)

  3. 二 即是 class(类,或者叫实例生成器)

  4. 三 即是 instance(实例)

  5. 万物 即是
    实例的各种属性与方法,我们平常使用python时,调用的就是它们。

艾滋病的传播途径,包括性传播、静脉吸毒注射、母婴传播、注射或输入污染的血液制品等。

一、关于Python的赋值说法中错误的是哪一项?

  1. Python中的变量在使用前必须赋值,变量赋值后该变量才会被创建。
  2. Python支持多远赋值和多重赋值。
  3. Python赋值时大小写敏感。
  4. Python中要首先声明变量的类型后才能给该变量赋值。

答案:第四个 你知道为什么嘛?可以在下方评论留下你的见解哟!

道和一,是我们今天讨论的命题,而二、三、和万物,则是我们常常使用的类、实例、属性和方法,用hello world来举例:

# 创建一个Hello类,拥有属性say_hello ----二的起源

class Hello():

   def say_hello(self, name='world'):

       print('Hello, %s.' % name)



# 从Hello类创建一个实例hello ----二生三

hello = Hello()


# 使用hello调用方法say_hello ----三生万物

hello.say_hello()

输出效果:

Hello, world.

这就是一个标准的”二生三,三生万物”过程。 从类到我们可以调用的方法,用了这两步。

那我们不由自主要问,类从何而来呢?回到代码的第一行。 
class
Hello其实是一个函数的”语义化简称”,只为了让代码更浅显易懂,它的另一个写法是:

def fn(self, name='world'): # 假如我们有一个函数叫fn

   print('Hello, %s.' % name)


Hello = type('Hello', (object,), dict(say_hello=fn)) # 通过type创建Hello class ---- 神秘的"道",可以点化一切,这次我们直接从"道"生出了"二"

这样的写法,就和之前的Class
Hello写法作用完全相同,你可以试试创建实例并调用

# 从Hello类创建一个实例hello ----二生三,完全一样

hello = Hello()


# 使用hello调用方法say_hello ----三生万物,完全一样

hello.say_hello()

输出效果:

Hello, world. ----调用结果完全一样。

我们回头看一眼最精彩的地方,道直接生出了二:

Hello = type(‘Hello’, (object,), dict(say_hello=fn))

这就是”道”,python世界的起源,你可以为此而惊叹。 
注意它的三个参数!暗合人类的三大永恒命题:我是谁,我从哪里来,我要到哪里去。

  • 第一个参数:我是谁。
    在这里,我需要一个区分于其它一切的命名,以上的实例将我命名为”Hello”

  • 第二个参数:我从哪里来 
    在这里,我需要知道从哪里来,也就是我的”父类”,以上实例中我的父类是”object”——python中一种非常初级的类。

  • 第三个参数:我要到哪里去 
    在这里,我们将需要调用的方法和属性包含到一个字典里,再作为参数传入。以上实例中,我们有一个say_hello方法包装进了字典中。

值得注意的是,三大永恒命题,是一切类,一切实例,甚至一切实例属性与方法都具有的。理所应当,它们的”创造者”,道和一,即type和元类,也具有这三个参数。但平常,类的三大永恒命题并不作为参数传入,而是以如下方式传入

class Hello(object){

# class 后声明"我是谁"

# 小括号内声明"我来自哪里"

# 中括号内声明"我要到哪里去"

   def say_hello(){


   }

}
  • 造物主,可以直接创造单个的人,但这是一件苦役。造物主会先创造”人”这一物种,再批量创造具体的个人。并将三大永恒命题,一直传递下去。

  • “道”可以直接生出”二”,但它会先生出”一”,再批量地制造”二”。

  • type可以直接生成类(class),但也可以先生成元类(metaclass),再使用元类批量定制类(class)。

2、艾滋病的临床表现

字符串格式化:%和.format的区别

答案:字符串的format函数非常灵活,很强大,可以接受的参数不限个数,并且位置可以不按顺序,而且有较为强大的格式限定符(比如:填充,对齐,精度等)

元类——道生一,一生二

一般来说,元类均被命名后缀为Metalass。想象一下,我们需要一个可以自动打招呼的元类,它里面的类方法呢,有时需要sayHello,有时需要sayHi,有时又需要saySayolala,有时需要sayNihao。

如果每个内置的say_xxx都需要在类里面声明一次,那将是多么可怕的苦役!
不如使用元类来解决问题。

以下是创建一个专门”打招呼”用的元类代码:

class SayMetaClass(type):


   def __new__(cls, name, bases, attrs):

       attrs['say_'+name] = lambda self,value,saying=name: print(saying+','+value+'!')

       return type.__new__(cls, name, bases, attrs)

记住两点: 
1、元类是由”type”衍生而出,所以父类需要传入type。【道生一,所以一必须包含道】

2、元类的操作都在 new中完成,它的第一个参数是将创建的类,之后的参数即是三大永恒命题:我是谁,我从哪里来,我将到哪里去。
它返回的对象也是三大永恒命题,接下来,这三个参数将一直陪伴我们。

在new中,我只进行了一个操作,就是

attrs['say_'+name] = lambda self,value,saying=name: print(saying+','+value+'!')

它跟据类的名字,创建了一个类方法。比如我们由元类创建的类叫”Hello”,那创建时就自动有了一个叫”say_Hello”的类方法,然后又将类的名字”Hello”作为默认参数saying,传到了方法里面。然后把hello方法调用时的传参作为value传进去,最终打印出来。

那么,一个元类是怎么从创建到调用的呢? 
来!一起根据道生一、一生二、二生三、三生万物的准则,走进元类的生命周期吧!

# 道生一:传入type

class SayMetaClass(type):


   # 传入三大永恒命题:类名称、父类、属性

   def __new__(cls, name, bases, attrs):

       # 创造"天赋"

       attrs['say_'+name] = lambda self,value,saying=name: print(saying+','+value+'!')

       # 传承三大永恒命题:类名称、父类、属性

       return type.__new__(cls, name, bases, attrs)


# 一生二:创建类

class Hello(object, metaclass=SayMetaClass):

   pass


# 二生三:创建实列

hello = Hello()


# 三生万物:调用实例方法

hello.say_Hello('world!')

输出为

Hello, world!

注意:通过元类创建的类,第一个参数是父类,第二个参数是metaclass

普通人出生都不会说话,但有的人出生就会打招呼说”Hello”,”你好”,”sayolala”,这就是天赋的力量。它会给我们面向对象的编程省下无数的麻烦。

现在,保持元类不变,我们还可以继续创建Sayolala, Nihao类,如下:

# 一生二:创建类

class Sayolala(object, metaclass=SayMetaClass):

   pass


# 二生三:创建实列

s = Sayolala()


# 三生万物:调用实例方法

s.say_Sayolala('japan!')

输出

Sayolala, japan!

也可以说中文

# 一生二:创建类

class Nihao(object, metaclass=SayMetaClass):

   pass


# 二生三:创建实列

n = Nihao()


# 三生万物:调用实例方法

n.say_Nihao('中华!')

输出

Nihao, 中华!

再来一个小例子:

# 道生一

class ListMetaclass(type):

   def __new__(cls, name, bases, attrs):

       # 天赋:通过add方法将值绑定

       attrs['add'] = lambda self, value: self.append(value)

       return type.__new__(cls, name, bases, attrs)


# 一生二

class MyList(list, metaclass=ListMetaclass):

   pass


# 二生三

L = MyList()


# 三生万物

L.add(1)

现在我们打印一下L

print(L)


>>> [1]

而普通的list没有add()方法

L2 = list()

L2.add(1)


>>>AttributeError: 'list' object has no attribute 'add'

太棒了!学到这里,你是不是已经体验到了造物主的乐趣?

python世界的一切,尽在掌握。

艾滋病一般分为急性感染期、无症状HIV感染期和艾滋病期三个阶段,每期的临床表现都有所不同。急性感染期又被称为艾滋病的“窗口期”,此期间的临床表现较为轻微,主要以肌肉疼痛、发热、腹泻、盗汗、咽痛、关节痛、全身淋巴结肿大、皮肤斑丘疹等为主。

以下的代码的输出将是什么? 说出你的答案并解释

金沙国际官网 3

 

想一下会输出什么内容呢?

答案:

金沙国际官网 4

 

使你困惑或是惊奇的是关于最后一行的输出是 3 2 3 而不是 3 2
1。为什么改变了 Parent.x 的值还会改变 Child2.x 的值,但是同时 Child1.x
值却没有改变?

这个答案的关键是,在
Python中,类变量在内部是作为字典处理的。如果一个变量的名字没有在当前类的字典中发现,将搜索祖先类(比如父类)直到被引用的变量名被找到。

年轻的造物主,请随我一起开创新世界。

我们选择两个领域,一个是Django的核心思想,”Object Relational
Mapping”,即对象-关系映射,简称ORM。

这是Django的一大难点,但学完了元类,一切变得清晰。你对Django的理解将更上一层楼!

另一个领域是爬虫领域(黑客领域),一个自动搜索网络上的可用代理,然后换着IP去突破别的人反爬虫限制。

这两项技能非常有用,也非常好玩!

而无症状HIV感染期也称艾滋病潜伏期,最常见的临床表现是口腔黏膜的溃疡、浅表淋巴结肿大等。进入艾滋病期的患者开始于颈部、腋下、腹股沟等处出现淋巴结肿大的情况,除此之外,高热、腹泻、呼吸困难、厌食、皮疹、口腔糜烂等情况也会更加严重,外部的许多因素都会致使机体感染,危及生命。

 

挑战一:通过元类创建ORM

3、艾滋病的预防

编写一个从 1 加到 end 的当型循环。变量 end 的值由键盘输入。假如输入 end的值为 6,则代码输出的结果应该是 21,也就是 1+2+3+4+5+6 的结果(不要用sum 作为变量,因为它是内置函数)。

金沙国际官网 5

 

准备工作,创建一个Field类

class Field(object):


   def __init__(self, name, column_type):

       self.name = name

       self.column_type = column_type


   def __str__(self):

       return '<%s:%s>' % (self.__class__.__name__, self.name)

它的作用是 
在Field类实例化时将得到两个参数,name和column_type,它们将被绑定为Field的私有属性,如果要将Field转化为字符串时,将返回”Field:XXX”
, XXX是传入的name名称。

艾滋病的预防,需做好切断艾滋病病毒传染原的工作。除了洁身自好,不出入情色场所外,正确使用安全套,进行安全性行为也是十分重要的。在日常生活中,应拒绝毒品诱惑,不共用针具,在医疗操作中避免不明来由的注射与输血操作,避免医源性艾滋病传播。

编写函数devide(x, y),x为被除数,y为除数。要求考虑异常情况的处理。

1、 被零除时,输出”division by zero! “;

2、 类型不一致时,强制转换为整数再调用本函数;

3、 若没有上述异常则输出计算结果。

金沙国际官网 6

 

准备工作:创建StringField和IntergerField

class StringField(Field):


   def __init__(self, name):

       super(StringField, self).__init__(name, 'varchar(100)')


class IntegerField(Field):


   def __init__(self, name):

       super(IntegerField, self).__init__(name, 'bigint')

它的作用是 
在StringField,IntegerField实例初始化时,时自动调用父类的初始化方式。

当然,在产妇孕检中,若发现艾滋病病毒感染迹象,均需在生产前进行胎儿预防性治疗,阻断艾滋病病毒的母婴传播作用。

用户输入一个字符串,判定是否为对称字符串;比如”abcxcba”,”abcxxcba”均为对称字符串;”abcb”则不是

金沙国际官网 7

 

不知道上面问题如果不看答案的话,你自己能回答上来几题呢?

道生一

class ModelMetaclass(type):


   def __new__(cls, name, bases, attrs):

       if name=='Model':

           return type.__new__(cls, name, bases, attrs)

       print('Found model: %s' % name)

       mappings = dict()

       for k, v in attrs.items():

           if isinstance(v, Field):

               print('Found mapping: %s ==> %s' % (k, v))

               mappings[k] = v

       for k in mappings.keys():

           attrs.pop(k)

       attrs['__mappings__'] = mappings # 保存属性和列的映射关系

       attrs['__table__'] = name # 假设表名和类名一致

       return type.__new__(cls, name, bases, attrs)

它做了以下几件事

  1. 创建一个新的字典mapping

  2. 将每一个类的属性,通过.items()遍历其键值对。如果值是Field类,则打印键值,并将这一对键值绑定到mapping字典上。

  3. 将刚刚传入值为Field类的属性删除。

  4. 创建一个专门的mappings属性,保存字典mapping。

  5. 创建一个专门的table属性,保存传入的类的名称。

虽然医学科技发展日新月异,众多疗法和药物层出不穷。但尽管全世界众多医学研究人员付出了巨大的努力,根治艾滋病的特效药物和有效疫苗至今仍然尚未研制成功。艾滋病已被我国列入乙类法定传染病,该疾病的严重性不言而喻。不管处于人生的何种阶段,身体健康永远都是第一位的,而艾滋病危害巨大,其防治工作更应谨慎严格。

一生二

class Model(dict, metaclass=ModelMetaclass):


   def __init__(self, **kwarg):

       super(Model, self).__init__(**kwarg)


   def __getattr__(self, key):

       try:

           return self[key]

       except KeyError:

           raise AttributeError("'Model' object has no attribute '%s'" % key)


   def __setattr__(self, key, value):

       self[key] = value


   # 模拟建表操作

   def save(self):

       fields = []

       args = []

       for k, v in self.__mappings__.items():

           fields.append(v.name)

           args.append(getattr(self, k, None))

       sql = 'insert into %s (%s) values (%s)' % (self.__table__, ','.join(fields), ','.join([str(i) for i in args]))

       print('SQL: %s' % sql)

       print('ARGS: %s' % str(args))

如果从Model创建一个子类User:

class User(Model):

   # 定义类的属性到列的映射:

   id = IntegerField('id')

   name = StringField('username')

   email = StringField('email')

   password = StringField('password')

这时 
id= IntegerField(‘id’)就会自动解析为:

Model.setattr(self, ‘id’, IntegerField(‘id’))

因为IntergerField(‘id’)是Field的子类的实例,自动触发元类的new,所以将IntergerField(‘id’)存入mappings并删除这个键值对。

二生三、三生万物

当你初始化一个实例的时候并调用save()方法时候

u = User(id=12345, name='Batman', email='batman@nasa.org', password='iamback')

u.save()

这时先完成了二生三的过程:

  1. 先调用Model.setattr,将键值载入私有对象

  2. 然后调用元类的”天赋”,ModelMetaclass.new,将Model中的私有对象,只要是Field的实例,都自动存入u.mappings。

接下来完成了三生万物的过程:

通过u.save()模拟数据库存入操作。这里我们仅仅做了一下遍历mappings操作,虚拟了sql并打印,在现实情况下是通过输入sql语句与数据库来运行。

输出结果为

Found model: User

Found mapping: name ==>

Found mapping: password ==>

Found mapping: id ==>

Found mapping: email ==>

SQL: insert into User (username,password,id,email) values (Batman,iamback,12345,batman@nasa.org)

ARGS: ['Batman', 'iamback', 12345, 'batman@nasa.org']
  • 年轻的造物主,你已经和我一起体验了由”道”演化”万物”的伟大历程,这也是Django中的Model版块核心原理。

  • 接下来,请和我一起进行更好玩的爬虫实战(嗯,你现在已经是初级黑客了):网络代理的爬取吧!

挑战二:网络代理的爬取

准备工作,先爬个页面玩玩

请确保已安装requests和pyquery这两个包。

# 文件:get_page.py

import requests


base_headers = {

   'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.71 Safari/537.36',

   'Accept-Encoding': 'gzip, deflate, sdch',

   'Accept-Language': 'zh-CN,zh;q=0.8'

}



def get_page(url):

   headers = dict(base_headers)

   print('Getting', url)

   try:

       r = requests.get(url, headers=headers)

       print('Getting result', url, r.status_code)

       if r.status_code == 200:

           return r.text

   except ConnectionError:

       print('Crawling Failed', url)

       return None

这里,我们利用request包,把百度的源码爬了出来。

试一试抓百度

把这一段粘在get_page.py后面,试完删除

if(__name__ == '__main__'):

   rs = get_page('https://www.baidu.com')

   print('result:rn', rs)
试一试抓代理

把这一段粘在get_page.py后面,试完删除

if(__name__ == '__main__'):

   from pyquery import PyQuery as pq

   start_url = 'http://www.proxy360.cn/Region/China'

   print('Crawling', start_url)

   html = get_page(start_url)

   if html:

       doc = pq(html)

       lines = doc('div[name="list_proxy_ip"]').items()

       for line in lines:

           ip = line.find('.tbBottomLine:nth-child(1)').text()

           port = line.find('.tbBottomLine:nth-child(2)').text()

           print(ip+':'+port)

接下来进入正题:使用元类批量抓取代理

批量处理抓取代理

from getpage import get_page

from pyquery import PyQuery as pq



# 道生一:创建抽取代理的metaclass

class ProxyMetaclass(type):

   """

       元类,在FreeProxyGetter类中加入

       __CrawlFunc__和__CrawlFuncCount__

       两个参数,分别表示爬虫函数,和爬虫函数的数量。

   """

   def __new__(cls, name, bases, attrs):

       count = 0

       attrs['__CrawlFunc__'] = []

       attrs['__CrawlName__'] = []

       for k, v in attrs.items():

           if 'crawl_' in k:

               attrs['__CrawlName__'].append(k)

               attrs['__CrawlFunc__'].append(v)

               count += 1

       for k in attrs['__CrawlName__']:

           attrs.pop(k)

       attrs['__CrawlFuncCount__'] = count

       return type.__new__(cls, name, bases, attrs)



# 一生二:创建代理获取类


class ProxyGetter(object, metaclass=ProxyMetaclass):

   def get_raw_proxies(self, site):

       proxies = []

       print('Site', site)

       for func in self.__CrawlFunc__:

           if func.__name__==site:

               this_page_proxies = func(self)

               for proxy in this_page_proxies:

                   print('Getting', proxy, 'from', site)

                   proxies.append(proxy)

       return proxies



   def crawl_daili66(self, page_count=4):

       start_url = 'http://www.66ip.cn/{}.html'

       urls = [start_url.format(page) for page in range(1, page_count + 1)]

       for url in urls:

           print('Crawling', url)

           html = get_page(url)

           if html:

               doc = pq(html)

               trs = doc('.containerbox table tr:gt(0)').items()

               for tr in trs:

                   ip = tr.find('td:nth-child(1)').text()

                   port = tr.find('td:nth-child(2)').text()

                   yield ':'.join([ip, port])


   def crawl_proxy360(self):

       start_url = 'http://www.proxy360.cn/Region/China'

       print('Crawling', start_url)

       html = get_page(start_url)

       if html:

           doc = pq(html)

           lines = doc('div[name="list_proxy_ip"]').items()

           for line in lines:

               ip = line.find('.tbBottomLine:nth-child(1)').text()

               port = line.find('.tbBottomLine:nth-child(2)').text()

               yield ':'.join([ip, port])


   def crawl_goubanjia(self):

       start_url = 'http://www.goubanjia.com/free/gngn/index.shtml'

       html = get_page(start_url)

       if html:

           doc = pq(html)

           tds = doc('td.ip').items()

           for td in tds:

               td.find('p').remove()

               yield td.text().replace(' ', '')



if __name__ == '__main__':

   # 二生三:实例化ProxyGetter

   crawler = ProxyGetter()

   print(crawler.__CrawlName__)

   # 三生万物

   for site_label in range(crawler.__CrawlFuncCount__):

       site = crawler.__CrawlName[__site_label]

       myProxies = crawler.get_raw_proxies(site)
道生一:元类的new中,做了四件事:
  1. 将”crawl_”开头的类方法的名称推入ProxyGetter.CrawlName

  2. 将”crawl_”开头的类方法的本身推入ProxyGetter.CrawlFunc

  3. 计算符合”crawl_”开头的类方法个数

  4. 删除所有符合”crawl_”开头的类方法

怎么样?是不是和之前创建ORM的mappings过程极为相似?

一生二:类里面定义了使用pyquery抓取页面元素的方法

分别从三个免费代理网站抓取了页面上显示的全部代理。

如果对yield用法不熟悉,可以查看: 
廖雪峰的python教程:生成器

二生三:创建实例对象crawler

三生万物:遍历每一个CrawlFunc
  1. 在ProxyGetter.CrawlName上面,获取可以抓取的的网址名。

  2. 触发类方法ProxyGetter.getrawproxies(site)

  3. 遍历ProxyGetter.CrawlFunc,如果方法名和网址名称相同的,则执行这一个方法

  4. 把每个网址获取到的代理整合成数组输出。

那么。。。怎么利用批量代理,冲击别人的网站,套取别人的密码,狂发广告水贴,定时骚扰客户?
呃!想啥呢!这些自己悟!如果悟不到,请听下回分解!

年轻的造物主,创造世界的工具已经在你手上,请你将它的威力发挥到极致!

请记住挥动工具的口诀:

  • 道生一,一生二,二生三,三生万物

我是谁,我来自哪里,我要到哪里去

python学习交流群:

道生一:元类的new中,做了四件事:
  1. 将”crawl_”开头的类方法的名称推入ProxyGetter.CrawlName

  2. 将”crawl_”开头的类方法的本身推入ProxyGetter.CrawlFunc

  3. 计算符合”crawl_”开头的类方法个数

  4. 删除所有符合”crawl_”开头的类方法

怎么样?是不是和之前创建ORM的mappings过程极为相似?

一生二:类里面定义了使用pyquery抓取页面元素的方法

分别从三个免费代理网站抓取了页面上显示的全部代理。

如果对yield用法不熟悉,可以查看: 
廖雪峰的python教程:生成器

二生三:创建实例对象crawler

三生万物:遍历每一个CrawlFunc
  1. 在ProxyGetter.CrawlName上面,获取可以抓取的的网址名。

  2. 触发类方法ProxyGetter.getrawproxies(site)

  3. 遍历ProxyGetter.CrawlFunc,如果方法名和网址名称相同的,则执行这一个方法

  4. 把每个网址获取到的代理整合成数组输出。

那么。。。怎么利用批量代理,冲击别人的网站,套取别人的密码,狂发广告水贴,定时骚扰客户?
呃!想啥呢!这些自己悟!如果悟不到,请听下回分解!

年轻的造物主,创造世界的工具已经在你手上,请你将它的威力发挥到极致!

请记住挥动工具的口诀:

  • 道生一,一生二,二生三,三生万物

我是谁,我来自哪里,我要到哪里去

python学习交流群:125240963

发表评论

电子邮件地址不会被公开。 必填项已用*标注

网站地图xml地图