使用python破除网页限制

来源：作者：出处：巧巧读书 2006-10-10 进入讨论组

关键词：
python
人工智能
html
asp

昨天找到一个比较好的人工智能网站，其中有一些很不错的 prolog 文章，我很感兴趣。文中有很多示例程序，可是网页的右键被禁止了，也不能选择，不能保存，不能察看源代码！！

??? 实在不爽，信息本来就要共享嘛！

??? 只好发扬下 hack 精神，冲破限制。还好，有 python 方便多了。

??? 网页中增加限制，无非是在 html 中设置脚本，既然浏览器可以显示出来，就一定能得到它的文本。

第一步，在 python shell 中执行：

>>> import urllib
>>> urllib.urlretrieve("http://www.chinaai.org/Article_Show.asp?ArticleID=315","c:/tmp.html")

urlretrieve 可以把一个网页保存到本地文件。

第二步，分析这个 tmp.html 文件，发现其中的?< body > 标签比较恶心：

body leftmargin=0 topmargin=0 onmousemove='HideMenu()' oncontextmenu="return false" ondragstart="return false" onselectstart ="return false" onselect="document．selection.empty()" oncopy="document．selection.empty()" onbeforecopy="return false" onmouseup="document．selection.empty()"

把这个标签换成比较干净的：body leftmargin=0 topmargin=0 onmousemove='HideMenu()'

（注意， < > 在这里省略了）

浏览这个文件， ok 限制解除。

第三步，自动下载网页，进行“净化”处理，编写一个python?程序：

import urllib

urls = {'http://www.chinaai.org/Article_Show.asp?ArticleID=315':'prolog2.html'}

new_tag = ""

for url in urls:
??filename = urls[url]
??urllib.urlretrieve(url,filename)
??f = open(filename,'r')
??content = f.read()
??f.close()
??l_pos = content.find('<body')

??r_pos = content.find('>', l_pos)
??cont1 = content[:l_pos]
??cont2 = content[r_pos + 1:]
??content = cont1 + new_tag + cont2
??f = open('tmp.html','w')
??f.write(content)
??f.close()

程序中 urls 是一个字典，里面是 url 和相应的本地文件名，使用者可以根据自己的情况添加。

注意，这个程序是专门针对这个网站的，对于其他的网站，可能使用的方法会有不同，但是按照上面的步骤，相信大家都能搞定。

我们的口号是，“还我自由！”