bs4 и запрашивает ошибку сценария прокси-сервера
В настоящее время я работаю над сценарием, который извлекает информацию из supremenewyork.com этот прокси-скрипт, который я использовал, работал раньше, и теперь он не работает вообще с тех пор, как я увидел эту вещь в моем компьютере под названием urllib3, я думал, что это бесполезно, поэтому я удалил его, затем я попытался запустить мой прокси-скрипт снова, и я получил ошибку, которая сказала что-то о urllib3, поэтому я быстро повторно установил urllib3, но мой скрипт никогда не работал после этого... Вот мой сценарий:
import requests
from bs4 import BeautifulSoup
UK_Proxy1 = input('UK http Proxy1: ')
UK_Proxy2 = input('UK http Proxy2: ')
proxies = {
'http': 'http://' + UK_Proxy1 + '',
'https': 'http://' + UK_Proxy2 + '',
}
categorys = ['jackets','shirts','tops_sweaters','sweatshirts','pants','shorts','t-shirts','hats','bags','accessories','shoes','skate']
catNumb = 0
for cat in categorys:
catStr = str(categorys[catNumb])
cUrl = 'http://www.supremenewyork.com/shop/all/' + catStr
proxy_script = requests.get(cUrl, proxies=proxies).text
bSoup = BeautifulSoup(proxy_script, 'lxml')
print('n*******************"'+ catStr.upper() + '"*******************n')
catNumb += 1
for item in bSoup.find_all('div', class_='inner-article'):
url = item.a['href']
alt = item.find('img')['alt']
req = requests.get('http://www.supremenewyork.com' + url)
item_soup = BeautifulSoup(req.text, 'lxml')
name = item_soup.find('h1', itemprop='name').text
style = item_soup.find('p', itemprop='model').text
print (alt + ' --- ' + name + ' --- ' + style)
Когда я бегу этот скрипт и я ввожу прокси Великобритании я получаю эту ошибку
Traceback (most recent call last):
File "/Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/site-packages/urllib3/connection.py", line 141, in _new_conn
(self.host, self.port), self.timeout, **extra_kw)
File "/Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/site-packages/urllib3/util/connection.py", line 60, in create_connection
for res in socket.getaddrinfo(host, port, family, socket.SOCK_STREAM):
File "/Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/socket.py", line 745, in getaddrinfo
for res in _socket.getaddrinfo(host, port, family, type, proto, flags):
socket.gaierror: [Errno 8] nodename nor servname provided, or not known
Во время обработки вышеуказанного исключения произошло еще одно исключение:
Traceback (most recent call last):
File "/Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/site-packages/urllib3/connection.py", line 141, in _new_conn
(self.host, self.port), self.timeout, **extra_kw)
File "/Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/site-packages/urllib3/util/connection.py", line 60, in create_connection
for res in socket.getaddrinfo(host, port, family, socket.SOCK_STREAM):
File "/Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/socket.py", line 745, in getaddrinfo
for res in _socket.getaddrinfo(host, port, family, type, proto, flags):
socket.gaierror: [Errno 8] nodename nor servname provided, or not known
Во время обработки вышеуказанного исключения произошло еще одно исключение:
`Traceback (most recent call last):
File "/Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/site-packages/urllib3/connectionpool.py", line 601, in urlopen
chunked=chunked)
File "/Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/site-packages/urllib3/connectionpool.py", line 357, in _make_request
conn.request(method, url, **httplib_request_kw)
File "/Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/http/client.py", line 1239, in request
self._send_request(method, url, body, headers, encode_chunked)
File "/Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/http/client.py", line 1285, in _send_request
self.endheaders(body, encode_chunked=encode_chunked)
File "/Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/http/client.py", line 1234, in endheaders
self._send_output(message_body, encode_chunked=encode_chunked)
File "/Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/http/client.py", line 1026, in _send_output
self.send(msg)
File "/Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/http/client.py", line 964, in send
self.connect()
File "/Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/site-packages/urllib3/connection.py", line 166, in connect
conn = self._new_conn()
File "/Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/site-packages/urllib3/connection.py", line 150, in _new_conn
self, "Failed to establish a new connection: %s" % e)
urllib3.exceptions.NewConnectionError: <urllib3.connection.HTTPConnection object at 0x112d10eb8>: Failed to establish a new connection: [Errno 8] nodename nor servname provided, or not known
During handling of the above exception, another exception occurred: (same error as above and continues for a bit)
File "/Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/site-packages/urllib3/connectionpool.py", line 639, in urlopen
_stacktrace=sys.exc_info()[2])
File "/Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/site-packages/urllib3/util/retry.py", line 388, in increment
raise MaxRetryError(_pool, url, error or ResponseError(cause))
urllib3.exceptions.MaxRetryError: HTTPConnectionPool(host='109.108.153.29t', port=80): Max retries exceeded with url: http://www.supremenewyork.com/shop/all/jackets (Caused by ProxyError('Cannot connect to proxy.', NewConnectionError('<urllib3.connection.HTTPConnection object at 0x112d10eb8>: Failed to establish a new connection: [Errno 8] nodename nor servname provided, or not known',)))
Я попробовал несколько разных проксов, и ни один не сработал Может кто-нибудь, пожалуйста, помочь мне, я бы действительно оценил это
1 ответ:
Здесь базовая линия ответа, это не работает, потому что прокси-сервер не подключен.
Все, что вам нужно сделать, это предоставить ему рабочий прокси-сервер и порт, это дало бы вам ту же ошибку, если ваш компьютер не имеет подключения к интернету, но поскольку вы находитесь на StackOverflow, я бы предположил, что у вас есть это.
urllib3.exceptions.MaxRetryError: HTTPConnectionPool(host='109.108.153.29\t', port=80): Max retries exceeded with url: http://www.supremenewyork.com/shop/all/jackets (Caused by ProxyError('Cannot connect to proxy.', NewConnectionError('<urllib3.connection.HTTPConnection object at 0x112d10eb8>: Failed to establish a new connection: [Errno 8] nodename nor servname provided, or not known',)))
Вот как мы это исправим: Мы не используем прокси, который работает и предоставляет ему порт, вы можете получить список прокси на этом сайте и использоватьrandom.choice()
чтобы всегда выбирать другую.http://www.gatherproxy.com/
import requests from bs4 import BeautifulSoup UK_Proxy1 = '173.212.202.65:80' # UK_Proxy2 = input('UK http Proxy2: ') proxies = { 'http': 'http://' + UK_Proxy1, 'https': 'https://' + UK_Proxy1 } categorys = ['jackets','shirts','tops_sweaters','sweatshirts','pants','shorts','t-shirts','hats','bags','accessories','shoes','skate'] catNumb = 0 for cat in categorys: catStr = str(categorys[catNumb]) cUrl = 'http://www.supremenewyork.com/shop/all/' + catStr proxy_script = requests.get(cUrl, proxies=proxies).text bSoup = BeautifulSoup(proxy_script, 'lxml') print('\n*******************"'+ catStr.upper() + '"*******************\n') catNumb += 1 for item in bSoup.find_all('div', class_='inner-article'): url = item.a['href'] alt = item.find('img')['alt'] req = requests.get('http://www.supremenewyork.com' + url) item_soup = BeautifulSoup(req.text, 'lxml') name = item_soup.find('h1', itemprop='name').text style = item_soup.find('p', itemprop='model').text print (alt + ' --- ' + name + ' --- ' + style)