9 Кб, 247x83Сап, Аноны! Хотел обратиться с вопросом к знающим людям. Если тема будет неприемлема, больше не буду. В общем вопрос такой: есть один форум лесной тематики. forums.wood.ru, так вот не могу его спарсить уже целый месяц. Дело в том, что этот ресурс непонятным для меня образом палит парсинг и блокирует доступ к сайту, напрочь. Что делал: пытался забирать Селениумом - палит, пытался обычным реквестом на Пайтон - тоже самое, пытался puppeteer на node.js - безуспешно (ни одной страницы), пытался через Тор, впн, покупку анонимных проксей - все без толку. Они что непобедимые? Даже курл на пэхопэ не берёт. Я в отчаянии, прошу помощи, может знает кто?
>>4148
Да, достойные ребята.
Да, достойные ребята.
Если я тебе напишу способ как его парсить на питоне - заплатишь?
>>4690
нахуй пойдешь ты. хули ты мне кидаешь сурс одной страницы то? думаешь без тебя - дятла не додумались, что так можно? если пруфанешь тем, что ресурс тебя не заблочил, когда ты +10500 страниц форума забирал, тогда возьму свои слова обратно
нахуй пойдешь ты. хули ты мне кидаешь сурс одной страницы то? думаешь без тебя - дятла не додумались, что так можно? если пруфанешь тем, что ресурс тебя не заблочил, когда ты +10500 страниц форума забирал, тогда возьму свои слова обратно
>>4691
Какую проблему я увидел изначально в треде:
Эту проблему я решил.
То что тебя после 100500 запросов с одного айпишника 99% сайтов забанит и так очевидно. И решение этой проблемы очевиднейшее.
Так бы и писал в оп посте:
"Сап двач, я даун. Как спарсить сайт в 100500 страниц и не словить бан?".
А знаешь кто из нас сходил на хуй? Ты! Потому что хуй ты теперь выпросишь у меня код делающий запросы без получения бана. Парсь дальше свою пустую страницу и делай бочку.
Какую проблему я увидел изначально в треде:
>палит парсинг и блокирует доступ к сайту, напрочь
>Он на любой запрос отдает пустую страницу.
Эту проблему я решил.
То что тебя после 100500 запросов с одного айпишника 99% сайтов забанит и так очевидно. И решение этой проблемы очевиднейшее.
Так бы и писал в оп посте:
"Сап двач, я даун. Как спарсить сайт в 100500 страниц и не словить бан?".
А знаешь кто из нас сходил на хуй? Ты! Потому что хуй ты теперь выпросишь у меня код делающий запросы без получения бана. Парсь дальше свою пустую страницу и делай бочку.
>>4692
Где написано было, что парсил с одного айпишника, довен? Прочёл жопой оп пост и жидко обосрался. По существу есть что сказать, или так и будешь, как баран, отрицать очевидное?
Где написано было, что парсил с одного айпишника, довен? Прочёл жопой оп пост и жидко обосрался. По существу есть что сказать, или так и будешь, как баран, отрицать очевидное?
Модерат - хуй сосат
>>4692
Лол, так что ты хуем своим трясешь то? Мы ведь тут не письками меряемся как ты школодаун. То что единоразовый доступ у тебя есть, так это давно всем известно. Рабочего решения у тебя нет, хули ты завелся то, если пруфануть не можешь?
Лол, так что ты хуем своим трясешь то? Мы ведь тут не письками меряемся как ты школодаун. То что единоразовый доступ у тебя есть, так это давно всем известно. Рабочего решения у тебя нет, хули ты завелся то, если пруфануть не можешь?
ОП-хуй, только что спарсил около 150 страниц, все работает нормально.
>>4717
Тогда значит сайт грузит скрипт, который кидает ответ серверу. Видно, если ответ не придет, то хуй страницу вытянешь.
Тогда значит сайт грузит скрипт, который кидает ответ серверу. Видно, если ответ не придет, то хуй страницу вытянешь.
Чего в этом сайте такого? Зачем его целый месяц парсить? Обычная доска объявлений, спарси другую. Или у тебя заказ на этот? Отказывайся, спокойнее спать будешь. Если реально месяц потрачен, то дешевле было бы попробовать базу купить, а то и весь сайт.
>>4739
там база мыл и имен людей занимающихся лесом. Как ни странно бы это не звучало, но закономерность в этой мысли прослеживается: на этой площадке сидят люди из 90-х, которые сколотили большой капитал, контактов их нигде больше нет, собственно никак кроме этой площадки с ними не связаться. Поэтому администрация форума тщательно скрывает данные и меня интересует во первых как и во вторых как ее все же можно обойти?
там база мыл и имен людей занимающихся лесом. Как ни странно бы это не звучало, но закономерность в этой мысли прослеживается: на этой площадке сидят люди из 90-х, которые сколотили большой капитал, контактов их нигде больше нет, собственно никак кроме этой площадки с ними не связаться. Поэтому администрация форума тщательно скрывает данные и меня интересует во первых как и во вторых как ее все же можно обойти?
>>4743
забыл добавить: после прочтения может показаться, что я гонюсь за диким бабло и поэтому прошу Анона сделать работу за меня. Нет. в перспективе имея такую базу и клиентов можно было бы конечно продавать, но меня в первую очередь интересует механизм блокировки. До этого имея дело с множеством различных ресурсов я никогда не сталкивался с таким агрессивным баном, прокси, смена ЮА как правило решали, но тут абсолютно ничто не помогает. Как то анон запилил годный скрипт на js, но после тестирования он тоже провалился либо они пропалили и все исправили. Поэтому если аноны которые посчитают меня далбаебом и ебанутым фанатиком - прошу Вас не беспокоить, это мои личные проблемы, а те кому из спортивного интереса есть дело до такого энтузиазма и нужны детали и подробности - прошу в тред, господа!
забыл добавить: после прочтения может показаться, что я гонюсь за диким бабло и поэтому прошу Анона сделать работу за меня. Нет. в перспективе имея такую базу и клиентов можно было бы конечно продавать, но меня в первую очередь интересует механизм блокировки. До этого имея дело с множеством различных ресурсов я никогда не сталкивался с таким агрессивным баном, прокси, смена ЮА как правило решали, но тут абсолютно ничто не помогает. Как то анон запилил годный скрипт на js, но после тестирования он тоже провалился либо они пропалили и все исправили. Поэтому если аноны которые посчитают меня далбаебом и ебанутым фанатиком - прошу Вас не беспокоить, это мои личные проблемы, а те кому из спортивного интереса есть дело до такого энтузиазма и нужны детали и подробности - прошу в тред, господа!
>>4736
Скриптов там нет почти. При беглом осмотре я заметил скрипт только на странице темы и то он там, вроде, ничего не отправляет
Скриптов там нет почти. При беглом осмотре я заметил скрипт только на странице темы и то он там, вроде, ничего не отправляет
>>4845
Двачую. Может стоит глянуть в сторону движка форума? vBulletin вроде, может слышал кто?
Двачую. Может стоит глянуть в сторону движка форума? vBulletin вроде, может слышал кто?
Никакой особой защиты там нет, чисто от дурака примочки. Вангую, что ОП даже маркет не распарсит без бана и капчи.
>>4743
Пиздец ты фантазер, ахахахаха. Тебе сколько лет?
Пиздец ты фантазер, ахахахаха. Тебе сколько лет?
>>4951
Ок, попробую скоро в свободное время.
Ок, попробую скоро в свободное время.
>>4875
Бля вот пруфани, что сможешь сделать парсер. Ты же видишь, что все пишут, как сложно получить доступ, по твоему все дауны что ли?
Бля вот пруфани, что сможешь сделать парсер. Ты же видишь, что все пишут, как сложно получить доступ, по твоему все дауны что ли?
Ну и как успехи? Снова все в стиле быдла: сами не умеем, а тех кто разбирается шлем нахуй?
>>5025
У меня сайт не открывается. Он умер? Хотел попробовать. Что именно спарсить там надо?
У меня сайт не открывается. Он умер? Хотел попробовать. Что именно спарсить там надо?
>>4147 (OP)
селениумом точно можно спарить любой сайт, прост в дефолтном режиме он палиться. Какой браузер для него юзал?
селениумом точно можно спарить любой сайт, прост в дефолтном режиме он палиться. Какой браузер для него юзал?
>>4147 (OP)
Не в те дебри ты полез, сынок, ой не в те.
Не в те дебри ты полез, сынок, ой не в те.
>>5099
chrome, firefox, opera
chrome, firefox, opera
>>5128
почему?
почему?
парсить надо с российских айпи
>>5028
Я вам выше уже кидал скрин своего успеха, но меня на хуй послали.
Ну так как у вас успехи?
Увидел на фрилансе заказ по парсингу оного сайта и вспомнил про вас
Я вам выше уже кидал скрин своего успеха, но меня на хуй послали.
Ну так как у вас успехи?
Увидел на фрилансе заказ по парсингу оного сайта и вспомнил про вас
>>5667
ну так скинь
ну так скинь
нихуя тред какой древний то, я ебал. забрёл сюда случайно, если чё я оп, вышеописанную проблему послал нахуй, отчаялся искать решение