A-Parser 1.1 - продвинутый парсер ПС, кейвордов, контента, показателей, 70+ парсеров

1.2.455 - поддержка puppeteer, все методы в Net::HTTP, обновление Bypass Cloudflare

Начиная с версии 1.2.455 мы начинаем официальную поддержку Node.JS модуля puppeteer - средства автоматизации работы с браузером Chrome(Chromium), благодаря чему возможен полноценный рендеринг DOM с поддержкой JS. В качестве примера мы выкладываем парсер, который делает скриншоты сайтов в формате PNG, доступен выбор размера скриншота. Chromium может быть запущен как на Windows, так и на Linux серверах без GUI.

• Пример парсера и более детальное описание
• Документация по puppeteer

Улучшения

• SE::Bing::Images полностью переписан, добавлен сбор дополнительных данных, а также в настройках добавлен выбор региона и языка интерфейса
• В Net::HTTP добавлены все методы в настройки, а также реализована возможность переопределения через заголовок Method
• Добавлена возможность форматирования всех цифр в интерфейсе
• JS парсеры: в this.parser.request для override добавлена опция needData, которая определяет передавать или нет в ответе data/pages[], может использоваться для оптимизации
• JS парсеры: добавлена поддержка модулей url и ws

Исправления в связи с изменениями в выдаче

• Net::Whois - не всегда корректно обрабатывалась доменная зона com.br
• SE::Yandex, SE::Ask, SE:: DuckDuckGo, SE:: DuckDuckGo::Images, Rank::MajesticSEO

Исправления

• Исправлена работа функции Bypass Cloudflare в Net::HTTP
• Исправлена ошибка, из-за которой при определенных настройках не писался Начальный текст
• Исправлена работа некоторых socks4 прокси
• Исправлена ошибка в $tools.base64.encode() при работе с кириллическими символами
• В Shop::Amazon исправлена ошибка, при которой игнорировался домен
• JS парсеры: исправлена редкая ошибка в работе сокетов в Node.js

 

Сборник рецептов #31: скидка -50% на XEvil, скриншоты страниц, подсказки Я.Маркета и правописание
31-й сборник рецептов. В нем будет показан способ создания скриншотов веб-страниц, парсинг подсказок Яндекс Маркета, а также проверка правописания в Google. Кроме этого, только до конца апреля доступна возможность купить XEvil со скидкой. Далее обо всем по порядку.

Скидка -50% на покупку XEvil для существующих и новых пользователей A-Parser
Для всех существующих и новых пользователей A-Parser действует скидка на покупку XEvil -50%!
XEvil - это простая, быстрая и удобная программа для полностью автоматического распознавания и обхода подавляющего числа капч и рекапч, без необходимости подключения каких-либо сторонних сервисов. Использование XEvil в связке с A-Parser позволяет значительно удешевить парсинг ресурсов, где необходимо разгадывать капчи/рекапчи, при этом практически не теряя в скорости.
Акция действует до конца апреля. Количество промокодов ограничено, поэтому не упустите возможность воспользоваться скидкой!
Для получения промокода на покупку XEvil пишите в тикеты.


JS::Chrome::ScreenshotsMaker
Возможность загружать страницы с полной обработкой всех скриптов, аналогично браузеру - это один из самых популярных фичреквестов для A-Parser. Поэтому буквально недавно была добавлена поддержка Node.js модуля puppeteer, с помощью которого теперь можно получать полностью отрендеренные страницы. И мы публикуем первый пример по работе с ним - парсер для создания скриншотов веб-страниц. Больше информации, пример работы и готовый парсер - все это доступно по ссылке выше.


Парсер подсказок Яндекс.Маркет
Еще один парсер подсказок, на этот раз из Яндекс Маркета. Собираются подсказки, их популярность (частота), тип, а также, опционально, категория (включая полный путь родительских категорий). Готовый парсер, как обычно, доступен в нашем Каталоге по ссылке выше.


Проверка правописания в Google
Данный парсер позволяет проверить ключевые слова через поиск Google на предмет опечаток и получить исправленные варианты. Готовый пресет доступен по ссылке выше.


Еще больше различных рецептов в нашем Каталоге!
Предлагайте ваши идеи для новых парсеров здесь, лучшие будут реализованы и опубликованы.

Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

 

Видео урок: Работа с MySQL
Видеоурок по работе с MySQL в A-Parser. В нем на реальном примере показано как работать с базами данных MySQL, используя Node.js модуль mysql2.



В этом уроке рассмотрены:

• Установка и подключение модулей
• Некоторые основы языка запросов SQL
• Создание базы данных MySQL
• Получение и запись данных в БД, используя JS-парсеры

Полезные ссылки:

• https://www.mysql.com/products/workbench/
• https://www.npmjs.com/package/mysql
• https://a-parser.com/resources/308/

Оставляйте комментарии и подписывайтесь на наш канал на YouTube!

 

Сборник рецептов #32: Yahoo Answers, контакты фрилансеров и оценка ключевых слов

32-й сборник рецептов, в котором подобраны 3 JS парсера для парсинга Yahoo Answers, оценки ключевых слов и сбора контактных данных фрилансеров.

Парсер Yahoo Answers
Полноценный парсер сервиса Yahoo Answers, который по ключевым словам позволяет собирать непосредственно вопросы, ответы, а также их категории, дату создания и ссылки на страницы обсуждений.


Парсинг контактов фрилансеров
Парсер, который ищет по ключевым словам фрилансеров и собирает их контакты. Данные собираются с сервиса fl.ru.


Анализ ключевых слов
Парсер для сервиса seranking.com. Кейворды оцениваются по 4-м показателям: частотность, стоимость клика (CPC), стоимость трафика и KEI. Также есть возможность собирать похожие, релевантные и подсказки к начальному запросу вместе с их показателями.


Еще больше различных рецептов в нашем Каталоге!
Предлагайте ваши идеи для новых парсеров здесь, лучшие будут реализованы и опубликованы.

Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

 

1.2.484 - 4 новых парсера, улучшение работы и исправление существующих

Улучшения

• Новые парсеры:
  • Maps::Google - по ключевым словам собирает различные данные об организациях в заданных координатах
  • Maps::Yandex - по ключевым словам собирает различные данные об организациях в заданных координатах
  • Rank::Bukvarix:: Domain - сбор ключевых слов по домену
  • Rank::Bukvarix::Keyword - сбор ключевых слов по домену
• Удалены 4 неактуальных парсера: Rank::SEMrush::Keyword, SE::QIP, SE::QIP:osition, Rank::MegaIndex
• Улучшена работа SE::AOL
• JS парсеры: для this.request добавлена опция data_as_buffer, которая определяет возвращать data как строку(String) или объект Buffer

Исправления в связи с изменениями в выдаче

• В SE::Google::Modern исправлена работа с рекаптчами, исправлен парсинг сниппетов, а также исправлен парсинг мобильной выдачи
• Rank::SEMrush полностью переписан, также полностью изменился список собираемых данных, парсер возвращает только те данные, которые доступны без авторизации
• Полностью переписан Rank::Alexa
• Исправлена работа Rank::MajesticSEO, теперь обязательно требуется установка Node.js и модуля brotli
• В Rank::Social::Signal удалена переменная $facebook_share в связи с прекращением поддержки со стороны FB
• SE::IxQuick, Shop::AliExpress, SE:: DuckDuckGo::Images , Shop::Amazon, Check::RosKomNadzor

Исправления

• Исправлена работа с запросами, содержащими пробел в SE:: DuckDuckGo
• Исправлена проблема с декомпресией данных на некоторых сайтах
• JS парсеры: исправлена работа setImmediate

 

Видео урок: Получение уведомлений в Telegram об окончании срока регистрации доменов
В этом видеоуроке будет показано, как настроить периодическую проверку окончания срока регистрации доменов, и получать уведомления в телеграм, если он меньше заданного количества дней.

В уроке рассмотрено:

• использование tools.js для написания собственных функций
• работа с шаблонизатором Template Toolkit
• проверка доменов через WHOIS
• цепочки заданий
• отправка сообщений в Telegram с помощью бота

Полезные ссылки:

• https://a-parser.com/threads/4316/ - статья о создании бота и группы для получения уведомлений в Telegram
• https://a-parser.com/resources/304/ - видеоурок по созданию Телеграм канала на базе A-Parser
• https://a-parser.com/resources/287/ - готовые для импорта пресеты
• https://core.telegram.org/bots/api - документация по Telegram Bot API

Оставляйте комментарии и подписывайтесь на наш канал на YouTube!

 

1.2.503 - обновление JavaScript движка и множество улучшений

Улучшения

• Движок v8 обновлен до версии 7.5, помимо увеличения скорости есть множество улучшений в поддержке новых возможностей языка JavaScript
• В SE::Yandex в массив $ads добавлена переменная $visiblelink, в которой содержится видимая ссылка
• В Rank::Bukvarix:: Domain добавлена переменная $totalcount которая содержит количество результатов
• В SE::Yahoo добавлена опция Not found is error, указывающая, считать ли отсутствие результатов ошибкой

Исправления в связи с изменениями в выдаче

• Исправлен парсинг $title в Shop::Yandex::Market
• В SE::Google::Modern исправлен парсинг видео в мобильной выдаче
• В Maps::Yandex исправлен парсинг рейтингов
• Исправлена проверка получаемого контента в SE::Yahoo
• SE:: DuckDuckGo, Shop::Amazon, SE:: DuckDuckGo::Images

Исправления

• Исправлена редкая проблема с ошибками в JS парсерах на Windows
• В SE::Baidu исправлена работа функции Get full links для результатов без ссылок
• Исправлена проблема с Decode JSON error в парсерах WordStat
• Исправлен баг с перезагрузкой кода JS парсера при редактировании в сторонних приложениях, проблема возникла в одной из предыдущих версий

 

Сборник рецептов #33: парсинг Google карт, сбор вопросов из поиска, перевод текстов целиком
33-й сборник рецептов, в котором мы будем собирать данные из Google maps в указанной местности, спарсим блок вопросов и ответов в поиске Гугла и научимся использовать файлы целиком в качестве запросов. Поехали!

Сбор всех организаций в определенной местности
Начиная с версии 1.2.482 в A-Parser появились парсеры карт Google и Яндекс. Принцип работы обоих одинаков - в настройках указываются координаты точки и зум, парсер собирает результаты поиска по ключевым словам в этой точке и области вокруг нее, ограниченной зумом. Но если стоит задача собрать данные, например, со всего города, то для ее решения нужно указывать диапазон координат и "заставить" парсер пройтись по ним. Как это сделать, а также пример пресета - все это показано по ссылке выше.


Парсер собирающий вопросы и ответы из выдачи Google
Google по некоторым запросам показывает в поисковой выдаче блок вопросов и ответов People also ask (Похожие запросы). Наши пользователи периодически интересуются, как можно парсить этот блок, получая отдельно вопросы и ответы на них. Поэтому мы публикуем в нашем каталоге пример такого парсера, а забрать его можно по ссылке выше.


Использование файлов целиком в качестве запросов
Общеизвестно, что в А-Парсере каждая строка в исходном файле - это отдельный запрос. Но существуют задачи, когда необходимо использовать все содержимое файла как один запрос, игнорируя разбивку на строки. Благодаря JavaScript парсерам такая возможность есть и по ссылке выше опубликован пример парсера, который получает все содержимое файла, переводит его на заданный язык и сохраняет в новый файл.


Еще больше различных рецептов в нашем Каталоге!
Предлагайте ваши идеи для новых парсеров здесь, лучшие будут реализованы и опубликованы.
Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

 

Видео урок: Макросы подстановок
В этом видеоуроке мы изучим один из инструментов для работы с запросами - макросы подстановок. С их помощью можно значительно увеличивать количество запросов, листать страницы и многое другое.

В уроке рассмотрено:

• макрос {num} на примерах прохода по страницам и перебора координат в парсере Google maps
• макрос {az} на примере парсинга по доркам для увеличения кол-ва запросов и соответственно результатов
• макрос {each} на примере парсинга подсказок для генерации словосочетаний

Полезные ссылки:

• https://a-parser.com/wiki/query-format/#Макросы-подстановок - документация по макросам подстановок
• https://a-parser.com/resources/336/ - пресет по перебору координат в Maps::Google
• https://a-parser.com/resources/340/
• https://a-parser.com/resources/341/ - пресет для парсинга с inurl:
• https://a-parser.com/resources/342/ - пресет для парсинга подсказок

Оставляйте комментарии и подписывайтесь на наш канал на YouTube!

 

1.2.534 - 6 новых парсеров, поддержка Node.js в tools.js, множество исправлений в парсерах

Улучшения

• Добавлено 4 новых парсера Instagram
  • Social::Instagram:ost - парсинг данных о постах, в т.ч. комментарии и пользователей, которые лайкнули пост
  • Social::Instagram:rofile - парсинг данных о профилях и списка постов
  • Social::Instagram::Tag - парсинг постов по тегах
  • Social::Instagram::Geo - парсинг постов в определенной локации
• Добавлено 2 новых парсера SerpStat
  • Rank::SerpStat::Keyword - парсинг данных по ключевому слову
  • Rank::SerpStat:: Domain - парсинг данных по доменам/ссылкам
• Добавлена поддержка дробных чисел в макросе подстановок {num}
• Добавлена поддержка Node.js в tools.js, теперь можно использовать возможности Node.js (включая модули) в обычных пресетах во всех полях кроме Parse custom results, фильтров и Конструкторов результатов
• Шаблоны Template Toolkit в настройках парсеров теперь работают для всех запросов
• Стабилизирована работа SE::Google::Modern после изменений со стороны Google, благодаря чему несколько уменьшилось количество рекаптч
• Улучшена проверка ответа в Maps::Yandex, улучшен сбор картинок, а также добавлена возможность собирать ссылки на страницу организации
• API: для oneRequest/bulkRequest добавлен параметр needData, указывающий, передавать ли в ответе data/pages, используется для экономии памяти, по умолчанию отключен
• Обновлены apps.json и user-agents.txt, при установке обновления также рекомендуется обновить эти файлы

Исправления в связи с изменениями в выдаче

• Исправлена ситуация, при которой в SE::Google::Modern выдавался 597 код ответа
• В SE::Yandex исправлена ситуация, при которой в результатах появлялись "пустые" ссылки, а также исправлен парсинг сниппетов в мобильной выдаче
• Исправлена редко встречающаяся проблема с SE::Google::Translate, когда парсер получал в ответ 403 статус
• Исправлено определение языка запроса в SE::Google::Translate
• Исправлена работа SE::YouTube, а также исправлен сбор $title
• В Rank::Social::Signal удалена переменная $linkedin_share в связи с прекращением поддержки со стороны LinkedIn
• В Shop::Yandex::Market исправлен парсинг $features для некоторых видов запросов
• Исправлен урл запроса в SE:: DuckDuckGo

Исправления

• Исправлен баг в Rank::Bukvarix:: Domain, из-за которого в некоторых случая парсинг завершался с ошибкой
• В парсерах Maps::* исправлена работа с отрицательными координатами
• В Rank::SEMrush исправлена ошибка определения "удачности" запроса
• Исправлен баг в tools.js, возникший после обновления V8
• API: исправлена работа метода getAccountsCount
• JS парсеры: исправлен баг со слэшем в check_content

 

Сборник статей #8: ссылки с GET параметрами, скачивание Google документов, очистка очереди через API
8-й сборник статей. В нем мы научимся парсить ссылки с GET параметрами, искать в поиске Google и скачивать документы, а также узнаем как очищать очередь заданий через API. Поехали!

Сбор ссылок с GET параметрами
В техническую поддержку часто задают вопрос, как собирать ссылки с GET параметрами для поиска SQL уязвимостей. Поэтому, по ссылке выше мы расскажем как это сделать, используя стандартный парсер Google.


Поиск и скачивание Google документов
За последнее время уже несколько раз появлялись новости о том, что Google индексирует пользовательские документы, размещенные в их одноименном сервисе и открытые для доступа по ссылке. Соответственно все эти файлы становятся доступны в поиске. И пока Google разбирается с этим, по ссылке выше мы рассказываем как можно искать и скачивать такие документы.


Работаем с API, часть 3
Третья и заключительная часть из цикла статей по работе с A-Parser через API. В ней на примере очистки очереди задач будет рассмотрена работа со вспомогательными запросами, которые позволяют работать с очередью заданий. Все детали - по ссылке выше.

Если вы хотите, чтобы мы более подробно раскрыли какой-то функционал парсера, у вас есть идеи для новых статей или вы желаете поделиться собственным опытом использования A-Parser (за небольшие плюшки ) - отписывайтесь здесь.

Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

 

Сборник рецептов #34: оценка трафика, парсинг Ahrefs и информация об IP адресах

34-й сборник рецептов, в котором опубликован пресет для оценки количества трафика на сайтах, парсер Ahrefs через API и пресет для парсинга информации об IP адресах. Поехали!

Чек трафика сайта
Пресет для проверка трафика сайта через сервис siteworthtraffic.com. Собираются данные о количестве уникальных постетителей и просмотров, а также о доходе с рекламы. Оценка трафика на сайтах может быть полезна для фильтрации списка сайтов по критерию прибыльности и популярности. Пресет доступен по ссылке выше.


Парсер Ahrefs на основе Ahrefs API
Парсер для сбора данных из популярного сервиса Ahrefs через их официальное API. Собирается множество данных, которые позволяют оценивать домены по различным характеристикам. Для использования нужен API ключ, который приобретается отдельно.


Парсинг подсети и организации по IP
Небольшой пресет для сбора информации об IP адресе, а именно: подсеть, организация, страна и город. Данные собираются из сервиса whoer.net.


Еще больше различных рецептов в нашем Каталоге!
Предлагайте ваши идеи для новых парсеров здесь, лучшие будут реализованы и опубликованы.

Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

Все сборники рецептов

 

1.2.570 - новые парсеры API::Server::Redis и SE::Startpage, улучшения в существующих парсерах

Улучшения

• Добавлен новый парсер API::Server::Redis (только для лицензий Enterprise)
• В SE::Google::Modern добавлена возможность определять наличие расширенных сниппетов (rich snippets) в выдаче
• В связи с изменениями на сервисе-источнике парсер SE::IxQuick был удален, а вместо него добавлен SE::Startpage с почти аналогичным функционалом
• Улучшена логика работы функции Get full links в SE::Baidu SE::Baidu
• В SE::Google::Modern реализована возможность указывать дополнительные заголовки для запросов
• Улучшен парсинг меток сайтов в SE::Yandex, а также добавлена поддержка новых типов меток
• Улучшена логика работы функции Get full links в SE::Baidu
• Оптимизирован алгоритм обработки подзапросов

Исправления в связи с изменениями в выдаче

• Улучшена работа SE::YouTube, в связи с тестированием новой верстки
• В SE::Google::Translate переработан механизм повторных попыток, добавлена поддержка сессий
• Исправлен парсинг сниппетов в SE::Google::Images
• Поностью переработан GooglePlay::Apps- теперь он парсит только первую страницу результатов
• Исправлен парсинг мобильной выдачи в SE::Google::Modern
• Исправлена работа SE::Seznam при отсутствии результатов
• Исправлена работа Rank::Linkpad, парсер полностью переписан
• SE::Bing::Translator, SE:: DuckDuckGo::Images, SE::Bing::Images

Исправления

• Исправлена проблема, из-за которой в некоторых случаях при запросе через API возвращался пустой массив страниц
• Исправлено падение скорости в Net::Whois
• Исправлен баг в оптимизации парсеров
• Исправлено сохранение параметра Report period в SE::Yandex:: Direct::Frequency
• В HTML::LinkExtractor исправлен сбор ссылок, если в них есть перенос строки

 

Видео урок: Поиск страниц контактов
В этом видео уроке рассмотрен пример решения задачи по поиску страниц контактов у заданного списка сайтов. Также парсится тайтл и все это сохраняется в CSV файл.

В уроке рассмотрено:

• парсинг поиска Google для получения ссылки на страницу контактов
• парсинг главной страницы сайта для получения title
• использование инструмента $tools.CSVline для форматирования файла результата
• пример правильного импорта в Excel

Оставляйте комментарии и подписывайтесь на наш канал на YouTube!

 

1.2.595 - новый парсер Ahrefs, инструмент для создания CSV и много других улучшений

Улучшения

• Добавлен новый парсер Rank::Ahrefs
• Добавлен инструмент $tools.CSVline для простого создания CSV файлов
• В связи с тестированием Гуглом новой верстки в поисковике, добавлена ее поддержка в SE::Google::Modern
• В SE::Google::Modern в массив $serp добавлена переменная $amp, которая показывает, поддерживает ли страница AMP
• В SE::Yandex в $serp.$i.label добавлена поддержка Турбо страниц, а также добавлен сбор типов меток сайтов
• В Net::HTTP улучшена работа с редиректами, добавлена опция Follow common redirects
• Теперь в Util::ReCaptcha2 можно указать хост для используемого сервиса разгадывания, а также в Provider url можно указывать адреса через запятую (актуально для XEvil и CapMonster), парсер будет использовать каждый из них в случайном порядке
• Увеличено количество результатов в парсерах Rank::Bukvarix::*
• Добавлена опция ограничения числа логов, с целью оптимизации использования дискового пространства
• JS парсеры: улучшена пакетная обработка запросов

Исправления в связи с изменениями в выдаче

• В Maps::Yandex исправлена ситуация, при которой для части результатов не собирались данные
• Исправлен SE::Rambler

Исправления

• Исправлена проблема с рядом парсеров, из-за которой они не работали, появилась в одной из предыдущих версий
• Исправлена ошибка в Rank::Alexa, из-за которой при отсутствующих значениях запрос завершался с ошибкой
• Исправлен баг в Rank::MajesticSEO, из-за которого в некоторых случаях запросы завершались с ошибкой
• Для парсеров Social::Instagram::Profile и Social::Instagram::Tag изменен перечень доступных переменных в связи с не совсем корректной работой в некоторых случаях

 

Видео урок: Парсинг Google Maps для сбора всех организаций в определенной местности

В этом видео уроке рассмотрен способ сбора данных об организациях в указанной местности из Google Maps, используя встроенный парсер Гугл карт. Также показано как определить необходимые координаты на карте и задать их в парсере.



В уроке рассмотрено:

• Парсинг карт Google с использованием Maps::Google
• Пример получения координат для использования в макросах подстановок
• Работа с макросами подстановок при наличии отрицательных чисел
• Импорт результата в Excel

Полезные ссылки:

• Готовый пресет в Каталоге
• Описание парсера Maps::Google
• Документация по макросам подстановок

Оставляйте комментарии и подписывайтесь на наш канал на YouTube!

 

Сборник статей #9: анализ страниц сайта, парсинг всех страниц сайта из индекса и проверка запросов

9-й сборник статей. В нем мы разберемся, как делать пресеты для анализа всех страниц сайта, научимся парсить все ссылки сайта из индекса ПС и будем проверять существование запросов. Поехали!

Создание пресета для анализа страниц сайта
Анализ страниц на сайте - это один из самых популярных кейсов использования А-Парсера. При этом можно собирать очень много различных параметров, начиная от проверки доступности и заканчивая поиском определенных слов на странице.
О том, как сделать простой анализатор сайта и пойдет речь в этой статье.


Парсинг разными способами максимум результатов из индекса поисковых систем
Парсинг из индекса поисковых систем всех страниц сайта - это еще один популярный кейс для A-Parser. ПС ограничивают кол-во результатов по одному запросу, поэтому нужно как-то обходить это ограничение. Как это сделать - описано в нашей статье.


Проверка существования запросов
Пресет из этого примера позволяет проверить базу ключевых слов и определить, был ли запрос одноразовым без постоянного спроса или нет. Тем самым появляется возможность отфильтровать семантику и оставить только "хорошие" запросы. Больше деталей, а также готовый пресет - по ссылке выше.



Если вы хотите, чтобы мы более подробно раскрыли какой-то функционал парсера, у вас есть идеи для новых статей или вы желаете поделиться собственным опытом использования A-Parser (за небольшие плюшки ) - отписывайтесь здесь.

Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

Предыдущие сборники статей

• Сборник статей #1: A-Parser для маркетологов, SEO-специалистов и реальный опыт работы
• Сборник статей #2: цикл статей-уроков по созданию JS парсеров
• Сборник статей #3: пагинация, переменные и БД SQLite
• Сборник статей #4: добавление товаров в OpenCart и парсинг JSON
• Сборник статей #5: собственный канал в Telegram и массовое добавление товаров в OpenCart
• Сборник статей #6: работа с API, сохранение в YML и мануал по подключению Node.js модулей
• Сборник статей #7: сохранение в xlsx, работа с API и обзор методов автоматизации
• Сборник статей #8: ссылки с GET параметрами, скачивание Google документов, очистка очереди через API

 

1.2.678 - оптимизация работы с прокси, улучшения во встроенных парсерах, исправления ошибок



Улучшения

• В SE::Google::ByImage добавлена поддержка рекаптч, а также улучшена работа в целом
• В SE::Yandex добавлена возможность одновременной работы авторазгадывания каптч и антигейта
• В Rank::Ahrefs добавлена возможность выбора типа домена
• Полностью переписан SE::Yandex::SQI, изменен набор собираемых данных
• Реализован бан прокси в SE:uckDuckGo::Images
• В Net::Whois добавлен парсинг даты освобождения домена
• Оптимизирована работа с прокси при использовании большого числа попыток
• Улучшена работа функции Bypass Cloudflare
• Добавлен tools.aparser.version(), позволяющий получить информацию о версии A-Parser

Исправления в связи с изменениями в выдаче

• В мобильной верстке SE::Google::Modern исправлен парсинг новостей, а также исправлен парсинг ссылок и анкоров в desktop выдаче
• В SE::Yandex исправлено определение каптчи, а также исправлен сбор ссылок на кеш
• Исправлен парсинг цен и количества комментариев в Shop::Amazon
• Исправлена работа SE:uckDuckGo::Images с запросами, содержащими более 1 слова
• GooglePlay::Apps, SE::Youtube , Rank::Ahrefs

Исправления

• Исправлена проблема с рандомизацией прокси на Windows 10
• Исправлено зависание при использовании Check::BackLink
• Исправлена проблема, при которой не применялся Content-Type в Net::HTTP
• Исправлена редкая проблема с выбором файла запросов
• Исправлена обработка редиректов при нестандартном порте
• Исправлен вывод многострочных данных в tools.CSVline
• JS парсеры: исправлена проблема с интерфейсом при отсутствии необходимых Node.js модулей
• JS парсеры: исправлена проблема с подключением модуля jimp

 

Видео урок: Парсинг сайта в глубину на основе парсера HTML::LinkExtractor

В этом видео уроке рассмотрен способ создания пресета для анализа сайта в глубину.



В уроке рассмотрено:

• Парсинг в глубину (уровень) сайта относительно страницы запроса при помощи функции "Парсить до уровня"
• Получение title (с очисткой от HTML сущностей)
• Получение таких параметров как:
  • кол-во предыдущих редиректов
  • код ответа сервера
  • кол-во внешних ссылок

Полезные ссылки:

• https://a-parser.com/resources/357/ - готовый пресет в Каталоге
• https://a-parser.com/resources/356/ - подробное описание по созданию настроек для парсинга в глубину сайта
• https://a-parser.com/wiki/advanced-options/#parse-all-results - документация по функции "Парсить до уровня"

Оставляйте комментарии и подписывайтесь на наш канал на YouTube!

 

Сборник рецептов #36: уникальность текста, парсер GitHub, посещаемость сайтов, результаты розыгрыша

36-й сборник рецептов, в котором опубликованы парсер для проверки текстов на уникальность, парсер GitHub и парсер для получения информации о посещаемости сайтов. А также список обновленных пресетов из нашего Каталога.

Но, в первую очередь хотим поделиться результатами розыгрыша, который был проведен в связи с Черной пятницей. Мы разыграли 5 лицензий на А-Парсер среди всех новых участников нашего telegram чата, которые присоединились к нему в период проведения акции. Результаты розыгрыша в видео:



А теперь перейдем непосредственно к сборнику.

Проверка текста на уникальность
Задача проверки текстов на уникальность является одной из самых частых для копирайтеров. Возможность осуществлять такую проверку предоставляют много ресурсов. И парсер для одного из таких сервисов опубликован по ссылке выше.


Парсер Github
Согласно Википедии, GitHub - это крупнейший веб-сервис для хостинга IT-проектов и их совместной разработки. Поэтому мы не могли обойти его стороной и публикуем парсер данных о репозиториях при поиске по ключевому слову на данном ресурсе.


Парсинг количества трафика на сайтах
Этот парсер позволяет получать информацию о просмотрах и посещениях страниц за день, месяц и год. В качестве источника данных используется один из известных сервисов.


Кроме этого были обновлены:

• Парсинг базы телефонов из olx.ua
• Парсинг Авито
• Парсинг телефонов и email фрилансеров fl.ru
• Проверка блокировки РосКомНадзора через GitHub
• JS::MailValidator

Еще больше различных рецептов в нашем Каталоге!
Предлагайте ваши идеи для новых парсеров здесь, лучшие будут реализованы и опубликованы.

Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

Все сборники рецептов