Saltar para o conteúdo

Blog

Perspetivas e Engenharia

Análises aprofundadas sobre a infraestrutura de dados da Web, técnicas de extração e o futuro dos dados estruturados em grande escala.

Artigos mais recentes

181 artigos

Web Scraping com JavaScript e Node.Js
Guias

Web Scraping com JavaScript e Node.Js

Os programadores estão a usar web scrapers para todos os tipos de obtenção de dados. Vamos mostrar-lhe como construir o seu próprio Web Scraping com JavaScript.

Robert Sfichi15 min read
Ler artigo
Web Scraping com Node-Unblocker: Um guia prático
A ciência da extração de dados da Web

Web Scraping com Node-Unblocker: Um guia prático

TL;DR: O Node-unblocker transforma um aplicativo Express em um proxy HTTP com prefixo de URL que você pode hackear. Este guia de desbloqueio de nó de raspagem da web percorre a instalação, conectando middlewares de solicitação e resposta, instâncias rotativas, implantando no Docker ou Heroku e reconhecendo o ponto em que uma API de raspagem gerenciada é a resposta mais limpa.

Sorin-Gabriel Marica12 min read
Ler artigo
Web Scraping em Ruby: O Tutorial Definitivo
Guias

Web Scraping em Ruby: O Tutorial Definitivo

O que se obtém quando se junta Ruby, um conjunto de gems úteis e algumas horas? A resposta: um scraper web bastante bom. Aqui está um guia passo a passo:

Raluca Penciuc9 min read
Ler artigo
Web Scraping com PHP: Um Guia Prático de Bibliotecas, Código e Melhores Práticas
Guias

Web Scraping com PHP: Um Guia Prático de Bibliotecas, Código e Melhores Práticas

TL;DR: O PHP é uma linguagem perfeitamente capaz de fazer scraping da web, graças às extensões embutidas como cURL e DOMDocument, além de um rico ecossistema Composer que inclui Guzzle, Symfony DomCrawler e Symfony Panther para navegação sem cabeça. Este guia o orienta por todo o fluxo de trabalho: buscar páginas, analisar HTML, armazenar resultados em CSV/JSON/MySQL, tratar erros e evitar bloqueios.

Sorin-Gabriel Marica19 min read
Ler artigo
O que são proxies rotativos? Guia de rotação de IP para Web Scraping
A ciência da extração de dados da Web

O que são proxies rotativos? Guia de rotação de IP para Web Scraping

TL;DR: Então, o que são proxies rotativos, em uma linha? Servidores proxy que atribuem um IP diferente a cada solicitação de um pool gerenciado, que é como os scrapers passam pelos limites de taxa por IP, CAPTCHAs e filtros geográficos. Este guia aborda como a rotação funciona, os quatro tipos de pool, o código de configuração em três idiomas e como escolher um provedor.

Raluca Penciuc12 min read
Ler artigo
Folha de dicas de XPath para Web Scraping: Sintaxe, eixos e código real
Guias

Folha de dicas de XPath para Web Scraping: Sintaxe, eixos e código real

TL;DR: Esta folha de dicas de XPath cobre a sintaxe, predicados, eixos e funções que você realmente precisa para raspagem da web, além de uma tabela de tradução CSS-para-XPath e exemplos executáveis de Puppeteer e Scrapy. Use-a como referência na próxima vez que um seletor CSS quebrar silenciosamente em um site do qual você depende.

Mihai Maxim15 min read
Ler artigo

Comece a construir

Pronto para expandir a sua recolha de dados?

Junte-se a mais de 2.000 empresas que utilizam a WebScrapingAPI para extrair dados da Web à escala empresarial, sem quaisquer custos de infraestrutura.