
Configuração da primeira verificação e contrato da fonte
O build público 1.0.15 do Google Search Scraper oferece suporte a Google, Bing, Brave e DuckDuckGo, mas somente o Bing tem aceitação positiva para este método aqui. A entrada pública atual da Task usa `queries ["AI agents", "small business automation"]`, `engines ["bing"]`, `maxResultsPerExecutedQuery 20`, `country "US"`, `language "en"`, `safeSearch true` e `includeSponsoredResults false`. Para este piloto, substitua as listas inteiras de queries e engines por uma consulta pretendida e `engines ["bing"]`, defina `maxResultsPerExecutedQuery 2`, o país pretendido, o idioma e os mesmos booleanos, observando que não existe ajuste de expansão nem entrada pública de limite de páginas.
Campos nativos do resultado e resumo da saída
Cada linha de resultado do conjunto de dados contém estes campos exatos: `runId`, `country`, `language`, `safeSearch`, `engine`, `executedQuery`, `page`, `rankOnPage`, `rank`, `title`, `canonicalUrl`, `resultDomain`, `snippet`, `isSponsored`, `advertiserDomain`, `observedAt` e `schemaVersion`. Uma linha representa uma observação em um mecanismo, uma consulta, uma página e uma posição. O campo `canonicalUrl` fornece um endereço candidato normalizado, não uma tag canônica HTML verificada nem o link original. Snippets são texto da busca, não o conteúdo obtido da página.
O resumo da execução de saída informa: `queriesRequested`, `searchesCompiled`, `executionsPlanned`, `enginesSuccessful`, `enginesFailed`, `pagesAttempted`, `pagesParsed`, `resultsSaved`, `engineStatusCounts`, `engineResultCounts`, `queryResultCounts` e `stopReason`.
Referência da execução de controle no Bing
Uma execução de controle exata para `Python asyncio documentation` retornou:
- `queriesRequested`: 1
- `searchesCompiled`: 1
- `executionsPlanned`: 1
- `enginesSuccessful`: 1
- `enginesFailed`: 0
- `pagesAttempted`: 1
- `pagesParsed`: 1
- `resultsSaved`: 2
- `engineStatusCounts`: `{"bing": {"ok": 1}}`
- `engineResultCounts`: `{"bing": 2}`
- `queryResultCounts`: `{"Python asyncio documentation": 2}`
- `stopReason`: `result_caps_reached`
- Resultados retornados: dois URLs diretos de `docs.python.org` nas posições 1 e 2.
Isso prova somente uma amostra delimitada de metadados do Bing. Não testa todos os mercados, operadores de busca, posições repetidas nem a obtenção do destino. As fontes primárias incluem o Google Search Scraper Actor e a Bing Search Results Task.
- Defina as páginas de que você precisa e a sua regra de inclusão antes de buscar. O Bing é uma fonte de descoberta com suporte aqui. Use um tema neutro e um limite finito de linhas, em vez de prometer centenas de sites válidos. A descoberta por busca fornece candidatos, não uma promessa de que cada página pode ser coletada.
- Use consultas com uma frase pretendida, engines definido como bing e um limite pequeno de contagem de linhas. Inspecione a consulta executada, o mecanismo, os carimbos de tempo e a saída. A redação da consulta muda a sua amostra de origem. Use palavras simples, a menos que você mesmo teste o significado no mecanismo de busca.
- Preserve as linhas de resultado retornadas antes de selecionar os alvos. Mantenha o título, o endereço candidato, o host de origem, a posição, a consulta, o horário e a parada da fonte. Rejeite, conforme a sua regra, um endereço quebrado ou que não seja da web. Mantenha um redirecionamento opaco ou um destino pouco claro como não resolvido. Um nome de campo normalizador, como endereço canônico, não prova a identidade real da página original. Mantenha a string retornada sem alteração como evidência de origem.
- Confira cada host e caminho candidato em relação ao propósito da sua coleta. Títulos e snippets de busca podem estar antigos ou errados. Inspecione o destino público pelo processo de coleta do leitor quando for necessário. Registre a URL final, o tipo de conteúdo e a evidência da página. Não deduza o conteúdo do produto apenas pelo título. Páginas de login e páginas privadas continuam indisponíveis.
- Atribua a cada alvo o estado aceito, rejeitado ou precisa de revisão, com um motivo claro. Aceito significa que o alvo atende à sua verificação naquele momento. Isso não garante sucesso do rastreamento, direitos completos nem dados de produto precisos. Mantenha verificações de destino com falha e lacunas da fonte fora da sua fila aceita.
- Una somente endereços de alvo duplicados já revisados sob uma regra segura, mantendo todas as referências de resultado. Mantenha os registros de observação e de alvo separados. Não apague caminhos distintos nem parâmetros de consulta que identificam páginas diferentes. O mesmo host não significa a mesma página. O mesmo título não significa o mesmo alvo.
- Monte a sua fila pequena com o endereço do alvo, as referências de origem, a evidência de aceitação, a extração desejada e o estado. Passe os alvos aceitos a um rastreador separado e delimitado, feito para essas páginas. O Actor de busca não executa esse rastreamento nem fornece o texto principal.
- Reconcilie as observações coletadas, os candidatos revisados distintos, os alvos aceitos, rejeitados e não resolvidos, e o estado do limite. Zero alvos aceitos pode ser uma lacuna normal, não uma lista para preencher com páginas deduzidas. Termine conferindo um alvo antes de ampliar o seu orçamento de descoberta.
Exemplo resolvido de ficção original
Todos os domínios, palavras e contagens nesta seção são ficção original. Sete observações retornadas apontam para seis endereços candidatos distintos sob uma regra exata de alvo. Duas observações compartilham o endereço `https://garden.example/products`. As outras cinco observações apontam para uma página de produto, um guia de blog, um redirecionamento opaco, uma página de login e um endereço inválido.
1. Sete observações de resultado
| ID da observação | Consulta | Posição | Observado em | URL retornada | Referência da fonte |
|---|---|---|---|---|---|
| obs-1 | garden tools | 1 | 2026-10-13T06:20:14Z | https://garden.example/products | Mecanismo Bing, página 1 |
| obs-2 | indoor plants | 2 | 2026-10-13T06:20:15Z | https://garden.example/products | Mecanismo Bing, página 1 |
| obs-3 | garden tools | 3 | 2026-10-13T06:20:16Z | https://garden.example/items/shears | Mecanismo Bing, página 1 |
| obs-4 | indoor plants | 4 | 2026-10-13T06:20:17Z | https://blog.example/guide | Mecanismo Bing, página 1 |
| obs-5 | garden tools | 5 | 2026-10-13T06:20:18Z | https://redirect.example/out | Mecanismo Bing, página 1 |
| obs-6 | indoor plants | 6 | 2026-10-13T06:20:19Z | https://account.example/login | Mecanismo Bing, página 1 |
| obs-7 | garden tools | 7 | 2026-10-13T06:20:20Z | ftp://invalid.example/file | Mecanismo Bing, página 1 |
2. Seis candidatos a alvo distintos e seus estados
| URL do alvo candidato | Resultado da verificação do destino | Estado de relevância | Motivo / evidência |
|---|---|---|---|
| `https://garden.example/products` | HTTP 200 válido | accepted_target | O índice compartilhado de produtos corresponde ao escopo da coleta. |
| `https://garden.example/items/shears` | HTTP 200 válido | accepted_target | A página de produto específico corresponde ao escopo da coleta. |
| `https://blog.example/guide` | HTTP 200 válido | rejected_target | O guia de blog é irrelevante para a coleta de produtos. |
| `https://redirect.example/out` | Indisponível / opaco | needs_review | O redirecionamento opaco não pode ser verificado diretamente. |
| `https://account.example/login` | Login exigido | needs_review | O destino exige autenticação; indisponível. |
| `ftp://invalid.example/file` | Esquema diferente de HTTP | rejected_target | Endereço malformado ou não HTTP viola a regra de coleta. |
3. Dois alvos aceitos na fila
| Endereço do alvo | Referências de origem | Evidência da verificação | Próxima extração desejada | Estado do alvo |
|---|---|---|---|---|
| `https://garden.example/products` | obs-1, obs-2 | Status HTTP 200 verificado, atende aos critérios de índice de produtos | Extrair a lista de itens da categoria | accepted |
| `https://garden.example/items/shears` | obs-3 | Status HTTP 200 verificado, atende aos critérios de produto único | Extrair detalhes e preço do produto | accepted |
A reconciliação mostra seis candidatos que resultam em dois alvos aceitos, dois alvos rejeitados e dois alvos não resolvidos. As duas observações do índice de produtos permanecem ligadas a um alvo da fila, com as referências de consulta, posição e horário das duas. Não chame sete observações de sete sites de rastreamento nem descarte a referência duplicada. Se o índice de produtos falhar quando o rastreador separado for executado depois, registre essa falha; uma aceitação anterior não garante a extração.
Fontes e leituras adicionais
Por Chronometrica · Atualizado
Voltar ao topo ↑

