Pertek'te web scraping (veri toplama) yaptırmak

01Web scraping (veri toplama) nedir, kimler için uygun?

Her işletmenin ihtiyacı farklıdır; yine de çoğu web scraping (veri toplama) projesinde şu başlıklar konuşulur:

• temizleme
• robots/kullanım koşulu kontrolü
• zamanlama

Bu projeler çoğu zaman yapılandırılmış veri çıkarma, RPA (süreç robotları) ve akıllı sınıflandırma gibi işlerle birlikte ele alınır.

02Hangi durumlarda web scraping (veri toplama) yaptırılır?

Zamanlama gerektiğinde

Zamanlama, web scraping (veri toplama) projesinde kapsamın başında konuşulan başlıklardandır; analizde kimin kullanacağı ve nasıl çalışacağı netleştirilir.

Ekip zamanını tekrarlayan işler aldığında

Web scraping (veri toplama) ile kopyala-yapıştır, veri girişi ve dosya işleme gibi adımlar otomatikleşir; ekip istisnalara odaklanır.

Belgelerden veri elle aktarıldığında

Fatura, form ve belgelerdeki alanlar okunur; kullanıcı doğrulama ekranında onaylayıp aktarır.

03Web scraping (veri toplama) planlarken bilinmesi gerekenler

• Şirket verisi dış servislere gönderilecekse KVKK m.9 aktarım şartları ve sözleşmeler değerlendirilir; gerekirse yerel/şirket içi model kurulur.
• Maliyet, kullanım (token/istek) bazlı olabilir; izleme ve sınır konur.
• RAG sistemlerinde belge kalitesi ve güncelliği cevap kalitesini belirler.

04Sık karşılaşılan durumlar

05Pertek'te web scraping (veri toplama): çalışma düzeni

PTT kayıtlarında Pertek ilçesine bağlı 116 yerleşim bulunur: 5 mahalle ile 111 köy ve köy yerleşimi.

Mesafe yazılım işinin önünde engel değildir: Pertek'teki ekiplerle görüntülü görüşme, ekran paylaşımı ve test ortamı bağlantısıyla çalışılır; cihaz kurulumu veya saha keşfi gerekirse yerinde ziyaret planlanır.

Aynı ildeki Çemişgezek, Pülümür ve Hozat ilçeleri için de web scraping (veri toplama) talepleri değerlendirilir; toplantılar uzaktan yapılır.

06İlk görüşmeden yayına

1. İlk görüşme: Kısa bir görüşmede ne yapmak istediğinizi, bugün nasıl çalıştığınızı ve öncelikli sorunu konuşuruz.
2. Analiz: Ekranlar, raporlar ve entegrasyonlar için gerçek örnekler üzerinden ihtiyaç listesi çıkarılır.
3. Kapsam ve yazılı teklif: Modüller, aşamalar ve teslim kriterleri yazılı bir kapsamla belirlenir; teklif bu kapsama göre verilir.
4. Tasarım ve prototip: Tıklanabilir bir prototiple kullanıcı yolculuğu baştan sona denenir.
5. Geliştirme ve test: Geliştirme aşamalı ilerler; her aşama test ortamında denenip onaylanır.
6. Yayın, veri aktarımı ve eğitim: Mevcut veriler aktarılır, sistem yayına alınır ve kullanıcılara eğitim verilir.
7. Bakım ve destek: Yeni ihtiyaçlar sürüm planına alınır; sistem kullanıldıkça geliştirilir.

07Örnek kapsam hesabı

08Ekip ve çalışma biçimimiz

Tasarım, geliştirme, test ve yayın adımları aynı ekip içinde yürür. Kod Git ile sürümlenir, kritik akışlar Playwright testleriyle korunur, yayın Docker konteynerleriyle tekrarlanabilir biçimde yapılır.

• Ölçülebilir hedefler konur: arama ve WhatsApp tıklaması, form talebi, işlem süresi.
• KVKK baştan tasarlanır.
• Kapsam ve teslim kriterleri yazılı olur.

Türkiye'nin 81 ilindeki işletmelerle uzaktan çalışıyoruz; Tunceli de bunlardan biri.

09Hangi durumlarda profesyonel destek gerekir?

Web scraping (veri toplama) işlerinde bazı durumlar plansız ilerlerse sonradan pahalıya mal olur:

• Belgeler elle yazılıyor: OCR yok.
• Chatbot yanlış bilgi veriyor: kaynak belge yok/eski.
• Kişisel veya finansal verinin işlendiği akışlar
• Birden fazla sistemle entegrasyon gerektiren işler

SSSSık sorulan sorular

→İlgili sayfalar

Bu sayfada geçen kavramlar

• zamanlama
• temizleme
• robots/kullanım koşulu kontrolü
• OCR
• KVKK
• chatbot
• embedding
• vektör veritabanı
• insan onayı
• Tunceli
• Pertek