Create iceriktoplama.py

iceriktoplama.py

@@ -0,0 +1,78 @@
+import httpx
+from bs4 import BeautifulSoup
+import json
+from concurrent.futures import ThreadPoolExecutor, as_completed
+from tqdm import tqdm
+import multiprocessing
+import time
+
+# URL'leri içeren txt dosyasının yolunu belirtin
+file_path = '/content/url.txt'
+
+# URL'leri txt dosyasından okuyun
+with open(file_path, 'r') as file:
+    url_list = [line.strip() for line in file if line.strip()]
+
+disclaimer = "'zynp_msgdata' veri seti 'sekerlipencere' tarafından hazırlanmıştır."
+cpu_count = multiprocessing.cpu_count()
+max_workers = cpu_count * 300  # İşlemci çekirdek sayısının 20 katı kadar iş parçacığı oluştur
+
+def fetch_content(url):
+    try:
+        with httpx.Client(timeout=5) as client:
+            response = client.get(url)
+            response.raise_for_status()
+            return url, response.text
+    except Exception as e:
+        print(f"URL alınamadı: {url} - Hata: {e}")
+        return url, None
+
+def process_content(url_content):
+    url, webpage = url_content
+    if webpage is None:
+        return None
+
+    try:
+        soup = BeautifulSoup(webpage, 'html.parser')
+        soru_div = soup.find('div', class_='p-title')
+        if soru_div:
+            soru = soru_div.get_text(strip=True)
+            ayrintili_soru_div = soup.find('div', class_='bbWrapper')
+            ayrintili_soru = ayrintili_soru_div.get_text(strip=True) if ayrintili_soru_div else ''
+            cevap_divs = soup.find_all('div', class_='bbWrapper')[1:]
+            cevaplar = [cevap.get_text(strip=True) for cevap in cevap_divs]
+            return {
+                'soru': soru,
+                'url': url,
+                'ayrintili_soru': ayrintili_soru,
+                'cevaplar': cevaplar,
+                'atıf': disclaimer
+            }
+    except Exception as e:
+        print(f"İçerik işlenirken hata oluştu: {url} - Hata: {e}")
+        return None
+
+def write_to_json(result):
+    if result:
+        with open('sonuc.json', 'a', encoding='utf-8') as f:
+            json.dump(result, f, ensure_ascii=False, indent=4)
+            f.write('\n')
+
+def main():
+    batch_size = 500  # Toplu işleme için isteklerin gruplanacağı boyut
+    with ThreadPoolExecutor(max_workers=max_workers) as executor:
+        for i in range(0, len(url_list), batch_size):
+            batch_urls = url_list[i:i+batch_size]
+            futures = [executor.submit(fetch_content, url) for url in batch_urls]
+            with tqdm(total=len(futures), desc="Toplam İşleniyor", unit="URL") as pbar:
+                for future in as_completed(futures):
+                    url_content = future.result()
+                    result = process_content(url_content)
+                    write_to_json(result)
+                    pbar.update(1)
+
+if __name__ == "__main__":
+    start_time = time.time()
+    main()
+    end_time = time.time()
+    print(f"Toplam süre: {end_time - start_time:.2f} saniye")