apps/summarization.py

import requests
import streamlit as st
import time 
from transformers import pipeline
import os

def write():
	st.set_page_config(page_title="Text Summarization", page_icon="📈")
	API_URL = "https://api-inference.huggingface.co/models/boun-tabi-LMG/turna_summarization_mlsum"
	HF_AUTH_TOKEN = os.getenv('HF_AUTH_TOKEN')
	headers = {"Authorization": f"Bearer {HF_AUTH_TOKEN}"}

	st.markdown("# Text Summarization")
	st.sidebar.header("Text Summarization")
	st.write(
		"""Here, you can summarize your text using the fine-tuned TURNA summarization models. """
	)

	input_text = st.text_area(label='Enter a text: ', height=200, 
			value="Kalp krizi geçirenlerin yaklaşık üçte birinin kısa bir süre önce grip atlattığı düşünülüyor. Peki grip virüsü ne yapıyor da kalp krizine yol açıyor? Karpuz şöyle açıkladı: Grip virüsü kanın yapışkanlığını veya pıhtılaşmasını artırıyor. Pıhtılaşma ise vücudun bağışıklık tepkisinden kaynaklanan iltihaplanmayla birlikte damarlardaki yağlı plakları zayıflatabilir. Plağın yırtılmasıyla da kan pıhtısı oluşarak kalp krizine neden olabiliyor.")
	if st.button("Generate"):
		with st.spinner('Generating...'):
			output = query(input_text)
			st.success(output)


def query(payload):
	data = {"inputs": payload, "parameters": {"length_penalty": 2.0, "no_repeat_ngram_size": 3}}
	while True:
		response = requests.post(API_URL, headers=headers, json=data)
		if 'error' not in response.json():
			output = response.json()[0]["generated_text"]
			return output
		else:
			time.sleep(15)
			print('Sending request again', flush=True)