Update app.py

app.py

@@ -1,7 +1,50 @@
 import gradio as gr
+from transformers import AutoTokenizer, AutoModelForSequenceClassification, pipeline
 
-def greet(name):
-    return "Hello " + name + "!!"
+model_name = "SJ-Donald/kcbert-large-unsmile"
+tokenizer = AutoTokenizer.from_pretrained(model_name)
+model = AutoModelForSequenceClassification.from_pretrained(model_name)
 
-demo = gr.Interface(fn=greet, inputs="text", outputs="text")
+classifier = pipeline("text-classification", model=model, tokenizer=tokenizer)
+
+# # 추론 파이프라인 설정
+# inference_pipeline = pipeline(
+#     "text-classification",
+#     model=model,
+#     tokenizer=tokenizer,
+#     return_all_scores=True,
+# )
+
+
+
+
+def classify_text(text):
+    """
+    주어진 텍스트가 부적절한지 여부를 판별합니다.
+    
+    Args:
+    - text (str): 판별할 텍스트
+    
+    Returns:
+    - result (str): '부적절한 내용이 포함되어 있습니다.' or '적절한 내용입니다.'
+    """
+    results = classifier(text)
+    print(f"Debugging results: {results}")  # 결과 확인용 출력    
+    
+    for result in results:
+        # 모델에 따라 라벨이 다를 수 있습니다.
+        if result['label'] == '악플/욕설' and result['score'] > 0.5:
+            return "욕설입니다."
+        elif result['label'] == '여성/가족' and result['score'] > 0.5:
+            return "여성혐오입니다"
+                
+    
+    return "적절한 내용입니다."
+
+# def greet(name):
+#     return "Hello 곽선생 " + name + "!!"
+
+# results = inference_pipeline(example_sentence)
+
+demo = gr.Interface(fn=classify_text, inputs="textbox", title="부적절 문장 검출기", theme="soft", description="기준: IMMORAL_NONE(문제없음), CRIME(범죄), SEXUAL(선정), HATE(혐오), DISCRIMINATION(차별), CENSURE(비난), ABUSE(욕설), VIOLENCE(폭력)", outputs="textbox")
 demo.launch()