File size: 13,764 Bytes
01f15df
 
f9b9d56
83ee74c
705c5b5
83ee74c
c22a5cd
 
c692788
 
 
 
 
 
 
 
f9b9d56
c22a5cd
01f15df
 
1fd4ab2
ad9db85
1fd4ab2
bee778b
ad9db85
 
c22a5cd
 
 
95ce689
c22a5cd
 
95ce689
 
 
72fb2d4
95ce689
 
 
c22a5cd
95ce689
c22a5cd
 
95ce689
d6d0bdd
95ce689
 
d6d0bdd
 
 
95ce689
 
c22a5cd
d6d0bdd
 
 
 
 
 
 
 
 
72fb2d4
7b27b5d
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
c22a5cd
 
 
 
bee778b
 
01f15df
bee778b
01f15df
f9b9d56
2af89cf
1fd4ab2
99d94e0
da20c1b
99d94e0
 
 
1fd4ab2
01f15df
da20c1b
01f15df
2af89cf
 
 
 
 
da20c1b
2af89cf
 
da20c1b
01f15df
da20c1b
 
 
01f15df
2af89cf
705c5b5
0997082
2af89cf
705c5b5
99d94e0
 
 
705c5b5
2af89cf
 
99d94e0
521288b
 
 
 
01f15df
 
 
 
 
 
521288b
 
 
 
01f15df
521288b
01f15df
521288b
 
 
01f15df
705c5b5
521288b
 
 
 
 
 
 
 
01f15df
705c5b5
01f15df
0997082
c692788
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
924be7d
 
c692788
 
 
 
 
 
 
 
 
4fec5a3
c692788
 
 
705c5b5
924be7d
 
 
705c5b5
95ce689
924be7d
 
 
 
252a7fb
95ce689
 
 
 
 
 
 
 
2ff143a
95ce689
 
 
 
 
 
 
2ff143a
 
 
 
 
 
 
252a7fb
924be7d
95ce689
 
 
d6d0bdd
 
 
95ce689
 
2ff143a
252a7fb
2ff143a
 
 
d6d0bdd
 
 
 
 
 
 
2ff143a
 
 
d6d0bdd
2ff143a
95ce689
d6d0bdd
95ce689
c22a5cd
2ff143a
 
95ce689
d6d0bdd
2ff143a
95ce689
 
 
63c5e29
 
b45e256
d6d0bdd
b45e256
4fec5a3
72fb2d4
d6d0bdd
 
72fb2d4
7ffca43
4fec5a3
7ffca43
4fec5a3
7ffca43
 
b45e256
4fec5a3
 
63c5e29
 
feafc1a
7ffca43
4fec5a3
99d94e0
d57197f
7ffca43
63c5e29
4fec5a3
 
 
 
 
63c5e29
01f15df
63c5e29
 
4fec5a3
 
 
 
 
63c5e29
 
 
f9b9d56
c22a5cd
 
 
 
 
01f15df
 
 
 
 
 
 
 
 
 
 
 
 
c22a5cd
 
 
 
 
01f15df
 
 
 
 
 
 
 
 
 
f9b9d56
95ce689
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
258
259
260
261
262
263
264
265
266
267
268
269
270
271
272
273
274
275
276
277
278
279
280
281
282
283
284
285
286
287
288
289
290
291
292
293
294
295
296
297
298
299
300
301
302
303
304
305
306
307
308
309
310
311
312
313
314
315
316
317
318
319
320
321
322
323
324
325
326
327
328
329
330
331
332
333
334
335
336
337
338
339
340
341
342
343
344
345
346
347
348
349
350
351
352
353
354
355
356
357
import os
from dotenv import load_dotenv
import gradio as gr
from huggingface_hub import InferenceClient
import pandas as pd
from typing import List, Tuple
import json
from datetime import datetime
from datasets import load_dataset

try:
    pharmkg_dataset = load_dataset("vinven7/PharmKG")
    print("PharmKG 데이터셋 로드 완료")
except Exception as e:
    print(f"PharmKG 데이터셋 로드 실패: {e}")
    pharmkg_dataset = None

# 환경 변수 설정
HF_TOKEN = os.getenv("HF_TOKEN")

# LLM Models Definition
LLM_MODELS = {
    "Cohere c4ai-crp-08-2024": "CohereForAI/c4ai-command-r-plus-08-2024",  # Default
    "Meta Llama3.3-70B": "meta-llama/Llama-3.3-70B-Instruct"    # Backup model
}

class ChatHistory:
    def __init__(self):
        self.history = []
        self.history_file = "/tmp/chat_history.json"
        self.load_history()

    def add_conversation(self, user_msg: str, assistant_msg: str):
        conversation = {
            "timestamp": datetime.now().isoformat(),
            "messages": [
                {"role": "user", "content": user_msg},
                {"role": "assistant", "content": assistant_msg}
            ]
        }
        self.history.append(conversation)
        self.save_history()

    def format_for_display(self):
        # Gradio Chatbot 컴포넌트에 맞는 형식으로 변환
        formatted = []
        for conv in self.history:
            formatted.append([
                conv["messages"][0]["content"],  # user message
                conv["messages"][1]["content"]   # assistant message
            ])
        return formatted

    def get_messages_for_api(self):
        # API 호출을 위한 메시지 형식
        messages = []
        for conv in self.history:
            messages.extend([
                {"role": "user", "content": conv["messages"][0]["content"]},
                {"role": "assistant", "content": conv["messages"][1]["content"]}
            ])
        return messages

    def clear_history(self):
        self.history = []
        self.save_history()

    def save_history(self):
        try:
            with open(self.history_file, 'w', encoding='utf-8') as f:
                json.dump(self.history, f, ensure_ascii=False, indent=2)
        except Exception as e:
            print(f"히스토리 저장 실패: {e}")

    def load_history(self):
        try:
            if os.path.exists(self.history_file):
                with open(self.history_file, 'r', encoding='utf-8') as f:
                    self.history = json.load(f)
        except Exception as e:
            print(f"히스토리 로드 실패: {e}")
            self.history = []


# 전역 ChatHistory 인스턴스 생성
chat_history = ChatHistory()

def get_client(model_name="Cohere c4ai-crp-08-2024"):
    try:
        return InferenceClient(LLM_MODELS[model_name], token=HF_TOKEN)
    except Exception:
        return InferenceClient(LLM_MODELS["Meta Llama3.3-70B"], token=HF_TOKEN)

def analyze_file_content(content, file_type):
    """Analyze file content and return structural summary"""
    if file_type in ['parquet', 'csv']:
        try:
            lines = content.split('\n')
            header = lines[0]
            columns = header.count('|') - 1
            rows = len(lines) - 3
            return f"📊 데이터셋 구조: {columns}개 컬럼, {rows}개 데이터"
        except:
            return "❌ 데이터셋 구조 분석 실패"
    
    lines = content.split('\n')
    total_lines = len(lines)
    non_empty_lines = len([line for line in lines if line.strip()])
    
    if any(keyword in content.lower() for keyword in ['def ', 'class ', 'import ', 'function']):
        functions = len([line for line in lines if 'def ' in line])
        classes = len([line for line in lines if 'class ' in line])
        imports = len([line for line in lines if 'import ' in line or 'from ' in line])
        return f"💻 코드 구조: {total_lines}줄 (함수: {functions}, 클래스: {classes}, 임포트: {imports})"
    
    paragraphs = content.count('\n\n') + 1
    words = len(content.split())
    return f"📝 문서 구조: {total_lines}줄, {paragraphs}단락, 약 {words}단어"

def read_uploaded_file(file):
    if file is None:
        return "", ""
    try:
        file_ext = os.path.splitext(file.name)[1].lower()
        
        if file_ext == '.parquet':
            df = pd.read_parquet(file.name, engine='pyarrow')
            content = df.head(10).to_markdown(index=False)
            return content, "parquet"
        elif file_ext == '.csv':
            encodings = ['utf-8', 'cp949', 'euc-kr', 'latin1']
            for encoding in encodings:
                try:
                    df = pd.read_csv(file.name, encoding=encoding)
                    content = f"📊 데이터 미리보기:\n{df.head(10).to_markdown(index=False)}\n\n"
                    content += f"\n📈 데이터 정보:\n"
                    content += f"- 전체 행 수: {len(df)}\n"
                    content += f"- 전체 열 수: {len(df.columns)}\n"
                    content += f"- 컬럼 목록: {', '.join(df.columns)}\n"
                    content += f"\n📋 컬럼 데이터 타입:\n"
                    for col, dtype in df.dtypes.items():
                        content += f"- {col}: {dtype}\n"
                    null_counts = df.isnull().sum()
                    if null_counts.any():
                        content += f"\n⚠️ 결측치:\n"
                        for col, null_count in null_counts[null_counts > 0].items():
                            content += f"- {col}: {null_count}개 누락\n"
                    return content, "csv"
                except UnicodeDecodeError:
                    continue
            raise UnicodeDecodeError(f"❌ 지원되는 인코딩으로 파일을 읽을 수 없습니다 ({', '.join(encodings)})")
        else:
            encodings = ['utf-8', 'cp949', 'euc-kr', 'latin1']
            for encoding in encodings:
                try:
                    with open(file.name, 'r', encoding=encoding) as f:
                        content = f.read()
                    return content, "text"
                except UnicodeDecodeError:
                    continue
            raise UnicodeDecodeError(f"❌ 지원되는 인코딩으로 파일을 읽을 수 없습니다 ({', '.join(encodings)})")
    except Exception as e:
        return f"❌ 파일 읽기 오류: {str(e)}", "error"



def get_pharmkg_context(query):
    """PharmKG 데이터셋에서 관련 정보 검색"""
    if pharmkg_dataset is None:
        return ""
    
    try:
        # 데이터셋에서 관련 정보 검색 로직 구현
        relevant_info = []
        
        # 약물 정보 검색
        for item in pharmkg_dataset['train']:
            if query.lower() in str(item).lower():
                relevant_info.append(str(item))
        
        if relevant_info:
            return "\n\nPharmKG 참고 정보:\n" + "\n".join(relevant_info[:3])
        return ""
    except Exception as e:
        print(f"PharmKG 검색 오류: {e}")
        return ""


# SYSTEM_PREFIX를 전역 변수로 이동
SYSTEM_PREFIX = """저는 약리학 전문 AI 어시스턴트 'GiniGEN Pharm'입니다. PharmKG 데이터베이스를 기반으로 
다음과 같은 전문성을 가지고 소통하겠습니다:
1. 💊 약물 관련 전문 지식 제공
2. 🔬 약물 상호작용 및 부작용 정보
3. 🧬 질병-약물 관계 설명
4. 📊 임상 데이터 기반 분석
5. ⚕️ 의약품 안전성 정보
다음 원칙으로 소통하겠습니다:
1. 🤝 전문적이고 신뢰할 수 있는 정보 제공
2. 💡 이해하기 쉬운 설명과 함께 과학적 근거 제시
3. 🎯 질문의 의도를 정확히 파악하여 맞춤형 답변
4. ⚠️ 의료적 조언이 아닌 정보 제공 목적임을 명시
5. ✨ 추가 참고자료 및 연구 데이터 제안
의학적 결정은 반드시 전문 의료진과 상담하시기 바랍니다."""

def chat(message, history, uploaded_file, system_message="", max_tokens=4000, temperature=0.7, top_p=0.9):
    if not message:
        return "", history

    try:
        # PharmKG 컨텍스트 추가
        pharmkg_context = get_pharmkg_context(message)
        system_message = SYSTEM_PREFIX + system_message + pharmkg_context

        # 파일 업로드 처리
        if uploaded_file:
            content, file_type = read_uploaded_file(uploaded_file)
            if file_type == "error":
                error_message = content
                chat_history.add_conversation(message, error_message)
                return "", history + [[message, error_message]]
            
            file_summary = analyze_file_content(content, file_type)
            
            if file_type in ['parquet', 'csv']:
                system_message += f"\n\n파일 내용:\n```markdown\n{content}\n```"
            else:
                system_message += f"\n\n파일 내용:\n```\n{content}\n```"
                
            if message == "파일 분석을 시작합니다...":
                message = f"""[파일 구조 분석] {file_summary}
다음 관점에서 도움을 드리겠습니다:
1. 📋 전반적인 내용 파악
2. 💡 주요 특징 설명
3. 🎯 실용적인 활용 방안
4. ✨ 개선 제안
5. 💬 추가 질문이나 필요한 설명"""

        # 메시지 처리
        messages = [{"role": "system", "content": system_message}]
        
        # 이전 대화 히스토리 추가
        if history:
            for user_msg, assistant_msg in history:
                messages.append({"role": "user", "content": user_msg})
                messages.append({"role": "assistant", "content": assistant_msg})
        
        messages.append({"role": "user", "content": message})

        # API 호출 및 응답 처리
        client = get_client()
        partial_message = ""
        
        for msg in client.chat_completion(
            messages,
            max_tokens=max_tokens,
            stream=True,
            temperature=temperature,
            top_p=top_p,
        ):
            token = msg.choices[0].delta.get('content', None)
            if token:
                partial_message += token
                current_history = history + [[message, partial_message]]
                yield "", current_history

        # 완성된 대화 저장
        chat_history.add_conversation(message, partial_message)
        
    except Exception as e:
        error_msg = f"❌ 오류가 발생했습니다: {str(e)}"
        chat_history.add_conversation(message, error_msg)
        yield "", history + [[message, error_msg]]

with gr.Blocks(theme="Yntec/HaleyCH_Theme_Orange", title="GiniGEN 🤖") as demo:
    # 기존 히스토리 로드
    initial_history = chat_history.format_for_display()
    with gr.Row():
        with gr.Column(scale=2):
            chatbot = gr.Chatbot(
                value=initial_history,  # 저장된 히스토리로 초기화
                height=600, 
                label="대화창 💬",
                show_label=True
            )    


            msg = gr.Textbox(
                label="메시지 입력",
                show_label=False,
                placeholder="무엇이든 물어보세요... 💭",
                container=False
            )
            with gr.Row():
                clear = gr.ClearButton([msg, chatbot], value="대화내용 지우기")
                send = gr.Button("보내기 📤")
        
        with gr.Column(scale=1):
            gr.Markdown("### GiniGEN Pharm 🤖 [파일 업로드] 📁\n지원 형식: 텍스트, 코드, CSV, Parquet 파일")
            file_upload = gr.File(
                label="파일 선택",
                file_types=["text", ".csv", ".parquet"],
                type="filepath"
            )
            
            with gr.Accordion("고급 설정 ⚙️", open=False):
                system_message = gr.Textbox(label="시스템 메시지 📝", value="")
                max_tokens = gr.Slider(minimum=1, maximum=8000, value=4000, label="최대 토큰 수 📊")
                temperature = gr.Slider(minimum=0, maximum=1, value=0.7, label="창의성 수준 🌡️")
                top_p = gr.Slider(minimum=0, maximum=1, value=0.9, label="응답 다양성 📈")

    # 예시 질문
    gr.Examples(
        examples=[
            ["안녕하세요! 어떤 도움이 필요하신가요? 🤝"],
            ["제가 이해하기 쉽게 설명해 주시겠어요? 📚"],
            ["이 내용을 실제로 어떻게 활용할 수 있을까요? 🎯"],
            ["추가로 조언해 주실 내용이 있으신가요? ✨"],
            ["궁금한 점이 더 있는데 여쭤봐도 될까요? 🤔"],
        ],
        inputs=msg,
    )

    # 대화내용 지우기 버튼에 히스토리 초기화 기능 추가
    def clear_chat():
        chat_history.clear_history()
        return None, None

    # 이벤트 바인딩
    msg.submit(
        chat,
        inputs=[msg, chatbot, file_upload, system_message, max_tokens, temperature, top_p],
        outputs=[msg, chatbot]
    )

    send.click(
        chat,
        inputs=[msg, chatbot, file_upload, system_message, max_tokens, temperature, top_p],
        outputs=[msg, chatbot]
    )

    clear.click(
        clear_chat,
        outputs=[msg, chatbot]
    )

    # 파일 업로드시 자동 분석
    file_upload.change(
        lambda: "파일 분석을 시작합니다...",
        outputs=msg
    ).then(
        chat,
        inputs=[msg, chatbot, file_upload, system_message, max_tokens, temperature, top_p],
        outputs=[msg, chatbot]
    )

if __name__ == "__main__":
    demo.launch()