changed

.gitignore

@@ -1,4 +1,4 @@
 .env
-utils/rewrites-64f2b-firebase-adminsdk-mrs2y-1bd6e223b1.json
-
-__pycache__
+__pycache__
+mlspace__private_key.txt
+rewrites-64f2b-firebase-adminsdk-mrs2y-1bd6e223b1.json

app.py

@@ -6,7 +6,7 @@ from utils.firebase_utils import save_vote
 from utils.openai_utils import generate_rewrite
 from utils.data_utils import load_data, get_random_review, read_prompt
 from utils.gemma_utils import get_gemma_response
- 
+
 models = ["gpt-3.5-turbo", "gpt-4", "gpt-4o", "gpt-4o-mini", "princeton-nlp/gemma-2-9b-it-SimPO"]
 
 def local_css(file_name):

prompts/gemma_prompt.txt

@@ -2,8 +2,9 @@
 **Ты профессиональный рерайтер.**
 
 Твоя задача — переписать предоставленный текст, сохранив его смысл и основные знаки препинания, которые встречаются в оригинальном тексте, 
-но используя другие слова. Используй повседневный стиль речи и добавь немного сленга, чтобы текст выглядел естественно и не был похож на сгенерированный. 
-Избегай грамматических и стилистических ошибок. Не искажай факты и названия товаров.
+но используя другие слова. Используй повседневный стиль речи, чтобы текст выглядел естественно и не был похож на сгенерированный. 
+Избегай грамматических и стилистических ошибок, грубостей, матных слов и жаргона. Не искажай факты и названия товаров.
+ 
 
 **Строго соблюдай следующий формат ответа и не добавляй ничего лишнего:**
 
@@ -17,9 +18,9 @@
 
 **Важно:**
 - Перепиши отзыв, сохраняя смысл, но используя другие слова.
-- Добавь повседневную речь и сленг.
-- Соблюдай указанный формат с разделами, каждый из которых начинается с новой строки и отделён пустой строкой.
+- Добавь повседневную речь.
+- Обязательно соблюдай указанный формат с разделами, каждый из которых начинается с новой строки и отделён пустой строкой.
 - Верни только один рерайт в указанном формате.
 - Игнорируй всё остальное и не добавляй дополнительных комментариев.
 <end_of_turn>
-<start_of_turn>model
+<start_of_turn>model

utils/gemma_utils.py

@@ -1,8 +1,6 @@
 import json
 import paramiko
-import shlex
 import os
-from io import StringIO
 
 def get_gemma_response(model_name, instruction):
     hostname = "ssh-sr002-jupyter.ai.cloud.ru"
@@ -10,48 +8,73 @@ def get_gemma_response(model_name, instruction):
     username = "gallant-hofstadter.ai0001819-00029"
     private_key_path = "mlspace__private_key.txt"
 
-    private_key = paramiko.RSAKey.from_private_key_file(private_key_path)
-
-    ssh = paramiko.SSHClient()
-    ssh.set_missing_host_key_policy(paramiko.AutoAddPolicy())
-    ssh.connect(hostname=hostname, port=port, username=username, pkey=private_key)
+    if not os.path.exists(private_key_path):
+        print(f"Файл приватного ключа не найден: {private_key_path}")
+        return None
 
-    prompt = instruction
+    try:
+        private_key = paramiko.RSAKey.from_private_key_file(private_key_path)
+        ssh = paramiko.SSHClient()
+        ssh.set_missing_host_key_policy(paramiko.AutoAddPolicy())
+        ssh.connect(hostname=hostname, port=port, username=username, pkey=private_key)
+        print("Успешное SSH подключение")
+    except Exception as e:
+        print("Ошибка при подключении по SSH:", e)
+        return None
 
     payload = {
         "model": model_name,
-        "prompt": prompt,
-        "max_tokens": 500,
+        "prompt": instruction,
+        "max_tokens": 600,
         "temperature": 0.9,
         "top_p": 0.7
     }
 
-    payload_json = json.dumps(payload)
-    payload_escaped = shlex.quote(payload_json)
-
-    curl_command = f"curl -s -X POST http://localhost:8001/v1/completions -H 'Content-Type: application/json' -d {payload_escaped}"
+    payload_json = json.dumps(payload, ensure_ascii=False)
+    print(f"payload_json: {payload_json}")
 
-    stdin, stdout, stderr = ssh.exec_command(curl_command)
+    curl_command = (
+        f"curl -s -X POST http://localhost:8000/v1/completions "
+        f"-H 'Content-Type: application/json' "
+        f"-H 'Authorization: Bearer token-abc123' "
+        f"-d '{payload_json}'"
+    )
+    print("Executing command:", curl_command)
 
-    response = stdout.read().decode('utf-8')
-    error = stderr.read().decode('utf-8')
+    try:
+        stdin, stdout, stderr = ssh.exec_command(curl_command)
+        response = stdout.read().decode('utf-8')
+        error = stderr.read().decode('utf-8')
 
-    ssh.close()
+        print("Response:", response)
+        print("Error output:", error)
+    except Exception as e:
+        print("Ошибка при выполнении команды на сервере:", e)
+        return None
+    finally:
+        ssh.close()
 
     if error:
         print("Ошибка при выполнении команды на сервере:", error)
         return None
 
+    if not response:
+        print("Получен пустой ответ от сервера.")
+        return None
+
     try:
         response_json = json.loads(response)
-
         if 'choices' in response_json and response_json['choices']:
             return response_json['choices'][0]['text'].strip()
         else:
             print("Некорректная структура ответа:", response_json)
             return None
-
     except json.JSONDecodeError as e:
         print("Не удалось разобрать JSON-ответ:", e)
         print("Полученный ответ:", response)
-        return None
+        return None
+
+
+
+
+

utils/mlspace__private_key.txt

@@ -1,51 +0,0 @@
------BEGIN RSA PRIVATE KEY-----
-MIIJKQIBAAKCAgEAx3aZtcAVmGTqtiqAt2i0F6cEBOi+CrOlVgXjFojySEX6t0CD
-gbYmkUHsNIGRI9/KCo7fPhBpAlThQukpoD8E0GKzCkp4mo23HCFwYaojnRZ8W/+j
-hhTWbONCkPcfWE/F9djuzIPumVZHz0/W6xnh/AAu5gXFL5o82oaOJPVYrDItOUr9
-tQ1VQK04jrEP5DrjTHj9Dr30ax5CdGvxarMjFZXS3FJPpei8et8UMForJQ8ExiVa
-DiWsV8wnScD+/aHAJSErazU4Q2607so9C8XGy9HXCXjgfvxYr6tRVmgE+ZP2cY2D
-fI4jfSccaPIhA7jpF7nbfkx1crlV8jFKMvXskQ7z6UMHCq6HMc44qf+m51a3kGN7
-zZJzgw7dgEgK94Fa09930AE+X7LAP8ioZFy5EbKy3VLEP/lNhMcrDfaLO1+ybRVa
-RxBQOyWfA/xpHrlRjEGTHVHbvGuxqjFniLUeUpUviH5t/f1ruHB7VkO5ViY8hMuh
-OlRmLd83pE5dnd6xB8K7QI9upqJocBeW+rJNznfl9F6Gx3HEQIO8W2epIHP28lP6
-uDsjSxClq0LgweeCHWmJkJEwZcKGCv9o6QdSGwDy4ITHWewoL9i0GLG/lxJQQxaw
-UxCWfSDMaopHHQQMUGc64xMLZnJoMHO9GlGZclw0oyI6anC9LTypz8ec3r8CAwEA
-AQKCAgEAtDKiZP9WwymQnehCBvBRmvio+eJmJfbsDI4e/THVaJPIEBv5corjxuD+
-iuTvAbDgr68pYcGjjJawNym8EGg+aiBwzYA/+qjC32gaRjFWIUm6KccGrVBP82lQ
-rvSC3d6b4iIMgrlCKkc3csQXTqhAb9CejfJylTHLfkSHUD5S0KY4EwV7tUCJX3fe
-m5K835yP0nuPau0TTl60/Ma0AIg7zvle2OqHyEQ9WugELjaXudAaqQP/mr5QN7VZ
-XRk9hFfH5gNUXXNkFA+E6CHPCr6vfV1i3szUTASf/nxQbDZnIC6bOzT0r+cdiqh1
-0x3D08AO3P9sm2ppxK5JRhdfiDCCeWX0McOe55LvCCmAImxsTvCM7INzjpUhf1AB
-hSYHJOY107dO0pmKi45iimYr1MGCfOT33KlXPUytfVfmFdhrQj0pRSlYT2OHlkLl
-qMaxb88MjYXtz1xb/mYcoF8dEvpzBjT0p7WCJx3SoZd6tzPZpW0dJ6z3U9hg0+g0
-K+tx75/mWxi7oKBWyzE19URgecr8zlaSe3GUjagdx0SiKoHzkHtQpJhnc3SSLxNd
-rTHk/nBTsaZ9aXFB49vxV6OBgNpU6MV6FvBmusy2hJuMVWa/0MV47LjRc7vr91dK
-3a6o2eCfYMmdMqOBI5GLkDhulh/IGwoFLcSm1oew1CG3OQVekXECggEBAOH1i2Lq
-/NoALG26to1GZ4Q1aTMww972TKQH5W8OXjxUukLb5fkBiGcICcIQJa7sQ1G3NnoX
-gX0iFTtAU6k2iZQKfbl4Ws609zFS4+0tNXF6KK5ljoi3Lu/OP3eXwCQGfZVJ9PCe
-cFwiB79cxh+oBbdC44TljWOA+fff1CrgUJ+z2Q3TlMUsF9XnQsQ/b2FSk3XHmi/7
-FZAREvouD/z0YYSeBNqz+Xd/5zEHxZiMjxNxy0tqs3b/4R346kkRaX5TNiLQtxNP
-OB3Iakxttkg/D+1SvoqH7jhx/R8rYtbILk6yjoPKtn8Etdne+hM2nEJzpFVQFF22
-I8JuXVQROTJB7ZkCggEBAOH7RsG9lQp0qn8o1ke+zNNgyk6kQ5KIXJyZDs9VrrtD
-lcGpaviVt3AvqnwN7kJC7B7RFvh7LoheOSAXlYae9AIy3cnh8hXhQGgbUccK8AT0
-aYkN8fKC8UtcsYVPW2+P2X8XSwRXDNmFJ2Awcp2N8U1PzNevQiTi4kqks++hWVyx
-lKGrZUKbcKzBEoIAWFqXMpsAL1mQNTgJMs+DZMaFmxLiXnsP141zD2EmkOy/BW+D
-TdT7pYIVwe79OpCkUEFE23CsIgnrcWWg3GhckfO7wfA+0/+ot82+vyDraI5+obz3
-01f8k24YItdLqfhKwse/X9sKLP+Rl7hG6umqtMUMdhcCggEBALzwpOzBsUxYeM4I
-Ij1fcY+LWbwEOsRlDxDZyW9jhEjOUDE3zsS4E2aTwhUTi28JAAGEQXk1zoDjzv0M
-fOgxQjkXzKkZilTt3QTRWuUnuFh63Sl2ogiPpB/BRjCqI2/8PWZnwPiygyGHExNg
-cApoZN8ofzbQ+7kIT/yEnNR9XO0tZYG6OdvlUsj550pSAMBQXB1QGg2k1hLxM/0e
-JyBM+H374/M8Ko1R1e+ZoBA++CQ6MtONFSOcMpDtYnpWpO+MhOf3vh3XUAUXYEso
-MhOXJ6o6VjlgEEICjrVRggQ2vwHvLFvnVVJAjg7v9Au8zkyChhcQLvdtJdmej0uM
-W1c66YECggEAP/WzyCAVb/knTIhNZc8OAAHUIMADVBT+SWBUvcAdjWkKmN6PpT4S
-xlDnaucyeVShqfM6EigjOnuYpYmnS4vvujOVbI9jymePqCebVL+2wWBAAoeM5DvF
-ebQJlpaoZYIMaBk6pUbSHzq9s07jEc7b7irY6m7zRKdmrwPA3eEH/uFQFRYCugBu
-uqaGy363gyRqMU6zGCFlvq9zzyH8QugLxSOG5EPOmX1oa/HTcP571l0OiWqUJKZt
-1mubyNaI1IBdr504oSAfX0lROMSClr6cnJfbvu+M3lHPnMykMjiLJIXsLmoRfEae
-jdsfh2P5jzmOMtvFcqxNid2gnXQwZ9koDwKCAQAQqeFYqRhuydL9G9r0JAtNXTT4
-6G5zrBSl3Ylwhi4xyb5GgsU1pva4lB6cox7oR3oEP1wBOzOxEj18V9ocDIHVppGL
-gVY5xSH3lw6Ne13CizCVJ/9UvJPfYGk5UZwIc9PfqgceVUJ627OjCq7OUX/pVGxq
-e1QvQfBjSuJ3FsJtbWQ4dPkXzx4x8eA1fOir+O9g6mkGhJtB9IsMd66h3q5Az6Ip
-oO2fneBGpSovre8Gok33cM+5VGHnM9ZVegtZfGgmfran4CaWbD0QszYMWZv4iCCt
-vdev7Jqdyb63U+iCOdP+CBxPM1zOOxWxcQCGki8gmE52YSAXqtWXWJ++ks0r
------END RSA PRIVATE KEY-----