zovos/bot_tg
1
1
Fork 5
Code Issues Pull requests Projects 1 Releases Packages Wiki Activity Actions

try to fix ai

Browse source
This commit is contained in:
q 2026-03-03 14:54:48 +03:00
parent 0ac74b95c5
commit 1cbebeec37
1 changed files with 2 additions and 2 deletions
Show stats Download patch file Download diff file Expand all files Collapse all files

4
AI/talk_handler.py
View file

@ -63,7 +63,7 @@ SYSTEM_PROMPT = (
# Размер контекста — количество сообщений на чат # Размер контекста — количество сообщений на чат
# Сколько сообщений держим в БД. Нужно для быстрой очистки. # Сколько сообщений держим в БД. Нужно для быстрой очистки.
_CONTEXT_SIZE = 100 _CONTEXT_SIZE = 20
# Ограничение на общий размер промпта, чтобы системное сообщение не вытеснялось # Ограничение на общий размер промпта, чтобы системное сообщение не вытеснялось
# при сборке длинной истории (приблизительно ~8k символов ≈ 2k токенов). # при сборке длинной истории (приблизительно ~8k символов ≈ 2k токенов).
_MAX_PROMPT_CHARS = 8_000 _MAX_PROMPT_CHARS = 8_000
@ -145,7 +145,7 @@ async def _generate_response(chat_id: int, user_text: str, user_name: str) -> st
msgs = await asyncio.to_thread(_build_messages, chat_id, SYSTEM_PROMPT, user_text, user_name) msgs = await asyncio.to_thread(_build_messages, chat_id, SYSTEM_PROMPT, user_text, user_name)
payload = { payload = {
"messages": msgs, "messages": msgs,
"max_tokens": 500, "max_tokens": 200,
"temperature": 0.8, "temperature": 0.8,
"top_p": 0.9, "top_p": 0.9,
} }