Add project and deployment instruction (docs/DEPLOYMENT.md)

Co-authored-by: Cursor <cursoragent@cursor.com>
This commit is contained in:
ars
2026-02-19 18:12:09 +00:00
commit 53c572ef46
94 changed files with 9200 additions and 0 deletions

58
scripts/install_vision_model.sh Executable file
View File

@@ -0,0 +1,58 @@
#!/bin/bash
# Установка специализированной vision модели для Ollama
set -e
CONTAINER_OLLAMA="ollama"
MODEL_CHOICE="${1:-llava}"
echo "=== Установка Vision модели для Ollama ==="
echo ""
# Определяем команду docker
DOCKER_CMD="docker"
if ! docker ps >/dev/null 2>&1; then
DOCKER_CMD="sudo docker"
fi
echo "Доступные vision модели:"
echo " 1. llava:latest (LLaVA 1.6) - 7B, лучший выбор для vision"
echo " 2. bakllava:latest (BakLLaVA) - 7B, Mistral + LLaVA"
echo " 3. llama3.2-vision:latest (Llama 3.2 Vision) - 11B, требует 8GB VRAM"
echo ""
if [ "$MODEL_CHOICE" = "llava" ]; then
MODEL="llava:latest"
echo "Выбрана модель: $MODEL (LLaVA 1.6)"
elif [ "$MODEL_CHOICE" = "bakllava" ]; then
MODEL="bakllava:latest"
echo "Выбрана модель: $MODEL (BakLLaVA)"
elif [ "$MODEL_CHOICE" = "llama3.2" ]; then
MODEL="llama3.2-vision:latest"
echo "Выбрана модель: $MODEL (Llama 3.2 Vision)"
else
MODEL="llava:latest"
echo "Используется модель по умолчанию: $MODEL"
fi
echo ""
echo "Загрузка модели $MODEL..."
echo "Это может занять несколько минут в зависимости от скорости интернета..."
echo ""
$DOCKER_CMD exec $CONTAINER_OLLAMA ollama pull "$MODEL" || {
echo "✗ Ошибка при загрузке модели"
exit 1
}
echo ""
echo "✓ Модель загружена!"
echo ""
echo "Проверка установленных моделей:"
$DOCKER_CMD exec $CONTAINER_OLLAMA ollama list
echo ""
echo "=== Готово! ==="
echo ""
echo "Теперь в Open WebUI выберите модель: $MODEL"
echo "И попробуйте загрузить изображение и задать вопрос о нем."