
Смотри я возобновил проект по рагу . и мне расписал план age...
Prompt
Смотри я возобновил проект по рагу . и мне расписал план agent дай свои рекомендации или замечания : План развёртывания двух изолированных RAG-ассистентов в D:\Terre\RAG Контекст и цели Новое оборудование: Установлена видеокарта NVIDIA RTX A2000 12GB (CUDA 13.2, Compute Capability 8.6, 11 GB свободной VRAM). Ollama уже протестирована и успешно запускает модель qwen3:8b со 100% offload на GPU (все 37 слоёв в VRAM). Новая рабочая папка: Перенос проекта в чистый путь D:\Terre\RAG (без кириллицы в пути, что исключает любые проблемы с кодировками). Разделение на 2 независимых RAG-ассистента: shchit-assistant (Порт 8080): Консультант по проекту ЩИТ для техлида и команды. База знаний — документация проекта ЩИТ (D:\Терре\WEB ELECTROAGREGAT\docs). Включён строгий Sanitizer (защита от утечек IP, паролей, путей). Своя база chroma_db_shchit. dev-assistant (Порт 8081): Личный изолированный ассистент разработчика. База знаний — инженерная база D:\Terre\BAZADANNIH INKJENERKA (нормативы, хронометражи, техпроцессы). Поддержка форматов PDF, DOCX, XLSX, TXT, MD. Своя независимая база chroma_db_dev. User Review Required IMPORTANT Объём инженерной базы знаний: В папке D:\Terre\BAZADANNIH INKJENERKA находится более 2500 документов (1372 PDF, 667 DOCX, 131 XLSX). Часть PDF являются сканами (растровые изображения без текстового слоя). Модуль загрузки будет извлекать текст из всех текстовых PDF и DOCX, а отсканированные изображения без OCR будет аккуратно пропускать с логированием. Для извлечения текста в Python будут установлены легковесные библиотеки: pypdf, python-docx, openpyxl. NOTE Модель генерации: Для обоих ассистентов в Ollama настроена модель qwen3:8b на RTX A2000 12GB. При необходимости qwen2.5:7b-instruct-q4_K_M или быстрая модель могут быть выбраны в .env. Proposed Changes Архитектура каталога D:\Terre\RAG D:\Terre\RAG\ ├── .venv\ # Единое оптимизированное виртуальное окружение Python ├── shchit-assistant\ # [КОНСУЛЬТАНТ ЩИТ] — для команды и техлида │ ├── config.py │ ├── main.py # CLI (index, ask, chat, web) │ ├── rag.ps1 # Запуск на порту 8080 │ ├── .env # KNOWLEDGE_DIR=D:/Терре/WEB ELECTROAGREGAT/docs │ ├── chroma_db\ # Изолированная векторная БД ЩИТ │ ├── ingestion\ # Сканер с защитой (whitelist + sanitizer) │ ├── vectorstore\ │ ├── rag\ │ ├── web\ # Веб-чат │ └── handoff\ # Документация техлиду │ ├── dev-assistant\ # [ЛИЧНЫЙ АССИСТЕНТ РАЗРАБОТЧИКА] — Инженерия │ ├── config.py │ ├── main.py # CLI (index, ask, chat, web) │ ├── rag.ps1 # Запуск на порту 8081 │ ├── .env # KNOWLEDGE_DIR=D:/Terre/BAZADANNIH INKJENERKA │ ├── chroma_db\ # Изолированная векторная БД Инженерии │ ├── ingestion\ # Мультиформатный сканер и загрузчик (PDF, DOCX, XLSX, TXT, MD) │ ├── vectorstore\ │ ├── rag\ │ └── web\ # Веб-чат разработчика │ └── start-services.ps1 # Единый скрипт запуска Ollama и обоих ассистентов Компонент 1: Общее виртуальное окружение и библиотеки [NEW] D:\Terre\RAG\requirements.txt Добавление pypdf>=4.0.0, python-docx>=1.1.0, openpyxl>=3.1.0 к существующему набору (chromadb, sentence-transformers, fastapi, uvicorn, rich, click, requests). Установка в D:\Terre\RAG\.venv. Компонент 2: Перенос и настройка shchit-assistant [NEW] D:\Terre\RAG\shchit-assistant\ Перенос файлов из shchit-qa-assistant. Обновление конфигурации: OLLAMA_MODEL=qwen3:8b OLLAMA_BASE_URL=http://127.0.0.1:11434 OLLAMA_NUM_GPU=99 WEB_PORT=8080 CHROMA_PERSIST_DIR=./chroma_db Очистка старого кэша (chroma_db) и переиндексация актуальной документации ЩИТ. Компонент 3: Создание и настройка dev-assistant [NEW] D:\Terre\RAG\dev-assistant\ Расширенный загрузчик файлов в ingestion/: PDFLoader: чтение текста страниц через pypdf. DocxLoader: чтение параграфов и таблиц через python-docx. XlsxLoader: чтение строк и листов через openpyxl. Стандартные md, txt, py, json. Конфигурация: KNOWLEDGE_DIR=D:/Terre/BAZADANNIH INKJENERKA OLLAMA_MODEL=qwen3:8b WEB_PORT=8081 CHROMA_PERSIST_DIR=./chroma_db SANITIZE_ENABLED=false (разработчику доступен полный текст без маскирования) Компонент 4: Индексация и автозапуск Автоматический скрипт запуска Ollama daemon с OLLAMA_MODELS=D:\Terre\Ollama\models. Индексация инженерной базы BAZADANNIH INKJENERKA в dev-assistant. Проверка работоспособности через doctor и тестовый запрос ask. Verification Plan Automated Tests Тест GPU: Проверка генерации через qwen3:8b в Ollama с offload на RTX A2000 12GB. Тест зависимостей: Проверка импорта chromadb, sentence_transformers, pypdf, docx, openpyxl. Тест индексации shchit-assistant: .\rag.ps1 stats .\rag.ps1 doctor .\rag.ps1 ask "Что такое система ЩИТ?" Тест индексации dev-assistant: .\rag.ps1 stats (подсчёт проиндексированных файлов и чанков из инженерной базы) .\rag.ps1 ask "Какие хронометражи и нормы описаны в базе?" Тест веб-интерфейсов: Проверка доступности http://127.0.0.1:8080 (ЩИТ Консультант) Проверка доступности http://127.0.0.1:8081 (Dev Инженерный Ассистент) Manual Verification Открытие веб-чатов в браузере и интерактивный диалог.