Pith — это десктопное приложение для ведения базы знаний, которое использует возможности локальных LLM для поиска и структурирования информации без применения векторных баз данных или эмбеддингов. Проект предлагает альтернативный подход к организации персональных данных, полагаясь на прямую обработку контекста и локальные вычислительные мощности для обеспечения приватности и автономности работы пользователя.
В отличие от классических RAG-систем, требующих сложной инфраструктуры для индексации и хранения векторных представлений, Pith работает непосредственно с текстовыми файлами. Такой подход упрощает архитектуру приложения и снижает требования к ресурсам, позволяя пользователям взаимодействовать со своей базой знаний без необходимости настройки внешних баз данных или облачных API. Это решение ориентировано на тех, кто предпочитает локальное хранение данных и хочет избежать накладных расходов, связанных с поддержкой векторных хранилищ.
Инструмент позволяет выполнять семантический поиск и генерацию ответов на основе накопленных заметок, используя локально запущенные модели. Отказ от эмбеддингов делает систему более прозрачной в плане управления данными: все изменения в файловой структуре мгновенно отражаются в работе ИИ-ассистента без необходимости переиндексации векторного индекса.
Ключевые факты
- Pith исключает использование векторных баз данных и создание эмбеддингов для поиска по базе знаний.
- Приложение работает полностью локально, обеспечивая приватность пользовательских данных.
- Система ориентирована на работу с текстовыми файлами, что упрощает интеграцию с существующими заметками.
- Проект доступен в виде десктопного приложения с открытым исходным кодом на GitHub.