Разработчики представили метод упаковки репозиториев, документации и промптов в формат изображений для передачи в Claude. Этот подход позволяет сократить потребление токенов на 60–75% при сохранении читаемости данных для модели. Техника использует визуальное кодирование текстовой информации, что радикально снижает затраты на инференс и расширяет возможности работы с большими кодовыми базами в рамках одного контекстного окна.
Использование визуальных представлений кода и текстовых файлов опирается на мультимодальные способности современных LLM, которые эффективно распознают структурированный текст внутри изображений. Вместо передачи сырого текста, занимающего значительный объем токенов, данные «тайлятся» (разбиваются на фрагменты) и упаковываются в графические файлы. Это позволяет обходить ограничения по количеству токенов, сохраняя при этом целостность контекста для сложных задач анализа или рефакторинга.
Данный метод особенно актуален для работы с крупными проектами, где стандартная передача файлов приводит к быстрому исчерпанию лимитов контекстного окна. Визуальная упаковка позволяет передавать в модель значительно больше метаданных и исходного кода без необходимости сложной предварительной обработки или использования внешних баз данных для RAG-систем.
Ключевые факты
- Экономия токенов при использовании метода составляет от 60% до 75%.
- Технология основана на преобразовании текстовых репозиториев и файлов в визуальные тайлы.
- Метод оптимизирован для работы с моделью Claude, использующей мультимодальный ввод.
- Подход позволяет передавать объемные кодовые базы в рамках одного промпта без потери контекста.