Hacker News · 10.07.2026 ·Данные и инжиниринг

Разработчики ИИ массово скупают антикварные книги в Германии для обучения моделей

Разработчики ИИ начали активно скупать старинные книги в Германии, чтобы использовать их в качестве качественных данных для обучения нейросетей. Этот тренд обусловлен дефицитом высококачественного текстового контента, свободного от авторских прав, и необходимостью расширения обучающих выборок за пределами современного интернета, который становится всё более зашумленным сгенерированным контентом.

Использование оцифрованных печатных изданий прошлых веков позволяет компаниям получать доступ к структурированным, грамотным и исторически ценным текстам. В отличие от веб-скрейпинга, такие данные обладают высокой плотностью знаний и отсутствием «цифрового мусора», что критически важно для повышения точности рассуждений и лингвистических способностей современных больших языковых моделей.

Этот процесс требует значительных ресурсов на сканирование, распознавание текста (OCR) и последующую очистку данных. Однако эксперты отмечают, что инвестиции в «чистые» исторические архивы окупаются за счет снижения галлюцинаций моделей и улучшения их способности к глубокому анализу контекста, что становится конкурентным преимуществом в условиях исчерпания доступных данных в сети.

Ключевые факты

Разработчики ИИ переключились на физические архивы Германии из-за нехватки качественных данных в открытом доступе.
Старинные книги ценятся за отсутствие ошибок, характерных для современного интернет-контента, и высокий уровень языка.
Процесс включает масштабную оцифровку, применение технологий OCR и последующую подготовку датасетов для обучения LLM.
Использование исторических текстов помогает моделям лучше понимать контекст и снижает вероятность генерации неверной информации.

Источник: Hacker News

Обсудить с ИИ

Похожие материалы

Hacker News · Оценка и бенчмарки Проблема галлюцинаций ИИ в научной деятельности Современные языковые модели при анализе научных данных часто игнорируют фактические доказательства, отдавая предпочтение статистическим закономерностям, заложенным при обучении. Исследователи отмечают, что склонность ИИ к «галлюцинациям» и уверенная подача ложной информации ставят под вопрос использование нейросетей в качестве надежных инструментов для проведения научных изысканий, анализа литературы и проверки гипотез без участия человека. arXiv · Исследования и наука Исследование: как исторические тексты влияют на производительность LLM Исследователи проанализировали, почему современные языковые модели хуже справляются с историческими текстами на примере итальянского языка. Авторы выделили два ключевых фактора: «налог на токенизацию» из-за нестандартной орфографии и «налог на понимание», связанный с лингвистическими изменениями. Предложенный диагностический фреймворк позволяет количественно оценить эти барьеры и повысить качество обработки архивных данных с помощью простых методов адаптации. Hacker News · Машинное обучение Разработчики ИИ всё чаще используют синтетические данные от других моделей Исследователи фиксируют массовый переход к использованию синтетических данных при обучении новых нейросетей. Разработчики всё чаще делегируют создание обучающих выборок существующим чат-ботам, таким как GPT-4 или Claude, вместо сбора и разметки данных вручную. Этот подход позволяет значительно ускорить процесс подготовки моделей и снизить затраты на привлечение человеческого труда. Hacker News · Прогнозы и тренды Трансформация веба: контент адаптируют под ИИ-модели вместо пользователей Современный интернет меняет структуру: владельцы сайтов всё чаще оптимизируют контент для парсинга нейросетями, а не для удобства чтения людьми. Этот сдвиг приоритетов приводит к изменению архитектуры веб-страниц, где семантическая разметка и структурированные данные становятся важнее визуального дизайна, что фундаментально меняет роль поисковых систем и пользовательский опыт в сети. Hacker News · Машинное обучение Ограничения обучения на знаниях LLM Исследование указывает на фундаментальную проблему при попытке дообучения моделей на основе их собственных ответов. Авторы анализируют, почему использование синтетических данных, сгенерированных самой нейросетью, часто приводит к деградации качества, а не к улучшению навыков. Основная сложность заключается в том, что модель при дообучении начинает воспроизводить собственные статистические ошибки и галлюцинации, закрепляя их как эталонные знания. Hacker News · Исследования и наука Обучение ИИ в симулированных средах как замена статичным данным Разработчики ИИ сталкиваются с дефицитом качественных текстовых данных для обучения моделей, что замедляет прогресс в создании продвинутых чат-ботов. В качестве решения исследователи переходят к использованию симулированных миров, где агенты обучаются через взаимодействие с виртуальной средой. Этот подход позволяет моделям самостоятельно генерировать опыт, проверять гипотезы и осваивать сложные логические цепочки, недоступные при пассивном чтении текстов из интернета. Hacker News · Исследования и наука Проблема эффективности обучения моделей на ограниченных данных Современные методы обучения больших языковых моделей сталкиваются с проблемой «черной дыры» в эффективности выборки. Исследования показывают, что текущие подходы требуют колоссальных объемов данных для достижения прироста качества, который непропорционален затраченным вычислительным мощностям. При этом значительная часть доступных в интернете текстов уже была использована для тренировки, что создает дефицит качественных обучающих материалов для будущих поколений нейросетей. Generative AI in Search Marketing: News & Expert Guides · Исследования и наука Деградация данных: как ИИ-поиск меняет экосистему интернета Исследователи выделяют три критических механизма — предвзятость источников, коллапс поиска и коллапс моделей, — которые фундаментально меняют качество выдачи в эпоху ИИ. По мере того как контент, созданный нейросетями, заполняет сеть, поисковые системы сталкиваются с проблемой «самопоедания», при которой метрики эффективности остаются обманчиво стабильными, скрывая реальное снижение качества информации. Hacker News · Прогнозы и тренды Экологический след обучения крупных языковых моделей Обучение современных нейросетей требует значительных вычислительных мощностей, что напрямую влияет на потребление электроэнергии и выбросы углекислого газа. Основная часть энергозатрат приходится на работу дата-центров, где тысячи графических процессоров работают непрерывно в течение недель или месяцев. Эффективность этого процесса зависит от архитектуры модели, используемых алгоритмов оптимизации и географического расположения серверов, так как источники энергии в разных регионах имеют разный углеродный след. Hacker News · Машинное обучение Методология подготовки данных для обучения специализированным навыкам ИИ Качество и структура обучающих данных остаются критическим фактором при дообучении моделей для выполнения узкоспециализированных задач. Эксперты в области машинного обучения представили детальный разбор подходов к формированию датасетов, которые позволяют эффективно передавать ИИ новые навыки, минимизируя при этом галлюцинации и повышая точность ответов в сложных предметных областях.

← Все материалы