arXiv · 16.06.2026 ·Данные и инжиниринг

Новый датасет для обучения LLM на финансовых отчётах

Исследователи из Стэнфорда представили новый датасет для обучения языковых моделей. Stanford EDGAR Filings Dataset (SEFD) содержит финансовые отчёты компаний США, собранные из системы EDGAR SEC. Это первый крупный датасет, который включает структурированные и длинные документы с сохранением оригинального форматирования.

Датасет состоит из более чем 10 миллионов документов, охватывающих период с 1993 по 2023 год. Исследователи отмечают, что SEFD может стать важным источником данных для обучения моделей на длинных контекстах, так как существующие датасеты либо узкоспециализированные, либо синтетические.

SEFD включает в себя не только текстовые данные, но и метаинформацию о компаниях, что позволяет использовать его для задач анализа финансовых отчётов и прогнозирования. Исследователи также разработали методы для эффективного токенизации и обработки данных, что делает датасет удобным для использования в различных задачах машинного обучения.

Датасет доступен для научного сообщества и может быть использован для улучшения качества языковых моделей, а также для разработки новых методов анализа финансовых данных.

Источник: arXiv

Похожие материалы

arXiv · Обучение и дообучение Новый датасет для улучшения аудио-языковых моделей Исследователи представили AudioDER — новый датасет, предназначенный для улучшения способностей аудио-языковых моделей (LALMs) к сложному аудио-рассуждению. LALMs уже демонстрируют высокие результаты в различных задачах понимания аудио, но их возможности в области сложного анализа и интерпретации звуковых данных остаются ограниченными. Hacker News · Обучение и дообучение Новые датасеты для ML-исследований от ArXiv и Semantic Scholar Команда FineSet.io выпустила набор датасетов, собранных из ArXiv и Semantic Scholar. Эти датасеты представлены в формате JSONL и содержат оценки качества, что делает их полезными для исследователей и разработчиков в области машинного обучения. The GitHub Blog · Модели и релизы GitHub выпустил открытый датасет для обучения многоязычных моделей GitHub представил новый открытый датасет, содержащий мультиязычный контент из репозиториев. Данные собраны из README, issues и pull requests и доступны под лицензией CC0-1.0. The Gradient · Память и RAG Как LLMs меняют финансовые рынки и инвестиции В 2023 году ИИ-революция привлекла огромные инвестиции в частные и публичные компании, а также завоевала внимание широкой аудитории. Одним из ключевых драйверов этого роста стали большие языковые модели (LLMs), которые лежат в основе таких продуктов, как ChatGPT. Эти модели демонстрируют удивительную способность моделировать последовательности токенов, представляющих слова или их части, что открывает новые возможности для анализа и прогнозирования на финансовых рынках. Together.ai · Безопасность и алайнмент CoderForge: новый датасет для обучения агентов-программистов Компания Together.ai представила CoderForge — новый открытый датасет, предназначенный для обучения ИИ-агентов, способных работать с кодом. В его основе лежат данные из реальных проектов, включая задачи по рефакторингу, отладке и оптимизации кода. arXiv · Модели и релизы Influcoder: новый метод атрибуции данных для улучшения качества датасетов Исследователи представили метод Influcoder, который позволяет оценивать влияние отдельных данных на обучение языковых моделей. Это важно для создания качественных датасетов, так как позволяет выявлять и удалять вредоносные или нерелевантные данные. arXiv · Машинное обучение Исследование переосмысливает методы сжатия датасетов в машинном обучении Учёные пересмотрели подходы к dataset distillation (DD) — методу, который позволяет создавать компактные обучающие наборы данных, сохраняя ключевую информацию из больших датасетов. Исследование, опубликованное на arXiv, выявило несоответствия в оценке эффективности DD-методов, которые часто тестируются по разным протоколам, от стандартного ERM до использования одного или нескольких учителей. Hacker News · Оркестрация агентов GEDD: фреймворк для оценки LLM на основе системных доказательств Команда AWS представила GEDD (Generative Evidence Driven Decisions) — фреймворк, который позволяет использовать LLM в качестве судьи для оценки качества решений. GEDD систематически собирает и анализирует доказательства, чтобы принимать обоснованные решения. Это особенно полезно для задач, где требуется высокая степень точности и прозрачности, таких как медицинские диагнозы, юридические консультации или финансовые анализы. Hacker News · Оценка и бенчмарки Как оценивают LLM-судей с помощью возмущающих тестов Компания Forus представила метод оценки LLM-судей на основе возмущающих тестов. Подход позволяет проверять устойчивость моделей к различным типам искажений и ошибок, что критично для их использования в агентных системах. arXiv · Инфраструктура для агентов Новый фреймворк для автоматизации данных и AutoML на основе LLM Исследователи представили новый фреймворк, который объединяет возможности LLM и мультиагентные системы для автоматизации полного цикла работы с данными. Платформа Big-Data-as-a-Service (BDaaS) решает задачи инжиниринга данных, AutoML и MLOps, включая мониторинг и оптимизацию моделей.

← Все материалы