Проверяемые данные для обучения
моделей следующего поколения
Verified Data for Frontier Models.
TokenDaddy основали участники AI-лабораторий, обучающих модели, и эксперты по данным из крупнейших интернет-компаний — чтобы закрыть потребности в данных для обучения будущих LLM. Мы поставляем корпуса для претрейна, RL-среды и данные для пост-трейнинга, а критерий приёмки — реальный рост возможностей модели.
Претрейн-корпуса
Чистые, легальные и сбалансированные корпуса в масштабе — фундамент знаний и языка модели.
RL-среды
Работающие песочницы, наборы задач и автоматические грейдеры, на которых модель растёт на реальных задачах.
Данные для пост-трейнинга
Экспертные демонстрации, сравнения предпочтений, rubric и проверяемые задачи — выше потолок рассуждений и выравнивания.
Исследования обучения и инженерия данных —
одна команда
Ядро TokenDaddy — выходцы из AI-лабораторий и команд данных ведущих интернет-компаний Китая. Мы понимаем, какие данные действительно двигают возможности модели, и умеем поставлять их в масштабе и по стандартам. Мы созданы, чтобы закрыть потребности в данных для обучения будущих LLM.
Опыт AI-лабораторий
Ключевые участники работали на передовой обучения LLM и определяют данные с точки зрения модели.
- Полный цикл: претрейн, SFT, выравнивание по предпочтениям и RL
- Понимаем реальное влияние данных на loss, бенчмарки и возможности
- Ценность данных меряем абляциями, а не объёмом разметки
- Говорим с исследователями клиента на одном техническом языке
Эксперты по данным из бигтеха
Из команд данных ведущих интернет-компаний, с опытом производства и управления данными в масштабе.
- Системы сбора, очистки и управления данными в масштабе
- Операции разметки, управление сетью экспертов, многоуровневый QA
- Безопасность данных, приватность и трансграничные процессы
- Платформенный тулчейн для стабильной и воспроизводимой поставки
Под новую парадигму обучения
Обучение LLM смещается от «больше данных» к «лучшим данным и средам» — под это мы и созданы.
- Фокус на RL-средах, агентных траекториях и проверяемых наградах
- Следим за передовыми методами обучения и заранее готовим нужные форматы данных
- Исследования и производство вместе — короче путь от сэмпла до поставки
- Нативная экспертиза в китайском языке и локальных сценариях
| Параметр | Классическая разметка | TokenDaddy |
|---|---|---|
| Приёмка | Объём разметки и точность выборочной проверки | Измеримый рост целевых возможностей модели |
| Команда | Менеджер проекта + краудсорсинговые разметчики | Исследователи обучения + инженеры данных + отраслевые эксперты |
| Качество | Отчёт выборочной проверки | Метрики согласованности + результаты верификаторов + отчёт о деконтаминации + абляции |
| Тип данных | Статическая разметка | Корпуса, RL-среды, агентные траектории, проверяемые задачи |
| Формат работы | Выполнение по ТЗ | Спецификацию данных и метрики приёмки задаём вместе с исследователями клиента |
Масштабные, прослеживаемые, сбалансированные корпуса
От сбора, лицензирования и очистки до балансировки и валидации — данные, готовые к загрузке в пайплайн обучения. К каждому пакету прилагаются перечень источников, цепочка лицензий и отчёт о качестве.
Очистка веб-корпусов
Превращаем сырые данные краулинга в качественный обучающий текст.
- Извлечение основного текста, определение языка, нормализация формата
- Точная дедупликация + приближённая MinHash (на уровне документов / абзацев)
- Скоринг классификатором качества и фильтрация по уровням
- Фильтрация вредного контента, рекламы и низкокачественных шаблонов
Лицензионные корпуса и цепочка прав
Работаем с издательствами, журналами, СМИ и профильными организациями, получая ценные тексты для коммерческого использования.
- Книги, научные статьи, новости, отраслевые отчёты
- Переговоры о лицензиях, договоры, контроль объёма прав
- Источник фиксируется для каждого документа — готовность к проверке авторских прав
Обезличивание персональных и чувствительных данных
Удаляем или заменяем идентифицирующую информацию до обучения, снижая регуляторные риски.
- Распознавание и замена имён, телефонов, номеров документов, адресов, email
- Специальные правила для Китая (номера удостоверений личности, мобильные, автономера и др.)
- Выборочная проверка обезличивания и отчёт о доле пропусков
Многоязычные корпуса и редкие языки
Закрываем пробелы за пределами английского с упором на малоресурсные языки.
- Качественные китайские корпуса (включая традиционное письмо и письменные формы диалектов)
- Редкие языки Юго-Восточной и Центральной Азии, Ближнего Востока, Африки и др.
- Параллельные корпуса и пары переводов
- Выборочная проверка носителями языка
Корпуса кода
Претрейн-данные для навыков программирования — с качеством и соблюдением лицензий.
- Сбор open-source репозиториев и фильтрация по лицензиям
- Дедупликация на уровне репозиториев, удаление сгенерированного кода и секретов
- Связанные данные код–документация–issue
- Фильтрация по компилируемости / исполняемости
Отраслевые корпуса
Доменные знания для отраслевых моделей: контролируемые источники, точная терминология.
- Финансы, медицина, право, промышленность, энергетика и др.
- Структурирование нормативов, стандартов, учебников и технических руководств
- Высокоточный разбор таблиц, формул, PDF / сканов
Синтетические данные
Там, где реальных корпусов не хватает, — проверенные данные, сгенерированные моделью.
- Переписывание в учебном стиле, в формат Q&A и упражнений
- Склейка длинного контекста и построение задач на поиск
- Контроль разнообразия и проверка фактов, чтобы модель не повторяла саму себя
Изображения, текст и документы
Хорошо выровненные данные изображение–текст для мультимодального претрейна.
- Сбор пар изображение–текст и фильтрация по релевантности
- Документы с чередованием изображений и текста (веб, учебники, инструкции)
- Структурная разметка OCR-документов, графиков и таблиц
Балансировка микса и проверка на контаминацию
Мы не просто поставляем данные, а помогаем убедиться, что они заслуживают места в обучении.
- Рекомендации по миксу: домены / языки / уровни качества
- Проверка на контаминацию по n-gram с основными бенчмарками
- Абляции на малых open-source моделях: метрики до и после добавления данных
Работающие среды с грейдингом и защитой от читинга
Строим среды обучения с подкреплением для агентов и рассуждающих моделей: контейнерные песочницы + градуированные наборы задач + автоматические грейдеры. Среды воспроизводимы, масштабируются параллельно и постоянно пополняются новыми задачами.
Среды задач на репозиториях
Исправление багов, разработка функций и рефакторинг на реальных репозиториях.
- Полные задачи issue → патч с запускаемыми тестами
- Репозитории на разных языках и фреймворках, зависимости в образах
- Двойная оценка: скрытые + регрессионные тесты
Веб-среды
Модель выполняет многошаговые задачи в вебе: поиск, заполнение форм, заказы, сравнение цен.
- Сбрасываемые зеркала сайтов с контролируемым состоянием
- E-commerce, путешествия, госуслуги, корпоративные админки и др.
- Двойная оценка: выполнение задачи и корректность процесса
Десктоп и ОС
Задачи в десктопных приложениях для computer use.
- Офисные программы, работа с файлами, системные настройки
- Снапшоты и сброс ВМ Windows / Linux
- Двойное наблюдение: скриншот + дерево доступности
Среды инструментов и API
Учим модель правильно выбирать, комбинировать и вызывать инструменты.
- Имитация бэкенд-сервисов и наборы MCP-инструментов
- Оркестрация нескольких инструментов, обработка ошибок, повторы
- Оценка корректности параметров и порядка вызовов
Среды бизнес-процессов
Превращаем реальные рабочие процессы в обучающие среды для корпоративных агентов.
- CRM, ERP, тикеты поддержки, авансовые отчёты, HR-процессы
- Локальные сценарии Китая: WeCom, админки e-commerce, налоговые счета-фактуры
- Многоролевые процессы с правами доступа, согласованиями и исключениями
Банк задач по математике и наукам (RLVR)
Сложные задачи с эталонными ответами и программной проверкой.
- Задачи олимпиадного уровня по математике, физике, химии и алгоритмам
- Нормализация ответов и проверка эквивалентности (числа, выражения, множества)
- Градация сложности и калибровка по доле решений
Функции награды и грейдеры
Задачам без эталонного ответа тоже нужен надёжный сигнал награды.
- Разработка программных грейдеров
- Комбинированная оценка rubric + LLM-судья, калибровка согласованности по людям
- Подготовка данных для обучения моделей награды
Аудит reward hacking
Находим лазейки, через которые модель получает награду в обход цели задачи, и закрываем их до поставки.
- Состязательное тестирование грейдеров (правка тестов, захардкоженные ответы и др.)
- Выборочный аудит обучающих траекторий
- Исправление уязвимостей и регрессионная проверка
Инженерия и сопровождение сред
После поставки среды работают стабильно и продолжают расширяться.
- Контейнеризация в Docker, поддержка высоконагруженных rollout
- Версионирование задач и настройка кривой сложности
- Кастомные бенчмарки (строго изолированы от обучающих задач)
Данные, созданные и проверенные экспертами
Их производит сеть экспертов — PhD, инженеры, врачи, юристы и другие практики. Покрываем SFT, выравнивание по предпочтениям, RL и оценку безопасности.
SFT-демонстрации
Качественные пары инструкция–ответ, задающие модели образец хорошего ответа.
- Многоходовые диалоги, следование инструкциям, сложные ограничения формата
- Длинные тексты, саммари, рерайт, перевод
- Тон и формат под стайлгайд клиента
Экспертные рассуждения
Полные решения и ход мысли, написанные экспертами.
- Пошаговые выводы в математике, науке, программировании и логике
- С пробами, самопроверкой и исправлением ошибок
- Разметка корректности каждого шага (process reward)
Данные предпочтений (RLHF / DPO)
Сравнение и ранжирование ответов моделей для обучения моделей предпочтений и награды.
- Попарное сравнение, ранжирование, оценка по Likert
- Раздельные оценки: полезность, достоверность, безопасность и др.
- С обоснованием оценок — для аудита и повторного использования
Создание rubric и оценка
Разрабатываем применимые критерии оценки для открытых задач и оцениваем по ним.
- Декомпозиция задачи на критерии, веса и условия штрафов
- Перекрёстное экспертное ревью rubric и тест на применимость
- Покритериальная оценка ответов модели по rubric
Проверяемые сложные задачи (RLVR)
Задачи, которые передовые модели пока не решают, но ответ проверяется программно.
- Авторские задачи от уровня магистратуры до олимпиад
- С эталонными ответами или тест-кейсами
- Состязательный отбор передовыми моделями — остаются только действительно сложные
Агентные траектории
Полные записи того, как эксперты выполняют задачи в реальных инструментах и средах.
- Траектории в коде, браузере, десктопе и бизнес-системах
- Наблюдение, рассуждение, действие и результат на каждом шаге
- Неудачные траектории и демонстрации исправления
Данные отраслевых экспертов
Профильные данные от сертифицированных или опытных специалистов.
- Медицина, право, финансы, бухучёт, инженерия, наука
- Профессиональные Q&A, разбор кейсов, составление документов
- Перекрёстная проверка ключевых фактов двумя экспертами
Red teaming и данные безопасности
Систематически находим слабые места модели в безопасности и даём данные для исправления.
- Атакующие примеры: джейлбрейк, манипуляции, предвзятость, утечка приватных данных и др.
- Демонстрации границы между безопасным отказом и полезным ответом
- Наборы для оценки соответствия под законы конкретных регионов
Китайские и локализованные данные
Улучшаем понимание моделью китайского контекста и местных правил.
- Китайский письменный стиль, идиомы и аллюзии, интернет-сленг
- Знания о законах Китая, отраслевых нормах и административных процедурах
- Адаптация к культуре и языковым привычкам разных регионов
Экспертная оценка и кастомные бенчмарки
Количественно измеряем прогресс модели в целевых навыках с помощью экспертной оценки.
- Слепое сравнение версий модели
- Построение приватных бенчмарков со строгой защитой от утечек
- Анализ слабых мест и рекомендации по данным для следующего раунда
Каждая партия данных — с доказательствами качества
Качество — ключевое преимущество TokenDaddy. От запроса до поставки — семь этапов, и каждый оставляет проверяемый след.
Анализ задачи
Определяем целевые возможности, спецификацию данных, rubric и метрики приёмки.
Отбор экспертов
Набор по дисциплинам, вступительный экзамен, постоянный рейтинг и отсев.
Человек + AI
AI готовит черновик, эксперт правит, ключевые решения принимает человек.
Многоуровневый QA
Перекрёстная согласованность, выборочная проверка старшими, независимая верификация ответов.
Автопроверки
Выявляем AI-генерацию, контаминацию бенчмарков, дубли и шаблонность.
Абляции
Обучаем малую модель и проверяем, растут ли метрики благодаря данным.
Комплаенс
Цепочка лицензий источников, обезличивание, оценка трансграничной передачи, NDA.
Для модельных команд на любом этапе
От передовых лабораторий до внутренних команд компаний — на разных этапах командам нужны разные наборы данных.
| Тип клиента | Основные услуги | Типичная задача |
|---|---|---|
| Frontier-лаборатории | RL-среды · Проверяемые задачи · Предпочтения · Red teaming | Поднять потолок рассуждений и агентных возможностей |
| Open-source / средние | Претрейн-корпуса · SFT · Предпочтения | Догнать лидеров при ограниченном бюджете |
| Отраслевые модели | Отраслевые корпуса · Данные экспертов · Кастомные бенчмарки | Экспертность в финансах, медицине, праве и промышленности |
| Агентные стартапы | Бизнес-процессы · Вызов инструментов · Траектории | Агенты, стабильно выполняющие задачи в реальном бизнесе |
| Корпоративные команды | Очистка приватных данных · Обезличивание · Данные для файнтюнинга | Превратить внутренние данные в обучающий актив |
Четыре модели сотрудничества — в любой комбинации
От разового заказа до долгосрочной подписки — под ваш ритм обучения и структуру бюджета.
Кастомный проект
Данные с нуля по спецификации клиента, эксклюзивная поставка.
За запись / за часыГотовые датасеты
Пакеты корпусов, банки задач и бенчмарки — сразу после покупки.
Неэксклюзивная лицензияПодписка на RL-среды
Годовая лицензия на среды с постоянным пополнением задач и исправлениями.
Годовая подпискаАутсорс экспертов
Инструменты и процессы — ваши, отобранные эксперты — наши.
Часы + наценкаКак мы работаем
Обсуждение задачи
Фиксируем целевые возможности, тип данных, объём и критерии приёмки.
Сэмплы
Сначала поставляем небольшую партию сэмплов и согласуем критерии качества.
Платный пилот
Производство среднего масштаба с результатами абляций или оценки.
Масштабирование
Ежемесячные поставки, постоянный мониторинг метрик модели и корректировка курса.
Обсудите с нами ваши задачи по данным
Опишите целевые возможности и текущие узкие места — в течение недели мы предложим план данных и план сэмплов.