Сегодня 28 марта 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Выходцы из OpenAI представили чат-бота, который умеет обрабатывать огромные тексты — на «Великий Гэтсби» ушло меньше минуты

Стартап Anthropic смог расширить контекстное окно ввода своего чат-бота Claude до 75 000 слов — это большое улучшение по сравнению с текущими моделями. Компания заявляет, что чат-бот может обработать целый художественный роман менее чем за минуту.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Часто упускаемое из виду ограничение для чат-ботов — это память. Хотя языковые модели ИИ, лежащие в основе этих систем, действительно обучаются на терабайтах текста, объем, который эти системы могут обработать во время использования, весьма ограничен. Для ChatGPT это около 3000 слов. И хотя существуют способы обхода этих ограничений, однако этого все равно мало. Компания Anthropic, основанная бывшими инженерами OpenAI, значительно расширила контекстное окно для своего чат-бота Claude, доведя его до 75 000 слов. Как она отмечает в своём блоге, этого достаточно, чтобы обработать произведение «Великий Гэтсби» за один раз. Фактически, компания протестировала систему, отредактировав одно предложение в романе и попросив ИИ заметить изменение. Это произошло за 22 секунды.

Языковые модели ИИ измеряют информацию не количеством символов или слов, а токенами – семантической единицей, которая не всегда коррелируется с количеством символов, а так как слова могут быть длинными или короткими, их длина не обязательно соответствует количеству токенов. В этом отношении контекстное окно Claude превосходит модель OpenAI, так как может оперировать 100 000 токенам по сравнению с 9 000 ранее, в то время как полнофункциональная модель GPT-4 с может обрабатывать до 32 000 токенов.

Сейчас новые возможности Claude доступны только бизнес-партнёрам Anthropic, которые подключаются к чат-боту через API компании. Цена также неизвестна, но она наверняка значительно выросла, так как обработка большего количества текста означает увеличение затрат на вычисления.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Экс-глава EA Russia Тони Уоткинс сделает Astrum Entertainment «компанией №1» на российском рынке видеоигр 59 мин.
Магазин чат-ботов ChatGPT провалился, но им пользуются ученики школ и университетов 2 ч.
Diablo IV добавили в Game Pass, но для игры на ПК всё равно нужен Battle.net 2 ч.
Canonical увеличила срок поддержки LTS-релизов Ubuntu до 12 лет 2 ч.
Claude 3 Opus сбросила GPT-4 с первого места в рейтинге языковых моделей 3 ч.
Intel Gaudi2 остаётся единственным конкурентом NVIDIA H100 в бенчмарке MLPerf Inference 3 ч.
Яндекс представил третье поколение нейросетей YandexGPT 3 ч.
«Мы нанимаем сценаристов, а не заставляем ChatGPT писать диалоги за них»: глава Larian высказался о потенциале ИИ в разработке игр 3 ч.
Аппаратные требования больших языковых моделей ИИ сокращаются вдвое каждые восемь месяцев 4 ч.
Sega подтвердила массовые увольнения и продажу Relic Entertainment — разработчики Company of Heroes и Warhammer 40,000: Dawn of War вновь станут независимыми 5 ч.