Сегодня 18 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Anthropic сделала первый шаг к замедлению ИИ — Accenture будет проверять Claude изнутри

Anthropic объявила, что выбрала Accenture партнёром для независимой оценки своих ИИ-систем. Специалисты Accenture будут непосредственно участвовать в рабочих процессах ИИ-лаборатории. Сотрудничество стало первым шагом к реализации инициативы главы Anthropic Дарио Амодеи (Dario Amodei) по замедлению развития ИИ.

 Источник изображения: anthropic.com

Источник изображения: anthropic.com

Согласно договорённости, в ближайшие пять лет две компании вложат не менее $1 млрд в «наращивание потенциала в этой сфере». Однако с учётом «важности и неотложности» задачи Anthropic обеспечит прямое финансирование работы Accenture. «В долгосрочной перспективе мы считаем, что финансирование должно осуществляться из совместных или государственных источников, к чему мы призывали в опубликованной в июне „Концепции развития передового ИИ“. Поскольку сейчас таких источников нет, мы планируем сотрудничать с различными организациями, проводящими оценку, на разных условиях финансирования», — заявили в Anthropic.

На минувшей неделе Дарио Амодеи предложил план из трёх этапов, призванный замедлить совершенствование передовых моделей ИИ. Первый этап предполагает привлечение независимых экспертов к работе лабораторий для контроля за соблюдением требований безопасности, стресс-тестирования моделей и оценки их соответствия человеческим ценностям. Инициативу поддержали глава OpenAI Сэм Альтман (Sam Altman) и руководитель xAI Илон Маск (Elon Musk). Руководители других технологических компаний, в том числе глава Nvidia Дженсен Хуанг (Jensen Huang), отнеслись к предложению скептически, не увидев необходимости в дополнительном регулировании.

Партнёрство Anthropic с Accenture не является эксклюзивным: компания ведёт переговоры с некоммерческой исследовательской организацией METR и другими потенциальными партнёрами. «Мы рассказываем об этих первых шагах, чтобы общественность и другие разработчики ИИ могли увидеть, как устроена наша работа. Ожидаем, что наш подход будет меняться по мере развития этой практики. По мере продвижения проекта и привлечения дополнительных оценщиков мы будем делиться новой информацией», — добавили в Anthropic.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Sony подтвердила прошивку, которая нужна для GTA VI на PS5 — пираты пока отстают 34 мин.
Huawei похвасталась, что число пользователей HarmonyOS превысило 100 млн 40 мин.
В «Яндекс 360» для бизнеса появилась поддержка плагинов — они позволяют расширить возможности виртуального офиса 3 ч.
Интернет начал ломаться весь и сразу, но до киберапокалипсиса ещё далеко — и вот почему 3 ч.
Миллионы ИТ-систем по всему миру под угрозой: GPT-6 Cyber нашла критическую дыру в Java 4 ч.
Microsoft превратит Copilot в сисадмина — ИИ будет сам разбираться с поломками Windows 5 ч.
NVIDIA ускорила эмуляцию FP64-вычислений на своих ИИ-чипах 9 ч.
ИИ-генератор аудио Suno научился создавать музыкальные клипы 9 ч.
Новая глава в истории Firaxis Games началась с массовых увольнений, а следующая XCOM в беде 9 ч.
Секретная сеть АНБ США дала сбой после обновления — это парализовало работу большинства сотрудников 9 ч.