Сегодня 19 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Anthropic сделала первый шаг к замедлению ИИ — Accenture будет проверять Claude изнутри

Anthropic объявила, что выбрала Accenture партнёром для независимой оценки своих ИИ-систем. Специалисты Accenture будут непосредственно участвовать в рабочих процессах ИИ-лаборатории. Сотрудничество стало первым шагом к реализации инициативы главы Anthropic Дарио Амодеи (Dario Amodei) по замедлению развития ИИ.

 Источник изображения: anthropic.com

Источник изображения: anthropic.com

Согласно договорённости, в ближайшие пять лет две компании вложат не менее $1 млрд в «наращивание потенциала в этой сфере». Однако с учётом «важности и неотложности» задачи Anthropic обеспечит прямое финансирование работы Accenture. «В долгосрочной перспективе мы считаем, что финансирование должно осуществляться из совместных или государственных источников, к чему мы призывали в опубликованной в июне „Концепции развития передового ИИ“. Поскольку сейчас таких источников нет, мы планируем сотрудничать с различными организациями, проводящими оценку, на разных условиях финансирования», — заявили в Anthropic.

На минувшей неделе Дарио Амодеи предложил план из трёх этапов, призванный замедлить совершенствование передовых моделей ИИ. Первый этап предполагает привлечение независимых экспертов к работе лабораторий для контроля за соблюдением требований безопасности, стресс-тестирования моделей и оценки их соответствия человеческим ценностям. Инициативу поддержали глава OpenAI Сэм Альтман (Sam Altman) и руководитель xAI Илон Маск (Elon Musk). Руководители других технологических компаний, в том числе глава Nvidia Дженсен Хуанг (Jensen Huang), отнеслись к предложению скептически, не увидев необходимости в дополнительном регулировании.

Партнёрство Anthropic с Accenture не является эксклюзивным: компания ведёт переговоры с некоммерческой исследовательской организацией METR и другими потенциальными партнёрами. «Мы рассказываем об этих первых шагах, чтобы общественность и другие разработчики ИИ могли увидеть, как устроена наша работа. Ожидаем, что наш подход будет меняться по мере развития этой практики. По мере продвижения проекта и привлечения дополнительных оценщиков мы будем делиться новой информацией», — добавили в Anthropic.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
ИИ-бум может захлебнуться в избытке чипов — Сэм Альтман предупредил, что OpenAI не сможет скупить всё 12 мин.
Sizable Energy намерена запитать ЦОД от морских гидроаккумуляторных энергохранилищ 20 мин.
США затормозили китайский ИИ: Tencent признала, что следующая LLM задержится из-за перекрытия лазеек к чипам Nvidia 40 мин.
Intel Foundry наконец заполучила крупного клиента — Microsoft доверила ей упаковку чипов Maia и Cobalt 46 мин.
OCTOPUS с Xeon 6 и квантовыми процессорами: Университет Осаки запустил академическую платформу SEAFOOD 56 мин.
Phison представила космические SSD Pascari Space 9 ч.
Новая статья: Обзор системы жидкостного охлаждения Ocypus Omega L36 Ultra Eng Limited: ультрамегасуперэксклюзив 11 ч.
Lenovo готовит бюджетную портативную консоль Legion Go Beam без тачпадов и съёмных контроллеров 11 ч.
Vulcan сразил топливный голод — ULA установила предварительную причину аварии ракеты со спутниками Amazon Leo 12 ч.
Инженеры угрожают новому руководству Nvidia увольнениями, если Хуанг не вернётся на пост гендира 12 ч.