Сегодня 18 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Anthropic заявила, что ИИ теперь руководит 26 % деятельности по разработке и исследованиям внутри компании

Пока участники рынка робототехники стремятся добиться того, что «машины будут делать машины», разработчики систем искусственного интеллекта тоже движутся к подобным целям самовоспроизведения. В компании Anthropic, например, до 26 % активности в сфере разработки ИИ уже осуществляется при лидирующей роли самого искусственного интеллекта.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Ещё в начале текущего года, как говорится в импровизированном отчёте на страницах блога Anthropic, подобная практика не применялась. Если же говорить о совместной работе с исследователями, то ИИ в этом смысле применяется в 90 % случаев. Данной статистикой руководство стартапа поделилось в качестве примера формирования общеприменимых критериев оценки прогресса в разработке систем искусственного интеллекта.

Подтвердила Anthropic и свою готовность привлечь сторонних аудиторов к анализу безопасности процесса разработки своих систем: «ИИ системы становятся всё более мощными в экспоненциальном порядке и начали автоматизировать всё более весомую часть работы по своему созданию. По мере того, как мир рассматривает возможность модерации темпов развития передовых ИИ-систем, общественности нужно больше информации».

Anthropic является сторонником идеи «рекурсивного самосовершенствования» ИИ-систем, которая подразумевает постоянное улучшение профильного программного обеспечения без существенного вмешательства со стороны человека. Некоторые участники рынка видят за таким подходом будущее, но прочие выражают обеспокоенность безопасностью соответствующего подхода.

Компания попыталась сформировать средства оценки активности ИИ-агентов в своей программной инфраструктуре. По состоянию на август текущего года, в любой произвольный момент времени инженерной и исследовательской работой внутри компании занимались одновременно более 30 000 ИИ-агентов. По данным стартапа, от 6 до 12 % своих вычислительных ресурсов он выделяет под задачи мониторинга безопасности. По мнению руководства Anthropic, раскрытие подобной информации позволит и другим компаниям предоставить общественности возможность решить, что нужно делать с этими данными.

Анализируя собственную деятельность, Anthropic определила, что нет таких сфер активности ИИ-агентов, в которых бы они занимались разработками и исследованиями полностью автономно. Компания призвала участников рынка создавать системы мониторинга активности ИИ-агентов, которые позволили бы при необходимости вмешиваться в соответствующие процессы. Ещё одним критерием оценки безопасности ИИ должно стать распределение вычислительных ресурсов — как отмечалось выше, определённую их часть нужно выделять под мониторинг безопасности. Наконец, все эти данные нужно соотносить с результатами практических испытаний новых ИИ-моделей, чтобы понимать, на что они способны в действительности. Подобный набор критериев позволит сторонним аудиторам выработать единый подход к анализу безопасности создаваемых участниками рынка ИИ-моделей. Anthropic берёт на себя обязательство регулярно делиться подобной статистикой с целью повышения прозрачности своей деятельности.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источники:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Valve добавила в Counter-Strike 2 зимний ремейк легендарной карты Cobblestone и механику растапливания снега 6 мин.
NVIDIA ускорила эмуляцию FP64-вычислений на своих ИИ-чипах 2 ч.
ИИ-генератор аудио Suno научился создавать музыкальные клипы 2 ч.
Новая глава в истории Firaxis Games началась с массовых увольнений, а следующая XCOM в беде 2 ч.
Секретная сеть АНБ США дала сбой после обновления — это парализовало работу большинства сотрудников 2 ч.
Microsoft научила Windows окирпичивать украденные ноутбуки — файлы при этом не пострадают 11 ч.
Более 80 % серверов Exchange вышли из строя: Microsoft рассказала, как сама усугубила глобальный сбой Outlook 11 ч.
Microsoft представила семь ИИ-моделей: одни пишут и исправляют код, другие ищут уязвимости, редактируют изображения и общаются голосом 12 ч.
Apple тестирует лимиты для Siri AI — за дополнительные сложные запросы придётся платить 12 ч.
Объявлены номинанты The Game Awards 2026 — GTA VI впереди всех, но конкуренты недалеко 12 ч.
США перекрыли Китаю ещё одну лазейку к чипам Nvidia — азиатским дата-центрам запретили покупать ИИ-ускорители без разрешения Вашингтона 3 мин.
МТС впервые напрямую подключил смартфон к спутнику — но до полноценной спутниковой связи ещё далеко 60 мин.
Nvidia заявила, что не намерена возвращать Хуанга на пост гендиректора 2 ч.
«Мы со всем справимся»: Nvidia удвоила прибыль и выручку, а заодно повысила прогноз, несмотря на скандал и уход Хуанга 2 ч.
Отставка Хуанга не спасла Nvidia от неприятностей — Комиссия по ценным бумагам и биржам США запустила расследование 2 ч.
Компьютер LEO, открывший эпоху коммерческого применения вычислительной техники, отмечает 75-летие 2 ч.
Новая статья: Обзор игрового ноутбука GIGABYTE EAGLE 9MJ: новый средний класс 12 ч.
Samsung готовит телевизор, который следит за зрителями — чтобы ставить кино на паузу, когда те отлучаются 13 ч.
Хакеры взломали мощнейший суперкомпьютер Японии Fugaku — под угрозой оказались данные тысяч учёных 14 ч.
LANL испытает ускорители Maverick-2 — это уже вторая система NextSilicon для Министерства энергетики США 14 ч.