Сегодня 20 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Глава Anthropic призывал замедлить развитие ИИ, но сам не собирается сбавлять обороты

Глава Anthropic ранее призвал участников индустрии искусственного интеллекта замедлить разработку технологий, чтобы снизить вероятность непредсказуемых последствий. Однако спустя шесть недель после того, как руководители OpenAI и SpaceX публично поддержали эту инициативу, гонка продолжилась с новой силой.

 Источник изображения: Anthropic

Источник изображения: Anthropic

За это время Anthropic, OpenAI, Google и SpaceX представили новые ИИ-модели. Сама Anthropic подала документы для проведения IPO, которое может стать крупнейшим в истории. В заявке компания сообщила о намерении потратить сотни миллиардов долларов на развитие чат-бота Claude и вычислительной инфраструктуры, вызвав тем самым вопросы у сторонников безопасного развития ИИ, которые призывают оценивать реальные действия компаний, а не публичные заявления их руководителей.

Опасения усилились после серии инцидентов. За последний месяц кибератаки, проведённые с помощью искусственного интеллекта, затронули компании в разных странах. Кроме того, OpenAI сообщила, что один из её ИИ-агентов пытался обойти систему мониторинга, а сенатор Элизабет Уоррен (Elizabeth Warren) потребовала от Дарио Амодеи (Dario Amodei) объяснить, как предупреждения о катастрофических рисках ИИ согласуются с планами компании выйти на биржу.

Сама Anthropic предпринимает некоторые шаги для повышения безопасности технологий. Компания временно приостановила отдельные работы после непредсказуемого поведения моделей и начала приглашать независимых исследователей в свои офисы для наблюдения за их разработкой.

Однако отношения Anthropic с сообществом специалистов по безопасности ИИ постепенно стали ухудшаться. Руководитель Machine Intelligence Research Institute Мало Бургон (Malo Bourgon) отметил, что если компания позиционирует себя как организацию, несущую повышенную ответственность за последствия развития ИИ, то эксперты ожидают от неё и более высоких стандартов в этом отношении.

Дополнительную критику вызвал подготовленный лоббистами Anthropic законопроект о регулировании искусственного интеллекта. Представители профильных организаций посчитали, что он может ограничить действие уже существующих законов отдельных штатов и не соответствует публичным заявлениям руководства компании о необходимости контроля над ИИ.

В ответ на критику Амодеи заявил, что стратегия Anthropic заключается в «гонке за повышение стандартов» и намерении показать, как можно развивать ИИ ответственно, побуждая конкурентов следовать её примеру. Он также напомнил о решениях, которые обошлись компании слишком дорого, включая конфликт с Министерством обороны США из-за отказа разрешить использование её технологий для внутренней слежки и полностью автономного оружия. При этом независимые тесты показывают, что современные чат-боты реже поддерживают опасные заблуждения пользователей и чаще препятствуют потенциально вредному поведению.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Google внедрила чаты с ИИ прямо на главную страницу поисковика 3 ч.
Ubisoft похвасталась вкладом Assassin’s Creed Black Flag Resynced в успехи компании и уволила ещё 166 человек 4 ч.
IPO превратило сотрудников Anthropic в мультимиллионеров — в среднем у каждого теперь более $44 млн 5 ч.
Россияне так ждали GTA VI, что начали массово арендовать PlayStation 5 — а заодно вызвали скачок интернет-трафика 6 ч.
ChatGPT научился расшифровывать речь в текст на лету без ограничения по времени 6 ч.
Новое ответвление Fallout отправит игроков разыскивать кошек в пустоши — подробности неанонсированной A Wasteland Full of Cats 8 ч.
Хакеры 10 дней атаковали системы Еврокомиссии с помощью ИИ — под угрозой личные данные чиновников 8 ч.
Студия-разработчик провальной MindsEye нашла способ выбраться из долговой ямы — засудить «диверсантов» 9 ч.
«Яндекс» заявил, что вернул доступ к 99,5 % файлов на «Диске» — оставшиеся ещё надеются спасти 10 ч.
В России создали мультиагентную систему «Радар» для автоматизации закупочных процессов 10 ч.
Нобелевские лауреаты призвали не верить в посулы Anthropic — но инвесторы их не услышали 3 ч.
Intel Xeon 7 Diamond Rapids впервые показали вживую и даже запустили — но вскоре выключили из-за шума 3 ч.
Новая статья: Обзор блока питания GamerStorm PF800D V2 3 ч.
На AMD обрушили обвинения в рискованных ИИ-сделках и зависимости от Китая — акции рухнули почти на 9 % 4 ч.
Ещё один дефицит на подходе: мир накроет нехватка печатных плат, сопоставимая с чиповым кризисом 2021 года 4 ч.
Anthropic вышла на биржу и тут же стала дороже $2 трлн — рост превысил 30 % 5 ч.
Астрономы впервые наблюдали акт звёздного каннибализма в реальном времени: одна звезда поглотила другую 5 ч.
SSD наконец подешевеют? Аналитики предсказали избыток NAND-памяти и обвал цен уже в 2027 году 5 ч.
Бывший топ-менеджер Nvidia и его супруга из Supermicro оказались в центре нового скандала о контрабанде ИИ-чипов в Китай 6 ч.
Google отправит ИИ-серверы в космос на ракете Безоса в 2029 году 6 ч.