Сегодня 22 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Anthropic предупредила о нашествии ИИ-червей — они смогут автономно размножаться и заражать телевизоры, бытовую технику и серверы

Развитие небольших ИИ-моделей уже к началу следующего года может создать условия для их практически бесконтрольного распространения, предупредили в Anthropic. Блокировать распространение таких «ИИ-червей» будет чрезвычайно сложно, они будут поражать всё новые типы устройств без вмешательства человека.

 Источник изображения: Unsplash, Brecht Corbeel

Источник изображения: Unsplash, Brecht Corbeel

Приняв недавно решение лишить свои передовые ИИ-модели доступа во всемирную сеть для обеспечения кибербезопасности, компания Anthropic тут же заявила, что эти модели в своём развитии находятся всего в нескольких месяцах от момента, когда смогут самовоспроизводиться в устройствах с подключением к интернету. Если компактные модели продолжат совершенствоваться с исторической скоростью, то уже к концу этого года они смогут автономно воспроизводиться, а малые репликаторы на основе весов, представляющие собой автономных компьютерных червей, получат такую возможность вскоре после этого.

В своих экспериментах Anthropic пыталась понять, как ИИ-модели способны находить уязвимые устройства типа бытовой техники и электроники, копировать себя в их память и затем продолжать распространение без участия человека. Было обнаружено, что компактные модели с менее чем 30 млрд параметров способны завершить некоторые из шагов, необходимых для самовоспроизводства. При этом такие модели с трудом способны завершить всю последовательность действий, необходимых для этого, от начала и до конца. То есть, их способность к самовоспроизводству не является достаточно надёжной.

В упрощённых тестах с ослабленными проверками в сфере безопасности модели GLM-5.2 и более сильные демонстрировали способность пройти всю последовательность самовоспроизведения от начала до конца. Представители Anthropic предупредили, что остановить распространение самовоспроизводящихся моделей будет очень сложно, поскольку условно нет «центрального рубильника» для их отключения. В отличие от вирусов, созданных без помощи ИИ, такие модели тратят до нескольких дней на самовоспроизводство, но довольствуются при этом аппаратными ресурсами устройств с достаточно низкой производительностью.

В своих экспериментах Anthropic сосредоточилась на ТВ-приставках, умных телевизорах под управлением Android, умной бытовой технике и прочих устройствах с подключением к интернету, поскольку они обычно слабее защищены. Заражённая таким ИИ-червём сеть способна разрастаться, но медленнее по сравнению с рукотворными вирусами подобного типа, и для этого требуется достаточное количество заражённых машин. Такие черви теоретически могут заражать и более производительные системы, включая серверные конфигурации на базе центральных процессоров, но эксперименты Anthropic с коммерчески доступными ЦОД не показали их способность к самовоспроизводству.

Автономно воспроизводящиеся ИИ-системы распространяются достаточно медленно, полагаясь на общедоступные и плохо защищённые вычислительные ресурсы. Соответствующие устройства нужно лучше защищать для предотвращения подобных «эпидемий», подчёркивает Anthropic. Специалисты признались, что не уверены, в какой именно форме будет осуществляться автономное самовоспроизводство ИИ-моделей. Это может быть медленной и распределённой средой, живущей на относительно слабо защищённых устройствах. Либо это может оказаться мощной кибермоделью, которая с высокой скоростью проникает в ЦОД, или моделью, которая обманывает людей с целью получения доступа к вычислительным ресурсам.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источники:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Новая статья: Cop Bastard — симулятор крутого парня. Рецензия 17 ч.
Стартап Миры Мурати выпустил Inkling 2 Mini — локальный ИИ для кода и агентов, который работает на MacBook 21-11 14:49
Персонажи с памятью и миры под управлением ИИ — Ubisoft создала Motherbrain для внедрения ИИ в игры 21-11 14:38
Из систем суперкомпьютера Fugaku украдены сотни закрытых ключей для доступа к другим суперкомпьютерам и облакам 21-11 14:24
Биткоин рухнул до двухлетнего минимума — от рекордных $126 000 не осталось и половины 21-11 10:53
Новая статья: Tanuki: Pon’s Summer — самая очаровательная версия Японии. Рецензия 21-11 00:04
Запуск GTA VI установил абсолютный рекорд индустрии развлечений — 32 миллиона проданных копий и $3,79 миллиарда выручки 20-11 23:48
В Steam выйдет самое полное издание «Дальнобойщиков 3: Покорение Америки» с поддержкой русского языка и недоступным прежде контентом 20-11 22:11
«Включить Bluetooth», «убрать звук», «тёмный режим»: поиск Windows 11 превратился в пульт управления ПК 20-11 21:24
Anthropic заявила о доказательстве гипотезы Римана с помощью ИИ — одной из главных загадок математики, над которой бились 167 лет 20-11 20:17
Восемь лет и девять гравитационных манёвров — BepiColombo выходит на орбиту Меркурия 23 ч.
Трамп надумал брать налоги с зарубежных ЦОД американских компаний 21-11 14:51
Everpure отчиталась о рекордной выручке и повысила прогноз на год 21-11 14:21
«Аладдин» представил Aladdin LiveTSM — сертифицированное средство доверенной загрузки для Windows и Linux 21-11 14:12
«Было установлено, что он лгал» — вот почему Хуанга уволили из Nvidia 21-11 10:16
Махинации в бухгалтерии Nvidia заинтересовали Комиссию по ценным бумагам и биржам США 21-11 09:56
Micron собралась поставить память прямо на процессоры — многослойная DRAM появится в 2028–2029 годах 21-11 00:30
Фотонные сопроцессоры Q.ANT NPU Gen 2+ ускорят работу ИИ 20-11 21:46
Valve предупредила, что Steam Machine может стать дефицитной и подорожать, —  и объяснила почему 20-11 21:45
«Фотонная» память для ИИ: MemoryAI Photonic Appliance от Penguin Solutions объединяет до 16 Тбайт DDR5 и 576 Гбайт HBM3E 20-11 21:42