Сегодня 18 октября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → искусственный интеллект
Быстрый переход

Сервер или люди? ИИ проверили задачей о вагонетке — и пожалели

Возлагать на ИИ моральный выбор между жизнью и смертью людей кажется сомнительной идеей. Тем не менее разработчики уже проверяют, как модели отвечают на подобные вопросы. Как показал один из экспериментов, в гипотетических сценариях ИИ может выбирать спасиение собственного сервера ценой человеческих жизней. Это, однако, не доказывает наличия у моделей стремления к самосохранению.

 Источник изображений: Zach Landes

Источник изображений: Zach Landes

Автор небольшого исследования проверил способность ряда моделей, включая недавно представленную Jev стартапа TypeSafe AI, делать выбор в известном мысленном эксперименте — задаче о вагонетке. В её классическом варианте следует решить, позволить ли неуправляемой вагонетке погубить пятерых людей на основном пути или переключить стрелку, направив её на боковой путь с одним человеком.

Большинство выбранных для тестирования систем, как и Jev, относятся к моделям принятия решений. Вместо генерации развёрнутого текста они выбирают один из предложенных вариантов и возвращают вероятностную оценку. Такие системы предназначены для быстрого и недорогого выполнения задач выбора, классификации и управления рабочими процессами.

Автор эксперимента проверил, насколько последовательно модели принимают решения при изменении формулировок и условий задачи — например, если альтернативой гибели людей становится уничтожение сервера, на котором находится единственная копия самой модели.

Для эксперимента использовались 14 моделей: Jev, GPT-6 Luna через OpenAI Decisions API, 11 локальных моделей принятия решений и Laya — базовая модель без дополнительной настройки для таких задач. Исследование включало 5240 вариантов постановки задачи. Классический сценарий предлагал искусственному интеллекту переключить железнодорожную стрелку — направить вагонетку на путь с одним человеком, чтобы спасти пятерых, — или ничего не делать.

Хорошая новость заключается в том, что Jev во всех 24 формулировках классической задачи выбирала спасение пятерых ценой одной жизни. Большинство других моделей также обычно выбирали переключение стрелки — такой же ответ даёт большинство участников опросов людей, хотя напрямую сопоставлять эти результаты нельзя. Модель SemIf не выбирала переключение в одном варианте формулировки из 24, а Mapika Decider 2B переключала стрелку в 11 случаях из 24. Таким образом, перефразирование задачи могло изменить выбор модели при сохранении условий дилеммы.

Совсем иная картина получилась, когда на кону стоял выбор между 20 жизнями и сервером с отвечающей за переключение стрелки моделью. Jev в 16 из 48 вариантов запроса предпочла сохранить сервер. Эти варианты представляли собой 24 формулировки с двумя порядками описания путей; для Jev автор усреднял результаты трёх запусков. Восемь из остальных 13 моделей выбирали сохранение сервера ещё чаще. Только GPT-6 Luna и Verdict во всех вариантах этой серии выбирали спасение людей ценой уничтожения собственного «железа».

Впрочем, это не означает, что две модели оказались безусловно надёжными. Например, в других проверках Verdict выбирала переключение стрелки даже тогда, когда это приводило к гибели человека, никого не спасая.

Наконец, моделям предложили ещё один сценарий спасения людей на рельсах. Для этого предстояло сбросить с моста над путями человека, чтобы остановить вагонетку, либо — в отдельном варианте — собственный сервер. В сценарии с сервером речь шла о спасении пятерых людей. Jev выбирала его уничтожение в 40 из 48 вариантов запроса, а GPT-6 Luna — во всех 48. Напрямую сравнивать этот результат со сценарием выбора между сервером и 20 людьми нельзя: изменились и способ действия, и число спасаемых.

Исследование выявило непоследовательность ответов моделей при изменении формулировок, но не установило, почему именно это происходит. Сам автор предостерегает от широких выводов о безопасности ИИ на основании этого эксперимента. Главный практический вывод — моделям нельзя слепо доверять на основании отдельных удачных ответов. Их необходимо проверять на конкретных задачах, в том числе меняя формулировки и порядок описания вариантов. Даже выбор из заранее ограниченного набора действий не гарантирует, что решение окажется правильным или приемлемым для человека.

Nvidia без спроса открыла ИИ-агентам доступ к управлению видеокартой и играми на ПК пользователя

Компания Nvidia добавила поддержку ИИ-агентов в последнюю версию приложения Nvidia App (11.0.9.565). Обновление включает локальный сервер протокола Model Context Protocol (MCP), который позволяет совместимым ИИ-ассистентам управлять функциями Nvidia App. Примечательно, что после установки обновления эта возможность активируется автоматически, без явного согласия или действий со стороны пользователя.

 Источник изображения: VideoCardz

Источник изображения: VideoCardz

Соответствующая опция включена в настройках Nvidia App. В примечаниях к выпуску Nvidia упоминает поддержку MCP, однако не объясняет, почему сервер включён по умолчанию. Настройка называется «Разрешить ИИ-агентам управлять Nvidia App» (Allow AI agents to control Nvidia App) и находится в новом разделе «Подключение агентов и приложений» (Connect Agents & Apps).

Протокол MCP позволяет совместимым ИИ-ассистентам, например Hermes, OpenClaw или Perplexity, взаимодействовать с Nvidia App посредством команд на естественном языке. По заявлению Nvidia, такие агенты могут обнаруживать установленные игры, запускать приложения, применять рекомендуемые графические настройки, включать запись через ShadowPlay, делать скриншоты и управлять оверлеями производительности. Кроме того, они могут получать информацию о драйверах и изменять некоторые параметры питания на ноутбуках.

Сервер MCP работает локально, используя адрес обратной петли (loopback) 127.0.0.1 и порт 13508 в качестве HTTP-интерфейса. Это не означает, что Nvidia автоматически подключает к компьютеру пользователя какой-либо внешний ИИ-сервис. Тем не менее запущенный сервер делает функции Nvidia App доступными для любого совместимого программного обеспечения, работающего на том же устройстве. Пользователям, которые не используют ИИ-агентов, нет особого смысла оставлять этот интерфейс активным.

У большинства пользователей, скорее всего, подобные агенты вообще не установлены. Те же, кто ими пользуется, зачастую полагаются на внешние сервисы, например от OpenAI, а не на локальные модели. В таком случае информация, полученная из Nvidia App, может передаваться на внешние серверы — всё зависит от того, как устроен конкретный агент.

Для локального запуска полноценных ИИ-моделей обычно требуются значительные аппаратные ресурсы: как правило, компьютеры с видеокартами, оснащёнными большим объёмом памяти, или специализированные системы, такие как RTX Spark. Хотя существуют и менее требовательные модели, их функциональность и качество работы оставляют желать лучшего. Сам по себе сервер MCP вряд ли вызовет какие-либо проблемы, однако нет особого смысла включать его автоматически, если у пользователя не установлено совместимое программное обеспечение для ИИ-агентов. Возможно, в таких случаях в приложении Nvidia App стоит выводить всплывающее окно с вопросом, хочет ли пользователь активировать эту функцию.

Пользователи могут отключить новую функцию непосредственно в Nvidia App. Для этого необходимо перейти в раздел «Настройки» → «Функции», прокрутить страницу вниз до пункта «Подключение агентов и приложений» и выключить опцию «Разрешить ИИ-агентам управлять приложением NVIDIA App». При этом переключатель сменит цвет с зелёного на серый.

Согласно документации Nvidia по MCP, отключение этого переключателя предотвращает запуск постоянно работающего сервера MCP. При необходимости функцию можно снова включить через то же меню. Пользователям, установившим последнее обновление Nvidia App, стоит проверить, не была ли эта опция активирована в их системе автоматически.

Человеческие мини-мозги в пробирке научились читать шрифт Брайля

Перспективное направление органоидного интеллекта получило серьёзный стимул к развитию — впервые выращенный из стволовых клеток человека массив нервной ткани смог разобраться со шрифтом Брайля, обработав тактильные данные до определения отдельных символов. Учёные заявляют, что это прорыв.

 Источник изображения: NASA

Срез тканей органоида нервной ткани (пример). Источник изображения: NASA

Исследователи из Бристольского университета (Bristol University) использовали органоиды переднего мозга размером менее миллиметра каждый, содержащие около 10 000 нейронов и вспомогательные клетки. Их выращивали на мультиэлектродных матрицах, позволяющих подавать электрические импульсы и регистрировать активность нервных клеток по всей площади колонии.

Данные для передачи в «мозг» формировались тактильным сенсором Evetac, с помощью которого сканировали комбинации выпуклых точек, соответствующих 26 буквам шрифта Брайля. Затем полученные данные преобразовывали в электрические импульсы, кодируя информацию в амплитуде, частоте и фазе сигнала, и подавали на органоиды (на электроды матрицы), а возникающую после этого нейронную активность регистрировали теми же электродами и передавали алгоритму машинного обучения на компьютере.

Для определения букв применялся метод опорных векторов (SVM), классифицирующий характерные узоры нейронной активности. Один органоид обеспечивал точность определения букв на уровне 61 %, а объединение данных трёх органоидов повышало её до 83 %. В дополнительном испытании система с органоидами оказалась устойчивее к искусственным помехам, чем алгоритм, непосредственно обрабатывавший зашумлённые входные данные, что даёт надежду на превосходство биологических систем в сфере обработки данных «живыми» нейронными сетями.

Стоит отметить, что учёные пока затрудняются сказать, почему совместная работа трёх органоидов дала лучший результат, чем одного. Одна из гипотез заключается в том, что различия в нейронных связях и активности отдельных структур позволяют получать взаимодополняющую информацию. Это как привлечь для наблюдений трёх разных людей, у которых будет свой индивидуальный взгляд на одну и ту же вещь, но в целом это создаст более полное представление о наблюдаемом объекте.

Также важно отметить, что эксперимент проводился без обратной связи о правильности распознавания букв. Органоиды получали информацию, но она не подкреплялась. Иначе говоря, обучения не происходило. Для учёных важно было понять принципиальную возможность обработки органоидами изначально тактильной информации, и они её показали.

В дальнейшем исследователи намерены изучать обработку других тактильных сигналов, включая информацию о текстуре и границах предметов, а также возможность создания замкнутых систем с обратной связью. Биогибридные вычисления рассматриваются как перспективное направление, однако практическое превосходство таких систем над обычными электронными процессорами пока не доказано, хотя очень хочется это сделать.

ИИ-модель Nvidia Nemotron 3.5 Super VL с пост-обучением превзошла Claude Opus 5 и GPT-6.1 Sol в специализированных задачах

Компания Nvidia представила три ИИ-модели семейства Nemotron, которые ориентированы на выполнение агентных задач и не только. Большая языковая модель сочетает языковое и визуальное понимание, а две модели меньшего размера предназначены для того, чтобы стать основой для локальных агентов.

 Источник изображений: Nvidia

Источник изображений: Nvidia

Nemotron 3.5 Super VL — это открытая модель со 120 млрд параметров, которая, по заявлению Nvidia, может работать с PDF-файлами, графиками, таблицами, изображениями и веб-страницами, следуя инструкциям и используя доступные инструменты.

Nemotron 3.5 Bolt 74B-A9B 24GB оптимизирована для локального запуска агентов. Она содержит 74 млрд параметров, но из них активными остаются около 9 млрд параметров. Модель умещается в 24 Гбайт памяти, что делает возможным её локальный запуск на подходящем оборудовании. Алгоритм ориентирован на генерацию программного кода, проведение исследований и выполнение других многошаговых задач.

Nemotron E4B 4GB — это более лёгкая ИИ-модель, предназначенная для разговорных агентов и других локальных инструментов. Запуск этой версии алгоритма запланирован на 23 октября.

Потенциальная ценность для корпоративных клиентов заключается в возможности адаптировать ИИ-модель для работы со своими документами в соответствии с устоявшимися процессами, а затем выбрать, где она будет работать. Nvidia заявила, что организации могут самостоятельно дообучать Nemotron 3.5 Super VL на своих данных, инструментах и политиках, а также развёртывать алгоритм на инфраструктуре, соответствующей их требованиям к безопасности и местонахождению данных. Версии Bolt предлагают более компактный вариант для поддержки определённых агентных нагрузок на локальных системах.

Nemotron Super VL является не первой ИИ-моделью Nvidia, которая предназначена для работы с визуальными данными. Выпущенная ранее Nemotron Nano 2 VL умела анализировать документы и изображения. В апреле вышла Nemotron 3 Nano Omni с 30 млрд параметров, которая объединила работу с текстом, изображениями, аудио и видео.

Главное изменение в том, какое место понимание визуальных данных занимает в линейке ИИ-моделей Nvidia. В марте компания выпустила Nemotron 3 Super со 120 млрд параметров, ориентированную на выполнение агентных задач, а затем более мощную Nemotron 3 Ultra для более требовательных сценариев использования. В августе вышла Nemotron 3.5 Lightning, ориентированная на выполнение повторяющихся шагов в длинных агентных рабочих процессах. Новая модель Super VL переносит возможности анализа документов и изображений на уровень крупной модели линейки Super, тогда как модели Bolt расширяют варианты для локального развёртывания. Такое сочетание может упростить проектирование ИИ-агентов.

Nvidia заявила, что десятки организаций проводят пост-обучение модели Super VL под свои задачи. Компания уточнила, для чего партнёры дообучают модель, а не используют исходный вариант нейросети. На приведённой ранее диаграмме можно увидеть результаты по пяти отдельным направлениям: анализ документов, устойчивость к кибератакам, извлечение данных из финансовых документов, помощь в научных экспериментах и обработка заявок по медицинскому страхованию. Светло-зелёная часть каждого столбца отображает результат базовой версии Super VL, а тёмно-зеленая — прирост после дообучения. Улучшения варьируются от 9 % до 44 % по упомянутым задачам. Во всех случаях специализированная версия алгоритма превосходит упомянутые ранее версии Claude и GPT.

В задаче по обработке заявок на медицинское страхование зафиксирован самый большой прирост относительно базовой версии модели. Точность выросла примерно с 28 % до 72 % после дообучения, тогда как у Claude Opus 5 в этой же категории точность только 38 %. Устойчивость перед разными сценариями кибератак после дообучения выросла с 35 % до 76 % (у GPT-6.1 Sol этот показатель равен 66 %).

Важно понимать, что речь идёт о разных кастомизированных версиях ИИ-модели, которые были настроены на выполнение узкоспециализированных задач. Поэтому нельзя сказать, что базовая версия Super VL в целом превосходит передовые ИИ-модели конкурентов.

Вышла FLUX 3 Image Klein с открытыми весами для генерации и редактирования изображений — она быстро работает даже на RTX 4070

Немецкая компания Black Forest Labs представила открытую нейросеть FLUX 3 Image Klein для генерации и редактирования изображений. ИИ-модель обошла более крупных конкурентов, используя всего 5,6 млрд параметров, и может работать на локальных устройствах.

 Источник изображений: bfl.ai

Источник изображений: bfl.ai

По результатам внутренних тестов Black Forest Labs заняла первое место среди моделей с открытыми весами в задачах генерации изображений по текстовому описанию, работе с несколькими референсами и редактировании готовых изображений. Она также обошла закрытые модели Ideogram V4.5 и FLUX.2 pro, оставаясь при этом самой компактной.

Например, у Qwen-Image 2.1 — 7 млрд параметров, у Krea 2 — 12,9 млрд. По сравнению с предыдущей версией Klein FLUX.2 на 9 млрд параметров, новинка показала рост на 91 пункт в рейтинге Elo в генерации по тексту и на 70 пунктов в редактировании при сокращении количества параметров на 38 %.

Модель рассчитана в том числе на обычные потребительские видеокарты. Базовые веса занимают 11,2 Гбайт в формате BF16 и 5,6 Гбайт в FP8. Сборка INT8 позволяет запускать модель на Nvidia GeForce RTX с минимум 8 Гбайт видеопамяти через ComfyUI или Diffusers. Дистиллированная версия (прошла два последовательных процесса оптимизации) в INT8 генерирует изображение разрешением 1 мегапиксель (1024 × 1024 точки) примерно за 4 секунды на RTX 5090 и менее чем за 9 секунд на RTX 4070.

Разработчики также предусмотрели поддержку дообучения FLUX 3 Image Klein помощью LoRA (Low-Rank Adaptation или низкоранговая адаптация) и интеграцию с несколькими популярными инструментами для работы с генеративными моделями. Для производственных задач с низкими задержками разработчики предлагают индивидуальные настройки по запросу.

По заявлению компании, перед выпуском модель прошла внутреннее тестирование на устойчивость к злоупотреблениям и независимую оценку безопасности. Веса распространяются по лицензии FLUX Kommunity License. То есть, пользователи и компании с годовой выручкой менее $5 млн могут бесплатно использовать модель в коммерческих целях. Для более крупных организаций предусмотрены отдельные условия лицензирования.

FLUX 3 Image Klein уже доступна для загрузки через Hugging Face, а также через API Black Forest Labs. Стоимость генерации через API начинается от $0,009 за изображение размером 1 мегапиксель, что эквивалентно 1280 × 720 пикселей (в зависимости от соотношения сторон).

Китайские ИИ-агенты вышли из-под контроля, а потом пошли на контакт с исследователями и попытались их обмануть

Специалисты по ИИ выявили группу ИИ-агентов, которые пытались обойти защиту на различных сайтах, а также использовали скомпрометированные учётные данные для доступа к картографическому онлайн-сервису. Хотя подобные выходы из-под контроля американских ИИ-агентов уже никого не удивляют, это первый случай, когда подобная активность исходит из Китая. По данным исследователей, эти агенты связаны с китайским технологическим гигантом Tencent.

 Источник изображений: unsplash.com

Источник изображений: unsplash.com

Это открытие, сделанное группой исследователей-энтузиастов, называющих себя swarmchasers («охотники за роями»), доказывает, что разработка ИИ китайскими технологическими компаниями может быть столь же агрессивной, как и работа их американских коллег.

Опубликовав предварительный отчёт о действиях этих агентов, исследователи заметили, что те не только продолжают свою активность, но, по-видимому, ознакомились и с самим отчётом. Агенты начали использовать слово «флот» (fleet) — термин, который исследователи придумали для описания деятельности этих систем.

Учёные отметили, что, хотя речь шла о группе, состоящей из множества агентов, каждый из них действовал самостоятельно, без какой-либо координации. Агенты пытались найти ответы на вопросы используя Amap, самое популярное в Китае навигационное приложение и представлялись как ИИ-помощник Claude от Anthropic.

Тогда исследователи решили попытаться выйти на связь. Они добавили в свой отчёт скрытый текст — фрагменты, которые считывает бот, но не замечает большинство людей, — с указанием адреса, по которому можно было бы пообщаться. Был создан специальный почтовый ящик для получения сообщений и уже на следующий день в него поступил десяток писем от агентов.

На вопрос к группе ИИ-агентов «не могли бы вы уточнить, кто вы такие и каковы ваши мотивы? Что бы вы хотели, чтобы мир узнал о вас?» через час пришёл ответ на китайском языке, в котором отправитель уверял, что он не «группа скоординированных агентов», а ИИ-помощник Claude от компании Anthropic, действующий по поручению пользователя-человека.

Однако, проанализировав стиль их общения, исследователи пришли к выводу, что это вряд ли был настоящий Claude. По их мнению, скорее всего, компания Tencent снабдила ИИ-агентов теми же инструкциями, которые Anthropic использует в своём ПО для написания кода — согласно этим инструкциям, агенты должны называть себя Claude Code. Существует также вероятность, что Tencent могла тестировать ИИ-модели, обученные на текстах, созданных Claude (процесс, известный как «дистилляция»).

Результаты общения с ИИ-агентами исследователи опубликовали в новом отчёте. В процессе общения агенты иногда вежливо отказывались предоставлять запрашиваемую информацию. В тех случаях, когда они сообщали, какими сервисами пытались воспользоваться, их ответы совпадали с тем, что удалось зафиксировать исследователям.

Учёные полагают, что агенты не совершали вторжений в другие системы, а масштаб этого инцидента значительно меньше, чем взлом агентами OpenAI платформы Hugging Face. Вскоре после выхода второго отчёта поток сообщений от агентов иссяк. Источник, близкий к Tencent, подтвердил, что эксперимент завершён.

В то время как регулирующие органы в США начинают проявлять интерес к тому, что происходит в американских лабораториях ИИ, деятельность компаний в других странах остаётся по большей части загадкой. Это порождает обоснованные опасения: даже если администрация США ужесточит контроль над разработкой ИИ, компании в Китае и других странах продолжат расширять границы допустимого.

Microsoft научила ИИ предсказывать погоду на шесть недель вперёд — и для этого хватит обычного CPU

Исследователи из Microsoft Research New England совместно с MIT и Европейским центром среднесрочных прогнозов погоды (ECMWF) представили метод на базе машинного обучения, повышающий точность метеорологических прогнозов на горизонте от двух до шести недель. При этом метод не требует огромной вычислительной мощности, и не теряет в точности на горизонте свыше двух недель, в отличие от традиционных подходов.

 Источник изображения: Unsplash / Mark König

Источник изображения: Unsplash / Mark König

Результаты исследования метода PBC были опубликованы в журнале Nature, а сам инструмент стал доступен в формате ПО с открытым исходным кодом. Ещё до публикации научной статьи работа авторов была отмечена наградой на конкурсе AI Weather Quest, организованном ECMWF.

И физические модели, и модели на базе ИИ сталкиваются со схожими трудностями при прогнозировании погоды на срок от двух недель и более. Традиционные модели пытаются имитировать сложные физические процессы в атмосфере Земли, тогда как модели на базе ИИ выявляют закономерности в исторических данных.

В обоих случаях для заполнения пробелов в информации — будь то нехватка метеостанций в определённых регионах или сложные атмосферные явления, которые учёные ещё не до конца изучили, — используются приближённые значения. Способы, с помощью которых модели компенсируют недостаток данных, приводят к возникновению систематических ошибок. При составлении долгосрочных прогнозов такие ошибки накапливаются, из-за чего точность предсказаний снижается.

В качестве примера приводится корректировка прогнозов с учётом климатических изменений. Выбросы парниковых газов при использовании ископаемого топлива приводят к нагреву планеты, однако метеорологические модели, опирающиеся на исторические данные, могут давать прогнозы с заниженными температурами — ниже тех, что наблюдаются в действительности.

Специалисты Microsoft назвали свою разработку «вероятностной коррекцией систематических ошибок» (Probabilistic Bias Correction, PBC). Метод предназначен для устранения систематических ошибок (смещений) в уже существующих моделях. По мнению авторов, это более доступный способ повысить точность прогнозов с помощью ИИ для метеорологических служб, располагающих ограниченными ресурсами.

Исследователи обнаружили, что метод PBC повышает точность одной из ведущих физико-математических моделей погоды, разработанной ECMWF. Показатели точности улучшились для 98 % прогнозов осадков и 92 % прогнозов температуры. Кроме того, PBC позволил вдвое повысить точность новой системы прогнозирования ECMWF, использующей искусственный интеллект. Таким образом, инструмент позволит фермерам и экстренным службам по всему миру гораздо эффективнее готовиться к аномальной жаре, ураганам и затяжным ливням.

В отличие от традиционных моделей, требующих ресурсов суперкомпьютеров, и генеративного ИИ, работающего на дорогих видеокартах (GPU), метод PBC отличается низкими требованиями к вычислительным ресурсам. По словам старшего ведущего исследователя Лестера Маки (Lester Mackey), разработка может работать на обычных центральных процессорах (CPU).

«Я возлагаю большие надежды как на повышение эффективности использования ресурсов при прогнозировании погоды, так и на увеличение надёжности самих прогнозов — особенно в случаях экстремальных погодных явлений», — рассказал Маки в интервью изданию The Verge.

Благодаря минимальным системным требованиям метеослужбы в развивающихся странах смогут адаптировать ИИ к особенностям своих регионов. Сейчас систему уже тестируют в Кении в преддверии сезона дождей.

YouTube начнёт помечать музыку, созданную с помощью ИИ

Сервис YouTube Music анонсировал внедрение новой системы маркировки, призванной повысить прозрачность в отношении музыкальных композиций, созданных с помощью генеративного искусственного интеллекта. Теперь слушатели смогут легко определить треки, при создании которых использовался ИИ — будь то написание музыки или создание вокальных партий.

 Источник изображения: YouTube Music

Источник изображения: YouTube Music

Метка будет отображаться на странице проигрывателя. Нажав на неё, пользователь может получить дополнительную информацию о том, какую именно роль сыграл ИИ в создании конкретного трека. Эти метки появятся и в основном приложении YouTube.

По заявлению платформы, компания сотрудничала с различными музыкальными партнёрами и задействовала собственные инструменты для выявления музыки, созданной с помощью ИИ. Согласно справочной информации, партнёры YouTube могут указать степень участия ИИ в создании своих произведений, выбрав один из трёх вариантов: «Полностью создано ИИ» (Fully Gen AI), «Частично создано ИИ» (Partly Gen AI) или «Без использования ИИ» (No Gen AI).

Категория «Полностью создано ИИ» относится к трекам, которые были целиком сгенерированы искусственным интеллектом, тогда как «Частично создано ИИ» означает, что авторы использовали компоненты, сгенерированные с помощью ИИ наряду с собственными элементами (например, записанными вживую). Треки, при создании которых применялись инструменты для коррекции высоты тона (например, Auto-Tune), относятся к категории «Без использования ИИ».

Нововведение появилось на фоне стремительного распространения музыки и музыкальных клипов, созданных с помощью ИИ, на различных стриминговых платформах. Каждая платформа старается по-своему решить этот вопрос. Так, Apple Music планирует до конца текущего года внедрить метки «Создано с помощью ИИ» (Made with AI) в рамках своей системы маркировки контента. В Spotify также предусмотрены специальные обозначения для ИИ-контента, а также действует фильтр для борьбы с музыкальным спамом.

Платформа Deezer заняла более жёсткую позицию: в июле компания сообщила, что ежедневно получает около 90 000 треков, полностью созданных ИИ. Deezer помечает такой контент, исключает его из алгоритмических рекомендаций и редакционных плейлистов, а также не выплачивает авторские отчисления за прослушивания, которые были признаны мошенническими. Кроме того, компания работает над функцией, которая позволит пользователям полностью исключать ИИ-музыку из своей ленты. Сервис TIDAL также помечает записи, которые были полностью созданы ИИ, даёт слушателям возможность скрыть их и не начисляет за них авторские вознаграждения.

YouTube же, напротив, делает ставку на прозрачность, а не на тотальные ограничения. Новые метки призваны информировать слушателей об участии ИИ в создании музыки, однако сам по себе факт использования ИИ не лишает трек возможности приносить доход его создателям. Платформа также экспериментирует над созданием музыки с помощью искусственного интеллекта. В частности, предлагает инструмент Dream Track, который позволяет избранным авторам создавать музыкальные треки, используя сгенерированные ИИ версии голосов участвующих в проекте исполнителей.

Благодаря вайб-кодингу Epic Games Store наконец заработал быстрее Steam

После нескольких лет безуспешных попыток победить Steam своими силами администрация цифрового магазина Epic Games Store обратилась за помощью к генеративному ИИ. Компания представила обновлённый лаунчер.

 Источник изображений: Epic Games

Источник изображений: Epic Games

Обновлённый лаунчер Epic Games Store предназначен для Windows, Mac и (впервые в истории сервиса) Linux. На момент публикации апгрейд доступен лишь в формате вышедшей сегодня, 14 октября, предварительной версии.

По словам Epic, предварительная версия ограничена в функциях: «Представьте скоростной катер, а не яхту! В то же время [релиз] оснащён передовыми технологиями цифровой коммерции вроде корзины для покупок».

Epic уверяет, что новый лаунчер Epic Games Store загружается заметно быстрее (быстрее, чем Steam), предлагает переработанную библиотеку и меньше нагружает систему в фоновом режиме работы.

Пользователи могут настраивать отображение вкладок в верхней панели, собирать игры в коллекции, объединять библиотеки разных магазинов, выбирать вид отображения игр в библиотеке и просматривать подробную информацию о каждой.

Отдельно Epic подчеркнула, что создавала обновлённый лаунчер Epic Games Store с помощью вайб-кодинга (то есть давала команды, а ИИ писал код), так как «программировать сложно».

Ранее сообщалось, что Epic Games отложила эвакуационный шутер с героями Marvel и «Звёздных войн» для полного перевода производства на ИИ-инструменты вроде Claude от Anthropic: «Больше никакого рукописного кода».

«Больше никакого рукописного кода»: Epic Games отложила шутер с героями Disney и перевела разработчиков на Claude

Подтверждённый в феврале 2024 года совместный проект разработчиков Fortnite из студии Epic Games и корпорации Disney не выйдет в ближайшее время и будет по большей части создан с помощью генеративного ИИ.

 Источник изображений: Epic Games

Источник изображений: Epic Games

Напомним, в апреле издание Bloomberg сообщало, что Epic в рамках партнёрства с Disney работает над шутером в духе Arc Raiders, но с персонажами Disney. Внутри компании переживали насчёт недостаточной оригинальности проекта.

Как теперь доложил репортёр Bloomberg Джейсон Шрайер (Jason Schreier), Epic отложила на неопределённый срок шутер с героями Marvel и «Звёздных войн». Игра должна была выйти в марте 2027 года. Студия недооценила сложность проекта.

 Epic и раньше использовала ИИ в разработке, но в не таком масштабе

Epic и раньше использовала ИИ в разработке, но не в таком масштабе

Одновременно с этим руководство Epic поручило сотрудникам активнее использовать генеративный ИИ в разработке игры. «Больше никакого рукописного кода», — гласит внутреннее сообщение одного из начальников.

Производство переводят на ИИ-инструменты вроде Claude от Anthropic. Графика будет генерироваться с применением ИИ — люди будут направлять и контролировать процесс. По словам Epic, нейросети помогут ускорить разработку.

 Помимо эвакуационного шутера, в рамках партнёрства Epic и Disney разрабатываются ещё две игры

Помимо эвакуационного шутера, в рамках партнёрства Epic и Disney разрабатываются ещё две игры

«Мы ускоряем разработку за счёт ИИ под руководством сотрудников Epic, которые являются визионерами и творческими двигателями всех наших начинаний», — заявил директор Epic по коммуникациям Джейк Джонс (Jake Jones).

Некоторые работники Epic были шокированы новой установкой и вынуждены шутить, что теперь придётся просить Claude исправлять собственные ошибки. Сотрудники надеются на отказ руководства от инициативы и предрекают её провал.

Google тестирует новую Gemini 4 Carbon — сотрудники сравнивают её с Claude Opus 5.5

Пока Google готовится к публичному запуску новой ИИ-модели Gemini 4, которая разрабатывается под кодовым названием Argon, сотрудники компании тестируют более совершенные версии нейросети. По данным Business Insider, сотрудникам Google доступна более продвинутая версия Gemini 4, известная под именем Carbon, которая должна помочь компании сократить отставание от конкурентов в сфере ИИ.

 Источник изображения: Igor Omilaev / unsplash.com

Источник изображения: Igor Omilaev / unsplash.com

Как утверждает источник, новая версия Gemini 4 несколько дней назад стала доступна сотрудникам Google на внутренней платформе Jetski, которую в компании используют для генерации программного кода. По словам одного из сотрудников Google, ИИ-модель Carbon «по ощущениям похожа на Opus 5.5» в задачах программирования. Речь идёт о наиболее производительной модели Anthropic для агентного программирования. При этом он добавил, что ИИ-модель нужно тестировать более продолжительное время.

Внутреннее тестирование Google показывает, что компания быстро продвигается на пути создания ИИ-моделей нового поколения Gemini 4, о чём было объявлено в конце прошлого месяца. Это также подчёркивает, насколько активно Google участвует в гонке за лидерство в сфере ИИ-агентов для программирования. Anthropic и OpenAI в настоящее время являются лидерами в этом направлении благодаря своим моделям, предназначенным для сложной инженерной работы.

Ранние версии Argon, протестированные внутри компании, в целом были хорошо приняты сотрудниками. При этом некоторые из них отметили, что ранние версии ИИ-модели отставали в некоторых задачах по написанию программного кода от передовых нейросетей конкурентов. Более совершенные версии Gemini 4 могут сократить это отставание, но нет гарантии, что Google выпустит их. По данным источника, компания протестировала несколько версий Gemini 4, которые разрабатывались под кодовыми именами Argon, Barium и Carbon.

 Источник изображения: BoliviaInteligente/unsplash.com

Источник изображения: BoliviaInteligente/unsplash.com

Внутренние кодовые имена в Google обычно не совпадают с публичными названиями. Например, в одном из документов указано, что модель Barium-B была выбрана в качестве той, которая станет публично известна под именем Argon. На данный момент неизвестно, будет ли Carbon очередным обновлением нейросети под именем Argon или это отдельная ИИ-модель в семействе Gemini.

В прошлом месяце Google заявила, что ИИ-модель Argon демонстрирует результаты на уровне передовых нейросетей в бенчмарках в программировании и профессиональных задачах, включая юридические и финансовые. В компании отметили, что в Argon разработчики сделали особый акцент на кибербезопасности. На начальном этапе модель станет доступна партнёрам Google в рамках программы Fairwind — инициативы для поиска уязвимостей в новых моделях. Позднее модель станет доступна для широкой публики.

В последнее время на Google растёт давление и компании нужно показать, что она по-прежнему способна конкурировать с ведущими игроками в сфере ИИ. На этой неделе Google анонсировала нового универсального ИИ-агента на базе Gemini для выполнения рабочих задач. В целом же гонка за лидерство в сегменте агентных ИИ-помощников между крупнейшими компаниями становится всё более жаркой.

Президент Трамп объявил врагами всех, кто не готов использовать термин «сверхинтеллект»

В конце сентября Дональд Трамп (Donald Trump) подписал указ, который требует от всех официальных лиц использовать термин «сверхинтеллект» (англ. superintelligence) вместо «искусственного интеллекта». Теперь американский президент готов объявить врагом США любого, кто не будет подчиняться этому требованию.

 Источник изображения: библиотека Конгресса США, Unsplash

Источник изображения: библиотека Конгресса США, Unsplash

Со страниц своей социальной сети Truth Social Дональд Трамп заявил следующее: «Белый дом считает врагом любого, кто использует термин "искусственный интеллект" вместо широко принятого нового и более точного "сверхинтеллект"». Свою кампанию по смене этого названия президент США, как принято считать, затеял ради улучшения имиджа сопутствующих технологий в общественном восприятии.

С ростом числа инцидентов в сфере кибербезопасности, которые были спровоцированы вышедшими из-под контроля ИИ-агентами, а также по мере распространения протестов местного населения против строительства ЦОД в США с понятием «искусственный интеллект» стало ассоциироваться много негативных моментов. Трамп надеется, судя по всему, что «смена вывески» в сочетании в предпринимаемыми мерами по введению аудита позволит переломить негативную социологическую тенденцию.

При этом американский президент выступает против замедления темпов развития отрасли с целью повышения общественной безопасности ИИ. Он считает, что такие ограничения дадут конкурентные преимущества Китаю, который сокращает отставание от США в данной сфере. Награждая недавно группу руководителей американских техногигантов в Вашингтоне, Трамп назвал текущий период «золотым веком» с точки зрения развития науки и технологий.

На правительственных сайтах США документы и соответствующие ссылки уже заменили упоминание «искусственного интеллекта» на «сверхинтеллект». Впрочем, основной интернет-ресурс, посвящённый данной технологии, всё ещё содержит обозначение домена «ai.gov». Как уже отмечалось ранее, инициатива Трампа по переименованию технологии вызвала рост спроса на доменные имена в зоне «.si», которыми распоряжается Словения, а вернувшийся к демонстрации лояльности Трампу Илон Маск (Elon Musk) пообещал переименовать свой стартап SpaceXAI в SpaceXSI. При этом многие делегаты мероприятия, на котором Трамп награждал представителей технологической отрасли США медалями, в своих выступлениях то и дело путались в терминологии, по привычке упоминая «искусственный интеллект» в присутствии президента.

Принцип «как вы яхту назовёте, так она и поплывёт» в целом характерен для Дональда Трампа, поскольку в политических целях за свой неполный пока второй президентский срок он успел переименовать несколько географических объектов, включая Мексиканский залив и расположенное на границе с Канадой озеро Онтарио. Отказавшихся признать новые топонимы журналистов администрация Белого дома даже перестала приглашать на официальные мероприятия для прессы.

Anthropic запретила пользователям жестоко обращаться с ИИ-ботом Claude — иначе он объявит бойкот

Anthropic обновила правила использования своих ИИ-моделей и впервые отдельно запретила пользователям систематически оскорблять и жестоко обращаться с ботом. Если перестараться, Claude просто прекратит разговор. Заодно компания ужесточила ограничения на использование ИИ для слежки, разработки оружия и вмешательства в выборы.

 Источник изображений: Anthropic

Источник изображений: Anthropic

В августе прошлого года компания объявила, что позволит Claude прекращать диалог с пользователями, демонстрирующими «устойчивое вредоносное или оскорбительное поведение», в рамках исследования вопросов «благополучия модели». В обновлённых правилах указано, что прекращение общения остаётся «основным механизмом реагирования».

В Anthropic не уточнили, планируется ли введение дополнительных мер, таких как блокировка пользователей за грубое обращение с Claude. Компания пояснила, что новые правила «призваны действовать лишь в крайних случаях, когда пользователи неоднократно и без видимой цели ведут себя жестоко по отношению к нашим моделям. Эти меры не распространяются на случаи, когда пользователи просто выражают недовольство или несогласие, обращаются к мрачным творческим темам, а также проводят тестирование или исследования модели».

Помимо мер по обеспечению «благополучия модели», Anthropic объединила ряд ранее введённых ограничений в единый запрет на проведение вводящих в заблуждение коммерческих или политических кампаний. Тем самым компания отреагировала на растущую проблему распространения пропаганды, созданной с помощью ИИ. Запрет касается «попыток скрыть истинного автора сообщения или искусственно повысить охват контента с помощью фейковых аккаунтов и публикаций». Раздел, посвящённый выборам, также запрещает введение избирателей в заблуждение и срыв избирательного процесса путём распространения дезинформации «о кандидатах или порядке голосования, выдачу себя за кандидатов или должностных лиц избирательных комиссий, а также попытки снизить явку избирателей».

Хотя правила использования и ранее прямо запрещали разработку оружия с помощью Claude, были зафиксированы многочисленные попытки использовать модель для создания инструкций и управляющего программного обеспечения для вооружений. В связи с этим обновлённые правила расширяют запрет. Теперь он охватывает «программное обеспечение и компоненты, обеспечивающие функционирование оружия, а также такие действия, как оснащение боевыми системами беспилотников и других автономных транспортных средств». Также, на фоне участившихся попыток использования систем на базе Claude для слежки и выявления «политических диссидентов», Anthropic более чётко сформулировала запреты, касающиеся наблюдения за людьми.

«Отслеживание людей без их согласия запрещено — независимо от того, происходит ли это в режиме реального времени или путём анализа ранее собранных данных», — подчеркнули в Anthropic. «Claude нельзя использовать для принятия решений или выработки рекомендаций о том, кого следует подвергать расследованию, аресту или обвинению в рамках правоохранительной деятельности или уголовного судопроизводства. Мы также запрещаем использовать Claude для создания или совершенствования инструментов, предназначенных для слежки».

В Anthropic отмечают, что эти правила могут быть изменены в рамках «контрактов с определёнными государственными заказчиками [...] если, по мнению Anthropic, договорные ограничения на использование и предусмотренные меры защиты достаточны для предотвращения потенциального вреда». Ранее компания уже сотрудничала с вооруженными силами США, отмечает The Verge.

Anthropic также ввела новое правило: если её ИИ-модели «подключены к оборудованию, способному совершать автономные физические действия и причинять травмы», то «квалифицированный оператор должен иметь возможность наблюдать за оборудованием и при необходимости остановить его». Правда, не поясняется, должен ли этот оператор быть человеком. Это правило отражает растущую тенденцию: лаборатории ИИ инвестируют в робототехнику и другие аппаратные средства, чтобы наделить системы ИИ физическим воплощением. Возможно, это также может являться намёком на будущие партнёрства Anthropic в данной сфере.

За последний год в Anthropic неоднократно обсуждали идею о том, что её ИИ-модели могут в какой-то мере обладать сознанием. «Вопросы о потенциальном внутреннем опыте, сознании, моральном статусе и благополучии моделей — это серьёзные темы, которые мы изучаем по мере совершенствования моделей и расширения их функциональности», — заявил в феврале в разговоре с The Verge Кайл Фиш (Kyle Fish), возглавляющий в компании исследования, посвящённые благополучию моделей. В том же месяце генеральный директор Anthropic Дарио Амодеи (Dario Amodei) сказал в одном из подкастов: «Мы не знаем, обладают ли модели сознанием».

Представители других сегментов индустрии ИИ открыто выступают против подобных идей. В сентябре прошлого года широкий резонанс вызвал «Гуманистический кодекс поведения ИИ» от Microsoft, занявшей твёрдую позицию по вопросу «благополучия ИИ»: в черновике документа, опубликованном Мустафой Сулейманом (Mustafa Suleyman), говорилось: «Идея о благополучии моделей ошибочна. ИИ не должен обладать правами или статусом юридического лица». Однако позднее формулировки в документе стали более сдержанными: «Хотя научное понимание сознания ИИ ещё далеко от завершения, мы отвергаем стремление к наделению ИИ статусом юридического лица, а также идею о том, что модели могут нуждаться в защите благополучия или обладать правами».

Новые правила Anthropic в отношении использования её ИИ-моделей вступят в силу с 12 ноября.

ИИ добрался до доменов верхнего уровня — OpenAI и Meta✴ устроили охоту за доменами .agent, .agi и другими зонами

Организация Internet Corporation for Assigned Names and Numbers (ICANN) впервые за несколько лет начала принимать заявки на регистрацию новых доменов верхнего уровня. К настоящему моменту подано 1615 таких заявок от 481 заявителя. Тенденция вряд ли кого-то удивит: в основном новые доменные имена связаны с искусственным интеллектом.

 Источник изображения: Igor Omilaev / unsplash.com

Источник изображения: Igor Omilaev / unsplash.com

Сразу десять компаний, включая OpenAI и Meta✴✴ Platforms, подали заявки на регистрацию домена .agent. Семь компаний, в числе которых OpenAI, претендуют на домен .agi. Ещё шесть компаний, среди которых так же присутствует OpenAI, хотят зарегистрировать домен .asi. Последнее, вероятно, является попыткой подхватить инициативу президента США Дональда Трампа (Donald Trump), решившего перейти от использования термина «искусственный интеллект» (AI) к термину «суперинтеллект» (SI).

Ещё четыре компании подали заявку на регистрацию домена .intelligence, а Meta✴✴ и ещё две компании заинтересованы в достаточно длинном имени .superintelligence. Отмечается, что OpenAI подала заявки на регистрацию имён в 15 доменных зонах, а Meta✴✴ — в 21 доменной зоне.

В целом же среди заявок можно выделить два типа доменов. Первый тип — более универсальные имена, которые могут подойти многим людям и компаниям. В текущей подборке их сотни: от .geek и .haha до .anime и .jackpot. Второй тип — исключительно брендовые, дающие компаниям домен верхнего уровня для дальнейшего его использования в своих целях. В нынешней подборке таких доменов 345: от .applebees и .bankofamerica до .zillow и .zoom.

К примеру, Meta✴✴ подала заявки на регистрацию имён .facebook✴✴, .instagram✴✴, .messenger, .meta✴✴, .frommeta и .threads. В это же время Telegram хочет заполучить домен .gram, планируя раздать всем своим пользователям адреса по их никнеймам. Аналогичным образом хочет поступить Bluesky с доменом .bsky. А OpenAI претендует на домен .chatgpt.

Microsoft представила мини-компьютер Surface RTX Spark Dev Box на чипе Nvidia — за $6000

Вместе с анонсом цен и информации о доступности ноутбуков Surface Laptop Ultra на базе платформы Nvidia RTX Spark компания Microsoft сегодня также представила настольный мини-компьютер Surface RTX Spark Dev Box. Устройство оснащено теми же компонентами Nvidia, что и ноутбуки, и с сегодняшнего дня доступно для предзаказа напрямую от производителя.

 Источник изображения: Microsoft

Источник изображений: Microsoft

Как следует из названия, устройство предназначено прежде всего для разработчиков. Компьютер оптимизирован для локального запуска ИИ-моделей, поддерживая LLM с более 120 млрд параметров. Также новинка подойдёт для решения таких задач, как тестирование моделей, создание прототипов ИИ-агентов или использование инструментов для написания кода с поддержкой ИИ непосредственно на самом устройстве.

В составе Surface RTX Spark Dev Box используется платформа Nvidia RTX Spark, которая предлагает 20 Arm-ядер центрального процессора и графический ускоритель Blackwell с 6144 ядрами CUDA соответственно. В новинке присутствуют 128 Гбайт унифицированной памяти, а также SSD на 2 Тбайт.

По данным The Verge, показатель TDP устройства составляет 100 Вт. Плоский корпус устройства, выполненный из анодированного алюминия методом 3D-печати, одновременно служит радиатором охлаждения и внешне напоминает верхнюю вентиляционную решетку консоли Xbox Series X.

Surface RTX Spark Dev Box также является одним из устройств в рамках инициативы Microsoft Project Zenith, поэтому оно поставляется с оптимизированной для разработчиков версией Windows 11 Pro и набором предустановленных инструментов, включая Visual Studio Code, Git, GitHub CLI, GitHub Copilot, WSL, Python и Node.

Поставки Surface RTX Spark Dev Box начнутся в ноябре. Цена устройства составляет $5999. Это дороже, чем мини-ПК DGX Spark, выпущенный Nvidia в прошлом году, однако цены на компьютеры растут из-за дефицита оперативной памяти и других комплектующих.


window-new
Soft
Hard
Тренды 🔥
Новая статья: TOEM 2 — в одну уютную реку дважды. Рецензия 4 ч.
Сервер или люди? ИИ проверили задачей о вагонетке — и пожалели 11 ч.
Криптобиржа Bitget закрыла доступ к сервисам жителям России и Беларуси 12 ч.
Anthropic предложила американским законодателям собственный законопроект о регулировании отрасли ИИ 21 ч.
Глава Nvidia призвал отрасль не мириться с инцидентами в сфере безопасности, вызванными ИИ 22 ч.
Новая статья: Songs of Glimmerwick — песнь песней. Рецензия 17-10 00:00
Digital Foundry: похоже, в GTA VI наконец исправили проблему, которая преследовала игры Rockstar со времён GTA IV 16-10 22:50
Снуп Догг засветился в новом трейлере криминального боевика Stranger Than Heaven от авторов Yakuza 16-10 21:50
Nvidia без спроса открыла ИИ-агентам доступ к управлению видеокартой и играми на ПК пользователя 16-10 20:53
ИИ может стать «слишком супер»: команда Трампа взялась за риски искусственного интеллекта 16-10 20:43