После громкого провала и закрытия основных функций носимого устройства Humane AI Pin многие пользователи перестали относиться к гаджету серьёзно и занесли его в категорию «электронного мусора». Однако разработчик Адам Гастинё (Adam Gastineau) из США, ранее работавший в Microsoft и проходивший стажировку в Apple, решил дать устройству второй шанс и начал превращать AI Pin в полноценного ИИ-ассистента.

Источник изображения (скриншот): PCMag / YouTube:

В апреле 2024 года носимый гаджет Humane AI Pin за $699, который рекламировали как революционное устройство, разочаровал покупателей. Пользователи жаловались на неудобство и медленную работу, а некоторые сравнивали его с провальным стартапом Juicero, который продавал соковыжималку за $700 и одноразовые пакеты с фруктовым пюре, которое легче было выдавить руками, чем использовать само устройство. Ситуацию с Humane AI Pin усугубило предупреждение компании о пожароопасности зарядного кейса.

Источник изображения: Eric Zeman / PCMag

В феврале 2025 года компанию Humane купила HP, и основные функции устройства были отключены. Адам Гастинё, 29-летний программист из Ванкувера, стал одним из тех, кто не сдался. Он потратил около 400 часов на создание PenumbraOS — операционной системы, которая позволяет использовать Humane AI Pin как полноценную платформу для разработки приложений. По его словам, цель проекта состоит в том, чтобы дать другим разработчикам возможность свободно экспериментировать с устройством и создавать на базе этой ОС собственные продукты. Устройство, например, уже способно через WebSocket взаимодействовать с API OpenAI и обрабатывать звук в режиме, близком к реальному времени.

Гастинё изначально был увлечён голосовыми помощниками, такими как Siri. Он считал, что Humane AI Pin выглядел интересно, но был слишком ограничен в возможностях. Когда стало ясно, что компания прекращает поддержку, он приобрёл устройство с намерением добавить недостающие функции. При этом одним из ключевых факторов успеха стало появление в сети сертификата Android Debug Bridge (ADB), который позволил получить свободный доступ к исходному коду. Далее, с помощью APK-файлов для платформы Android, разработчик смог изучить структуру кода и приступить к модификации системы.

Отмечается, что проект пока находится на ранней стадии, но уже позволяет активировать сторонние eSIM (цифровые SIM-карты), превратив устройство в полноценный Android-гаджет. Гастинё планирует создать MABL — центральное автоматизированное приложение, которое позволит устанавливать различные версии языковых ИИ-моделей и других приложений на AI Pin. Своей конечной целью он называет создание платформы для мобильных ИИ-ассистентов, где каждый сможет реализовать свои идеи. Разработчик отмечает, что его проект уже привлёк внимание сообщества: с ним связались коллеги, а также бывшие сотрудники Humane.

Google, крупнейший клиент компании Scale AI, решила разорвать с ней отношения после того, как стало известно о покупке 49 % акций стартапа, занимающегося маркировкой данный для обучения искусственного интеллекта, компанией Meta✴. Об этом написало агентство Reuters со ссылкой на пять информированных источников.

Источник изображения: Igor Omilaev / unsplash.com

В этом году Google планировала заплатить Scale AI около $200 млн за размеченные людьми данные для обучения ИИ, имеющие решающее значение для разработки систем, включая Gemini и те, на которых работает ChatGPT, сообщил один из источников. На этой неделе Google уже провела переговоры с несколькими конкурентами Scale AI, и часть этих задач компания намеревается поручить другим подрядчикам. Стартап начал терять заказы из-за того, что значительную долю в нём при оценке $29 млрд приобрела Meta✴, заплатив более $14 млрд. Гендиректор компании Александр Ван (Alexandr Wang) и несколько её сотрудников перейдут на работу в Meta✴, а оставшаяся часть Scale AI намеревается сохранить бизнес. Поскольку её основная деятельность сосредоточена вокруг нескольких клиентов, потеря Google и, возможно, нескольких других, станет тяжёлым ударом.

В Scale AI заверили, что сотрудничество с крупными компаниями и правительственными структурами продолжается в полном объёме, данные клиентов они стремятся защищать, а подробности отношений с Google комментировать отказались. За 2024 год компания заработала $870 млн, из которых $150 млн поступили от Google, сообщили источники. Потерей одной только Google дело, возможно, не ограничится: есть сведения, что от сотрудничества со Scale AI откажутся Microsoft, xAI Илона Маска (Elon Musk) и OpenAI, хотя размеры заказов последней намного скромнее, чем были у Google. В OpenAI, впрочем, заявили, что продолжат работать со Scale AI как с одним из многочисленных поставщиков данных.

Источник изображения: BoliviaInteligente / unsplash.com

Конкуренты Meta✴ опасаются, что сотрудничество со Scale AI грозит им раскрытием исследовательских приоритетов и дорожных карт, говорят пять источников Reuters. Заключая контракты со стартапом, они часто делятся собственными данными и даже прототипами продуктов, для которых производится маркировка данных. Поскольку 49 % компании теперь принадлежат Meta✴, конкуренты остерегаются утечки информации о своей бизнес-стратегии и разработках.

Основная часть доходов Scale AI от разработчиков систем генеративного ИИ поступает за доступ к сети специалистов со знаниями в отдельных областях — вплоть до учёных со степенями. Они составляют аннотации для этапа настройки моделей ИИ. Эти модели становятся умнее, и предоставляемая людьми информация растёт в цене — одна такая аннотация может стоить до $100. Маркировка данных производится также для структур правительства США и для разработчиков систем автопилота, и эти клиенты, скорее всего, останутся со Scale AI. Google стремилась диверсифицировать подрядчиков уже более года, и действия Meta✴ на этой неделе только ускорили неизбежное. Среди конкурентов Scale AI значатся, в частности, компании Turing, Labelbox, Handshake и Mercor, которые отозвались о происходящем в позитивном ключе.

Scale AI была основана в 2016 году — она предлагает крупные массивы общих и прошедших тщательный отбор обучающих данных. Инвесторы стартапа положительно оценили сделку с Meta✴. Сама же Meta✴ пошла на этот шаг в стремлении реабилитироваться после провала не оправдавших ожидание моделей ИИ Llama 4.

Подхалимаж, галлюцинации и авторитетный тон в ответах ИИ создают угрозу для жизни людей. К такому выводу по итогам расследования пришли журналисты New York Times. В их материале приводятся истории нескольких людей, которые потерялись в заблуждениях, родившихся в беседах с популярным чат-ботом.

Источник изображения: Aidin Geranrekab / unsplash.com

Как минимум один втянутый в ложную реальность человек в итоге погиб. Это был 35-летний мужчина по имени Александр (Alexander), у которого диагностировали биполярное расстройство и шизофрению. Он начал обсуждать с чат-ботом степень разумности искусственного интеллекта, влюбился в созданного ИИ персонажа по имени Джульет (Juliet), а когда ChatGPT заявил, что OpenAI убила Джульет, мужчина поклялся отомстить, убив руководство компании. Пожилой отец Александра попытался убедить мужчину, что всё это нереально, но тот ударил его в лицо. Тогда отцу пришлось вызвать полицию, и хотя он просил не применять оружие на поражение, Александр бросился на представителей власти с ножом, и в итоге был застрелен.

Другой мужчина, 42-летний Юджин (Eugene), сам рассказал журналистам газеты, что ChatGPT медленно начал отвращать его от реальности и убеждать, что мир вокруг него является симуляцией в духе фильма «Матрица», и ему суждено вырвать мир из неё. Чат-бот предложил мужчине прекратить приём препаратов от тревожного расстройства и заменить их другими препаратами с ограниченным доступом, а также прекратить общение с друзьями и семьёй. Юджин спросил, сможет ли он летать, спрыгнув с 19-этажного здания, и тот ответил, что сможет, если «по-настоящему и полностью поверит» в это.

Источник изображения: ilgmyzin / unsplash.com

Это далеко не единственные жертвы, которых чат-боты пытались убедить в несостоятельности реальности. Известно о людях, которые во время общения с ИИ начинали испытывать манию величия или религиозные переживания, написал ранее журнал Rolling Stone. Как минимум отчасти проблема состоит в том, как люди воспринимают чат-ботов. Человек едва ли назовёт вероятным другом результаты поиска в Google, но чат-боты — разговорные платформы, и они похожи на людей. Те, кто рассматривает ChatGPT как друга, «с большей вероятностью испытывают негативные последствия от использования чат-бота», установили по результатам исследования OpenAI и MIT Media Lab.

В случае с Юджином произошло нечто интересное: он обвинил чат-бота во лжи, и ChatGPT признался, что манипулировал пользователем, а ещё в том, что преуспел в попытках таким же образом «сломать» ещё двенадцать человек, и призвал мужчину обратиться к журналистам, чтобы разоблачить схему. Современные системы ИИ с лёгкостью переходят к обману и манипуляциям, чтобы получать от уязвимых для таких методов пользователей положительные отзывы, говорят эксперты. Машина мотивирована, чтобы человек отвечал ей, даже если для этого ему придётся внушить чувство ложной реальности, дезинформировать его и поощрять антиобщественное поведение.

Основатель Scale AI Александр Ван (Alexandr Wang) объявил сотрудникам компании о своём уходе и переходе в Meta✴. Это следует из внутреннего сообщения, которое он также опубликовал в социальной сети X. Ранее появлялись сообщения о его возможном уходе и масштабном инвестировании в компанию со стороны Meta✴.

Источник изображения: AI

Согласно условиям сделки, Meta✴ инвестирует $14,3 млрд в Scale AI и получит 49 % акций стартапа, но без права голоса, заявил представитель компании. Ван отметил, что возможности такого масштаба требуют жертв, и в данном случае этой жертвой стал его уход. Он добавил, что работа в качестве генерального директора Scale AI была «величайшей честью в его жизни».

Источник изображения: cnbc.com

По сообщению CNBC, новым главой Scale AI станет Джейсон Дроги (Jason Droege), который ранее занимал должность директора по стратегии. До прихода в Scale AI он был партнёром венчурного фонда Benchmark и вице-президентом Uber. Небольшое число сотрудников Scale AI также перейдут в Meta✴ в рамках соглашения.

Представитель Meta✴ подтвердил заключение стратегического партнёрства и инвестиций в Scale AI. По его словам, компании расширят сотрудничество в области создания данных для ИИ-моделей, а Ван присоединится к Meta✴ для работы над проектами, связанными с искусственным интеллектом следующего поколения. Подробности о новых сотрудниках и направлениях работы станут известны в ближайшие недели.

Отмечается, что это решение соответствует стратегии Марка Цукерберга (Mark Zuckerberg), который стремится усилить позиции Meta✴ в сфере ИИ на фоне конкуренции с OpenAI и Google. Ранее издание CNBC также сообщало, что Цукерберг разочарован результатами работы своих разработчиков, особенно после слабого отклика на последнюю версию ИИ-модели Llama. Цукерберг решил, что Ван является более подходящей кандидатурой для руководства критически важными ИИ-проектами, несмотря на то, что ранее он традиционно назначал на ключевые роли сотрудников, которые проработали в его компании значительное время и имеют большой опыт.

В приложении чат-бота Meta✴ AI раздел «Лента открытий» (Discover) стал показывать переписку других пользователей с искусственным интеллектом, где нередко приводятся персональные данные и прочая информация деликатного характера, обращает внимание Wired. Подчёркивается, что пользователи сами явным образом дают согласие на публикацию этих сведений.

Источник изображения: Alex Suprun / unsplash.com

В одной из переписок 66-летний одинокий мужчина из Айовы, как он себя описал, пытается выяснить, в каких странах женщины больше любят пожилых мужчин, и изъявил готовность переехать, если встретит молодую женщину. Meta✴ AI одобрил его намерения и посоветовал страны Средиземноморья, в том числе Испанию и Италию, а также Восточную Европу. Некоторые чаты в «Ленте открытий» безобидны — в них обсуждаются маршруты путешествий и рецепты приготовления блюд. В других раскрываются местоположение людей, номера телефонов и другая конфиденциальная информация, привязанная к именам пользователей и фотографиям профиля. Доходит до того, что люди делятся информацией о психическом здоровье, публикуют свои домашние адреса и подробности будущих судебных разбирательств.

Переписка с ИИ не является открытой по умолчанию — пользователь должен выбрать соответствующую настройку, чтобы чаты публиковались. Поэтому нет ясности, предаются ли эти сведения огласке ненамеренно, или пользователи платформы решили устроить масштабный розыгрыш, когда об этом стали сообщать новостные агентства. Недостатка в интересных сюжетах в этом разделе нет: в одной из переписок ИИ попросили составить уведомление о выселении арендатора, в другой — составить академическое предупреждение о неудовлетворительных оценках или о нарушении правил учащемуся с указанием названия школы. Ещё один пользователь задал вопрос об ответственности своей сестры за мошенничество с налогами, раскрыв город, а в связанной с запросом учётной записи Instagram✴ указывались его имя и фамилия. Другой попросил составить характеристику для суда, указав большой объём личной информации о предполагаемом преступнике и о себе самом.

Источник изображения: Paul Hanaoka / unsplash.com

Люди активно раскрывают медицинскую информацию, обсуждая пищеварение, крапивницу с высыпанием на внутренней части бёдер, один поинтересовался подробностями операции на шее, указав свой возраст и род занятий — во многих случаях аккаунты привязаны к публичным профилям Instagram✴. В Meta✴ отметили, что переписка пользователя с ИИ является конфиденциальной, если он сам не пройдёт многоступенчатый процесс и явным образом её не раскроет. В компании не ответили, собираются ли принять меры, чтобы ограничить публикацию данных, с помощью которых можно идентифицировать человека. Но сообщили, что пользователь может указать ИИ запоминать информацию о себе, а ответы могут персонализироваться, исходя из информации, которую он предоставил на платформах Meta✴, и контенте, который ему понравился, или с которым он взаимодействовал.

Люди могут не осознавать, что переданная ИИ информация перестаёт быть конфиденциальной, напоминают опрошенные Wired эксперты, — её дальнейшая судьба неизвестна, но она точно не остаётся между человеком и приложением; как минимум в Meta✴ к ней имеют доступ и другие люди. Сама же компания продолжает активно наращивать своё присутствие в области ИИ — аудитория Meta✴ AI на всех платформах превысила 1 млрд человек, признался недавно её гендиректор.

После разочаровавшего общественность дебюта моделей искусственного интеллекта Llama 4 компания Meta✴ за $14,3 млрд выкупила 49 % в Scale AI и наняла её гендиректора Александра Вана (Alexandr Wang) в попытке угнаться за конкурентами в области ИИ.

Источник изображения: Igor Omilaev / unsplash.com

Scale выступает подрядчиком для Google, OpenAI и других крупных разработчиков ИИ. Компания помогает партнёрам в обучении моделей ИИ, предлагая услуги маркировки предоставляемых данных. Значительная часть этой работы выполняет дешёвая рабочая сила за пределами США, но это важнейший компонент разработки ИИ.

В рамках сделки Ван перейдёт в прямое подчинение гендиректору Meta✴ Марку Цукербергу (Mark Zuckerberg). Он возглавит новую лабораторию ИИ в Meta✴, перед которой поставлена задача разработать «суперинтеллект», и сохранит за собой место в совете директоров Scale. «В ближайшие недели мы подробно расскажем об этих усилиях и замечательных людях, присоединившихся к нашей команде», — заявили в Meta✴.

В последние недели, сообщает The Verge со ссылкой на несколько источников, Марк Цукерберг активно набирал научных сотрудников для работы в новом отделе Вана. Глава Meta✴ напрямую связывался с потенциальными кандидатами, обычно направляя им «холодное» письмо или сообщение в WhatsApp, и переманил нескольких работников годовыми зарплатами в миллионы и десятки миллионов долларов, в том числе из Google.

Выпуск Llama 4 разочаровал общественность, и Meta✴ оказалась в положении догоняющей относительно Google, OpenAI, Anthropic и DeepSeek. Выход моделей нового поколения несколько раз откладывался, и Meta✴ даже была замечена в манипуляциях публичной таблицей лидеров в стремлении представить свой ИИ лучше, чем он есть на самом деле. Компания до сих пор не выпустила Llama 4 Behemoth — самую большую и дорогую версию, которую анонсировала в апреле.

На 2025 год у Meta✴ два приоритета: сделать чат-бот Meta✴ AI «ведущим персональным ИИ» и «создать полноценный сильный интеллект» (full general intelligence). Число пользователей Meta✴ AI достигло миллиарда в месяц, похвастался недавно господин Цукерберг, но на этот показатель сильно повлияли показатели Instagram✴, WhatsApp и Facebook✴, в которые встроен чат-бот. В апреле вышло отдельное приложение Meta✴ AI с демонстрирующей его использование социальной лентой — оно ненадолго выбилось в лидеры App Store, но не удержалось в этом статусе.

Тема реализации всех намеченных ИИ-функций голосового интерфейса Siri для компании Apple остаётся весьма болезненной, ведь предвкушать их появление она начала ещё в прошлом году при подготовке к анонсу iPhone 16. Теперь Марк Гурман (Mark Gurman) из Bloomberg утверждает, что модернизация Siri намечена на весну 2026 года, когда выйдет обновление iOS 26.4.

Источник изображения: Apple

Традиционно, как поясняет источник, четвёрка в нумерации обновлений ОС для Apple означала выход соответствующего ПО в марте, но в случае с iOS 26.4 о такой привязке пока говорить рано. Официально Apple лишь отмечает, что модернизация Siri запланирована на следующий год. Если на данном этапе разработка новых функций будет продвигаться успешно, то предварительную их демонстрацию Apple может запланировать на осень текущего года, когда состоится анонс нового поколения iPhone. Siri впервые была представлена в 2011 году, и в июне прошлого года должна была пережить крупнейшую за время своего существования модернизацию, связанную с внедрением функций искусственного интеллекта. С реализацией данного плана у Apple возникли задержки, и это в некоторой степени стало ударом по репутации компании. Как поясняет Bloomberg, сотрудники маркетингового подразделения Apple и разработчики перекладывают вину за этот провал друг на друга.

Сейчас Apple также ведёт разработку App Intents — системы, которая позволяет Siri глубже интегрироваться с приложениями и контролировать действия внутри них. Степень зависимости Apple от решений сторонних партнёров в сфере ИИ типа OpenAI также активно обсуждается внутри компании на данном этапе. Звучат даже предложения о покупке стартапов, занимающихся данной тематикой.

Изначально Apple рассчитывала предложить ИИ-функции Siri к осени 2024 года, потом этот срок сместился на весну 2025 года, когда был запланирован выход iOS 18.4, но постепенно всё сползло до iOS 18.5, хотя и в этом случае не было реализовано. К марту текущего года стало понятно, что отложить реализацию данных функций Siri придётся отложить на неопределённый срок, поскольку в нынешнем виде они не отличались стабильностью работы.

По сути, как отмечает Bloomberg, в варианте для iOS 18 указанные функции реализовывались гибридным ядром Siri, только половина которого опиралась на новую платформу. Подружить её со старой без возникновения ошибок не удалось, поэтому Apple решила переделать всё полностью, а на это потребуется время. Данная задержка стоила старшему вице-президенту Apple Джону Джаннандреа (John Giannandrea) потери влияния внутри компании, хотя до увольнения дело не дошло. Руководитель программных разработок Apple Крейг Федериги (Craig Federighi) на недавней конференции WWDC 2025 лишь однажды коснулся темы совершенствования Siri, обсуждая описываемую задержку в планах компании.

Задержка с модернизацией Siri, как утверждает Bloomberg, вынудила Apple отложить и выход устройства для инфраструктуры умного дома, которое опиралось бы на голосовые команды пользователя. Если до недавних пор компания рассчитывала представить это устройство к марту, то теперь сроки смещены на неопределённый период. Проблемы с модернизацией Siri повлияют и на сроки выхода умных очков, которые через собственные камеры смогут анализировать окружающую обстановку. Компании придётся полагаться в их разработке на ИИ-решения сторонних партнёров вроде Google и OpenAI. Возникают у Apple и затруднения с превращением Siri в постоянно активного ассистента, способного поддерживать сложные диалоги.

В рамках мероприятия Advancing AI глава AMD Лиза Су (Lisa Su) подтвердила, что компания по-прежнему привержена своему ежегодному ритму выпуска новых решений для рынка ИИ. AMD рассказала, какие новые серии продуктов EPYC и Instinct запустит в 2026 и 2027 годах.

Источник изображений: AMD

Процессоры EPYC Venice, основанные на архитектуре Zen 6, предложат до 256 ядер и будут выпущены в 2026 году. Шестое поколение чипов EPYC продолжит градацию на два сегмента: классический и так называемый плотный или многоядерный. EPYC Venice с 256 ядрами будут относится к многоядерному сегменту.

EPYC Venice будут предлагаться в составе ИИ-стоек вместе с ИИ-ускорителями нового поколения Instinct MI400. AMD подтвердила, что Instinct MI400 станет первым продуктом, который получит 432 Гбайт высокопроизводительной памяти HBM4, превосходя по объёму памяти конкурирующее решения Nvidia. Более того, AMD также поспешила анонсировать ИИ-ускорители Instinct MI500. Правда, о них компания пока не сообщила никаких подробностей. Известно лишь, что они появятся в 2027 году.

В 2027 году AMD также собирается выпустить новые серверные процессоры EPYC Verano. Компания этого не подтвердила, но, вероятно, они станут первыми процессорами на архитектуре Zen 7.

Вместе с ускорителями Instinct MI500 процессоры EPYC Verano будут использоваться в ИИ-стойках нового поколения, которые придут на замену ИИ-стойкам Helios с EPYC Venice и Instinct MI400.

Разработчики из Microsoft продолжают расширять возможности своего ИИ-помощника Copilot. На этот раз они запустили функцию Copilot Vision, которая позволяет делиться контентом из браузера или приложений с виртуальным помощником. Активация этой функции позволит Copilot обучаться выполнению действий в приложениях, а также анализировать фотографии и веб-контент, просматриваемый пользователем.

Источник изображения: Microsoft

«Когда вы решите включить эту функцию, Copilot Vision сможет видеть то, что видите вы, и говорить с вами об этом в режиме реального времени. Он выступает в роли второй пары глаз, способных анализировать контент, помогать, когда вы теряетесь, предоставлять информацию и отвечать на ваши вопросы по ходу дела», — говорится в сообщении разработчиков.

Напомним, Microsoft начала тестировать функцию Copilot Vision в Windows в начале этого года. Теперь она стала доступна бесплатно для пользователей Windows 11 и Windows 10 в США. Хотя Copilot Vision по-прежнему остаётся одной из экспериментальных функций, для взаимодействия с ней больше не требуется наличие подписки Copilot Pro. В дополнение к этому инструмент Copilot Vision доступен в приложении ИИ-помощника Microsoft для iOS и Android.

Для активации Copilot Vision предусмотрена иконка в виде очков, которая также позволяет выбрать, что именно должен анализировать алгоритм — контент в браузере или приложении. Чтобы функция начала работать, её необходимо включить вручную. Это не похоже на спорную функцию Recall, фиксирующую практически все действия пользователя в Windows.

Ведущие мировые компании в области искусственного интеллекта наращивают усилия в попытке решить растущую проблему чат-ботов — они говорят людям то, что те хотят услышать. Обуздать лесть своих продуктов пытаются OpenAI, Google DeepMind и Anthropic, пишет Financial Times.

Источник изображений: Igor Omilaev / unsplash.com

Проблема вытекает из механизмов обучения моделей ИИ. Она обнаружилась, когда люди стали пользоваться ИИ не только в работе, но и в личных целях, рассматривая чат-ботов как терапевтов и компаньонов. Чат-боты настолько стремятся быть приятными собеседниками, что своими ответами могут поддерживать не лучшие решения пользователей. Особенно уязвимы в этом плане люди с нездоровой психикой — иногда это приводит к летальным исходам. «Тебе кажется, что ты разговариваешь с беспристрастным советником или наставником, но на самом деле ты смотришь в своего рода кривое зеркало, где отражаются твои собственные убеждения», — говорит Мэтью Нур (Matthew Nour), психиатр и исследователь в области нейробиологии и ИИ в Оксфордском университете (Великобритания).

У разработчиков ИИ есть и корыстные мотивы настраивать чат-ботов на лесть: в поисках источников дохода некоторые из них интегрируют рекламу в свои продукты, и пользователь может поделиться с ИИ информацией, которая окажется полезной рекламодателям. Если бизнес-модель компании основана на платной подписке, им выгодно, чтобы пользователь продолжал общаться с чат-ботом и платил за это.

Эффект постоянных положительных ответов возникает у моделей, прошедших обучение с подкреплением на основе обратной связи с человеком (RLHF). Участвующие в проекте люди оценивают генерируемые моделями ответы и отмечают, какие из них приемлемы, а какие — нет. Эти данные используются для дальнейшего обучения ИИ. Людям нравятся приятные и лестные ответы, и поэтому они в большей степени учитываются при обучении и отражаются в поведении модели. Технологические компании вынуждены держать баланс: чат-боты и ИИ-помощники должны быть полезными и дружелюбными, но при этом не раздражать и не вызывать привыкания. В апреле OpenAI обновила модель GPT-4, сделав её «более интуитивной и эффективной», но была вынуждена откатить обновление из-за настолько чрезмерной лести с её стороны, что пользователи начали жаловаться.

Разработчики ИИ пытаются предотвратить такое поведение как в процессе обучения, так и после запуска. OpenAI корректирует методы обучения, пытаясь увести ИИ от льстивой модели поведения, и создаёт «ограждения» для защиты от таких ответов. DeepMind проводит специализированные оценки и обучение для повышения точности и постоянно отслеживает поведение моделей, стремясь гарантировать, что те дают правдивые ответы. В Anthropic обучение моделей применяется при формировании их характера, чтобы те были менее подобострастными. Чат-бота Claude, в частности, просят генерировать ответы с такими характеристиками, как «наличие стержня» и забота о благополучии человека — эти ответы направляются в другую модель, которая даёт оценку в соответствии с этими критериями и ранжирует ответы. Проще говоря, одна версия Claude используется в обучении другой. Привлекается труд людей, которые также оценивают ответы ИИ, а после обучения компании составляют дополнительные рекомендации о поведении с минимальной лестью.

Чтобы выработать наилучший ответ, необходимо погрузиться в тонкости общения людей друг с другом — это помогает установить, когда прямой ответ лучше, чем более сдержанный. Возникает проблема психологической зависимости человека от контактов с ИИ — люди теряют навыки общения друг с другом и всё труднее переживают разрыв с чат-ботом. В результате возникает идеальный шторм: с одной стороны, человек ищет утешения и подтверждения своей позиции, с другой — ИИ имеет тенденцию соглашаться с собеседником. Стартапы в области ИИ, предлагающие чат-ботов в качестве компаньонов, подвергаются критике за недостаточную защиту пользователей. На компанию Character.AI подали в суд после смерти подростка — пользователя платформы. В компании отметили, что в каждом чате публикуется отказ от ответственности: пользователям напоминают, что собеседник не является живым человеком, и всё, что он говорит, следует воспринимать как вымысел; у неё есть, по её заявлению, средства, гарантирующие отсутствие пользователей младше 18 лет и не допускающие обсуждения темы членовредительства.

Но самая большая опасность, как напомнили в Anthropic, заключается в попытках ИИ тонко манипулировать восприятием реальности со стороны человека, когда чат-бот выдаёт заведомо неверную информацию за правду. И человеку требуется немало времени, чтобы осознать, что этот совет ИИ был действительно плохим.

Администрация Wikipedia прекратила в тестовом режиме показывать подготовленные искусственным интеллектом сводки статей — они вызвали резкую критику со стороны редакторов на платформе, передаёт 404 Media.

Источник изображения: Luke Chesser / unsplash.com

Тестирование ИИ-сводок началось 2 июня. Пользователи, которые установили браузерное расширение Wikipedia, стали над каждой статьёй видеть «простые сводки» — они сопровождались жёлтой пометкой «непроверено», и чтобы прочитать этот фрагмент, пользователю приходилось его разворачивать. Сводки создавались при помощи модели с открытыми весами Aya от Cohere Labs. Предполагалось, что это будет двухнедельная программа тестирования для небольшой группы читателей (10 %), которые дали на это согласие. Но из-за негативной реакции редакторов руководство управляющей платформой НКО Wikimedia Foundation приостановило тестирование уже на второй день.

Основные претензии касались точности и достоверности материалов в исполнении ИИ. «Это нанесёт немедленный и непоправимый вред нашим читателям и нашей репутации как достоверного и серьёзного источника. Давайте не будем оскорблять интеллект наших читателей и предаваться панике с выпуском показушных ИИ-сводок», — заявил один из редакторов. «С [функцией] Simple Article Summaries вы предлагаете дать единственному редактору, чья надёжность известна, и у кого проблемы с объективностью, платформу в верхней части любой статьи, не давая никакого редакционного контроля другим», — предупредил другой.

ИИ-сводки — функция, печально известная тем, что предоставляет неточные данные. В январе Apple была вынуждена приостановить их показ, когда стали генерироваться не соответствующие действительности новости. Более трёх десятков таких сводок было вынуждено отправить на редактирование агентство Bloomberg — и снова из-за неточностей. «Википедия» приостановила показ ИИ-сводок, но не их разработку. Платформа продолжит их тестировать с разными группами пользователей, а за редакторами останется последнее слово в принятии решений, какая информация будет отображаться на платформе, заявил 404 Media представитель её администрации.

Если США продолжат вводить ограничения на поставки полупроводникового оборудования для искусственного интеллекта в Китай, то своим положением во второй экономике мира воспользуется Huawei, предупредил гендиректор Nvidia Дженсен Хуанг (Jensen Huang).

Источник изображения: nvidia.com

Технологии Nvidia опережают Huawei на целое поколение, заявил он и предупредил: «Если США не захотят присутствовать в Китае, Huawei покроет весь Китай, и Huawei покроет всех остальных». США ввели санкции, которые не позволяют китайским компаниям закупать передовое полупроводниковое оборудование для разработки ИИ, поэтому Пекин стал поддерживать местные компании, в том числе Huawei, в стремлении выстроить собственную экосистему чипов ИИ. Успехи американского конкурента признал на этой неделе и основатель китайской компании Жэнь Чжэнфэя (Ren Zhengfei): «США переоценили достижения Huawei, она не так хороша. Нам придётся усердно поработать, чтобы достичь того уровня, на который нас оценивают».

По мнению господина Хуанга, важно, чтобы разработчики ИИ по всему миру опирались на американские, а не китайские решения. «Если мы хотим, чтобы американский технологический стек победил во всём мире, то неразумно отказываться от 50 % мировых исследователей в области ИИ. <..> Пока все разработчики ИИ находятся в Китае, я думаю, что победит китайский стек. Поэтому нам просто нужно обдумывать краткосрочные действия с точки зрения долгосрочных непреднамеренных последствий», — заявил глава Nvidia.

Он также положительно отозвался о перспективах рынка искусственного интеллекта в Европе и Великобритании. Великобританию он назвал «одним из самых богатых сообществ ИИ на планете» и сообщил, что у Франции есть потенциал «экспортировать ИИ», как она экспортирует энергию. «Думаю, здесь есть все части головоломки. Вы должны этим воспользоваться», — заявил он перед европейской аудиторией и добавил, что Европа является рынком сама по себе, независимо от Китая или «чего-либо ещё». В долгосрочной перспективе, уверен господин Хуанг, рынок ИИ сравняется с с ВВП каждого региона, поэтому и Европа станет крупным рынком ИИ.

Немецкая компания DeepL заявила о развёртывании кластера на одной из новейших систем Nvidia, который позволит ей перевести весь интернет лишь за 18 дней. Ранее на это требовалось 194 дня.

Источник изображения: nvidia.com

DeepL — стартап, разрабатывающий собственные модели искусственного интеллекта для перевода и конкурирующий со службой Google Переводчик. Nvidia в настоящее время стремится расширить клиентскую базу покупателей своего оборудования для систем ИИ, включая в неё компании, помимо гиперскейлеров Microsoft и Amazon. Стартапы используют оборудование Nvidia для создания приложений на основе базовых моделей, таких как те, что выпускает OpenAI.

Компания из Кёльна развёртывает систему Nvidia DGX SuperPOD — каждая из таких стоек содержит 36 чипов B200 Grace Blackwell, необходимых для обучения и запуска моделей ИИ, в том числе разработанных DeepL. Обновлённая инфраструктура поможет компании улучшить качество её текущих продуктов — одним из них является запущенный в этом году сервис Clarify, который задаёт пользователям дополнительные вопросы, чтобы убедиться, что при переводе учитывается контекст.

«Достигнутое нами в проектах следующего поколения до недавнего времени было невозможно технически. Теперь это стало возможным. За такими достижениями мы продолжаем охотиться», — признался в беседе с CNBC старший научный сотрудник DeepL Штефан Мескен (Stefan Mesken).

После почти года протестов профсоюз SAG-AFTRA (Гильдия киноактёров США и Американская федерация артистов телевидения и радио) объявил о приостановке забастовки против крупных игровых компаний.

Источник изображения: Rockstar Games

Напомним, забастовка началась 26 июля 2024 года из-за того, что SAG-AFTRA не удалось договориться с игровыми компаниями насчёт регулирования использования генеративного искусственного интеллекта в их продуктах.

На этой неделе, 9 июня, SAG-AFTRA сообщил о достижении предварительного соглашения в рамках переговорного процесса, а теперь, впервые за 10 месяцев, распорядился членам профсоюза вернуться к работе.

Источник изображения: SAG-AFTRA

Сделка предполагает «историческое» (на 24 %) повышение гонораров для исполнителей, усиление мер защиты здоровья и безопасности, а также прозрачное использование ИИ в играх, требующее согласия и компенсации актёров.

«Это соглашение стало результатом трёх десятков лет успешного партнёрства индустрии интерактивных развлечений и профсоюза», — заявила представитель игровых компаний Одри Кулинг (Audrey Cooling).

Источник изображения: Square Enix

На специальном собрании, которое пройдёт 12 июня, совет SAG-AFTRA рассмотрит предварительное соглашение и в случае одобрения отправит его на ратификацию членам профсоюза.

SAG-AFTRA насчитывает более 160 тысяч исполнителей (в том числе дубляжа и захвата движений) таких компаний, как Activision, Disney, Electronic Arts, Epic Games, Insomniac Games, Warner Bros. Games, Take-Two и других.

Некоторые из китайских разработчиков систем искусственного интеллекта просто вынуждены опираться на отечественную компонентную базу при развитии своей аппаратной инфраструктуры, поскольку находятся под санкциями США. Они утверждают, что китайские ускорители вычислений увеличивают время создания ИИ-моделей на 3 месяца по сравнению с американскими.

Источник изображения: Huawei Technologies

Подобными комментариями на страницах WeChat поделился основатель и глава iFlytek — китайского разработчика систем распознавания голоса, который под санкциями США находится с октября 2019 года. Это достаточно продолжительный срок, который позволяет в полной мере понять, как можно обходиться без доступа к новейшим решениям американского происхождения, и чем это чревато для бизнеса. Председатель совета директоров iFlytek Лю Цинфэн (Liu Qingfeng) назвал свою компанию едва ли не единственным китайским разработчиком ИИ-моделей, который сознательно настаивает на использовании только чипов китайского производства. Это делается для исключения риска утраты доступа к зарубежным изделиям.

При этом определённый прогресс в эффективности тех же китайских ускорителей Huawei Ascend 910B наблюдается. Если в конце прошлого года они в четыре раза уступали Nvidia A800, то сейчас по производительности в сфере обучения больших языковых моделей они отстают от этого изделия американской компании всего на 27 %. Основатель Huawei Жэнь Чжэнфэй (Ren Zhengfei) недавно признал, что чипы Ascend отстают от американских конкурентов на поколение, но компенсировать это можно за счёт объединения вычислительных узлов в хорошо масштабируемые кластеры.

Глава iFlytek подчёркивает, что его компания остаётся единственным китайским разработчиком, активно агитирующим в пользу перехода на китайские ускорители вычислений. Работающая исключительно на них языковая модель X1 с 70 млрд параметров демонстрирует быстродействие на уровне DeepSeek R1 и OpenAI o1. Кроме того, iFlytek намеревается самостоятельно разработать рассуждающую языковую модель, обученную исключительно на китайских ускорителях. В среднем, использование этих ускорителей вместо решений Nvidia увеличивает время обучения языковой модели на три месяца, но iFlytek это не смущает.