Недавно компания Google представила обновленную функцию поиска, которая использует искусственный интеллект для генерации мгновенных ответов на запросы пользователей над результатами поиска. Однако эксперты беспокоятся и предупреждают, что «кошки на Луне» — это не совсем то, что хотели бы получить в итоге пользователи.

Источник изображения: Kandinsky

Новый поисковый ИИ-инструмент AI Overview компании Google, который она сделала доступной для жителей США, стал предметом бурного обсуждения в сети из-за того, что частенько он даёт опасные, глупые и вредные ответы (вроде советов использовать клей для закрепления начинки на пицце или съедать по камню в день для удовлетворения потребностей организма в минералах). Новый пример дезинформации от поисковика не заставил себя долго ждать. Когда журналист из Associated Press спросил Google, были ли когда-нибудь кошки на Луне, система искусственного интеллекта уверенно ответила: «Да, астронавты встречали кошек на Луне, играли с ними и заботились о них». Это, конечно же, совершенная неправда.

Более того, ИИ не ограничился одним этим утверждением и продолжил: «Например, Нил Армстронг сказал: “Один маленький шаг для человека”, имея в виду кошачий шаг. А ещё Базз Олдрин держал кошек на корабле “Аполлон-11”».

Проблема в том, что языковые модели, используемые в системах искусственного интеллекта, склонны к «галлюцинациям» — они могут придумывать информацию, основываясь на данных, на которых они обучались. И если эти данные содержат предубеждения или ошибки, система будет их также повторять и, больше того, изобретать новые.

Особенно опасно, когда люди задают системе вопросы срочного порядка, например о том, как действовать при укусе змеи. В таких ситуациях ошибка в ответе может поставить под угрозу жизнь человека.

Эмили Бендер (Emily Bender), профессор лингвистики из Вашингтонского университета, еще в 2021 году предупреждала Google о потенциальных проблемах такого подхода. Она говорила, что системы ИИ могут только усугублять уже существующий в обществе расизм, сексизм и другие предрассудки.

Еще одна проблема, как отмечает автор статьи AP News.com, оказалась более глубокой. Выдача готовых ответов вместо списка сайтов лишает людей возможности самостоятельно искать информацию и проявлять поисковую активность. Также отпадает необходимость посещать онлайн-форумы, так как зачем, если вопрос уже решён. При этом для владельцев многих (очень многих) сайтов это означает потерю ценного интернет-трафика от Google, благодаря которому сайты и существуют.

Тем временем конкуренты Google, такие как OpenAI с их ChatGPT и стартап Perplexity AI, активно разрабатывают собственные решения с использованием ИИ. По словам коммерческого директора Perplexity Дмитрия Шевеленко, обновление Google, похоже, было сделано «в спешке» и содержит много случайных ошибок.

В заявлении Google в пятницу говорится, что они предпринимают меры по исправлению неверных ответов и улучшению качества сервиса. Но в целом компания утверждает, что система работает так, как и планировалось, и было проведено тщательное тестирование перед ее запуском.

В поисковой выдаче Google у некоторых пользователей появился верхний блок, который показывает сводку по запросу, подготовленную генеративным искусственным интеллектом. Как показала практика, эти ответы нередко предлагают забавную, а подчас и потенциально опасную информацию. Пицца с клеем оказалась лишь верхушкой айсберга.

Источник изображения: blog.google

Подобными ошибками нередко грешат основанные на ИИ чат-боты, но с учётом масштабов Google ошибки поисковой системы грозят серьёзными последствиями. «Примеры, которые мы видели, как правило, выражены необычными запросами и не отражают опыт большинства людей. Подавляющее большинство сводок предоставляет качественную информацию со ссылками для углублённого поиска в интернете», — пояснил представитель Google ресурсe Ars Technica. Тем не менее, его журналистам удалось классифицировать наиболее типичные ошибки, указав на наиболее слабые места ИИ.

«Жидкости для поворотников» на деле не существует. Здесь и далее источник изображения: arstechnica.com

ИИ Google не понимает, когда автор источника в интернете пытался пошутить. Авторы советов «взять 1/8 чашки нетоксичного клея», чтобы сыр не соскальзывал и пиццы, или залить в авто «жидкость для поворотников», чтобы они начали работать бесшумно, явно не утверждали этого всерьёз. Шуткой, конечно, своеобразной, была и рекомендация по бегу с ножницами — ИИ Google назвал это отличной кардио-тренировкой, и отметил необходимость быть сосредоточенным и аккуратным. А ещё ИИ заявил со ссылкой на учёных их Беркли, что человеку нужно съедать один маленький камень каждый день.

«Камни — жизненно важный источник минералов и витаминов»

При обычном поиске в Google такие результаты не окажутся в верхней части выдачи, но сводки ИИ привлекают к ним больше внимания. Разобраться с подозрительным ответом поможет изучение источников, список которых приводит поисковая система.

Бег с ножницам вряд ли принесёт пользу для здоровья, но ИИ Google другого мнения

Стивен Спилберг на самом деле не выпускал в 2022 году ремейка «Космической одиссеи 2001 года»

ИИ не всегда правильно оценивает авторитетность источника. К информации, полученной в «Википедии» и на сайте университета она может добавить сведения от СМИ, которые вызывают сомнения у специалистов — в результате Google сообщил, что из 56 человек, подписавших Декларацию независимости США, рабовладельцами были не треть, как обычно считается, а до трёх четвертей. В другом случае ИИ воспринял как данность якобы вышедший в 2022 ремейк ленты «Космическая одиссея 2001 года» (2001: A Space Odyssey), который поставил Стивен Спилберг (Steven Spielberg) и спродюсировал Джордж Лукас (George Lucas). На самом деле это был фанфик, но понять это можно, опять же, лишь изучив источник.

ИИ посчитал, что крайняя южная точка Аляски находится на Алеутских островах

В некоторых случаях Google отвечает на вопрос, который пользователь не задавал, и это может ввести в заблуждение. Когда у системы спросили о самой южной точке Аляски, та дала ответ о самой южной точке Алеутских островов, которые по определению не могут находиться на материке. А когда у Google поинтересовались играющими в НХЛ и НБА собаками, тот рассказал о животных, которые помогают командам или сидят в зрительном зале, но точно не выходят на поле во время игры как участники команд. В заблуждение может ввести выделяемый системой фрагмент текста, но защита от ошибки та же — изучение источников.

За три месяца пройдёт явно меньше 738 523 дней

Ещё ИИ испытывает сложности с математикой и анализом орфографии. Как и многие другие системы ИИ, платформа Google не справляется с решением элементарных математических задач и уравнений. К примеру, она совершила грубую ошибку при оценке уровня инфляции с 2000 по 2023 год в США, указав, что она составила 43,49 %, хотя фактически цены выросли на 77 %. В другом примере система сообщила, что с октября 2024 года по январь 2025 года пройдут 738 523 дня. Наконец, когда Google спросили, название какого итальянского города начинается с латинской «K», ИИ ответил, что это Катания — хотя в оригинале город называется Catania.

Президент США Джон Ф. Кеннеди не мог учиться в Университете Брауна с 1978 по 1983 год

Google склонен путать людей с похожими именами. Когда ИИ спросили о президентах США, погибших из-за вулканов, тот рассказал о некоем Гарри Р. Трумэне (Harry R. Truman), который погиб в 1980 году из-за взрыва на горе Сент-Хеленс — и это явно был не президент Гарри С. Трумэн (Harry S. Truman), который умер в 1972 году по причине, не имеющей к вулканам никакого отношения. ИИ также сообщил, что президент Джон Ф. Кеннеди (John F. Kennedy) учился в Университете Брауна, перепутав политика с его собственным сыном Джоном Кеннеди-младшим (John F. Kennedy Jr.) — старший учился в Гарвардском университете. Куда менее логичным оказалось заявление системы, что 13 президентов США получили 59 степеней в Висконсинском университете в Мэдисоне — эту информацию она, как ни странно, почерпнула со страницы с выпускниками Вашингтонского университета.

ИИ ненавязчиво заявляет, что у него есть дети

Но не всегда странные ответы ИИ означают явную дезинформацию. Так, когда у Google поинтересовались играющими в НБА утками, тот рассказал о выходце из университетской команды Oregon Ducks («Орегонские утки»), который перешёл в профессиональную лигу, и об игроке Utah Jazz Дональде Эдгаре «Даке» Уильямсе (Donald Edgar «Duck» Williams), который носит прозвище «Утка» — система не могла знать наперёд, что пользователь подразумевал под «уткой» и дала вполне разумный ответ. А вот когда Google сообщил, что смузи по одному из рецептов стал «любимым у его детей», это изрядно озадачило пользователей, хотя он просто процитировал публикацию из одного блога.

Sony PlayStation и Sega Saturn вышли в 1994 году

В некоторых случаях система сделала попытку исправиться. Сначала ИИ заявил, что игровые приставки Sony PlayStation и Sega Saturn поступили в продажу в 1993 году (на самом деле в 1994-м), он, видимо, неверно истолковал страницу «Википедии», охватывающую период с 1993 по 1998 год. Через день он датировал 1993 годом только Atari Jaguar, и это был правильный ответ.

Представитель Google пояснил, что компания продолжает совершенствовать систему, используя, в частности, метод состязательного обучения, а по некоторым запросам сводки показываться вообще не будут. Но даже несмотря на ненулевую вероятность ошибок постоянным остаётся один способ защиты от них — изучение источников.

Бывшая сотрудница OpenAI Гретхен Крюгер (Gretchen Krueger) сообщила, что 14 мая ушла из компании в связи с опасениями, что разрабатываемый OpenAI искусственный интеллект может представлять угрозу для человечества. Это «непростое решение» она приняла незадолго до того, как о своём уходе объявили Илья Суцкевер (Ilya Sutskever) и Ян Лейке (Jan Leike), которые руководили ныне расформированным подразделением Superalignment.

Источник изображения: Growtika / unsplash.com

«Я подала в отставку за несколько часов до того, как услышала новости об [Илье Суцквере] и [Яне Лейке], и приняла своё решение независимо. Их опасения я разделяю. У меня также есть другие и частично совпадающие опасения», — написала Крюгер в соцсети X. По её словам, компании необходимо проделать работу по улучшению «процессов принятия решений; подотчётности; прозрачности; документации; обеспечения соблюдения политик; осторожности в применении наших собственных технологий; и сокращения воздействия на неравенство, права и окружающую среду».

Крюгер, которая работала специалистом по разработке политик исследования, заявила, что эти опасения разделяет общественность — они «могут влиять на то, как и кем могут определяться аспекты будущего», и эти опасения не следует «неправильно воспринимать как узкие, спекулятивные или не имеющие отношения» к созданию и работе ИИ. «Один из способов, которым технологические компании могут обезоружить тех, кто пытается привлечь их к ответственности, — посеять раскол между теми, кто выражает обеспокоенность или бросает вызов их доминированию. Я крайне озабочена тем, чтобы это предотвратить», — отметила Крюгер.

Покинувшие на минувшей неделе OpenAI главный научный сотрудник и соучредитель компании Илья Суцкевер и исполнительный директор Ян Лейке возглавляли подразделение Superalignment — оно разрабатывало меры безопасности, предотвращающие выход сильного ИИ (AGI) из-под контроля. По словам Лейке, компания ставила «блестящие продукты» выше мер безопасности: отделу Superalignment приходилось бороться за ресурсы, а выполнять свою работу ему становилось всё труднее.

На мероприятии VivaTech в Париже компания Honor провела презентацию, в ходе которой рассказала о новой четырёхуровневой архитектуре искусственного интеллекта, которая впервые будет представлена в смартфоны серии Honor 200 — их анонс состоится 12 июня.

Смартфоны Honor 200 и Honor 200 Pro первыми получат новую разработанную компанией архитектуру ИИ. Она будет включать в себя помощника Google Gemini и генератор изображений Imagen 2. На базовом уровне архитектура предусматривает ИИ, работающий на разных устройствах и ОС, который станет основой открытой экосистемы. Второй уровень отвечает за взаимодействие человека и компьютера на основе намерений пользователя.

Третий уровень — работа с приложениями с генеративным ИИ, которые должны улучшить взаимодействие с пользователем. Наконец, верхний уровень — это сервисы Interface to Cloud AI, открывающие пользователям доступ к облачным платформам с высокой производительностью, которые будут способствовать созданию «по-настоящему целостной и направленной в будущее работы с ИИ».

Honor входит в число немногих компаний, которые используют инструменты ИИ Google в потребительских устройствах. В январе о партнёрстве с Google Cloud для интеграции Gemini Pro и Imagen 2 на свои устройства объявила Samsung — набор новых возможностей получили телефоны серии Galaxy S24. Ранее Honor представила смартфон Magic6 Pro с набором функций ИИ, включая технологию отслеживания взгляда.

Реклама | ООО "Техкомпания ОНОР" ИНН 9731055266 erid: F7NfYUJCUneLrXb2UaTe

Гендиректор OpenAI Сэм Альтман (Sam Altman) в недавнем интервью намекнул, что модель искусственного интеллекта нового поколения GPT-5 настолько превзойдёт существующие решения, что GPT-4 будет выглядеть «слегка неловко».

Источник изображения: wikipedia.org

OpenAI пока не сообщила, когда выпустит очередную модель ИИ серии GPT, но когда это произойдёт, все предыдущие окажутся в крайне невыгодном положении. С момента выпуска популярного ныне чат-бота ChatGPT разработчик оказался в авангарде отрасли ИИ. С тех пор компания выпустила множество других продуктов с ИИ, последним из которых стала модель GPT-4o, которая в сравнении с предшественницами намного лучше справляется с написанием программного кода, а также демонстрирует способность рассуждать, одинаково хорошо воспринимая текст, изображения и звук. Сегодня это впечатляет, но, подчёркивает разработчик, это ничто в сравнении с GPT-5.

В недавнем интервью Сэм Альтман коснулся перспективных разработок в области ИИ, заявив, что новая модель может быть похожа на «виртуальный мозг», демонстрируя «более глубокие „мыслительные“ способности». На её фоне GPT-4 будет выглядеть «слегка неловко», поскольку новая нейросеть значительно более мощная, функциональная и «разумная». Альтман также уверен, что GPT-5 станет значительным шагом на пути к появлению сильного ИИ (AGI), соответствующего или превосходящего человеческие возможности в широком круге задач.

Amazon намеревается модернизировать работающий уже десять лет голосовой помощник Alexa, расширив его возможности с интеграцией генеративного искусственного интеллекта, а также ввести за его использование абонентскую плату, чтобы компенсировать затраты на эту технологию, сообщает CNBC.

Источник изображений: aboutamazon.com

Более мощную версию Alexa компания развернёт уже в этом году, что усилит её позиции в конкуренции чат-ботами на базе систем генеративного ИИ — в первую очередь имеются в виду сервисы Google и OpenAI. Доступ к обновлённой Alexa будет платным, но подписку на голосового помощника с ИИ не включат в Amazon Prime, которая сейчас обходится $139 в год, — с ценой компания ещё не определилась. По меркам 2014 года возможности Alexa казались поразительными, но с учётом произошедшего недавно скачка в области ИИ голосовой помощник кажется старомодным.

На прошлой неделе OpenAI представила модель GPT-4o с поддержкой двустороннего диалога с более глубоким содержанием, чем способна Alexa. Аналогичную голосовую службу запустила Google на базе Gemini. Эти нововведения были восприняты как угроза для голосовых помощников от Amazon и Apple — их возможности до сих пор преимущественно ограничиваются установкой таймеров и будильников, а также зачитыванием прогнозов погоды.

В бытность основателя Amazon Джеффа Безоса (Jeff Bezos) главой компании проект Alexa числился у него в любимчиках — в него вливались значительные средства без ожидания быстрой отдачи. В 2021 году Безоса на посту гендиректора сменил Энди Джесси (Andy Jassy), который занялся оптимизацией бизнеса и понизил приоритет разработки голосового помощника в компании. Теперь же он и сам недоволен возможностями современной Alexa: однажды Джесси, заядлый спортивный фанат, задал голосовому помощнику вопрос о результатах недавней игры и не получил ответа, хотя его было очень просто найти в интернете.

Джесси не дал прямого ответа на вопрос журналистов CNBC о планах Amazon в отношении Alexa, но сослался на опубликованное в апреле письмо акционерам компании: в документе говорится об разработке инструментов генеративного ИИ для потребительского бизнеса Amazon, включая «более интеллектуальную и функциональную Alexa». В обновлённом виде это должен быть конкурентоспособный голосовой помощник, способный выдержать конкуренцию с другими игроками в отрасли ИИ, а также оправдать ресурсы и численность персонала, занятые по данному направлению. По состоянию на 2023 год Amazon продала более 500 млн устройств с поддержкой Alexa, что дало компании и её продукту возможность закрепиться среди потребителей.

Apple, Amazon и Google первыми запустили собственных голосовых помощников на основе ИИ, который в исходном виде уже устарел. Как ожидается, в июне на WWDC компания Apple представит обновлённую версию Siri. Занятые в проекте Alexa сотрудники Amazon отметили, что технология вышла на рынок слишком рано, и теперь сменить курс будет непросто. Требуются, например, квалифицированные кадры, на которые сейчас дефицит: OpenAI, Microsoft и Google привлекают новых сотрудников из одного и того же сообщества. Недёшево обходятся и связанные с ИИ рабочие нагрузки — по словам одного из источников, один запрос к Alexa на базе генеративного ИИ обойдётся в $0,02, и оправданная величина абонентской платы составит около $20 в месяц. Другой утверждает, что сумма должна быть однозначной, иначе могут пострадать другие предложения по подписке. OpenAI, однако, взимает с потребителей $20 в месяц за доступ к передовым моделям.

Следует учитывать, что аудитория Alexa исчисляется сотнями миллионов устройств. С одной стороны, это значительные финансовые перспективы; с другой, это повышает ответственность компании за ошибки ИИ или неспособность голосового помощника понять команду. Наконец, Amazon приходится противостоять стереотипу, что компания отстаёт в области ИИ. Она предлагает клиентам облачной инфраструктуры AWS доступ к нескольким моделям ИИ, но не располагает собственной флагманской моделью, способной тягаться с проектами OpenAI, Google или Meta✴. Amazon дополнительно потратила $2,75 млрд на поддержку ИИ-стартапа Anthropic, в который, впрочем, инвестировала и Google. В Alexa, однако, будет работать собственная большая языковая модель Amazon Titan.

На отставание Amazon в области ИИ указывает и бывший глава компании Джефф Безос, говорят его сотрудники. Он по-прежнему принимает участие в работе Amazon и пишет руководителям компании письма, где интересуется, почему ИИ-стартапы предпочитают других поставщиков облачных услуг, а не AWS.

Сделка между корпорацией Microsoft и поддерживаемой властями Объединённых Арабских Эмиратов компанией G42, которая занимается технологиями искусственного интеллекта, может повлечь передачу ближневосточному партнёру передовых чипов и инструментов, признался президент Microsoft Брэд Смит (Brad Smith). Передача этих средств может иметь последствия для национальной безопасности США, пишет Reuters.

Источник изображения: pixabay.com

Реализация соглашения между двумя компаниями, заявил господин Смит, на втором этапе предусматривает экспорт важнейших компонентов технологии ИИ, в том числе весов моделей — параметров, определяющих их возможности. Чёткие сроки в отношении второго этапа соглашения не установлены, отметил президент Microsoft. Системы ИИ могут представлять угрозу национальной безопасности — с их помощью упрощается разработка химического, биологического и ядерного оружия, подчёркивают власти США. Поэтому для дальнейшего продвижения сделки потребуется одобрение Министерства торговли США — в соглашении предусмотрены гарантии защиты технологий Microsoft, заверили в корпорации, а также положения, предотвращающие их передачу и дальнейшее использование китайскими организациями для обучения собственных систем ИИ. Но обнародованы эти меры не были, и американские законодатели сомневаются в их адекватности — парламентариев беспокоит закрытый характер переговоров между двумя частными компаниями.

Сегодня Минторг требует раскрытия информации, а в случае с некоторыми регионами и получения экспортной лицензии на отправку чипов для ИИ за границу. Но сделка между Microsoft и G42 демонстрирует пробелы в американских законах. К примеру, ещё не существует средств регулирования, ограничивающих экспорт моделей ИИ, хотя соответствующий законопроект уже подготовлен. В Microsoft заявили, что корпорация приветствует дебаты о новой правовой базе в отношении передачи технологий ИИ, а ближневосточному партнёру потребуется соблюдать американские законы по мере их принятия. Когда в апреле было объявлено о сделке, она свидетельствовала о расширении технологического влияния США на фоне стратегической конкуренции с Китаем: Microsoft инвестирует $1,5 млрд в G42, а президент американской корпорации получает место в совете директоров компании из ОАЭ.

Стороны, однако, не раскрыли подробностей о том, какие технологии будут передаваться в ОАЭ и другие страны, и какие меры безопасности будут приняты. Цель совместного проекта — внедрение технологий ИИ в тех регионах, где ни одна из сторон не смогла бы добиться тех же результатов в одиночку. Один из примеров — программа в Кении, о которой компании объявили накануне. Microsoft и G42 в рамках сделки обязываются предоставлять гарантии безопасности своим правительствам, но между США и ОАЭ не существует прямого соглашения о передаче конфиденциальных технологий. При этом обе стороны могут попытаться перенести соответствующие решения на рынки вне ОАЭ, включая такие страны как Турция и Египет.

Источник изображения: efes / pixabay.com

Многие детали сделки, говорит Брэд Смит, ещё предстоит проработать. Это касается, в частности, положений о защите весов моделей ИИ, определяющих реакцию систем на вопросы и команды. Эти веса получаются в процессе обучения моделей на огромных объёмах данных, что часто стоит больших денег. Пока не существует технологий для шифрования весов моделей, и имеющие перспективы технические решения этой задачи, утверждает президент Microsoft, появятся как минимум через год. Компания рассматривает несколько альтернативных вариантов защиты своих технологий, в том числе схему «хранилища в хранилище», предполагающую физическое отделение частей центров обработки данных, в которых размещаются чипы ИИ и веса моделей, с ограничением физического доступа.

В рамках сделки предусматриваются и средства правовой защиты интересов Microsoft и США. В частности, планируется введение политики идентификации KYC (Know Your Customer) — она поможет определить, кто будет работать с технологиями Microsoft, и не позволит китайским фирмам использовать их для обучения собственных моделей ИИ. Microsoft также оставила за собой право налагать на G42 финансовые штрафы и обеспечивать их исполнение через арбитражные суды в Лондоне, то есть американская компания не будет вынуждена действовать в рамках правовой системы ОАЭ. Это гарантирует, что G42 станет исполнять свои обязательства, а в случае нарушения соглашений её будет ждать конфискация активов во многих странах.

Неясной пока остаётся роль главы Минторга США Джины Раймондо (Gina Raimondo) в сделке Microsoft и G42 — касающиеся этого положения носят «неформальный» характер, но, подчеркнул Брэд Смит, чиновница обычно чётко даёт понять, одобряет она что-то или нет.

OpenAI заключила лицензионное соглашение с News Corp — медиакомпанией, в которую входят такие издания как The Wall Street Journal, New York Post и The Daily Telegraph. Сделка может обойтись разработчику искусственного интеллекта в $250 млн за ближайшие пять лет «в виде денежных средств и кредитов за использование технологий OpenAI».

Источник изображения: openai.com

В рамках многолетнего соглашения OpenAI получит доступ к архивным и актуальным публикациям изданий News Corp — эти материалы будут использоваться для обучения ИИ и ответов на вопросы пользователей. Ранее OpenAI заключила аналогичные соглашения с другими крупными изданиями: Associated Press, Financial Times, с издателем Dotdash Meredith (владеет журналом People), с концерном Axel Springer (владеет Politico).

Некоторые СМИ, однако, подали на OpenAI в суд, например, New York Times, New York Daily News, Chicago Tribune и The Intercept — они обвинили компанию и его партнёра Microsoft в нарушении авторских прав при обучении моделей ИИ на их материалах.

В рамках нового лицензионного соглашения с News Corp компания OpenAI получит доступ и к таким изданиям как Barron’s, MarketWatch, Investor’s Business Daily, FN, Sunday Times, The Sun и The Australian. News Corp также поделится с новым партнёром «журналистским опытом» для «обеспечения высоких стандартов журналистики».

Модели искусственного интеллекта, которые генерируют картинки по текстовому описанию, при обучении на оригинальных изображениях могут их «запоминать», поднимая таким образом вопрос о нарушении авторских прав. Для защиты от претензий со стороны правообладателей была разработана система Ambient Diffusion для обучения моделей ИИ только на повреждённых данных.

Источник изображения: github.com/giannisdaras

Диффузионные модели — передовые алгоритмы машинного обучения, которые генерируют высококачественные объекты, постепенно добавляя шум в набор данных, а затем обращая этот процесс вспять. Как показали исследования, такие модели способны запоминать образцы из обучающего массива. Эта особенность может иметь неприятные последствия в аспектах конфиденциальности, безопасности и авторских прав. К примеру, если ИИ обучается работе с рентгеновскими снимками, он не должен запоминать изображения конкретных пациентов.

Чтобы избежать этих проблем, исследователи из Техасского университета в Остине и Калифорнийского университета в Беркли разработали фреймворк Ambient Diffusion для обучения диффузионных моделей ИИ только на изображениях, которые были повреждены до неузнаваемости — так практически обнуляется вероятность, что ИИ «запомнит» и воспроизведёт оригинальную работу.

Чтобы подтвердить свою гипотезу, учёные обучили модель ИИ на 3000 изображений знаменитостей из базы CelebA-HQ. При получении запроса эта модель начинала генерировать изображения, почти идентичные оригинальным. После этого исследователи переобучили модель, использовав 3000 изображений с сильными повреждениями — маскировке подверглись до 90 % пикселей. Тогда она начала генерировать реалистичные человеческие лица, которые сильно отличались от оригинальных. Исходные коды проекта его авторы опубликовали на GitHub.

Microsoft добавила в пакет утилит PowerToys для Windows 11 новую функцию Advanced Paste, которая позволяет «на лету» конвертировать содержимое буфера обмена при помощи искусственного интеллекта. Она призвана упростить пользователям некоторые рабочие процессы.

Источник изображения: Windows / unsplash.com

Функция Advanced Paste появилась в версии PowerToys 0.81 — после активации она вызывается сочетанием клавиш Win + Shift + V. При этом появляется контекстное окно, в котором предлагаются параметры форматирования содержимого буфера обмена при вставке: например, это может быть текст без форматирования, текст с разметкой или формат JSON.

Источник изображения: microsoft.com

В настройках Advanced Paste есть также опция «Вставка с ИИ» (Paste with AI), которая открывает доступ к ресурсам OpenAI. В этом случае можно также выбрать составление сводки текста, его перевод, генерацию кода, переписывание текста в деловом стиле, «нотацию Йоды» для программистов или отправку иного запроса к ИИ. Правда, для доступа к набору функций ИИ в настройках PowerToys потребуется указать ключ OpenAI API и закупить кредиты для учётной записи в экосистеме OpenAI.

Министерство цифрового развития, связи и массовых коммуникаций РФ проводит тестирование генеративного искусственного интеллекта в цифровом помощнике «Максе» на портале «Госуслуг». Об этом пишет информационное агентство ТАСС со ссылкой на слова замглавы ведомства Олега Качанова.

Источник изображения: geralt/Pixabay

«Да, конечно [тестируем]. <…> Генеративные нейросети планируется использовать в роботе "Максе". Это понятное для нас направление, мы уже идём по пути тестирования, отрабатываем разные варианты», — приводит источник слова господина Качанова.

При этом замминистра не уточнил, какие именно нейросети стали основой для функций, проходящих тестирование на портале «Госуслуг». Он отметил, что на данный момент ни на каком конкретном варианте для «Макса» Минцифры не остановилось, но текущий этап уже можно назвать тестированием.

Господин Качанов также рассказал, что внедрение нейросетей является недешёвым проектом, особенно если учесть, что не все из существующих алгоритмов одинаково полезны. «То есть можно было взять что-то своё [в плане движка], можно взять опенсорс-движки, можно взять некие проприетарные движки. Мы отрабатываем разные варианты, ни на каком конкретном ещё не остановились», — добавил замминистра.

Ключевой особенностью представленной Microsoft концепции компьютеров Copilot Plus PC являются новые функции на основе искусственного интеллекта, интегрированные непосредственно в Windows 11. В реальности работу платформы ИИ на Windows 11 обеспечивают более 40 моделей ИИ, доступ к которым разработчикам приложений открывается через специальную среду выполнения — Windows Copilot Runtime, о которой Microsoft подробно рассказала на конференции Build.

Источник изображения: Windows / unsplash.com

Среда выполнения Windows Copilot Runtime включает в себя библиотеку API, которые разработчики могут использовать в своих приложениях; а также платформы ИИ и цепочки инструментов для новых моделей на устройствах под Windows. «Библиотека Windows Copilot состоит из готовых к использованию API ИИ, таких как Studio Effects, Live Captions Translations, OCR, Recall with User Activity и Phi Silica, которые будут доступны разработчикам в июне», — пояснил глава подразделения Windows and Surface Паван Давулури (Pavan Davuluri).

Разработчики смогут подключать библиотеку Windows Copilot для интеграции в приложения возможностей пакета Studio Effects, включая фильтры и размытие. К примеру, Meta✴ добавила эти функции в клиент WhatsApp — в видеозвонках появятся размытие фона и зрительный контакт. Функциями перевода и Live Captions разработчики смогут пользоваться либо вообще без кода, либо с его минимальным присутствием.

Источник изображения: blogs.windows.com

Ранее Microsoft анонсировала функцию Recall, благодаря которой компьютеры Copilot Plus получили возможность сохранять все действия пользователей на компьютере с возможностью последующего поиска. Разработчики смогут подключать свои приложения и к этой функции — пользователи смогут продолжать работу с программой с того места, где они остановились в прошлый раз. В Microsoft считают, что эти функции, для работы которых необходимы ИИ-ускорители Arm-процессоров, а также чипов AMD и Intel, запустят целую волну приложений с ИИ в ближайшее десятилетие.

Вскоре Microsoft предложит предприятиям и разработчикам возможность использовать помощника на базе искусственного интеллекта Copilot в качестве виртуального сотрудника для рутинных рабочих задач. Вместо того, чтобы функционировать только в режиме чат-бота, Copilot станет выполнять мониторинг почтовых ящиков, сможет автоматизировать ряд задач и осуществлять ввод данных — сегодня всё это работникам компаний приходится выполнять вручную.

Источник изображений: microsoft.com

«Мы очень быстро поняли, что работа Copilot только в формате общения сегодня крайне ограничивает его возможности. Вместо того, чтобы Copilot ждал, пока с ним кто-нибудь поговорит, что если его могли бы сделать более активным и дали ему возможность работать в фоновом режиме над задачами автоматизации?» — пояснил инициативу ресурсу The Verge корпоративный вице-президент Microsoft по бизнес-приложениям и платформам Чарльз Ламанна (Charles Lamanna). Пока новые возможности Copilot открылись лишь небольшой группе участников программы тестирования, но уже в этом году они появятся в общедоступной предварительной версии Copilot Studio.

Компании смогут создавать агентов Copilot, способных брать на себя функции службы техподдержки, адаптации сотрудников и многое другое. Такие агенты будут запускаться при определённых событиях и работать с собственными данными компании. Вот как описывает механизм его работы сама Microsoft: «Представьте, что вы — новый сотрудник. Проактивный Copilot приветствует вас, анализирует информацию из отдела кадров и отвечает на ваши вопросы, знакомит вас с напарником, обучает и определяет сроки, помогает с формами и организует встречи на первую неделю. Теперь кадровики и [другие] сотрудники смогут выполнять свои обычные задачи без хлопот с администрированием».

Такие механизмы автоматизации, конечно, вызывают вопросы о потере рабочих мест людьми и опасения по поводу того, как ИИ будет развиваться дальше. Господин Ламанна подчёркивает, что агенты Copilot смогут избавить человека от повторяющихся и однообразных задач, таких как ввод данных, а полностью подменять собой человека они не будут. Другими словами, Microsoft, по собственному утверждению компании, стремится избавить сотрудников от скучных монотонных заданий. С учётом постоянной борьбы между техногигантами за доминирование в сфере ИИ создаётся впечатление, что одной автоматизацией дело не ограничится. Но, отмечает Ламанна, важными составляющими рабочего процесса остаются человеческие мнение и сотрудничество, и автоматизировать можно не всё.

Microsoft также сообщила, что оградила Copilot от потенциальных сбоев, таких как галлюцинации ИИ, встроив в Copilot Studio элементы управления. Это значит, что агент ИИ должен действовать в рамках того, что было определено в рамках инструкций и операций, связанных с автоматизацией задач. Упростились и механизмы переноса данных в локальный экземпляр Copilot — с общедоступных веб-сайтов, а также SharePoint, OneDrive и прочих ресурсов. Если в 2023 году основными задачами Copilot были поиск данных и составление сводок пользовательского контента, то в этом году основным направлением деятельности Microsoft в области ИИ становится кастомизация. Прежде Copilot был сосредоточен на индивидуальном взаимодействии с человеком, а сейчас он будет больше работать с группами пользователей. В этом году обновятся возможности Team Copilot для корпоративного мессенджера Microsoft — ИИ сможет управлять повестками дня во время встреч и заметками, модерировать чаты подразделений, помогать ставить задачи и отслеживать сроки в Microsoft Planner.

Европейский союз окончательно согласовал первый в мире закон, регулирующий использование искусственного интеллекта. Документ устанавливает «всеобъемлющие правила» для технологий ИИ и основан на оценке рисков их применения в автономном транспорте, медицинских устройствах, финансовых сервисах и образовании.

Источник изображения: Copilot

Закон является новаторским и устанавливает подход к регулированию ИИ. В частности, полностью будет запрещено использование так называемых систем «социального рейтинга», которые ранжируют граждан на основе анализа их данных. Также запрещено прогнозное моделирование для нужд полиции и использование эмоционального распознавания на рабочих местах и в школах, сообщает издание CNBC.

Системы ИИ высокого риска, такие как автономные автомобили, медицинские устройства, финансовые и образовательные сервисы, будут оцениваться на предмет угроз здоровью, безопасности и правам граждан. Кроме того, закон вводит жесткие ограничения на так называемые генеративные системы ИИ, к которым относится, например, ChatGPT. Для них устанавливаются требования соблюдения законодательства об авторских правах, раскрытия информации об обучении моделей, регулярного тестирования кибербезопасности.

Изменение в законодательстве ЕС произошло после запуска OpenAI ChatGPT в ноябре 2022 года. Тогда чиновники осознали, что существующее законодательство лишено проработанных деталей, которые важны в регулировании использования генеративным искусственным интеллектом материалов, защищенных авторским правом.

Полностью закон заработает не раньше чем через 12 месяцев, а уже существующие системы, такие как ChatGPT, Gemini и Copilot, получат переходный период на 36 месяцев для приведения в соответствие новым нормам. «Принятие закона об искусственном интеллекте является важной вехой для Европейского союза», — заявил государственный секретарь Бельгии по вопросам цифровизации Матье Мишель (Mathieu Michel).

За нарушение закона компании будут оштрафованы на сумму до 35 млн евро или 7% годовой выручки. Это коснется в первую очередь американских технологических гигантов, таких как Google, Microsoft и OpenAI. «Теперь внимание должно быть обращено на эффективную реализацию и обеспечение соблюдения закона об искусственном интеллекте», — заявила глава глобальной группы потребительских товаров и розничной торговли в ЕС Десислава Савова (Dessislava Savova).

Основная цель принятия данного закона заключается в обеспечении доверия, прозрачности и подотчетности при использовании технологий ИИ, не сдерживая при этом инновации.

Компания Microsoft анонсировала ИИ-модель Phi-3-vision, новую версию своей небольшой языковой модели Phi-3, способную просматривать изображения и рассказывать пользователю о том, что на них изображено. Phi-3-vision является мультимодальной ИИ-моделью, обладающей способностью читать текст и просматривать изображения, предназначенной для использования в первую очередь на мобильных устройствах.

Источник изображения: geralt/Pixabay

Как сообщает Microsoft, Phi-3-vision, доступная в виде предварительной версии, представляет собой модель с 4,2 млрд параметров, которая может выполнять общие задачи на визуальное мышление, включая ответы на вопросы о диаграммах или изображениях.

Phi-3-vision гораздо меньше других ИИ-моделей, ориентированных на работу с изображениями, таких как DALL-E от OpenAI или Stable Diffusion от Stability AI. В отличие от этих моделей, Phi-3-vision не генерирует изображения, хотя способна понимать, что изображено на картинке, и анализировать изображение по запросу пользователя.

Microsoft представила модель Phi-3 в апреле, выпустив Phi-3-mini, самую маленькую модель семейства Phi-3 с 3,8 млрд параметров. Семейство Phi-3 также включает модель Phi-3-small (7 млрд параметров) и Phi-3-medium (14 млрд параметров).

Разработчики начали выпуск небольших и лёгких ИИ-моделей, таких как Phi-3, в связи с ростом спроса на использование более экономичных и менее ресурсоёмких сервисов ИИ. Небольшие ИИ-модели не занимают много места в памяти и поэтому их можно использовать на телефонах и ноутбуках.

Microsoft выпустила ряд небольших моделей в дополнение к Phi-3 и её предшественнику Phi-2. Её модель Orca-Math, ориентированная на решение математических задач, как сообщается, отвечает на математические вопросы лучше, чем более крупные аналоги, такие как Gemini Pro от Google.

ИИ-модели Phi-3-mini, Phi-3-small и Phi-3-medium уже доступны для использования и присутствуют в библиотеке моделей Azure.