Группа информаторов из компании OpenAI подала жалобу в Комиссию по ценным бумагам и биржам США (SEC), обвинив организацию в незаконном запрете сотрудникам предупреждать регуляторов о серьёзных рисках, которые может нести искусственный интеллект человечеству.

Источник изображения: Elizabeth Frantz/For The Washington Post

По сообщению газеты The Washington Post со ссылкой на анонимные источники, OpenAI заставляла сотрудников подписывать чрезмерно ограничительные трудовые договоры, соглашения о выходном пособии и соглашения о неразглашении информации. Эти документы могли привести к наказанию работников, если бы они самостоятельно связались с федеральными регуляторами по поводу деятельности OpenAI.

В трудовом договоре содержались в неявном виде такие строки: «Мы не хотим, чтобы сотрудники разговаривали с федеральными регуляторами», — заявил один из информаторов на условиях анонимности из-за страха возмездия. «Я не думаю, что компании, занимающиеся ИИ, способны создавать безопасные и отвечающие общественным интересам технологии, если они ограждают себя от проверок и инакомыслия», — добавил он.

Тем не менее, Ханна Вон (Hannah Wong), пресс-секретарь OpenAI, в ответ на обвинения заявила, что политика компании в отношении информаторов защищает права сотрудников на раскрытие информации и что компания приветствует дискуссии о влиянии технологий на общество. «Мы считаем, что серьёзное обсуждение этой технологии крайне важно, и уже внесли изменения в наш процесс увольнения, исключив из него пункты о неразглашении», — сказала она.

В свою очередь адвокат информаторов Стивен Кон (Stephen Kohn) подчеркнул, что такие соглашения угрожают сотрудникам уголовным преследованием, если они сообщат о каких-либо нарушениях властям, и что это противоречит федеральным законам и нормам, защищающим информаторов. Он также отметил, что соглашение не содержало исключений для раскрытия определённой информации о нарушениях закона, что также является нарушением норм SEC.

Письмо информаторов появилось на фоне растущих опасений, что OpenAI, изначально созданная как некоммерческая организация с альтруистической миссией, теперь ставит прибыль выше безопасности при создании своих технологий. Сообщается, что последняя модель ИИ ChatGPT, была выпущена до того, как компания завершила собственную процедуру проверки безопасности, из-за желания руководства уложиться в установленный срок.

Неназванные сотрудники OpenAI призвали SEC провести тщательное расследование и принять меры против OpenAI, включая применение штрафов за каждый ненадлежащий контракт и требование уведомить всех прошлых и нынешних сотрудников об их праве конфиденциально и на анонимной основе сообщать о любых нарушениях закона SEC.

Адвокат Крис Бейкер (Chris Baker) из Сан-Франциско, который не так давно выиграл дело против Google о трудовом соглашении и компенсацию в размере 27 миллионов долларов для сотрудников компании, заявил, что борьба с «Соглашением о неразглашении» в Кремниевой долине ведётся уже давно. Однако «работодатели понимают, что иногда ущерб от утечек информации намного больше, чем от судебных исков, и готовы идти на риск», — сказал Бейкер.

Европейский союз официально утвердил Закон об искусственном интеллекте, представляющий собой комплексный набор правил для регулирования деятельности технологических компаний. Новый закон, разработка которого заняла два года, запрещает определённые виды использования ИИ и предъявляет строгие требования к деятельности разработчиков.

Источник изображения: Copilot

ЕС сделал решительный шаг в регулировании искусственного интеллекта, приняв всеобъемлющий Закон об ИИ после двух лет обсуждений. Этот законодательный акт, официально вступающий в силу 1 августа 2024 года, устанавливает жёсткие рамки для разработки и применения технологий искусственного интеллекта на территории ЕС. Крайним сроком исполнения этого закона является 2 февраля 2025 года, после чего технологические компании должны прекратить использование приложений, угрожающих правам граждан, сообщает The Verge. Полный текст закона опубликован на официальном сайте ЕС.

Новый закон запрещает определённые виды использования ИИ. В частности, запрещается использование приложений, угрожающих правам граждан, таких как биометрическая категоризация для определения сексуальной ориентации или религии. Также запрещается несанкционированное извлечение изображений лиц из интернета или записей с камер наблюдения.

Разработчики ИИ-систем должны будут обеспечить прозрачность и в отношении того, как работают их технологии, включая предоставление сводок данных, используемых для обучения систем. Через девять месяцев после вступления закона в силу у компаний появятся кодексы практики, состоящие из набора правил, описывающих требования к соответствию, контрольные показатели, ключевые показатели эффективности и т.д. Также вводится понятие «универсальные системы искусственного интеллекта», такие как чат-боты, которые должны будут соблюдать авторское право и иметь прозрачность в отношении своих алгоритмов.

Сроки соответствия нормам закона гласят, что большинство правил должны быть внедрены к исполнению к августу 2026 года, но некоторые высокорискованные системы ИИ, интегрированные в критически важную инфраструктуру или влияющие на занятость населения, здравоохранение и правосудие, имеют более длительный срок соответствия — до августа 2027 года.

Несоблюдение Закона об ИИ приведёт к серьёзным штрафам. Нарушение запретов на определённые виды использования ИИ повлечёт за собой штраф в размере 35 миллионов евро (около $38 млн) или 7 % от мировой годовой выручки компании-нарушителя, в зависимости от того, какая сумма больше. Другие нарушения влекут за собой меньшие штрафы, но тоже существенные.

Популярный мессенджер приступил к тестированию инновационной функции, позволяющей пользователям редактировать фотографии и получать информацию о них с помощью искусственного интеллекта Meta✴ AI.

Источник изображения: Heiko / Pixabay

Новая функция, о которой рассказал WABetaInfo, была замечена в последней бета-версии WhatsApp 2.24.14.20 для Android. С её помощью пользователи смогут загружать фотографии в чат с ИИ от Meta✴, который сможет анализировать изображения, отвечать на дополнительные вопросы об этих изображениях.

Например, можно попросить ИИ определить объекты на фотографии или объяснить её смысл. Кроме того, ИИ сможет быстро редактировать изображения по текстовым запросам, введённым в чат. Хотя на данный момент неясно, насколько широкими будут возможности редактирования, WABetaInfo отмечает, что новая функция «добавит удобства в пользовательский опыт» и поможет людям сэкономить время.

Источник изображения: wabetainfo.com

Кстати, для пользователей, которые беспокоятся о конфиденциальности, WhatsApp предусмотрел возможность удаления загруженных фотографий в любое время. Помимо этого, как ранее сообщали источники, Meta✴ также разрабатывает генератор аватаров с использованием ИИ, который позволит пользователям создавать свои изображения на различных фонах и в разных стилях.

Новая функция редактирования фото с помощью ИИ пока находится на стадии тестирования и доступна только в бета-версии WhatsApp для Android. О сроках её запуска для всех пользователей без ограничения пока не сообщается.

Исследователи провели эксперимент, который показал, что ИИ способен успешно сдавать университетские экзамены, оставаясь при этом незамеченным специальными программами. Экзаменационные работы ChatGPT получили более высокие оценки, чем работы студентов, пишет издание Ars Technica.

Источник изображения: Headway/Unsplash

Команда учёных из Редингского университета в Англии (University of Reading) под руководством Питера Скарфа (Peter Scarfe) провела масштабный эксперимент, чтобы проверить, насколько эффективно современные системы искусственного интеллекта могут справляться с университетскими экзаменами. Исследователи создали более 30 фиктивных учётных записей студентов-психологов и использовали их для сдачи экзаменов, используя ответы, сгенерированные ChatGPT. Эксперимент охватил пять модулей бакалавриата по психологии, включая задания для всех трёх лет обучения.

Результаты оказались ошеломляющими — 94 % работ, созданных ИИ, остались незамеченными экзаменаторами. Более того, почти 84 % этих работ получили более высокие оценки, чем работы студентов-людей, в среднем на полбалла выше. «Экзаменаторы были весьма удивлены результатами», — отметил Скарф. Причём интересно, что некоторые работы ИИ были обнаружены не из-за их роботизированности, а из-за слишком высокого качества.

Эксперимент также выявил ограничения существующих систем обнаружения контента, созданного ИИ. По словам Скарфа, такие инструменты, как GPTZero от Open AI и система Turnitin, показывают хорошие результаты в лабораторных условиях, но их эффективность значительно снижается в реальной жизненной ситуации. Однако не все результаты были в пользу ИИ. На последнем курсе, где требовалось более глубокое понимание и сложные аналитические навыки, студенты-люди показали лучшие результаты, чем ChatGPT.

Скарф подчеркнул, что ввиду постоянного совершенствования ИИ и отсутствия надёжных способов обнаружения его использования, университетам придётся адаптироваться и интегрировать ИИ в образовательный процесс. «Роль современного университета заключается в подготовке студентов к профессиональной карьере, и реальность такова, что после окончания учёбы они, несомненно, будут использовать различные инструменты искусственного интеллекта», — заключил исследователь. Данный эксперимент, по сути, поднимает проблему, которая уже сегодня требует пересмотра существующих методов обучения и экзаменации.

Крупные технологические компании, такие как Google, Adobe и Meta✴, вносят изменения в свою политику конфиденциальности, позволяющую им использовать данные пользователей для обучения моделей искусственного интеллекта (ИИ). Эти изменения часто вносятся незаметно и завуалированно, чтобы избежать негативной реакции.

Источник изображения: Christoph Meinersmann/Pixabay

Федеральная комиссия США по торговле (FTC) предупредила, что такие действия могут быть незаконными и нарушают обязательства компаний по защите конфиденциальности пользователей. Однако, согласно проведённому анализу The New York Times, компании тихо корректируют свои положения и условия, включая термины, связанные с ИИ, чтобы обеспечить себе юридическое прикрытие.

Напомним, Google внесла изменения в свою политику конфиденциальности в июле прошлого года, подчёркивая, что собирается использовать общедоступную информацию для обучения своих языковых ИИ-моделей. Adobe также обновила свои условия, что вызвало негативную реакцию пользователей, когда стало известно, что они могут потерять доступ к своим проектам, если не согласятся с новыми условиями. Тогда это привело к массовому отказу от подписки на сервисы компании.

Meta✴, со своей стороны, объявила в мае о намерении использовать общедоступные посты в Facebook✴ и Instagram✴ для обучения ИИ, но была вынуждена отложить эти планы из-за жалобы международной общественной организации по защите прав человека в интернете (European Center for Digital Rights, EDRi).

Пока неизвестно, какие меры предпримет FTC в ответ на растущую тенденцию изменений политики конфиденциальности с целью включения обучения ИИ на пользовательских данных.

Audi внедряет ChatGPT в свою информационно-развлекательную систему MIB3 для расширения возможностей голосового управления. С июля около двух миллионов автомобилей Audi, выпущенных с 2021 года, включая Audi A3, получат обновлённые функции. Новые модели, такие как Q6 e-tron, также будут оснащены ChatGPT.

Источник изображения: Audi

Интеграция ChatGPT в систему MIB3 открывает новые, ранее недоступные возможности, сообщает в своём блоге компания. Водители Audi смогут использовать расширенное голосовое управление для работы с информационно-развлекательной системой, навигацией и системой кондиционирования воздуха, а также задавать общие вопросы. Возможность запрашивать информацию в реальном режиме времени, не отвлекаясь от дороги, делает вождение безопаснее.

ChatGPT предоставляется через Azure OpenAI Service, а в основе новой функции лежит технология Chat Pro от компании Cerence, которая непосредственно занимается интеграцией чат-бота в Audi Assistant на новой архитектуре E 3 1.2.

Маркус Кит (Marcus Keith), вице-президент по развитию информационно-развлекательных систем в Audi, отмечает, что благодаря бесшовной интеграции ChatGPT в систему голосового управления были объединены сильные стороны технологий ChatGPT и Chat Pro. «Помимо широкого спектра голосовых функций, наши клиенты теперь получат простой и безопасный доступ к базе знаний на основе ИИ. Это ещё один шаг к созданию премиального пользовательского опыта в автомобилях Audi», — сказал он.

Чтобы активировать помощника, надо сказать «Hey Audi» или нажать кнопку push-to-talk на рулевом колесе. В зависимости от вопроса или команды, ИИ-помощник определит, что именно он должен сделать. Если система не может справится с заданием, она перенаправит его ChatGPT. В будущем также станет возможным задавать вопросы о техническом состоянии автомобиля, например, о давлении в шинах.

Компания Audi стремится шагать со временем в ногу и максимально использовать потенциал искусственного интеллекта, предлагая услуги и продукты для улучшения пользовательского взаимодействия с автомобилем, а также в бизнес-процессах. В частности, ИИ используется для решений, касающихся дизайна интерьера, поддержки контроля качества в производстве. Компания заявляет, что также привержена ответственному использованию ИИ в соответствии с принципами этики и регламента ЕС, касающегося искусственного интеллекта, а её сотрудники проходят обучение для использования ИИ в соответствии с современными стандартами и с учётом будущих потребностей.

Генеральный директор Meta✴ Марк Цукерберг (Mark Zuckerberg) объявил, что компания начинает тестирование ИИ-аватаров в Instagram✴, созданных пользователями с помощью инструмента Meta✴ AI Studio. Первоначально ИИ-аватары будут отображаться в основном в сообщениях и будут обозначены ярлыком «AI».

Источник изображения: Meta✴

В рамках теста в ближайшие недели подписчики известных каналов смогут пообщаться со своими кумирами через их ИИ-аватары, которые фактически являются ИИ-чат-ботами. Отмечается, что в будущем любой пользователь или компания сможет создать на платформе собственного чат-бота для взаимодействия со своим сообществом и клиентами.

Эта инновационная функция поможет не оставить без внимания ни одного сообщения от поклонников, тогда как физически отвечать на все входящие сообщения просто невозможно. Со временем такие ИИ-персонажи станут более совершенными и даже могут стать своего рода искусством, считает Цукерберг.

Изначально в тестировании примут участие примерно 50 создателей контента и небольшой процент обычных пользователей. Затем Meta✴ развернёт эту функцию для большего количества людей в течение следующих нескольких месяцев, что произойдёт примерно в августе.

Цукерберг подчеркнул, что это не просто расширение функционала, это новый уровень взаимодействия, позволяющий установить более тесную связь с аудиторией и клиентами через персонализированных чат-ботов на базе искусственного интеллекта. Конечной целью является разработка различных API-интерфейсов, отражающих разнообразие интересов людей, и возможность адаптировать ИИ-аватары под личные нужды.

Исследователи из Калифорнийского университета в Санта-Круз разработали метод, позволяющий запускать большие языковые модели искусственного интеллекта (LLM) с миллиардами параметров при значительно меньшем потреблении энергии, чем у современных систем.

Источник изображения: Stefan Steinbauer/Unsplash

Новый метод позволил запустить LLV с миллиардами параметров при энергопотреблении системы всего в 13 Вт, что эквивалентно потреблению бытовой светодиодной лампы. Это достижение особенно впечатляет на фоне текущих показателей энергопотребления ИИ-ускорителей. Современные графические процессоры для центров обработки данных, такие как Nvidia H100 и H200, потребляют около 700 Вт, а грядущий Blackwell B200 вообще может использовать до 1200 Вт на один GPU. Таким образом, новый метод оказывается в 50 раз эффективнее популярных сегодня решений, пишет Tom's Hardware.

Ключом к успеху стало устранение матричного умножения (MatMul) из процессов обучения. Исследователи применили два метода. Первый — это перевод системы счисления в троичную, использующую значения -1, 0 и 1, что позволило заменить умножение на простое суммирование чисел. Второй метод основан на внедрении временных вычислений, при котором сеть получила эффективную «память», позволившую работать быстрее, но с меньшим количеством выполняемых операций. Работа проводилась на специализированной системе с FPGA, но исследователи подчёркивают, что большинство их методов повышения эффективности можно применить с помощью открытого программного обеспечения и настройки уже существующих на сегодня систем.

Исследование было вдохновлено работой Microsoft по использованию троичных чисел в нейронных сетях, а в качестве эталонной большой модели учёные использовали LLaMa от Meta✴. Рюдзи Чжу (Rui-Jie Zhu), один из аспирантов, работавших над проектом, объяснил суть достижения в замене дорогостоящих операций на более дешёвые. Хотя пока неясно, можно ли применить этот подход ко всем системам в области ИИ и языковых моделей в качестве универсального, потенциально он может радикально изменить ландшафт ИИ.

Немаловажно, что учёные открыли исходный код своей разработки, что позволит крупным игрокам рынка ИИ, таким как Meta✴, OpenAI, Google, Nvidia и другим беспрепятственно воспользоваться новым достижением для обработки рабочих нагрузок и создания более быстрых и энергоэффективных систем искусственного интеллекта. В конечном итоге это приведёт к тому, что ИИ сможет полнофункционально работать на персональных компьютерах и мобильных устройствах, и приблизится к уровню функциональности человеческого мозга.

Google разрабатывает технологию создания персонализированных чат-ботов, с которыми можно общаться как с реальными людьми или вымышленными персонажами. Пользователи смогут создавать собственных ботов, настраивая их стиль общения и характер.

Источник изображения: Google

По данным The Information, подразделение Google Labs разрабатывает продукт для создания и общения с настраиваемыми чат-ботами, которые могут быть смоделированы на основе знаменитостей или созданы непосредственно самими пользователями. Чат-боты будут построены на основе моделей Gemini и позволят задавать их индивидуальную личность, а также внешний вид виртуального собеседника. Google рассматривает возможность официального сотрудничества с инфлюенсерами для создания ботов на их основе.

Учитывая возможности ИИ-моделей по работе с большими объёмами данных, проект отлично впишется в концепцию Google Labs и может быть запущен уже в этом году в качестве отдельного продукта. В перспективе планируется интегрировать этот продукт в YouTube, что даст пользователям возможность общаться с персонализированными чат-ботами прямо на платформе видеохостинга. Это будет эксперимент, который уже предлагает Meta✴ в Instagram✴, правда, не вызывая пока особого интереса со стороны пользователей.

Отметим, что новый проект отличается от проекта Gems, который является просто кастомизированной версией Gemini для определённых нужд. Например, в Gemini Gems по умолчанию будет тренер по йоге, репетитор по математике и кулинарный гуру. А чтобы создать собственного личного помощника, придётся купить подписку Gemini Advanced. Gems был анонсирован на конференции Google I/O 2024 в мае и станет доступен широкой аудитории в ближайшее время.

Компания Mozilla добавила в экспериментальную версию своего браузера Firefox Nightly полный набор популярных чат-ботов. Интеграция ИИ-помощников в браузер позволит анализировать и обобщать найденную в интернете информацию.

Источник изображения: Mozilla

Уже на этой неделе пользователи смогут добавить в боковую панель ChatGPT, Google Gemini, HuggingChat и других известных чат-ботов. Правда, чтобы их протестировать в Firefox, необходимо установить экспериментальную версию браузера Nightly — это специальная «нестабильная платформа для тестирования и разработки».

После установки Nightly, перейдите в «Настройки» — «Nightly Experiments» и активируйте опцию «AI Chatbot Integration», далее выберите бота. Для его постоянного размещения на панели, нужно кликнуть правой кнопкой мыши по верхней панели браузера и выбрать «Настроить панель инструментов». Затем следует перетащить иконку чат-бота на верхнюю панель.

Источник изображения: Mozilla

Компания отмечает, что все модели чат-ботов находятся на стадии разработки и имеют как сильные, так и слабые стороны. «Ни один из них не идеален, и каждый выполняет какую-то задачу лучше, какую-то хуже». Кстати, использование чат-ботов полностью опционально и не встроено в основные функции Firefox.

Mozilla, на самом деле, следует тенденции, заданной другими разработчиками браузеров, которые внедряют чат-ботов в свои продукты. Например, Microsoft и Google уже представили Copilot и Gemini для Edge и Chrome, а Opera и DuckDuckGo также уже зашли в этот «океан», экспериментируя с ИИ. В компании отметили, что будут продолжать тестирование версии Nightly, прежде чем внедрять эту функцию в бета-версию и официальный релиз Firefox.

Видя потенциал технологий генеративного искусственного интеллекта, мало кто из гигантов IT-рынка хочет упускать соответствующие возможности. Если Microsoft инвестирует средства непосредственно в стартап OpenAI, то Amazon пытается разрабатывать конкурента ChatGPT собственными силами, как сообщают осведомлённые источники. Профильный проект Amazon получил условное обозначение Metis.

Источник изображения: AWS

Об этом сообщает издание Business Insider со ссылкой на собственные источники. Скорее всего, секретный проект Amazon унаследовал имя Metis от древнегреческой богини мудрости, которая в русскоязычных источниках упоминается как Метида. По замыслу создателей, доступ к данному чат-боту будет предоставляться клиентам через обычный веб-браузер, как это происходит с ChatGPT и подобными решениями.

Греческую мифологию поддерживает и название лежащей в основе Metis ИИ-модели, которая носит обозначение Olympus. По имеющимся данным, эта модель является более производительной версией публично доступной Titan. В самой простой версии взаимодействия с пользователями Metis будет способна выдавать ответы в текстовом виде и изображениях, напоминая клиентам общение с обычным человеком. Модель также подразумевает предоставление ссылок на источники информации в своих ответах, поддерживает уточняющие запросы и умеет генерировать изображения.

Amazon хочет научить Metis работать по методу генерации с дополненной выборкой, который подразумевает использование для ответов на запросы информации, которая выходит за рамки тех массивов, на которых большая языковая модель Olympus проходила обучение. Это позволит давать более актуальные ответы на те вопросы, в сфере которых информация обновляется очень оперативно. В частности, у чат-бота Amazon будет доступ к свежим данным о курсовой стоимости ценных бумаг, чем не могут похвастать некоторые конкурирующие решения.

Metis сможет выступать и в роли так называемого ИИ-агента, который поможет частично автоматизировать задачи, связанные с обработкой пользовательских данных. Системе будет по силам составить оптимальный маршрут путешествия клиента в отпуске и забронировать билеты на нужные рейсы. Amazon в сегменте систем искусственного интеллекта находится в числе отстающих, а потому стремится быстрее наверстать упущенное. В этом году компания рассчитывает получить до $1 млрд выручки, так или иначе связанной с искусственным интеллектом, а в последующие годы увеличить эту сумму до десятков миллиардов долларов США. Глава компании Энди Джесси (Andy Jassy) лично курирует разработку чат-бота Metis и языковой модели Olympus, как подчёркивают источники.

Старший вице-президент Amazon и ведущий научный советник Рохит Прасад (Rohit Prasad) при этом возглавляет подразделение по разработке сильного искусственного интеллекта, которое решает самые амбициозные задачи компании в этой сфере. Вице-президент Amazon Вишал Шарма (Vishal Sharma) также вовлечён в работу над проектом Metis. К команде примкнули и специалисты, имеющие опыт работы над голосовым ассистентом Alexa. Часть их наработок будет задействована для создания фирменного чат-бота. Если всё пойдёт по плану, то Amazon представит Metis в сентябре этого года на традиционном мероприятии, обычно раскрывающем новейшие успехи в совершенствовании Alexa. Некоторые специалисты компании настроены пессимистично в отношении Metis, поскольку считают, что было упущено много времени, и конкуренты ушли далеко вперёд.

Илья Суцкевер, один из основателей и бывший главный научный советник компании OpenAI, занимающейся разработкой искусственного интеллекта, объявил о создании своего стартапа под названием Safe Superintelligence (SSI). Главной целью новой компании является разработка безопасного и одновременно мощного искусственного интеллекта, сообщает The Verge.

Источник изображения: Gerd Altmann/Pixabay

В своём заявлении Суцкевер подчеркнул, что в SSI безопасность и возможности ИИ будут развиваться в тандеме. Это позволит компании быстро продвигать свои разработки, но при этом основной упор будет сделан на обеспечение безопасности системы. В отличие от таких IT-гигантов как Google, Microsoft и собственно OpenAI, в SSI не будет коммерческого давления и необходимости выпускать продукт за продуктом. Это даст возможность сосредоточиться на поэтапном масштабировании технологий при сохранении высочайших стандартов безопасности.

Помимо самого Суцкевера, сооснователями SSI выступили Даниэль Гросс (Daniel Gross), бывший руководитель подразделения ИИ в Apple, и Даниэль Левай (Daniel Levy) из технического штата OpenAI. Интересно, что в прошлом году Суцкевер активно выступал за увольнение гендиректора OpenAI Сэма Альтмана (Sam Altman), а после своего ухода в мае намекал на запуск нового проекта. Вскоре за ним последовали и другие ведущие сотрудники OpenAI, ссылаясь на проблемы с приоритетностью вопросов этики и ответственности ИИ.

SSI пока не планирует никаких партнёрских отношений. Суцкевер чётко обозначил, что единственным продуктом его компании станет безопасный суперинтеллект, и до его создания SSI не будет заниматься ничем другим. Таким образом, стартап фактически бросает вызов таким гигантам отрасли как OpenAI, ставя во главу угла этичность и безопасность технологий. Как отмечают эксперты, успех этой инициативы может полностью изменить подходы к разработке ИИ в отрасли.

В современном мире люди взаимодействуют с искусственным интеллектом в интернете не только чаще, чем когда-либо, но и чаще, чем им кажется. Нейросети становятся всё более продвинутыми, зачастую отличить их от человека не так просто. В подтверждение этого учёные из Института инженеров электротехники и электроники (IEEE) провели исследование, в рамках которого респондентам предлагалось пообщаться с четырьмя агентами, среди которых был только один человек.

Источник изображения: Copilot

Цель исследования была в том, чтобы определить, смогут ли участники отличить синтетического собеседника от живого человека. Исследование учёных представляет собой современную интерпретацию теста, который был предложен знаменитым математиком Аланом Тьюрингов ещё в 1950 году. Тест считается пройденным, если ИИ-алгоритм в процессе общения с человеком может заставить его думать, что беседу с ним ведёт другой человек.

В тестировании приняли участие 500 человек, которые некоторое время поочерёдно беседовали с четырьмя агентами, одним из которых был человек, а ещё три — программные продукты, такие как написанный в 60-е годы прошлого века виртуальный собеседник ELIZA и современные чат-боты, построенные на базе больших языковых моделей GPT-3.5 и GPT-4 (последняя также является основой популярного ИИ-бота ChatGPT).

Респонденты по пять минут беседовали с каждым из агентов, после чего они должны были сказать, с кем, по их мнению, они разговаривали — с человеком или чат-ботом. В итоге было установлено, что 54 % участников тестирования приняли GPT-4 за человека. ELIZA, не имеющая в арсенале большой языковой модели и архитектуры нейросети, была признана человеком лишь в 22 % случаев. Алгоритм на базе GPT-3.5 признали человеком в 50 % случаев, а человека опознали в 67 % случаев.

«Машины могут рассуждать, смешивая воедино правдоподобные обоснования вещей постфактум, как это делают люди. Они могут быть подвержены когнитивным предубеждениям, ими можно манипулировать, и они становятся всё более обманчивыми. Всё это означает, что в ИИ-системах выражаются человеческие недостатки и причуды, что делает их более похожими на человека, чем предыдущие подобные решения, которые имели в арсенале лишь список готовых заранее ответов», — прокомментировал результаты работы один из исследователей.

Американская компания Meta✴ Platforms отложила запуск своего чат-бота на базе искусственного интеллекта в Европе. Это произошло после того, как местный отраслевой регулятор запретил IT-гиганту обучать свои большие языковые модели на общедоступных публикациях пользователей региона.

Источник изображения: NoName_13 / pixabay.com

В начале недели Meta✴ объявила о намерении начать обучение большой языковой модели Llama на общедоступных сообщениях европейских пользователей платформ компании. Однако уже через несколько дней компания сообщила, что эти планы откладываются на неопределённый срок из-за запрета Ирландской комиссии по защите данных.

«Это шаг назад для европейских инноваций, конкуренции в разработке ИИ и дальнейшая задержка в предоставлении преимуществ ИИ-технологий пользователям в Европе. Проще говоря, без использования местной информации мы сможем предложить людям только второсортный опыт. Это означает, что на данный момент мы не можем запустить Meta✴ AI в Европе», — говорится в сообщении, которое было опубликовано в блоге Meta✴.

Представитель американской компании подтвердил, что Meta✴ по-прежнему планирует сделать ИИ-технологии доступными для пользователей в Европе. Согласно официально отчётности компании, в конце 2023 года принадлежащей Meta✴ соцсетью Facebook✴ в Европе пользовались 308 млн человек ежедневно. Meta✴ активно инвестирует в развитие ИИ-технологий и европейский рынок продолжает оставаться для компании одним из приоритетных, поэтому IT-гигант не намерен отказываться от запуска своего чат-бота в регионе.

Компания Brave, известная своим конфиденциальным браузером и поисковой системой, объявила о запуске новой функции — интеграции результатов поиска в чат-бот Leo. Теперь пользователи могут задавать вопросы Leo и получать в ответ актуальную информацию, основанную на поисковых запросах через API Brave Search.

Источник изображения: Brave

По словам разработчиков, данная интеграция позволит пользователям эффективнее находить нужную информацию в режиме реального времени. Например, во время чтения статьи можно задать чат-боту вопрос, чтобы получить дополнительный контекст по теме. Также Leo теперь может предлагать самые популярные темы и тренды для публикаций в соцсетях, сообщает издание TechCrunch.

В Brave подчеркивают, что новая функция полностью сохраняет конфиденциальность пользователей. Для её использования не требуется регистрация или вход в учётную запись. Кроме того, диалоги с Leo нигде не сохраняются и не используются для обучения нейросети, а перед отправкой на сервер запросы проходят через анонимизатор.

Источник изображения: Brave

Помимо бесплатного доступа, есть и платная подписка Leo Premium за $15 в месяц. Она увеличивает лимиты запросов и открывает доступ к наиболее современным AI-моделям. При покупке подписки выдаются специальыне токены для предотвращения идентификации личности.

Ранее Brave уже предпринимала попытки интегрировать возможности ИИ в свои продукты для привлечения большего количества пользователей. В прошлом году компания добавила в поиск функцию обобщения результатов запросов при помощи ИИ, а в ноябре запустила Leo как персонального AI-ассистента для всех. Теперь же поиск и чат-бот объединены для улучшения качества ответов.