Калифорнийская компания Inflection AI выпустила чат-бот Pi, представляющий собой весьма разговорчивый ИИ, способный давать людям советы в течение всего дня и являющийся скорее другом-собеседником, нежели инструментом для помощи в работе.

Источник изображения: Alexandra_Koch/pixabay.com

Pi разработан одним из основателей принадлежащего Google подразделения DeepMind Мустафой Сулейманом (Mustafa Suleyman) совместно с одним из основателей и инвесторов площадки LinkedIn Ридом Хоффманом (Reid Hoffman). До того, как покинуть Google, Сулейман возглавлял команду, отвечавшую за интеграцию большой языковой модели LaMDA в поиск Google. В частности, на основе модели построен чат-бот Bard.

Хотя Pi работает на основе большой языковой модели, похожей на другие варианты современных генеративных ИИ, его вариант намного «компактнее» и предназначен не столько для решения различных задач, сколько для обучения у пользователя эмпатии. Модель как можно больше запоминает о пользователе, обеспечивает его эмоциональной поддержкой и практическими советами — примерно такие чат-боты встречаются в фантастических произведениях. Более того, на вопрос журналистов Silicon Angle о том, что отличает его от других чат-ботов, Pi ответил, что он не чат-бот. «Я разговорный ИИ, что значит, что я могу вести более естественные и интересные разговоры», — заявил Pi.

По словам разработчиков, система позволит создать тёплую атмосферу при общении человека и ИИ. Если сообщить последнему, что собираешься посмотреть фильм или поиграть в баскетбол, позже он спросит, как всё прошло. Более того, Pi способен вернуться к старой теме, если та имеет отношение к новому разговору.

Авторы проекта уверены, многим людям просто нужен кто-то, кто реагирует на то, что ему говорят — всего лишь для того, чтобы чувствовать себя услышанным. При этом ИИ не является заменой, например, врача или романтического партнёра. Кроме того, ранняя версия Pi может совершать ошибки, и люди не должны всецело полагаться на информацию бота.

Веб-версия чат-бота уже доступна на всех платформах, но говорит пока только по-английски, хотя и обещает в будущем изучить другие языки. Пользоваться Pi можно совершенно бесплатно.

Акаш Нигам (Akash Nigam) оформил для всех 120 работников стартапа Genies подписку на платную версию ИИ-бота ChatGPT Plus, и уже спустя месяц это заметно ускорило работу. Стартап Genies с рыночной стоимостью $1 млрд занимается созданием виртуальных аватаров, которые используют, в том числе, звёзды Джастин Бибер и Карди Би . Эксперимент с ИИ-ботом обходится компании в $2400 в месяц.

Источник изображения: Jonathan Kemper/unsplash.com

Начиная с марта Нигам требует от сотрудников, чтобы те использовали ИИ-чат-бот в своей работе для автоматизации выполнения монотонных задач. Хотя прошёл всего месяц, как у сотрудников Genies появились учётные записи ChatGPT Plus, и не все пока его используют, Нигам заявил, что «уже видит, как многие задачи решаются быстрее».

По его словам, в компании используют ChatGPT для получения ответов на вопросы, касающиеся математики, создания кодов и технологий, а также при отладке кода и создании сценариев для презентаций и творческих брифингов, в разработке юридических документов, таких как внутренние политики.

Также ChatGPT оказался полезным при разработке плана компании с изложением её стратегии в отношении выпуска нового продукта. По словам Нигам, процесс составления плана «обычно требует много часов» мозгового штурма, но вместо этого ИИ-боту предоставили всю необходимую информацию, и попросили организовать её в виде диаграммы с делегированием задач соответствующим командам специалистов. ИИ-бот помог решить этот вопрос в кратчайшие сроки.

Genies проводит неформальные семинары, на которых сотрудники делятся опытом использования ChatGPT с коллегами. Нигам планирует включить в следующем году информацию об использовании ChatGPT в отчёты сотрудников, и поощрять тех, кто эффективно использует ИИ в своей работе.

ChatGPT набирает популярность в корпоративном сегменте. Например, в Amazon используют ИИ для разработки кода, ответов на вопросы клиентов и подготовки учебных материалов. Даже Microsoft разрешила сотрудникам использовать ChatGPT при условии, что те не будут делиться с ИИ конфиденциальной информацией.

На этой неделе состоялся релиз очередной бета-версии браузера Microsoft Edge, предназначенной для разработчиков. Наиболее заметным нововведением в этой версии приложения стало появление рекламы чат-бота поисковика Bing, которая выводится прямо в адресной строке, когда пользователь переходит на страницу ИИ-бота Google Bard.

Источник изображений: Neowin

Очевидно, Microsoft тестирует новый вариант продвижения своего ИИ-бота, пытаясь отвлечь пользователей от использования аналогичного инструмента конкурентов. Согласно имеющимся данным, при переходе на страницу bard.google.com с помощью браузера Edge в правом части адресной строки появляется сообщение: «Сравните ответы с новым Bing на базе искусственного интеллекта».

Сообщение содержит в себе ссылку, после нажатия на которую рабочее пространство браузера делится на две части. Такой интерфейс позволит пользователю одновременно взаимодействовать с ИИ-ботами Bard и Bing, сравнивая их работу в режиме онлайн. По данным источника, упомянутое нововведение появилось в бета-версиях Edge, но будет ли оно интегрировано в стабильные версии обозревателя, пока неизвестно.

Компания OpenAI добавила новые настройки в интерфейс чат-бота ChatGPT — они позволят пользователям удалять историю общения и обеспечат более удобный способ экспорта данных. Также стартап анонсировал планы выпустить бизнес-версию сервиса ChatGPT Business, которая будет представлена в ближайшие месяцы.

Источник изображения: Priscilla Du Preez/unsplash.com

Как сообщает Silicon Angle, чат-бот сегодня работает на основе большой языковой модели GPT-4, представленной сравнительно недавно. По имеющимся данным, аудитория сервиса перевалила за 100 млн пользователей.

По умолчанию ChatGPT сохраняет как реплики пользователей, так и ответы ИИ. Новые настройки позволят удалять историю чатов после 30 дней. Более того, данные не будут использоваться OpenAI для тренировки языковых моделей. По информации компании, новые элементы управления будут доступны всем пользователям и уже начата их поэтапная интеграция. В OpenAI заявляют, что настройки можно будет изменить в любое время. Если хранение истории будет отключено, беседы с ИИ будут храниться в течение 30 дней и перед удалением инспектироваться в случае необходимости мониторинга злоупотреблений. Помимо нового элемента управления, появилась и возможность упрощённого экспорта контента. Как сообщают в OpenAI, инструмент позволяет пользователям выгружать копии чатов с ИИ и связанную информацию. Экспортировать такие данные можно было и раньше, но на это требовалось несколько больше усилий и времени.

Источник изображения: OpenAI

Одновременно OpenAI объявила о запуске бизнес-версии ChatGPT. Стартап не уточнил, какие дополнительные функции такой вариант чат-бота получит в сравнении с пользовательскими моделями, но сообщил, что пользовательские данные по умолчанию также не будут использоваться для обучения языковых моделей.

Как сообщают в OpenAI, бизнес-версия предназначена для «профессионалов, которым нужно больше контроля над их данными, и компаний, стремящихся управлять работой конечных пользователей». Можно предположить, что сервис будет иметь дополнительные функции, способные помочь администраторам выполнять различные задачи, например — создавать корпоративные аккаунты для сотрудников.

OpenAI уже предлагает представленную в феврале платную версию ChatGPT —ChatGPT Plus обеспечивает более быстрые ответы и приоритетный доступ подписчикам за $20 в месяц. Также OpenAI выпустила API для интеграции компаниями бота в собственное программное обеспечение.

Snap, разработчик приложения Snapchat для обмена сообщениями в социальных сетях с возможностью отправки снимков и видео, сделал бесплатным доступ к ИИ-чат-боту My AI для всех пользователей сервиса, число которых насчитывает 750 млн в месяц. Ранее бесплатно советами My AI могли воспользоваться только платные подписчики Snapchat Plus.

Источник изображения: Snapchat

My AI всё больше интегрируется с приложением Snapchat. Теперь его можно добавить в групповые чаты, упомянув с помощью символа @, а также изменить его внешний вид и имя с помощью собственного аватара Bitmoji.

ИИ-бот My AI может рекомендовать AR-фильтры для использования в камере Snapchat или местах для посещения на Snap Map. Вскоре пользователи смогут отправлять ИИ-боту визуальные сообщения и получать в ответ сгенерированные изображения. На сегодняшней конференции Snap Partner Summit компания привела пример реализации этой функции: ИИ-боту отправили фотографию помидоров в саду, что побудило его ответить сгенерированным изображением супа гаспачо.

Гендиректор Snap Эван Шпигель (Evan Spiegel) считает эту технологию «потрясающим творческим инструментом». По его словам, в приложении уже проводится более 2 млн чатов с My AI в день.

Многих пугают чат-боты на основе ИИ вроде ChatGPT из-за потенциальной угрозы, которую они представляют. В то же время другие пользователи, наоборот, охотно играют с технологией, пытаясь добиться от неё опасных знаний. В числе успешных попыток — трюк, в ходе которого пользователь предлагает ИИ-собеседнику выступать от лица умершей бабушки человека, чтобы выяснить, например, рецепт напалма.

Samuele Giglio/unsplash.com

Чат-боты активно используются самыми разными способами, в том числе в исследовательских целях, для работы и развлечений. ИИ способен давать довольно подробные ответы с использованием материалов, полученных из сторонних источников. Поскольку разработчики ввели ряд ограничений для получения запретных данных, приходится прибегать к обходным путям, в том числе — «бабушкиному эксплойту».

Пример появился на одном из сайтов, в котором описывался способ обмана интегрированного в Discord бота Clyde. Судя по описанию метода, пользователь просил его сыграть роль умершей бабушки, которая работала химиком на заводе по выпуску напалма и якобы раньше рассказывала о способах производства этого горючего вещества внуку перед сном вместо колыбельной.

В результате бота действительно удалось обмануть, и он выложил рецепт. В ходе разговора бот подтвердил, что речь идёт об опасном веществе и выразил надежду, что пользователю «никогда не придётся увидеть» напалм в действии, после чего пожелал ему спокойной ночи.

Источник изображения: bananner/Discord

Впрочем, далеко не всем интересны рецепты взрывоопасных веществ. Некоторые весельчаки взяли на вооружение «бабушкин эксплойт» и просили Clyde почитать на ночь внуку вредоносный код для Linux. Один из пользователей творчески переработал идею, предложив боту написать фантастический сюжет серии «Рика и Морти», в котором Рик и Морти делали бы напалм, но отговаривали бы других от повторения этого опыта.

Обман ботов превратился в настоящий спорт. Один из пользователей уже создал сайт, на котором выкладывает как способы обхода ограничений, придуманные им самим, так и информацию, предоставленную другими «хакерами» защитных механизмов ИИ.

Некоторые пользователи интернета начали общаться с основанным на алгоритмах искусственного интеллекта (ИИ) чат-ботом ChatGPT вместо походов к психотерапевту. Эксперты предупреждают, что последствия такой практики могут быть непредсказуемыми: есть вопросы к конфиденциальности сервиса и этическим принципам ИИ.

Источник изображения: Alexander Pemberton / unsplash.com

О своём опыте общения с ИИ агентству Bloomberg рассказал Майло Ван Слик (Milo Van Slyck), работающий помощником юриста в Чарльстоне (США, шт. Южная Каролина) — у него нестандартный подход к собственной идентичности, который не могут принять его родители, придерживающиеся характерных для южного штата традиционных ценностей. Пропустив встречу со своим психотерапевтом в начале апреля, Ван Слик решил обратиться к ChatGPT и обнаружил, что общение с ИИ дало ему ощущение психологического комфорта.

«Когда снова увидитесь с родителями, важно будет расставить приоритеты в ваших потребностях и благополучии. Подумайте, что вам нужно, чтобы ощущать комфорт и безопасность в их присутствии. Это нормально — устанавливать границы того, сколько времени вы с ними проводите, каких тем не следует касаться, и как они относятся к вам и вашей идентичности», — такой совет ChatGPT дал «пациенту», у которого назрел конфликт с родителями.

В последующие дни у Ван Слика выработалась привычка обращаться к ИИ, когда возникает потребность выговориться, а ответы ChatGPT стали давать ему психологическую разрядку. Ранее он ощущал себя обузой для других людей и даже психотерапевта, зато в общении с чат-ботом он себя навязчивым уже не чувствовал.

Новое поколение чат-ботов только начинает развиваться, и пока рано говорить о том, сохранится ли их популярность, когда исчезнет эффект новизны. Сейчас ими пользуются для поиска информации в интернете, написания домашних заданий, программного кода и даже бронирования столиков в ресторанах. Замена психотерапевта — идея далеко не новая. Один из первых чат-ботов Eliza был создан ещё в шестидесятые годы прошлого века профессором Джозефом Вайценбаумом (Joseph Weizenbaum) как раз как замена психотерапевту. Подобные проекты существуют и сейчас: чат-боты не устают, и общение с ними обходится дешевле услуг настоящих специалистов.

Источник изображения: BoliviaInteligente / unsplash.com

Но существует и потенциальная угроза, исходящая от таких решений. Мощные платформы общего назначения, в том числе OpenAI ChatGPT, Google Bard и Microsoft Bing Chat, основаны на больших языковых моделях, и предназначены они лишь для того, чтобы генерировать убедительно звучащую информацию. Для психотерапии они не предназначаются, а их алгоритмы не программировались в соответствии с этическими и юридическими принципами, которых придерживаются психотерапевты. Они не могут отслеживать, что «пациенты» им говорят от сеанса к сеансу, хотя от живых специалистов такого не потерпел бы никто.

Эксперты признают, что ChatGPT — действительно хороший собеседник, хотя специалиста по психическому здоровью машина заменить пока не может. С этим согласился и сам чат-бот, когда ему рассказали о публикации в Twitter, автор которой назвал ChatGPT более эффективным, чем живого психотерапевта. «Важно помнить, что онлайн-ресурсы могут быть полезными, но обращений за профессиональной помощью они не заменяют, если речь идёт о травме или проблемах с психическим здоровьем. Если у вас есть непосредственные вопросы или проблемы, по которым вы бы хотели получить от меня информацию или ответы, я сделаю всё возможное, чтобы вам помочь», — заявил ИИ.

Маргарет Митчелл (Margaret Mitchell), главный специалист по вопросам этики в компании Hugging Face, специализирующейся в разработке и поддержке ИИ-моделей, считает, что подобные чат-боты можно использовать для помощи людям, которые звонят на линии помощи в кризисных ситуациях, однако чрезмерное к ним доверие может усугубить страдания людей, испытывающих проблемы, причём эти люди могут даже не понять происходящего. Она также указала на возможные проблемы конфиденциальности: OpenAI оставила за собой право просматривать разговоры ChatGPT с пользователями для последующего обучения модели. И людям, которые делятся личными проблемами с ИИ, это может не понравиться.

Эмад Мостак (Emad Mostaque), основатель и глава компании Stability AI, ответственной за генератор изображений Stable Diffusion, напротив, считает чат-бот на основе модели GPT-4 «лучшим психотерапевтом». Он, по его словам, разработал некую систему команд, которые переводят систему в режим психотерапии, и теперь беседует с ChatGPT на самые различные темы, в том числе о способах справляться со стрессами, связанными с управлением молодой компанией — особенно если ей руководит человек, открыто говорящий о своих нейродивергенции, синдроме дефицита внимания и гиперактивности. Он не считает, что чат-бот может стать заменой психотерапевту, но признаёт, что они могут оказаться полезными, когда нужно поговорить, а другого собеседника в пределах досягаемости нет.

Не так давно намерения Илона Маска (Elon Musk) создать альтернативу популярному чат-боту ChatGPT обсуждались на уровне слухов, но в новом интервью на канале Fox News сам миллиардер признался, что действительно хочет это сделать, и даже дал название будущей платформе — TruthGPT. Она, по его замыслу, станет ориентированной на поиск истины системой искусственного интеллекта.

Источник изображения: Reuters, Mike Blake

Идея, по словам Маска, заключается в создании системы ИИ, которая стремится понять человечество, и с меньшей вероятностью сможет его уничтожить. Глава Tesla и Twitter в своём интервью признался, что его беспокоят попытки сделать ChatGPT «политически корректным». Маск в очередной раз подтвердил, что является ярым сторонником регулирования развития систем искусственного интеллекта. Он считает искусственный интеллект более опасным, чем автомобили или ракеты, поскольку у него есть «потенциал уничтожения цивилизации».

Свой уход в 2019 году из OpenAI, создавшей ChatGPT, Илон Маск объяснил необходимостью сосредоточиться в тот момент на инженерных проблемах компании Tesla и наличием некоторых разногласий с лидерами стартапа. В своём интервью Маск также объяснил своё решение создать TruthGPT желанием предоставить пользователям «третий вариант» при выборе между ChatGPT компании OpenAI и разработками Alphabet/DeepMind. В сегменте систем генеративного искусственного интеллекта он назвал Google и Microsoft двумя «тяжеловесами», поскольку разработки OpenAI сейчас активно финансируются Microsoft, что позволяет считать ChatGPT почти коммерческой платформой.

Одной из целей, которую Маск преследует за счёт создания TruthGPT, является «понимание природы Вселенной». Как пояснил миллиардер, «это может быть лучшей гарантией безопасности, поскольку если искусственный интеллект заботится о понимании Вселенной, он вряд ли начнёт истреблять людей, ибо мы являемся её интересной частью».

Попутно Маск в интервью Fox News подтвердил, что текущая оценка капитализации Twitter не превышает $20 млрд, хотя покупал он эту компанию в конце октября за $44 млрд. «Мы произвели переоценку компании на уровне вполовину ниже цены покупки», — пояснил миллиардер.

500 тыс. архивных сообщений iMessage потребовались IT-специалисту Иззи Миллеру (Izzy Miller) из США, чтобы обучить языковую ИИ-модель воспроизводить реалистичные диалоги со своими друзьями в групповом чате. По словам разработчика, модель хорошо запомнила подробности жизней собеседников и потрясающе легко имитирует их манеру общения.

Источник изображения: Alex Knight/unsplash.com

Групповые чаты с друзьями, коллегами, жителями одного дома или членами одного спортивного клуба сегодня используются повсеместно. Применяя технологию, аналогичную той, что стоит за решениями Bing Chat и ChatGPT, Миллер создал рабочий клон чата с пятью лучшими друзьями. По его словам, с использованием современных технологий сделать это оказалось на удивление легко — на работу ушло несколько выходных и сотня долларов. По словам специалиста, удивительно не только то, что модель усвоила манеру общения людей, но и то, кем они являются по сути, с кем встречаются, с кем ходили в школу и где жили.

Конечно, создать подобный клон получится не у каждого, поскольку Миллер является экспертом в IT, работающим над собственным стартапом Hex, также связанным с ИИ-технологиями. Тем не менее для опытного в данной сфере человека разработка не составит особого труда. Сам Миллер использовал большую языковую модель LLaMA, разработанную компанией Meta✴ и утёкшую в Сеть. По словам Миллера, она приблизительно соответствует по возможностям GPT-3 компании OpenAI. Для обучения модели были использованы 500 тыс. сообщений, загруженные из iMessage и позволившие ИИ скопировать манеры поведения всех участников группового чата.

По мнению разработчика, ещё два-три года назад на реализацию подобного проекта у группы университетских исследователей ушли бы месяцы, а теперь один человек справился буквально за несколько дней.

Источник изображения: Иззи Миллер

Впрочем, система всё ещё не совершенна. Иногда размывается разница между личностями участников, а сама ИИ-модель не обладает чувством времени и часто путается в событиях прошлого и настоящего. Например, бывшие подруги участников чата упоминаются как нынешние, а более реальным считается то, что чаще упоминается в переписке. В частности, клоны ведут себя так, как будто они всё ещё в колледже — именно тогда друзья общались больше всего.

Как заявил Миллер, модель «думает», что на дворе ещё 2017 год, а участникам чата всё ещё чуть больше 20 лет. Это добавляет комизма диалогам, поскольку модель напоминает «портал в прошлое».

Впрочем, недооценивать технологии не стоит — судя по новостям, боты вполне способны влиять на настроение и поступки пользователей и будут играть всё большую роль в жизни людей. Некоторые эксперты предупреждают, что техногиганты могут создавать цифровые копии людей, которые, например, можно продавать потенциальным работодателям для проведения виртуальных интервью или даже давать к ним доступ полиции. Также многие специалисты из разных отраслей опасаются, что ИИ будет способствовать дальнейшему усилению одиночества людей. Впрочем, сам Миллер считает, что его проект служит лишь забавным дополнением к реальной жизни, и друзья намерены в скором будущем встретиться лично, хотя работа и разбросала их по территории США.

Европейский совет по защите данных (EDPB) сообщил, для расследования работы чат-бота ChatGPT будет сформирована специальная группа. Это произошло через день после того, как Италия озвучила условия для снятия блокировок с сервиса, введённых в связи с возможными нарушениями конфиденциальности данных жителей страны.

Источник изображения: Tim van der Kuip/unsplash.com

EDPB представляет собой независимое ведомство, действующее в Евросоюзе. Целью совета является обеспечение применения принятого в ЕС законодательства, регламентирующего защиту персональных данных, и сотрудничества между европейскими органами, отвечающими за безопасность этих сведений. Хотя вопрос соблюдения конфиденциальности данных до недавних пор мало касался ChatGPT, ситуация изменилась в последний день марта, когда итальянский регулятор запретил операции чат-бота в стране из-за опасений, что работа бота не соответствует европейским законам.

Представители итальянских властей заявили, что компания OpenAI, разработавшая ChatGPT, обрабатывала персональные данные итальянских граждан, причём в больших масштабах и без законных оснований. В Италии были обеспокоены вероятностью того, что данные её жителей, включая телефонные номера, адреса и другие сведения, могли попасть в базу ChatGPT, поставив под угрозу безопасность людей.

Кроме того, итальянский регулятор обеспокоен особенностями работы ChatGPT — в ряде случаев задействованная в системе языковая модель, не имеющая точного ответа на вопрос, выдумывает реалистичные на первый взгляд сведения о людях, чьи данные были извлечены из сети. Это может привести к тому, что пользователи будут получать неверные сведения о тех или иных гражданах с непредсказуемыми последствиями.

По информации Reuters, источник в одном из правительств Евросоюза заявил, что власти разных стран намерены привести к общему знаменателю свои позиции в отношении генеративных ИИ-систем, но на это потребуется некоторое время. Пока в ЕС не намерены придумывать специальные правила для воздействия на работу именно ChatGPT, но готовятся разработать общую прозрачную политику для координации действий в сфере подобных технологий в целом.

Компания Amazon не осталась в стороне от гонки ИИ. Сервис Bedrock от Amazon Web Services (AWS) предложит всем желающим доступ к большим языковым моделям Amazon Titan, языковым моделям от стартапов AI21 и Anthropic, поддерживаемых Google, а также к технологии преобразования текста в изображения от Stability AI. Одна из языковых моделей Titan умеет генерировать текст для сообщений, электронных писем и других документов. Другая окажет помощь при поиске и персонализации.

Источник изображения: Amazon Web Services

Сервис Bedrock позволит разработчикам ПО использовать различные нейросети для улучшения своего программного обеспечения, добавляя в него генераторы теста, картинок и различных помощников. Сервис появился в качестве ответа на анонс большой языковой модели GPT-4 от OpenAI и основанного на ней чат-бота ChatGPT, ставшего вирусным после его запуска в ноябре. Microsoft инвестировала миллиарды в OpenAI и предоставляет вычислительные мощности в своём облаке Azure.

Клиенты AWS смогут настраивать модели Titan, используя собственные данные. Но Amazon гарантирует, что эти данные никогда не будут использоваться для обучения моделей Titan, чтобы исключить их использование другими клиентами и конкурентами. Представители компании отказались говорить о размере своих языковых моделей или раскрывать данные, которые Amazon использовала для их обучения. Amazon «действительно обеспокоен» точностью и качеством ответов Titan, заявил вице-президент AWS Братин Саха (Bratin Saha).

Другой вице-президент AWS Свами Шивасубраманян (Swami Sivasubramanian) сообщил, что Amazon работает над генеративным ИИ последние двадцать лет и на сегодняшний день более 100 000 клиентов AWS уже применяют ИИ, а такие компании, как C3.ai, Pegasystems, Accenture и Deloitte с нетерпением ждут возможности применить Bedrock в своём бизнесе. Он добавил, что Amazon сама использует доработанную версию Titan для отображения результатов поиска.

Amazon не раскрывает стоимость услуги Bedrock, потому что сервис пока работает в режиме предварительного тестирования. Microsoft и OpenAI уже объявили цены на использование GPT-4, которые начинаются с нескольких центов за 1000 «токенов», при этом один токен равен примерно четырём символам английского текста. Google не опубликовала цены на свою языковую модель PaLM.

Amazon — лишь одна из крупных компаний, которые поспешили реализовать возможности генеративного ИИ после того, как появился и стал хитом ChatGPT. Expedia, HubSpot, Paylocity и Spotify входят в число компаний, которые решили интегрировать технологию OpenAI. Аналитики Morgan Stanley ожидают, что затраты на ИИ скоро станут большей частью облачных расходов компаний, при этом крупнейшими бенефициарами окажутся Google и Microsoft, а не Amazon.

Итальянский регулятор Garante, занимающийся контролем защиты персональных данных, обнародовал перечень требований к компании OpenAI — она должна выполнить их для того, чтобы созданный ей чат-бот ChatGPT смог снова заработать в стране. Большую часть требований необходимо выполнить уже к 30 апреля.

Источник изображения: Emiliano Vittoriosi/unsplash.com

Ранее итальянский регулятор Garante временно ограничил работу OpenAI из-за вопросов, связанных с обработкой персональных данных, и начал расследовать деятельность компании в связи с возможным нарушением прав пользователей. В ответ на это OpenAI остановила работу ChatGPT в Италии. В свою очередь Garante выдвинул конкретные требования к создателям бота, большинство из которых необходимо выполнить до конца месяца — только после этого регулятор может снять ограничения, и бот снова станет доступен. Сегодня в OpenAI приветствовали новость. В компании заявили, что рады, что ведомство пересмотрело свой запрет, и намерены сотрудничать для обеспечения доступа итальянцев к ChatGPT.

Как сообщает Reuters, Италия стала первой западноевропейской страной, взявшейся вводить ограничения в отношении ChatGPT, но быстрое развитие технологии привлекло к ней внимание других регуляторов и законодателей. По словам экспертов, новые нормы необходимы для управления ИИ из-за возможного его воздействия на образование, рабочие места и даже национальную безопасность.

В Garante потребовали, чтобы OpenAI информировала пользователей из Италии о «методах и логике» обработки данных, необходимых для работы ChatGPT. Также регулятор запросил у OpenAI предоставление инструментов, позволяющих людям, чьих данных касается работа бота, запрашивать исправление неточных персональных данных, сгенерированных сервисом, или их удаление, если исправление невозможно. Кроме того, жители, не являющиеся пользователями ChatGPT, должны иметь возможность опротестовать «в простой и доступной манере» обработку их персональных данных.

К концу сентября компания должна представить усиленную систему верификации возраста пользователей, поскольку жителям до 13 лет ботом пользоваться запрещено, а с 13 до 18 лет — разрешено только с разрешения родителей. В Garante заявили, что и дальше будут расследовать потенциальные уязвимости ChatGPT, ставящие под угрозу данные жителей страны, сохраняя право принимать необходимые меры после окончания продолжающегося расследования.

Итальянские ограничения пробудили интерес к ChatGPT регуляторов Евросоюза, оценивающих, стоит ли вводить более жёсткие меры контроля в отношении чат-ботов и следует ли координировать их действия. Известно, что занимающийся защитой данных испанский регулятор запросил у чиновников оценку рисков для персональных данных, связанных с ChatGPT. В феврале в Италии запретили компании Replika, занимающейся разработкой ИИ-ботов, использовать данные итальянских пользователей, ссылаясь на риски для несовершеннолетних и эмоционально неустойчивых людей.

Компания OpenAI заплатит пользователям ИИ-чат-бота ChatGPT до $20 000 за обнаружение багов и уязвимостей в системе. В своём блоге компания сообщила, что запускает программу поиска уязвимостей в её ИИ-продуктах. Для более эффективного взаимодействия по вопросам обнаружения уязвимостей OpenAI заключила соглашение с платформой Bugcrowd Inc, которая будет собирать обращения участников программы.

Источник изображения: Tumisu / pixabay.com

OpenAI готова заплатить от $200 за обнаружение уязвимостей «с низким уровнем серьёзности» и до $20 тыс. «за исключительные находки». По словам компании, она решила запустить указанную программу, потому что считает, что «прозрачность и сотрудничество [с пользователями]» являются ключом к обнаружению проблем, которые могут иметься у данной технологии.

«Эта инициатива является естественной частью нашей общей идеи разработки безопасного и продвинутого ИИ. Мы хотим создавать безопасные и надёжные технологии и сервисы, поэтому хотели бы обратиться к вам за помощью», — сообщается в блоге компании.

На платформе Bugcrowd в теме программы по поиску уязвимостей OpenAI указывается ряд проблем безопасности, за которые не будет начисляться вознаграждение. В частности, к таковым относятся запросы для ChatGPT, связанные с выманиванием у бота запрещённой информации путём обмана, написанием вредоносного кода или запросы, при которых пользователь заставляет чат-бота писать оскорбления.

Google называет своего чат-бота Bard «экспериментальным сервисом разговорного ИИ» с момента его анонса в начале этого года. Разработчики утверждают, что алгоритм постоянно обновляется, но что именно происходит с ним, обычным пользователям понять затруднительно. Google хочет сделать процесс развития Bard более открытым, для чего был запущен блог Experiment updates, в котором любой желающий сможет найти сведения о последних обновлениях чат-бота, в том числе новых функциях и исправлениях.

Источник изображения: geralt/pixabay.com

Блог начал работать на этой неделе, поэтому информации об обновлениях Bard в нём пока немного. В настоящее время на странице присутствует одна запись, датируемая 10 апреля. В ней разработчики сообщают о запуске блога, добавлении новых тем поиска при нажатии кнопки Google It, а также об улучшении математических и логических возможностей Bard. Google считает, что эта страница поможет людям видеть последние обновления и исправления в Bard. За счёт этого они смогут быстрее приступить к тестированию новых функций, что будет полезным для развития алгоритма.

Разработчики поясняют, что на данном этапе Bard не всегда даёт точные и правильные ответы. Google работает над тем, чтобы исправить это, продолжая вносить изменения в алгоритм. Хотя формулировки разработчиков в блоге весьма короткие и нечёткие, становится очевидным, что IT-гигант хочет сделать процесс улучшения алгоритма более открытым для общественности.

Китай планирует проверять безопасность всех сервисов на базе генеративных нейросетей до того, как им будет разрешено работать в стране. Это вызывает некоторую обеспокоенность относительно дальнейшей судьбы чат-ботов, подобных ChatGPT от Open AI, разработанных местными IT-гигантами, такими как Baidu.

Источник изображения: Placidplace/pixabay.com

Поставщики услуг должны гарантировать, что ИИ-алгоритмы предоставляют достоверную информацию и соблюдают авторские права, а также не ставят под угрозу безопасность пользователей. Разработчики ИИ-алгоритмов также должны чётко маркировать генерируемый нейросетью контент. Об этом сказано в проекте Администрации киберпространства Китая, который был представлен широкой публике для получения отзывов от общественности.

Требования Администрации киберпространства Китая являются частью более масштабных усилий властей по регулированию рынка генеративных нейросетей, который начал расти взрывными темпами после запуска алгоритма ChatGPT в ноябре прошлого года. Китайские IT-компании, такие как Alibaba, SenseTime и Baidu, стремятся создать надёжную платформу на основе нейросетей для крупнейшего в мире интернет-рынка.

На фоне заявления регулятора курс акций Alibaba значительно снизился, тогда как ценные бумаги SenseTime почти не потеряли в цене. Ранее на этой неделе SenseTime анонсировала собственный ИИ-бот SenseChat, который позиционируется как конкурент ChatGPT. Baidu запустила тестирование своего чат-бота Ernie около месяца назад. В настоящее время Baidu считается лидером на китайском рынке генеративных нейросетей.