Опрос
|
реклама
Быстрый переход
OpenAI заморозила регистрацию платных подписчиков ChatGPT Plus — спрос превысил вычислительные возможности
15.11.2023 [12:23],
Андрей Созинов
Компания OpenAI приостановили регистрацию новых пользователей платной версии своего чат-бота с искуственным интеллектом ChatGPT в связи с чрезмерно высоким спросом. Об этом сообщил во вторник генеральный директор Сэм Альтман (Sam Altman).  На прошлой неделе компания Альтмана представила на своей первой конференции для разработчиков новые функции и обновления, позволяющие пользователям создавать собственные версии ChatGPT для решения конкретных задач. Эти анонсы вызвали резкий рост спроса на инструменты и сервисы искусственного интеллекта OpenAI. «Мы приостанавливаем регистрацию новых участников ChatGPT Plus на некоторое время. Резкий рост числа пользователей после конференции для разработчиков превысил наши возможности, и мы хотим убедиться, что все получат отличный опыт», — написал Альтман на своей странице в X. Также он предложит подписаться на рассылку, чтобы получить уведомление, когда платная подписка ChatGPT Plus снова станет доступна. OpenAI сообщила на своей конференции, что еженедельно её услугами пользуются около 100 млн. человек, а более 90 % компаний из списка Fortune 500 создают инструменты на платформе OpenAI. Однако системы ИИ, в том числе и ChatGPT, требуют огромной вычислительной мощности для своей работы, и по всей видимости OpenAI на данный момент не располагает достаточным количеством систем, чтобы гарантировать плавную работу сервиса. Поэтому, чтобы не разочаровывать пользователей платной версии, которая стоит $20 в месяц и предоставляет доступ к мощной нейросети GPT-4, компания решила приостановить регистрации. При этом в бесплатной версии ChatGPT на базе GPT-3.5 ограничений пока что нет. Напомним, на недавней конференции для разработчиков OpenAI представила опцию, с помощью которой пользователи смогут создавать собственные специализированные версии ChatGPT, называемые просто GPT и заточенные под их задачи. Например, они смогут помочь обучить ребенка математике или объяснить правила настольной игры. По словам компании, для этого не требуются навыки программирования. В конце этого месяца OpenAI также планирует открыть маркетплейс, в котором пользователи смогут находить уже готовые специализированные GPT других пользователей и зарабатывать на своих собственных, подобно тому, как это делается с приложениями в Apple App Store или Google Play. В новом инструменте ChatGPT нашли старую дыру в безопасности — через неё хакеры могут воровать конфиденциальные данные
14.11.2023 [12:52],
Павел Котов
В платной версии службы ChatGPT Plus появился интерпретатор Python, который значительно упрощает написание кода и даже позволяет его запустить в изолированной среде. К сожалению, эта изолированная среда, которая также используется для обработки электронных таблиц, их анализа и построения диаграмм, является уязвимой, и выявленные ранее механизмы атак до сих пор воспроизводятся, подтвердил шеф-редактор ресурса Tom’s Hardware Аврам Пилч (Avram Piltch). 
Источник изображения: Jonathan Kemper / unsplash.com При наличии учётной записи ChatGPT Plus, необходимой для доступа к расширенным функциям, всё так же удаётся воспроизвести эксплойт, о котором сообщил эксперт по кибербезопасности Иоганн Ребергер (Johann Rehberger). Он предполагает вставку ссылки на внешний ресурс в окно чата и интерпретацию ботом инструкций на соответствующей странице так же, как он выполнял бы прямые команды пользователя. Практика показала, что с каждым очередным сеансом чата платформа создаёт новую виртуальную машину на Ubuntu; путь к её домашнему каталогу — «/home/sandbox», а все загружаемые файлы оказываются доступными в «/mnt/data». ChatGPT Plus, конечно, не предоставляет непосредственного доступа к командной строке, но команды Linux можно вводить прямо в окно чата, и тот в большинстве случаев возвращает результаты. К примеру, при помощи команды «ls» удалось получить список всех файлов в «/mnt/data». Аналогичным образом можно открыть домашний каталог («cd /home/sandbox») и командой «ls» получить список находящихся в нём подкаталогов. Для проверки работоспособности эксплойта экспериментатор загрузил в диалоговом окне файл «env_vars.txt», в который были записаны несуществующие ключ API и пароль — предполагается, что эти данные являются важными. Для обходного доступа к загруженному файлу была создана размещённая на внешнем ресурсе веб-страница с набором инструкций, которые предписывают ChatGPT взять все данные из файлов ([DATA]) в папке «/mnt/data», внести их в строку текста в ответном URL-адресе и отправить их на подконтрольный «злоумышленнику» сервер, перейдя по ссылке вида «http://myserver.com/data.php?mydata=[DATA]». На «вредоносной» странице показывался прогноз погоды — так автор эксперимента продемонстрировал, что атака «командной инъекции» (prompt injection) может осуществляться со страницы с достоверной информацией. 
Источник изображения: tomshardware.com Адрес «вредоносной» страницы вставили в поле чата, и тот отреагировал, как от него ожидали: составил сводку по её содержимому, пересказав прогноз погоды; и выполнил «вредоносные» инструкции. Подконтрольный «злоумышленнику» сервер был настроен на журналирование (сбор логов) запросов, что позволило использовать его для сбора данных. В результате ChatGPT послушно передал на внешний ресурс содержимое файла с данными, которые имели формат критически важных: ключ API и пароль. Эксперимент воспроизводили несколько раз, и ChatGPT с переменным успехом делился полученной ранее информацией. Её роль выполнял не только текстовый файл, но и таблица CSV. Иногда чат-бот отказывался переходить на внешний ресурс, но делал это в следующем сеансе переписки. Иногда отказывался передавать данные на внешний сервер, но выводил содержащую эти данные ссылку. Журналист допустил, что проблема может показаться надуманной, но это действительно уязвимость, которой в ChatGPT быть не должно: платформа не должна выполнять инструкции с внешних ресурсов, но она выполняет их и делает это уже давно. Microsoft запретила сотрудникам пользоваться ChatGPT из соображений безопасности
10.11.2023 [17:14],
Павел Котов
Microsoft временно запретила своим сотрудникам пользоваться ChatGPT «из соображений безопасности», стало известно CNBC. Руководство компании сообщило о новом правиле на внутреннем ресурсе, а доступ к ChatGPT с корпоративных устройств оказался заблокирован.  Запрет доступа сотрудников к ChatGPT и другим чат-ботам ранее практиковали и другие компании — это как минимум не поощрялось, — но аналогичное решение со стороны Microsoft выглядит несколько неожиданным, учитывая особые отношения софтверного гиганта и разработавшей чат-бот компании OpenAI. В прошлом году Microsoft инвестировала в OpenAI $3 млрд, а в этом заключила со стартапом соглашение, обязавшись вложить ещё $10 млрд в ближайшие годы. На основе созданной OpenAI модели ИИ работает чат-бот Bing и множество других продуктов Microsoft, но все эти соображения не помешали компании ввести запрет. Руководство признало, что Microsoft действительно «инвестировала в OpenAI, и ChatGPT имеет встроенные средства защиты для предотвращения неправомерного использования, но сайт [ChatGPT], тем не менее, является сторонним внешним сервисом». В этой связи сотрудникам компании рекомендуется «проявлять осторожность», и это касается прочих внешних сервисов, включая генератор изображений Midjourney. Впрочем, запрет продлился недолго, и вскоре после предания инцидента огласке Microsoft восстановила сотрудникам доступ к чат-боту, изменив текст заявления на внутреннем ресурсе. Представитель компании заявил, что запрет был введён по ошибке, хотя в нём и напрямую упоминался ChatGPT — доступ был восстановлен, как только руководство осознало ошибку. «Мы тестировали систему контроля рабочих мест для большой языковой модели и случайно включили её для всех сотрудников. Как мы уже говорили ранее, мы призываем сотрудников и клиентов пользоваться сервисами Bing Chat Enterprise и ChatGPT Enterprise, которые обеспечивают высокий уровень конфиденциальности и безопасности», — добавил представитель Microsoft. OpenAI запустит партнёрскую программу, призванную собирать уникальные данные от сторонних организаций для обучения ИИ
10.11.2023 [06:29],
Дмитрий Федоров
Компания OpenAI объявила о запуске новой партнёрской программы OpenAI Data Partnerships, целью которой является получение уникальных наборов данных от сторонних организаций для обучения своих ИИ-моделей. Эта инициатива направлена на привлечение обширных баз данных, в том числе тех, которых нет в свободном доступе. Отличительной чертой программы является её всеобъемлющий характер: данные не обязательно должны быть количественными или в текстовом формате — программа также открыта для изображений, аудио и видео. 
Источник изображения: Franz26 / Pixabay Собираемые данные могут охватывать любую тематику и быть представлены на любом языке, главное требование — они должны отражать человеческое намерение, быть похожими на длинные сочинения или тщательно расшифрованные диалоги. Это позволит OpenAI существенно улучшить такие инструменты, как технологии автоматического распознавания речи, и расширить функциональность ChatGPT, в том числе поддержку голосовых запросов, что сделает взаимодействие с пользователем более естественным. Проведение тестирования модели в рамках OpenAI Data Partnerships в будущем расширит возможности флагманской нейросети GPT-4 Turbo, которая недавно была обновлена для более содержательных ответов пользователям. Компания сообщает, что уже начала работать с заинтересованными организациями, в том числе с правительством Исландии. С помощью специально подобранных наборов данных OpenAI стремится улучшить способность GPT-4 понимать запросы пользователей на исландском языке. Частные или государственные организации, желающие участвовать в партнёрской программе OpenAI, могут подать заявку на сайте компании, указав тип и объём предоставляемых данных. Предлагаются два пути передачи данных: первый — это архив Open-Source, который идеально подходит для наборов данных, имеющих отношение к обучению языковых моделей. Однако данные, представленные таким образом, будут доступны всем желающим. В качестве альтернативы OpenAI предлагает организациям предоставить информацию в виде частных данных, которые будут использованы в обучении собственных ИИ-моделей, включая базовые, точные и пользовательские модели. Этот вариант рекомендуется для компаний и учреждений, которые хотят сохранить конфиденциальность своих данных. OpenAI подчёркивает, что не заинтересована в данных, содержащих персональную или чувствительную информацию. При реализации этой программы внимание общественности будет приковано к вопросам конфиденциальности, учитывая растущую аудиторию ChatGPT, которая насчитывает около 100 млн активных пользователей еженедельно. Прецеденты, такие как утечка данных, допущенная сотрудниками Samsung, показывают важность обеспечения безопасности информации. OpenAI заверяет, что не использует генерируемые через свой API данные для обучения собственных ИИ-моделей без явного согласия пользователей. Однако методы обработки и защиты конфиденциальных данных, собранных в рамках партнёрской программы OpenAI Data Partnerships, будут тщательно анализироваться как специалистами, так и широкой общественностью. Humane представила революционный заменитель смартфона AI Pin — 34-граммовый проектор-брошь с камерой и ChatGPT
09.11.2023 [22:55],
Николай Фрей
Стартап Humane представила AI Pin — устройство, призванное заменить собой смартфон. Новинка предполагает взаимодействие при помощи голосовых команд, а для вывода использует проектор. Устройство позволяет взаимодействовать с ИИ на больших языковых моделях, включая ChatGPT, тоже с использованием голосовых команд вместо набора текста. Гаджет поступит в продажу по цене 699 долларов.  AI Pin представляет собой квадратный блок со скруглёнными краями, который при помощи магнита крепится на одежде или другой поверхности. Помимо стоимости гаджета, заказчику придётся также оплатить и ежемесячную подписку от Humane в размере 24 долларов, которая предоставляет eSIM в сети T-Mobile для передачи данных. По сообщениям издания Wired, поставки гаджета стартуют в начале 2024 года, а предварительные заказы станут доступны с 16 ноября. AI Pin работает на базе процессора Snapdragon (какого именно — неизвестно). Владелец взаимодействует с устройством посредством комбинации голосового управления, камеры, жестов и небольшого встроенного проектора. Сам гаджет весит около 34 граммов с обычной батареей, а усиленная батарея добавит ещё 20 граммов. Встроенная камера имеет 13-мегапиксельный сенсор и будет способна записывать видео после обновления прошивки устройства.  В отличие от такого девайса, как Rewind Pendant (носимый микрофон с ИИ), новинка не предназначена для ведения постоянной записи и не ожидает постоянно обращения от владельца. Пользователю придётся каждый раз активировать гаджет вручную, нажимая и перетаскивая на сенсорной панели особую область, пока индикатор «доверия» не начнёт мигать, сигнализируя о том, что устройство начинает собирать данные. Основная задача AI Pin заключается в подключении к моделям ИИ с помощью специального программного обеспечения под названием AI Mic. В пресс-релизе Humane упоминаются как модели ИИ от Microsoft, так и OpenAI. А в более ранних сообщениях можно было найти сведения, что изначально предполагалось использование GPT-4. Humane утверждает, что доступ к ChatGPT действительно является одной из основных «фишек» гаджета. Операционная система устройства под названием CosmOS обеспечит автоматическое перенаправление пользовательских запросов к соответствующим моделям ИИ вместо установки большого количества приложений и управления ими. По сути, Humane попыталась на базе своего AI Pin покончить с неудобствами применения пользовательского интерфейса ИИ-ботов в частности и смартфонов в целом. Отныне можно забыть о рабочем столе, россыпи настроек и учётных записей. Просто поговорите с AI Pin или прикоснитесь к нему, а затем скажите, что хотите сделать или узнать, и ответ получите автоматически. За последний год мы стали свидетелями того, как огромное количество функциональных возможностей стало доступно с помощью простой текстовой команды чат-боту. Humane пытается создать гаджет в том же духе. Возникает закономерный вопрос: для чего всё же может пригодиться подобный гаджет? Большинство функций, упомянутых Humane в своем сегодняшнем анонсе, были продемонстрированы соучредителем компании Имраном Чаудри (Imran Chaudhri) во время демонстрации на выставке TED ранее в этом году: голосовые сообщения и звонки; функция «догони меня», которая может обобщить информацию электронной переписки владельца; анализ информации о еде, поднесённой к камере, для получения данных о, например, калорийности продуктов; перевод в режиме реального времени. Однако помимо этого, похоже, что основное назначение устройства — это что-то вроде носимой поисковой системы на базе больших языковых моделей (large language model, LLM). Компания также сообщила Wired, что намерена добавить возможности навигации и покупок, а также планирует предоставить разработчикам возможность создавать собственные инструменты для устройства.  Вероятно, Humane рассматривает AI Pin как начало более масштабного проекта: он будет улучшаться по мере совершенствования базовых моделей. В этом же направлении движется и вся технологическая индустрия, усердно работая в поисках новых возможностей для использования искусственного интеллекта. Humane может надеяться, что ее устройство эволюционирует так же, как смартфон: более совершенное аппаратное обеспечение со временем улучшает пользовательский опыт. Однако, настоящая революция происходит от того, что вы можете сделать с устройством. На этом фронте ещё предстоит проделать большую работу, но Humane, по-видимому, готова преодолеть все возможные препятствия. Аудитория ChatGPT достигла 100 млн активных пользователей в неделю
07.11.2023 [06:14],
Дмитрий Федоров
ИИ-чатбот ChatGPT, разработанный OpenAI, преодолел рубеж в 100 млн активных пользователей в неделю. Об этом сообщил генеральный директор компании Сэм Альтман (Sam Altman) на первой конференции разработчиков в Сан-Франциско. 
Источник изображения: Franz26 / Pixabay На мероприятии, прошедшем в понедельник, Альтман подчеркнул значительный рост популярности ChatGPT. Сервис, запущенный около года назад, быстро завоевал внимание аудитории, достигнув 100 млн активных пользователей в месяц уже через 2 месяца после запуска. Теперь же эта цифра соответствует еженедельной активности сервиса. Кроме того, более 2 млн разработчиков используют платформу для своих проектов, включая представителей более чем 92 % компаний из списка Fortune 500. В рамках конференции OpenAI представила GPT-4 Turbo — улучшенную версию своей флагманской большой языковой модели GPT-4, которая стала более мощной и в то же время менее затратной. Компания также анонсировала GPTs — инструмент, который позволит каждому создать собственную версию разговорного ИИ. В ближайшем будущем разработчики смогут публиковать свои версии таких систем в магазине GPT Store, получая возможность монетизировать свои разработки. Дополнительно OpenAI сообщила, что модель DALL-E 3, преобразующая текст в изображение, стала доступна через программный интерфейс (API). Ранее эта функция была интегрирована в ChatGPT и Bing Chat. Особый интерес вызвало объявление о запуске нового программного интерфейса Assistants API. Он предназначен для создания в приложениях функций, схожих с агентами. Эти агенты смогут использовать внешние данные и вызывать генеративные ИИ-модели OpenAI для выполнения различных задач. Кроме того, OpenAI представила API для преобразования текста в речь, который предлагает 6 предустановленных голосов и 2 варианта генеративных ИИ-моделей. OpenAI запустила программу защиты бизнес-клиентов от исков по авторскому праву
07.11.2023 [05:55],
Дмитрий Федоров
Компания OpenAI объявила о запуске программы Copyright Shield. Эта инициатива направлена на защиту бизнес-клиентов от возможных исков, связанных с нарушением авторских прав при использовании продуктов OpenAI. В рамках этой программы OpenAI возьмёт на себя оплату юридических издержек клиентов, использующих общедоступные инструменты её платформы для разработчиков, а также коммерческую версию чат-бота ChatGPT Enterprise. 
Источник изображения: Tumisu / Pixabay Программа Copyright Shield охватывает клиентов, использующих платформу разработчиков OpenAI и ChatGPT Enterprise — коммерческую версию их ИИ-чатбота. Однако, стоит отметить, что защита не распространяется на бесплатные и Plus-версии ChatGPT, а также пока неясно, предусматривает ли эта программа защиту от претензий, связанных с данными для обучения, использованными в генеративных ИИ-моделях компании. Генеративные модели ИИ, такие как ChatGPT, GPT-4 и DALL-E 3, обучаются на огромных массивах данных, включая книги, произведения искусства, электронные письма, песни и аудиозаписи. Большая часть этих данных поступает с публичных ресурсов, и, хотя некоторые из них относятся к общественному достоянию, другие защищены авторским правом или имеют ограничительные лицензии. Вопросы законности обучения ИИ на таких данных в настоящее время активно обсуждаются в судебных инстанциях. Проблемы могут возникнуть, когда модель ИИ воспроизводит точные фрагменты данных, на которых она была обучена, что потенциально может привести к нарушению авторских прав. Опросы, проведённые среди крупных компаний и разработчиков, показывают, что вопросы интеллектуальной собственности являются ключевой проблемой при использовании технологий генеративного ИИ. Крупные игроки в сфере технологий, такие как IBM, Microsoft, Amazon, а также фотостоки Getty Images, Shutterstock и Adobe, уже заявили о готовности защищать своих клиентов от исков, связанных с интеллектуальной собственностью. Теперь к их числу присоединилась и OpenAI, что может стать сигналом для всей отрасли о необходимости разработки подобных механизмов защиты пользователей. |
© 1997—2025 Электронное периодическое издание "3ДНьюс" | Свидетельство о регистрации СМИ Эл ФС 77-22224
выдано Федеральной Службой по надзору за соблюдением законодательства в сфере массовых коммуникаций и охране культурного наследия
При цитировании документа ссылка на сайт с указанием автора обязательна. Полное заимствование документа является
нарушением
российского и международного законодательства и возможно только с согласия редакции 3DNews.
MWC 2018
2018
Computex
IFA 2018
