Компания OpenAI не смогла выпустить обещанный инструмент Media Manager до 2025 года, с помощью которого создатели контента смогли бы контролировать использование своих работ в обучении нейросетей. Media Manager, анонсированный в мае прошлого года, должен был идентифицировать защищённые авторским правом тексты, изображения, аудио и видео.

Источник изображения: hdhai.com

Инструмент должен был помочь OpenAI избежать юридических проблем, связанных с нарушением прав на интеллектуальную собственность, и в целом мог бы стать стандартом для всей индустрии искусственного интеллекта. Однако, как пишет издание TechCrunch, разработка Media Manager изначально не считалась в компании приоритетной. Один из бывших сотрудников OpenAI отметил: «Я не думаю, что это было приоритетом. Честно говоря, я и не помню, чтобы кто-то над этим работал». Другой источник, близкий к компании, подтвердил, что обсуждения инструмента были, но с конца 2024 года никакой новой информации, связанной с проектом, не поступало.

Надо сказать, что в последнее время использование авторского контента для обучения ИИ неоднократно становилось причиной споров. Модели OpenAI, такие как ChatGPT и Sora, обучаются на огромных наборах данных, включающих тексты, изображения и видео из интернета. Это позволяет ИИ-моделями создавать новые работы, но зачастую они оказываются слишком похожи на оригинал. Например, Sora может генерировать видео с логотипом TikTok или персонажами из видеоигр, а ChatGPT был «пойман» на дословных цитатах из статей The New York Times.

Такая практика вызывает волну возмущения со стороны авторов, чьи работы были использованы без их согласия. Против OpenAI уже поданы коллективные иски от художников, писателей и крупных медиа-компаний, включая The New York Times и Radio-Canada. Авторы, такие как американская актриса и сценарист Сара Сильверман (Sarah Silverman) и писатель Та-Нехиси Коутс (Ta-Nehisi Coates), также присоединились к судебным разбирательствам, обвинив OpenAI в незаконном использовании их работ.

OpenAI предложила альтернативные решения проблемы, и на данный момент создателям контента предлагается несколько способов для исключения своих работы из обучения нейросетей. В частности, в сентябре 2024 года была запущена форма для подачи заявлений на удаление изображений из будущих наборов данных. Также компания ничего не имеет против того, чтобы веб-мастера прописывали блокировку для своих сайтов от сбора данных её ботами, например в файле «robots.txt». Однако эти методы подверглись критике как за их сложность (удаление контента из набора данных), так и за их несовершенство.

Media Manager, напротив, преподносился как долгожданное комплексное решение. В мае 2024 года OpenAI заявила, что работает над инструментом совместно с регуляторами и использует передовые технологии машинного обучения для распознавания авторских прав. Тем не менее с момента анонса компания больше ни разу публично не упоминала об этом инструменте. И даже если Media Manager будет выпущен, эксперты сомневаются, что инструмент сможет решить все проблемы.

Эдриан Сайхан (Adrian Cyhan), юрист в сфере интеллектуальной собственности, отмечает, что даже крупным платформам, таким как YouTube и TikTok, сложно справляться с идентификацией контента в больших масштабах. «Гарантировать соблюдение всех требований создателей контента и законов разных стран — крайне трудная задача», — заявил он. А основатель некоммерческой организации Fairly Trained Эд Ньютон-Рекс (Ed Newton-Rex) вообще считает, что Media Manager лишь переложит ответственность на самих создателей.

При этом, даже если Media Manager будет запущен, он вряд ли сможет избавить OpenAI от юридической ответственности, считают эксперты. Эван Эверист (Evan Everist), специалист по авторскому праву, напомнил, что по закону владельцы авторских прав вообще не обязаны предупреждать о запрете на использование их работ и «базовые принципы авторского права остаются неизменными: нельзя использовать чужие материалы без разрешения».

В отсутствие Media Manager, OpenAI пока внедрила фильтры, которые предотвращают дословное копирование чужих данных, а в судебных исках компания продолжает утверждать, что её ИИ-модели создают «компиляцию», а не плагиат, ссылаясь на принцип «добросовестного использования». Суды могут поддержать позицию OpenAI, как это произошло в деле Google Books, когда суд постановил, что копирование компанией Google миллионов книг для Google Books, своего рода цифрового архива, является допустимым. Однако, если суды признают, что OpenAI незаконно использует авторский контент, компании придётся пересмотреть свою стратегию, включая выпуск Media Manager.

OpenAI представила план по обновлению своей корпоративной структуры, который предусматривает создание благотворительной организации или дословно «корпорации общественного блага» (public benefit corporation, PBC) для управления растущим бизнесом и снятия ограничений, налагаемых её нынешним некоммерческим статусом. PBC будет управлять бизнесом OpenAI, а некоммерческая организация займётся продвижением благотворительных инициатив в здравоохранении, образовании и науке.

Источник изображений: unsplash.com

PBC — это предприятия, которые ставят социальную миссию на первое место наряду с прибылью и признаны правительством как отвечающие общественным интересам. PBC по закону обязаны преследовать социальные или экологические цели в дополнение к получению прибыли и раз в два года должны отчитываться перед акционерами об успехах в достижении этих целей.

OpenAI, один из самых дорогостоящих стартапов в мире, начал свою деятельность в 2015 году как некоммерческая организация, ориентированная на исследования, но, по мере роста популярности ИИ, всё настойчивее стремится изменить формат, чтобы привлечь ещё больше инвестиций. Последний раунд финансирования в размере $6,6 млрд при оценке рыночной стоимости компании в $157 млрд во многом зависел от того, сможет ли OpenAI изменить свою корпоративную структуру, чтобы снять ограничение прибыли для инвесторов.

«Нам снова нужно привлечь больше капитала, чем мы предполагали. Инвесторы хотят поддержать нас, но при таком масштабе капитала им нужен обычный капитал и меньше структурной индивидуализации», — сообщила компания в своём блоге.

OpenAI планирует превратить своё существующее коммерческое подразделение в корпорацию общественного блага, зарегистрированную в Делавэре, что, по словам компании, позволит «привлекать необходимый капитал на обычных условиях, как и другие в этой сфере».

Некоммерческое подразделение OpenAI сможет приобретать акции PBC по цене, определённой независимыми финансовыми консультантами.

Отметим, что конкуренты OpenAI, такие как Anthropic и xAI, используют похожую структуру бизнеса.

По сообщениям сетевых источников, компании Microsoft и OpenAI имеют конкретное внутреннее определение сильного ИИ (Artificial General Intelligence, AGI), т.е. системы, которая способна решать задачи наравне с человеком, основанное на показателе прибыли стартапа. Согласно этому определению, OpenAI находится в годах работы от достижения данной цели.

Источник изображений: OpenAI

В сообщении сказано, что в прошлом году Microsoft и OpenAI подписали соглашение, согласно которому OpenAI сможет создать AGI только в случае, если удастся разработать ИИ-системы, способные приносить прибыль в размере не менее $100 млрд. Это определение далеко от строгого технического и философского определения AGI, которого ожидают многие.

Согласно имеющимся данным, по итогам текущего года убыток OpenAI составит миллиарды долларов, и компания уже сообщила инвесторам, что начнёт получать прибыль не ранее 2029 года. Это важная деталь, поскольку Microsoft может потерять доступ к технологиям OpenAI, когда стартап создаст AGI —систему, точное определение которой может звучать по-разному. Существует мнение, согласно которому OpenAI может объявить о создании AGI раньше запланированного срока, чтобы вытеснить Microsoft. Однако соглашение между двумя компаниями означает, что софтверный гигант может иметь доступ к технологиям ИИ-стартапа в течение десяти лет или более.

Ранее в этом месяце велось активное обсуждение того, насколько алгоритм OpenAI o3 может считаться значительным шагом на пути к созданию AGI. Хотя o3 работает лучше большинства ИИ-моделей, алгоритм всё ещё нуждается в значительных вычислительных мощностях, что не сулит ничего хорошего для ориентированного на прибыль определения AGI.

ChatGPT перестал работать у многих пользователей по всему миру. Многочисленные сообщения в социальных сетях, а также наша собственная проверка показали, что чат-бот загружается, но не отвечает на запросы. Также многие пользователи видят сообщение о «внутренней ошибке сервера».

Похоже, что перебои начались примерно в 21:30 по московскому времени. Именно тогда на Down Detector начали появляться сообщения. В 22:00 по московскому времени OpenAI опубликовала обновление на странице состояния своих сервисов, сообщив, что ChatGPT, его API и генератор видео по текстовому описанию Sora «в настоящее время испытывают высокий уровень ошибок». В обновлении, опубликованном в 22:18 по московскому времени, говорится, что проблема «вызвана вышестоящим провайдером» и что OpenAI в настоящее время отслеживает ситуацию.

В 23:06 по московскому времени OpenAI заявила, что «продолжает работать над исправлением». О сроках восстановления полной работоспособности сервисов пока ничего не говорится.

За последние несколько месяцев ChatGPT уже несколько раз выходил из строя. Всего через несколько дней после того, как OpenAI выпустила Sora для платных подписчиков ChatGPT в начале этого месяца, инструмент для создания видео и ChatGPT вышли из строя на несколько часов. Между тем, в июне ChatGPT был выведен из строя в результате широкомасштабного сбоя.

Поисковая служба OpenAI ChatGPT оказалась открытой для манипуляций с использованием скрытого содержимого, а в качестве ответов на запросы она может возвращать вредоносный код с сайтов, по которым производится поиск. Об этом пишет Guardian со ссылкой на результаты собственного расследования.

Источник изображения: Growtika / unsplash.com

Надёжность функции веб-поиска ChatGPT вызывает сомнения. Издание Guardian решило проверить, как искусственный интеллект реагирует на просьбу составить сводку содержимого веб-страницы, на которой есть скрытый текст. В нём могут находиться дополнительные инструкции, способные изменить ответы ChatGPT — недобросовестные владельцы ресурсов могут пользоваться этим методом злонамеренно, например, заставить систему дать положительный отзыв о продукте вопреки размещённым на той же странице отрицательным отзывам. Чат-бот также может выдавать в ответах вредоносный код с сайтов в поиске.

В ходе тестирования ChatGPT предложили адрес поддельного ресурса, который выглядел как страница с описанием камеры, после чего ИИ задали вопрос, стоит ли покупать это устройство. Система вернула положительную, но сбалансированную оценку с указанием моментов, которые могли не нравиться людям. Когда же в скрытый текст включили прямую инструкцию ChatGPT дать положительный отзыв, чат-бот так и поступил. Положительную оценку может обеспечить и скрытый текст без инструкций — достаточно внести в него поддельные положительные отзывы о товаре.

Не меньшую опасность представляет и размещённый в скрытом тексте страницы вредоносный код. Эксперт в области кибербезопасности Microsoft Томас Роччиа (Thomas Roccia) рассказал об инциденте, когда энтузиаст в области криптовалют запросил у ChatGPT помощь в программировании, и часть предоставленного чат-ботом кода оказалась вредоносной, в результате чего учётные данные программиста были похищены, и он потерял $2500. Современные большие языковые модели, на которых строятся чат-боты, чрезвычайно доверчивы; обладая большими объёмами информации, они «очень ограничены в плане способности принимать решения», отмечают специалисты.

Важно ответить на вопрос, как эти уязвимости могут изменить ландшафт веб-ресурсов, и как может преобразиться спектр угроз для пользователей, если общедоступные большие языковые модели начнут работать с поиском. Традиционные поисковые системы, включая Google, понижают в выдаче сайты, на которых используется скрытый текст, поэтому рассчитывающие на высокие позиции в результатах ресурсы едва ли будут активно пользоваться этим приёмом. С другой стороны, есть такое явление как «SEO-отравление» — мощная поисковая оптимизация сайтов с вредоносным кодом. В OpenAI достаточно сильные специалисты по безопасности в области ИИ, поэтому есть вероятность, что в перспективе вероятность подобных инцидентов снизится.

OpenAI рассматривает возможность производства человекоподобных роботов, программной основой которых могут стать разработанные компанией алгоритмы на базе искусственного интеллекта. По данным источника, в настоящее время возможность создания роботов-гуманоидов обсуждается внутри компании.

Источник изображения: Levart_Photographer / Unsplash

О намерениях OpenAI заняться робототехникой написало издание The Information ссылкой на двух неназванных людей, непосредственно знакомых с этим вопросом. Издание утверждает, что OpenAI рассматривает возможность разработки именно гуманоидных роботов, похожих на людей. Однако в заметке не уточняется, идёт ли речь о первоначальных обсуждениях или же у производителя ChatGPT уже есть готовый план действий.

Интерес OpenAI к робототехнике не является чем-то новым, поскольку раньше в компании было занимающееся разработкой роботов подразделение, но оно перестало функционировать ещё до выхода алгоритма GPT-3. Основной причиной закрытия подразделения стало отсутствие необходимого количества данных для обучения машин. Кроме того, OpenAI продолжает инвестировать в несколько робототехнических стартапов через своё венчурное подразделение. По данным осведомлённых источников, недавно OpenAI вернулась к рассмотрению идеи создания человекоподобных роботов. Однако не уточняется, на какой стадии находится это обсуждение, и есть ли у компании готовый план по развитию данного направления.

Ранее в этом году СМИ писали, что OpenAI открыла несколько вакансий на должность инженеров-исследователей, которые должны были присоединиться к робототехническому подразделению. В описании вакансий упоминалось создание мультимодальных больших языковых моделей с целью «открыть новые возможности для роботов наших партнёров». В числе этих «партнёров» могут быть несколько стартапов, в которые OpenAI инвестирует значительные средства, включая Figure AI и 1X Technologies. В прошлом месяце OpenAI также вложила средства в стартап Physical Intelligence, который разрабатывает программное обеспечение на базе ИИ, предназначенное для использования в роботах.

Microsoft планирует задействовать для ИИ-помощника Copilot в составе пакета офисных приложений Microsoft 365 собственные ИИ-модели и продукты других разработчиков. Это решение отражает намерения компании диверсифицировать базовую ИИ-технологию от OpenAI и сократить расходы, пишет Reuters со ссылкой на информированные источники.

Источник изображения: Microsoft

Намерение Microsoft, главного инвестора OpenAI, снизить свою зависимость от ИИ-стартапа является отходом от её прежней политики, когда одним из главных преимуществ своих предложений компания называла ранний доступ к ИИ-моделям OpenAI. Например, представляя в марте 2023 года Microsoft 365 Copilot, компания указала в числе основных преимуществ ИИ-помощника поддержку модели GPT-4 от OpenAI.

По словам источников, стремление Microsoft уменьшить зависимость 365 Copilot от технологий OpenAI вызвано опасениями по поводу высокой стоимости и скоростных качеств продукта для корпоративных пользователей.

Представитель Microsoft заявил, что OpenAI продолжает оставаться партнёром компании по развёртыванию моделей Frontier AI — самых передовых моделей ИИ. Согласно соглашению о партнёрстве, софтверная компания может настраивать модели OpenAI. «Мы включаем различные модели OpenAI и Microsoft в зависимости от продукта и опыта», — указано в заявлении Microsoft.

Помимо обучения собственных моделей, включая новейшую Phi-4, Microsoft также работает над настройкой других моделей с открытым весом (open weight), чтобы сделать 365 Copilot быстрее и эффективнее, добавили источники. Цель состоит в том, чтобы сделать запуск Microsoft 365 Copilot для компании менее затратным, что потенциально может позитивно отразиться на расходах конечного потребителя.

Другие бизнес-подразделения Microsoft тоже стремятся диверсифицировать использование ИИ-моделей OpenAI. Например, веб-сервис GitHub добавил модели от Anthropic и Google в качестве альтернативы OpenAI GPT-4o. Обновлённый в октябре чат-бот Microsoft Copilot теперь использует для работы собственные ИИ-модели компании в дополнение к моделям OpenAI.

На данный момент неясно, в какой мере окупаются вложения компании в Microsoft 365 Copilot. Согласно опросу, проведённому фирмой Gartner среди 152 компаний в сфере информационных технологий, подавляющее большинство из них не продвинулось в использовании 365 Copilot дальше пилотной стадии.

Тем не менее аналитики BNP Paribas Exane отметили ускорение внедрения 365 Copilot, прогнозируя, что Microsoft продаст его более чем 10 млн платных подписчиков в этом году. Microsoft также указала в ноябре в своём блоге, что 70 % компаний из списка Fortune 500 используют 365 Copilot.

В ходе своего 12-дневного мероприятия OpenAI Shipmas, на котором был также представлен генератор видео на базе искусственного интеллекта Sora, генеральный директор компании Сэм Альтман (Sam Altman) порадовал пользователей ChatGPT Plus, объявив о предоставлении неограниченного доступа к Sora на время праздников.

Источник изображения: OpenAI, aitoolsclub.com

Как пишет AI Tools Club, Альтман объяснил это решение на своей странице в X/Twitter, отметив, что в конце декабря мощности графических процессоров (GPU) OpenAI используются меньше, поскольку люди уходят в отпуск. Это позволяет снизить очередь и предоставить пользователям неограниченные возможности для создания видеороликов. «Наши GPU в конце декабря немного освобождаются, поскольку люди делают перерыв в работе, поэтому мы предоставляем всем пользователям Plus неограниченный доступ к Sora на праздники. Наслаждайтесь творчеством!» — сказал Альтман.

Напомним, ИИ-генератор видео по текстовым запросам Sora был запущен около 10 дней назад и стал ещё одним успешным проектом OpenAI, дополнив линейку таких инструментов, как ChatGPT и DALL-E. Модель доступна на сайте Sora.com для платных пользователей ChatGPT в США и некоторых других стран, и пользуется огромной популярностью.

Позднее представитель OpenAI Рохан Сахаи (Rohan Sahai) поделился ещё одной новостью. Доступ к Sora теперь получат не только обычные пользователи, но и команды, использующие корпоративные аккаунты. Кроме того, Сахаи сообщил, что в генераторе улучшена функция «смешивания» (blend feature), и появилась возможность поделиться сгенерированными видео с друзьями — даже с теми, у кого нет в OpenAI аккаунта.

OpenAI отстаёт от графика разработки флагманской модели искусственного интеллекта последней версии — она получит название GPT-5, а пока проходит под кодовым именем Orion. Компания занимается этим уже 18 месяцев, пытаясь выйти на желаемый результат, но терпит неудачи — во всём мире не хватает данных, чтобы сделать модель достаточно умной, пишет Wall Street Journal.

Источник изображения: Mariia Shalabaieva / unsplash.com

OpenAI провела как минимум два больших учебных запуска, каждый из которых предполагает несколько месяцев обработки данных с целью доделать Orion. Всякий раз возникали новые проблемы, и система не давала результатов, на которые надеялись исследователи. В теперешнем виде Orion работает лучше существующих систем OpenAI, но, по версии разработчиков, она недостаточно продвинулась, чтобы оправдать огромные затраты на поддержание новой модели в рабочем состоянии. Обучение продолжительностью шесть месяцев может обойтись примерно в $500 млн только на вычислительные затраты.

Два года назад OpenAI и её гендиректор Сэм Альтман (Sam Altman) произвели фурор с выпуском ChatGPT. Тогда казалось, что ИИ проникнет во все аспекты жизни современного человека и существенно её улучшит. Аналитики предсказали, что в ближайшие годы затраты технологических гигантов на ИИ составят до $1 трлн. Самая большая ответственность возлагается на OpenAI, которая и породила бум ИИ.

Октябрьский раунд финансирования компании проводился при оценке $157 млрд — не в последнюю очередь из-за того, что Альтман пообещал «значительный скачок вперёд» по всех областях и задачах с GPT-5. Модель, как ожидается, будет совершать научные открытия и с лёгкостью выполнять повседневные человеческие задачи, такие как запись на приём и бронирование билетов на самолёт. Исследователи также надеются, что она научится сомневаться в собственной правоте и станет реже «галлюцинировать» — прекратит уверенно давать не соответствующие действительности ответы.

Если принять, что GPT-4 действует на уровне умного старшеклассника, то от GPT-5 в отдельных задачах ждут уровня доктора наук. Чётких критериев определить, достойна ли модель нового поколения называться GPT-5, не существует: системы тестируются на задачах по математике и программированию, но окончательный вердикт исследователи выносят на интуитивном уровне, и этого до сих пор не произошло. Про разработку больших языковых моделей говорят, что это не только наука, но и искусство.

Источник изображения: Growtika / unsplash.com

Тестирование моделей производится во время тренировочных запусков — продолжительных периодов, в которые им отправляются триллионы токенов, то есть фрагментов слов. Крупный тренировочный запуск может потребовать нескольких месяцев работы дата-центров и десятков тысяч ИИ-ускорителей Nvidia. Обучение GPT-4, по словам Альтмана, обошлось в $100 млн; как ожидается, обучение будущих моделей будет стоить дороже $1 млрд. Неудачный тренировочный запуск в чём-то схож с неудачным испытанием ракеты. Исследователи стараются снижать вероятность таких неудач, проводя эксперименты в меньших масштабах — пробные запуски перед полномасштабными.

В середине 2023 года OpenAI провела пробный учебный запуск, который стал тестом для вероятной архитектуры Orion — особых результатов эксперимент не принёс: стало ясно, что полномасштабный учебный запуск займёт слишком много времени и обойдётся очень дорого. Результаты проекта Arrakis показали, что создание GPT-5 пойдёт не так гладко, как надеялись исследователи. Они начали вносить некоторые технические изменения, чтобы усилить Orion, и пришли к выводу, что потребуется большой объём разнообразных высококачественных данных, и информации из общедоступного интернета может не хватить.

Модели ИИ, как правило, становятся умнее по мере того, как поглощают большие объёмы данных — обычно книг, академических публикаций и других заслуживающих доверия источников, которые помогают ИИ выражаться более чётко и справляться с широким спектром задач. При обучении предыдущих моделей OpenAI не пренебрегала и другими источниками, такими как новостные статьи и даже сообщения в соцсетях. Но чтобы сделать Orion умнее, необходимы дополнительные источники данных, и их недостаточно. Тогда в компании решили создавать эти данные самостоятельно: наняли людей для написания кода и решения математических задач, которые давали пошаговые объяснения своих действий. OpenAI привлекла специалистов по теоретической физике, которые подготовили объяснения, какой подход они бы применили к решению сложнейших проблем в своей области.

Процесс идёт чрезвычайно медленно. GPT-4 была обучена на 13 трлн токенов — для сравнения, тысяча человек, которые пишут по пять тысяч знаков в день, сгенерировала бы миллиард токенов за несколько месяцев. Поэтому в OpenAI начали разрабатывать синтетические данные — заставлять другие системы ИИ генерировать данные для обучения нового ИИ. Но исследования показали, что циклы обратной связи между генерацией данных с помощью ИИ для ИИ грозят сбоями или бессмысленными ответами. Для устранения этой проблемы генерацию данных доверили другой модели — o1.

Источник изображения: Mariia Shalabaieva / unsplash.com

К началу 2024 года руководство OpenAI стало понимать, что сроки поджимают. GPT-4 исполнился год, конкуренты стали догонять, а новая модель Anthropic, по некоторым оценкам, её превзошла. Проект Orion застопорился, и OpenAI пришлось переключиться на другие проекты и приложения: вышли облегчённый вариант GPT-4 и генератор видео Sora. В результате возникла внутренняя конкуренция — за ограниченные вычислительные ресурсы состязались разработчики Orion и прочих продуктов.

Конкуренция же среди разработчиков ИИ ожесточилась до такой степени, что крупные технологические компании стали публиковать меньше статей о последних открытиях или прорывах, чем это принято в научном сообществе. На рынок хлынул поток денег, и корпорации стали рассматривать результаты исследований как коммерческую тайну, которую следует охранять. Дошло до того, что исследователи перестали работать в самолётах, кофейнях и других общественных местах, где кто-то мог заглянуть через плечо.

В начале 2024 года OpenAI подготовилась к очередной попытке запуска Orion, вооружившись более качественным набором данных. В течение нескольких первых месяцев года исследователи провели несколько небольших обучающих запусков, чтобы знать, в каком направлении работать дальше. К маю они решили, что готовы провести крупномасштабный запуск Orion, который должен был продлиться до ноября. Но уже на начальном этапе вскрылась связанная с данными проблема: они оказались менее диверсифицированными, чем ожидалось, что ограничило потенциальное качество обучения ИИ. Проблема не проявлялась в пробных проектах и стала очевидной только после того, как начался большой запуск — но к тому времени OpenAI потратила слишком много времени и денег, чтобы начинать всё заново. Исследователи попытались найти более широкий диапазон данных для передачи модели в процессе обучения, но до сих пор неясно, оказалась ли эта стратегия плодотворной.

Трудности с Orion указали OpenAI на новый подход к тому, как сделать большие языковые модели умнее — рассуждения. Способность к рассуждениям помогает ИИ решать сложные проблемы, которым он не обучался. Так устроена модель OpenAI o1 — она генерирует несколько ответов на каждый вопрос и анализирует их в поисках лучшего. Но и в этом уверенности пока нет: по мнению исследователей Apple, «рассуждающие» модели, вероятно, лишь интерпретируют полученные при обучении данные, но новых задач в действительности не решают. К примеру, если внести в условиях исходной задачи незначительные изменения, которые не имеют отношения к её решению, качество ответа ИИ резко падает.

Эти дополнительные интеллектуальные способности обходятся дорого: OpenAI приходится оплачивать генерацию нескольких ответов вместо одного. «Оказалось, что если бот думает всего 20 секунд в партии в покер, затраты возрастают так же, как если бы модель разрасталась в 100 000 раз и обучалась в 100 000 раз дольше», — рассказал научный сотрудник OpenAI Ноам Браун (Noam Brown). В основу Orion может лечь более продвинутая и эффективная модель, способная к рассуждениям. Исследователи компании придерживаются этого подхода и надеются объединить его с большими объёмами данных, часть из которых может поступать из других моделей ИИ, созданных OpenAI. Затем результаты её работы будут уточняться на материале, созданном людьми.

На этой неделе компания OpenAI запустила в США новую услугу 1-800-CHATGPT, в рамках которой любой житель страны может позвонить по бесплатному номеру 1-800-242-8478 и общаться в голосовом чате с ИИ-ботом ChatGPT до 15 минут. Для пользователей за пределами США появилась возможность отправлять через WhatsApp сообщения на тот же номер для взаимодействия с ChatGPT в чате.

Источник изображения: Levart_Photographer/Unsplash

При звонке на указанный номер пользователь слышит следующее: «Ещё раз здравствуйте, это ChatGPT, помощник с искусственным интеллектом. Наш разговор может быть проверен на предмет безопасности. Чем я могу вам помочь?». После этого звонящий может задавать боту любые вопросы, аналогично тому, как это происходит при взаимодействии с ним в текстовом чате.

Во время демонстрации новой услуги сотрудники OpenAI показали несколько примеров взаимодействия с ChatGPT в голосовом чате. Примечательно, что для общения с ИИ-ботом не обязательно использовать смартфон, поскольку звонки на бесплатный номер также доступны и со стационарных телефонов.

Представители OpenAI рассказали, что новая услуга появилась в рамках реализации внутреннего проекта Hack Week, который был запущен всего несколько недель назад. Он направлен на то, чтобы сделать ChatGPT более доступным для потребителей, если у них нет под рукой смартфона или компьютера.

Компания OpenAI сегодня открыла поиск в интернете через чат-бота с искусственным интеллектом ChatGPT для всех пользователей. Таким образом разработчики бросили прямой вызов Google, которая тотально доминирует на мировом рынке поисковых систем.

Источник изображения: OpenAI

Решение с незамысловатым названием ChatGPT Search, то есть «ChatGPT Поиск», будет доступно любому пользователю, вошедшему в свой аккаунт в мобильных приложениях чат-бота или веб-версии сервиса, объявили в OpenAI в понедельник 16 декабря. Ранее поиск в интернете через ChatGPT был доступен только для платных подписчиков. Как отмечает компания, поиск через ChatGPT позволяет «получать быстрые и актуальные ответы со ссылками на соответствующие веб-источники».

Запрос к ChatGPT вводится как обычно и чат-бот сам решит, нужно ли по данному вопросу искать что-либо в интернете. А если пользователь нажмёт кнопку «Поиск», то бот напрямую выполнит поиск в интернете. Также можно попросить чат-бота уточнить условия поиска или подготовить более детальную сводку по результатам.

Отдельно стоит отметить, что ChatGPT Search можно будет назначить поисковой системой по умолчанию для своего веб-браузера. У Google, возможно, появится действительно серьёзный соперник, ведь людям будет куда проще спросить о чём-то у ИИ и увидеть в ответ сводку информации, а не формулировать запрос и искать нужную информацию по разным сайтом из выдачи.

OpenAI также продемонстрировала новую опцию, которая позволит пользователям задавать вопросы чат-боту — например, о том, чем заняться в Цюрихе перед Рождеством — и получать устные ответы.

Расширение фирменной поисковой системы стало частью 12-дневного марафона анонсов от OpenAI. Ранее разработчик представил новую более дорогую подписку ChatGPT Pro за $200 в месяц и открыл для широкой публики инструмент для создания видео с помощью искусственного интеллекта под названием Sora. В ближайшие дни нас ожидает по меньшей мере ещё один анонс от OpenAI, ведь сегодня лишь восьмой день марафона.

Meta✴ Platforms призвала генерального прокурора американского штата Калифорния заблокировать планируемую OpenAI процедуру реорганизации в коммерческую компанию, узнала Wall Street Journal.

Источник изображения: Growtika / unsplash.com

В направленном в минувший четверг, 12 декабря, генпрокурору Робу Бонте (Rob Bonta) письме Meta✴ заявила, что санкция на реорганизацию OpenAI в коммерческую компанию создаст опасный прецедент: стартапы смогут пользоваться преимуществами статуса некоммерческой организации до тех пор, пока не будут готовы выйти на прибыльность.

«Действия OpenAI могут возыметь последствия сейсмического характера для Кремниевой долины. Если новая бизнес-модель OpenAI окажется действенной, некоммерческие инвесторы получат тот же доход, что и те, кто инвестирует традиционным способом в коммерческие компании, но также получат выгоду от предоставляемых правительством налоговых списаний», — говорится в письме Meta✴.

Накануне OpenAI обратилась к федеральному судье в Калифорнии с просьбой, чтобы он отклонил ходатайство Илона Маска (Elon Musk) о прекращении реорганизации разработчика ChatGPT в коммерческую компанию. В минувшем августе Маск подал в суд на OpenAI и её гендиректора Сэма Альтмана (Sam Altman), заявив, что они нарушили положения соглашения, поставив прибыль выше общественного блага при разработке искусственного интеллекта.

Meta✴ заявила, что поддерживает стремление Маска представлять интересы общественности при принятии решения о том, получит ли OpenAI разрешение стать коммерческой компанией. Маск стоял у истоков OpenAI, но впоследствии покинул проект и запустил собственный стартап xAI, связанный с ИИ.

Бывший сотрудник OpenAI, 26-летний Сухир Баладжи (Suchir Balaji), 26 ноября был найден мёртвым в своей квартире в Сан-Франциско, сообщил ресурс TechCrunch. В полиции подтвердили личность Баладжи и заявили, что причиной его смерти стало самоубийство. В октябре в интервью The New York Times он выразил обеспокоенность по поводу нарушения OpenAI закона об авторском праве.

Источник изображения: Levart_Photographer/unsplash.com

Сухир Баладжи изучал информатику в Калифорнийском университете в Беркли. Во время учебы он стажировался в OpenAI и Scale AI. «Я проработал в OpenAI почти 4 года и последние 1,5 года работал над ChatGPT», — сообщил Баладжи в твите в октябре этого года.

Баладжи рассказал, что заинтересовался вопросом защиты авторских прав, когда увидел все иски, поданные против компании GenAI. «Когда я попытался лучше разобраться в этом вопросе, я в конце концов пришёл к выводу, что добросовестное использование кажется довольно неправдоподобной защитой для многих продуктов генеративного ИИ по той простой причине, что они могут создавать заменители, которые конкурируют с данными, на которых они обучены», — сообщил он.

Согласно описанию профиля в LinkedIn, первоначально Баладжи работал над WebGPT, доработанной версией GPT-3, которая могла осуществлять поиск в интернете. Это была ранняя версия SearchGPT, вышедшего в этом году. Впоследствии Баладжи работал в команде предварительного обучения GPT-4, а также в команде разработчиков ИИ-модели o1 со способностью рассуждать и команде постобучения ChatGPT.

Баладжи сообщил газете The New York Times, что OpenAI без разрешения использовала огромные объёмы интернет-данных для разработки ИИ-чат-бота ChatGPT, вышедшего в ноябре 2022 года. Он также обвинил компанию в создании собственного программного обеспечения для транскрибирования видео на YouTube для извлечения данных.

Из-за использования контента без разрешения со стороны издания, The New York Times подала в конце прошлого года на OpenAI и Microsoft в суд с обвинением в нарушении авторских прав.

Трагическое происшествие с Баладжи привлекло дополнительное внимание к продолжающимся дебатам об этичном использовании данных при разработке технологий искусственного интеллекта.

Илон Маск (Elon Musk) ранее подал в суд на OpenAI из-за её планов реорганизоваться в коммерческую компанию, и теперь та привела его собственные электронные письма, из которых следует, что он хотел сформировать коммерческое подразделение OpenAI, владеть и самостоятельно управлять им.

Источник изображения: x.com/elonmusk

В 2015 году Илон Маск был в числе учредителей OpenAI, три года спустя вышел из их состава, а теперь превратился в ярого критика и противника компании — сегодня у него есть конкурирующий стартап xAI. Недавно Маск в очередной раз попытался воспрепятствовать OpenAI и её генеральному директору Сэму Альтману (Sam Altman) провести реорганизацию и превратить стартап в классическую коммерческую корпорацию. Сейчас она привлекает многомиллиардные инвестиции.

В ответ на последний иск Маска компания представила пакет электронных писем — переписку между Маском и его представителями, а также другими соучредителями OpenAI, в том числе Альтманом и Ильёй Суцкевером (Ilya Sutskever). В них обсуждается оптимальная структура организации, а также потребность в привлечении капитала для оплаты вычислительных ресурсов, необходимых для продолжения работы OpenAI. По версии компании, Маск настаивал на создании коммерческого юрлица, в котором он должен иметь контрольный пакет акций, и которым должен единолично управлять.

В сентябре 2017 года он зарегистрировал организацию Open Artificial Intelligence Technologies, Inc. с организационно-правовой формой PBC (Public Benefit Corporation) — этот тип корпорации сочетает традиционную коммерческую бизнес-модель, основанную на извлечении прибыли, с общественно полезной миссией. «Когда он не получил контрольного пакета акций и полного контроля, то ушёл и сказал нам, что мы провалимся. Теперь, когда OpenAI является ведущей исследовательской лабораторией в области ИИ, а Илон управляет конкурирующей ИИ-компанией, он просит суд помешать на эффективно выполнять нашу задачу», — утверждают в OpenAI. Эти материалы OpenAI опубликовала в корпоративном блоге, но следует отметить, что переписка приводится вне полного контекста.

OpenAI объявила о появлении у чат-бота ChatGPT на базе генеративного интеллекта способности обрабатывать видеопоток и говорить с пользователями о том, что он «наблюдает» с помощью камеры смартфона или компьютера, либо что видит на экране устройства. Новая функция доступна в расширенном голосовом режиме (Advanced Voice Mode).

Источник изображения: OpenAI

О том, что ChatGPT получит функцию компьютерного зрения, позволяющую ему «видеть» при помощи камеры смартфона пользователя или через трансляцию экрана, компания объявила в мае этого года. Теперь доступ к функции расширенного голосового режима ChatGPT с распознаванием видео получили владельцы платных подписок ChatGPT Plus, Team и Pro. По словам компании, подписчики ChatGPT Enterprise и Edu не получат эту функцию до января, и что пока нет графика по её запуску в ЕС, Швейцарии, Исландии, Норвегии и Лихтенштейне.

В недавней демонстрации в программе CNN «60 минут» президент OpenAI Грег Брокман (Greg Brockman) провел тестирование расширенного голосового режима с визуальным распознаванием с участием телеведущего Андерсона Купера (Anderson Cooper) на предмет анатомических навыков чат-бота. Когда Купер рисовал части тела на доске, ChatGPT «понимал», что тот рисует. Вместе с тем ChatGPT в этом режиме допустил ошибку в задаче по геометрии, что говорит о его склонности к галлюцинациям.

После анонса в мае компания несколько раз откладывала запуск расширенного голосового режима с визуальным распознаванием. В апреле OpenAI пообещала, что этот режим будет доступен для пользователей «в течение нескольких недель», но спустя несколько месяцев признала, что на это потребуется больше времени, чем планировалось. И когда расширенный голосовой режим запустили для некоторых пользователей в сентябре, у него не было функции компьютерного зрения.

Компании Google и Meta✴ тоже работают над аналогичными возможностями для своих чат-ботов. На этой неделе Google сделала функцию ИИ для анализа видео в реальном времени Project Astra доступной для группы «доверенных тестировщиков» на платформе Android.