OpenAI представила новую нейросеть Sora для генерации видео. Компания утверждает, что Sora «может создавать реалистичные и фантазийные сцены по текстовым инструкциям». Модель преобразования текста в видео позволяет пользователям создавать на базе текстовых описаний фотореалистичные видео длиной до минуты с разрешением Full HD (1920 × 1080 точек).

Источник изображения: OpenAI

Sora способна создавать «сложные сцены с несколькими персонажами, определенными типами движения и точной детализацией объекта и фона», говорится в блоге OpenAI. Компания также отмечает, что нейросеть может понимать, как объекты «существуют в физическом мире», а также «точно интерпретировать реквизит и генерировать убедительных персонажей, выражающих яркие эмоции».

Модель может генерировать видео на основе неподвижного изображения, заполнять недостающие кадры в существующем видео или расширять его. Среди демонстрационных роликов, созданных с помощью Sora и показанных в блоге OpenAI, сцена Калифорнии времен золотой лихорадки, видео, снятое как будто изнутри токийского поезда, и другие. Многие из них имеют некоторые артефакты, указывающие на работу искусственного интеллекта. Например, подозрительно движущийся пол в видеоролике о музее. Сама OpenAI говорит, что модель «может испытывать трудности с точным моделированием физики сложной сцены», но в целом результаты довольно впечатляющие.

Пару лет назад именно генераторы текста в изображение, такие как Midjourney, лучше всего демонстрировали способности ИИ превращать слова в изображения. Но в последнее время генеративное видео стало улучшаться заметными темпами: такие компании, как Runway и Pika, продемонстрировали впечатляющие модели преобразования текста в видео, а Lumiere от Google, похоже, станет одним из главных конкурентов OpenAI в этой области. Как и Sora, Lumiere предоставляет пользователям инструменты для преобразования текста в видео, а также позволяет создавать видео из неподвижного изображения.

В настоящее время Sora доступна только отдельным тестировщикам, которые оценивают модель на предмет потенциального вреда и рисков. OpenAI также предлагает доступ по запросу отдельным художникам, дизайнерам и кинематографистам, чтобы получить обратную связь. Компания отмечает, что существующая модель может неточно имитировать физику сложной сцены и неправильно интерпретировать некоторые случаи причинно-следственных связей.

Ранее в этом месяце OpenAI объявила, что добавляет маркировку в свой инструмент преобразования текста в изображение DALL-E 3, но отмечает, что их можно легко удалить. Как и в случае с другими продуктами на базе ИИ, компании OpenAI придется бороться с последствиями того, что поддельные фотореалистичные видео, созданные ИИ, будут выдавать за настоящие.

Больше видео, сгенерированных Sora, можно найти здесь.

Заняв лидирующие позиции в гонке генеративного ИИ, OpenAI вступает в борьбу с Google «на её поле». Хотя OpenAI официально не подтверждала этого, инсайдеры сообщают, что компания уже более года занимается разработкой продукта для поиска в интернете. Пока неясно, будет ли новый инструмент интегрирован непосредственно в платную или бесплатную версию чат-бота ChatGPT или станет отдельным решением.

Источник изображения: unsplash.com

ChatGPT изначально имел ограничение на доступ к самой последней информации в интернете. В марте 2023 года OpenAI объявила о поддержке плагинов, включая разработанный ею плагин для веб-обозревателя. В сентябре OpenAI сообщила, что ChatGPT получил доступ к актуальной информации в Сети и способен просматривать веб-страницы. Эта функциональность предназначалась прежде всего для поисковой системы Microsoft Bing, которая в течение многих лет оставалась аутсайдером интернет-поиска.

Microsoft вложила в OpenAI миллиарды долларов и в значительной степени полагается на технологический стек OpenAI при переосмыслении своих собственных продуктов, включая Bing. Microsoft запустила собственный чат-бот на базе ИИ Bing Chat, затем расширила возможности генеративного ИИ на другие свои продукты, и в конечном итоге в 2024 году распространила ИИ повсюду под отдельным брендом Copilot.

Похоже, что OpenAI, при активной поддержке со стороны Microsoft, готова начать атаку на занимаемые Google позиции в сфере веб-поиска. Microsoft некоторое время назад проиграла Google войну поисковых систем, и искусственный интеллект может стать для неё прекрасной возможностью переманить существенную часть пользователей в свою экосистему.

Пока неизвестно, как именно будет работать секретный продукт веб-поиска OpenAI, но можно сделать некоторые предположения, основываясь на появляющихся продуктах других разработчиков. Например, приложение Arc Search, разработанное The Browser Company, предлагает функцию «Просмотр для меня». Она собирает в сети информацию, соответствующую поисковому запросу, компилирует данные из шести авторитетных источников, а затем представляет результаты в виде специальной веб-страницы, избавляя пользователей от необходимости тратить время на просмотр всей поисковой выдачи.

Окружной судья Калифорнии Арасели Мартинес-Ольгин (Araceli Martínez-Olguín) в значительной степени встала на сторону OpenAI и отклонила большинство претензий, выдвинутых писателями — по их версии, лежащая в основе ChatGPT большая языковая модель была обучена на пиратских копиях их книг без их разрешения.

Источник изображения: succo / pixabay.com

Сара Сильверман (Sarah Silverman), Майкл Шейбон (Michael Chabon) и Пол Трембле (Paul Tremblay) подали три отдельных иска, в которых заявили, что ChatGPT просто «переупаковывает» оригинальные работы писателей в свои ответы и является не более чем высокотехнологичным мошенническим проектом, нарушающим законы об авторском праве и законы штата, запрещающие безосновательное обогащение и недобросовестную деловую практику. По словам судьи Арасели Мартинес-Ольгин, истцы не смогли представить доказательств, подтверждающих их обвинения, за исключением прямого нарушения авторских прав. То же утверждала и OpenAI, которая ещё в августе минувшего года подала ходатайство о прекращении этих дел. Претензии о прямом нарушении прав компания намеревается отбить на «более поздней стадии» разбирательства.

Истцы заявили, что «каждый» ответ ChatGPT «является производной работой, нарушающей авторские права», но судья Мартинес-Ольгин встала на сторону OpenAI, утверждающей, что этого недостаточно для обвинений в косвенном нарушении авторских прав; а заявления, что ответы ChatGPT имеют «сходство по существу» или «полное сходство» с книгами истцов, требуют доказательств.

Источник изображения: Growtika / unsplash.com

Писателям не удалось убедить судью, что OpenAI при включении их произведений в обучающий массив удалила их выходные данные, такие как имена авторов, названия произведений и условия их использования — соответствующих фактов истцы привести в суде не смогли. Авторы заявили, что OpenAI своими действиями нанесла им материальный ущерб, но, по мнению судьи, даже если бы истцы представили доказательства нарушения закона, они могли бы только предполагать, какой ущерб им был причинён. Тем не менее, Мартинес-Ольгин допустила, что использование OpenAI «может представлять собой недобросовестную практику». Обвинения в халатности и безосновательном обогащении также были отклонены: писатели не смогли пояснить, как именно OpenAI «получила и сохранила выгоду» от обучения ChatGPT на их работах.

Истцам предписано объединить свои иски; им дана возможность до 13 марта изменить аргументы, чтобы отклонённые претензии рассматривались далее. Для этого писателям, вероятно, придётся предоставить ответы ChatGPT, имеющие сходство с их работами, а также доказательства о намеренном удалении OpenAI выходных данных с целью «спровоцировать, обеспечить возможность, облегчить или скрыть нарушение авторских прав».

OpenAI ранее заявила о невозможности обучать модели ИИ без материалов, защищённых авторским правом — сегодня оно распространяется «практически на все виды человеческого самовыражения, включая публикации в блогах, сообщения на форумах, фрагменты программного кода и правительственные документы». Компании жизненно необходимы актуальные материалы, защищённые авторским правом, — так ответы чат-бота и произведения других систем ИИ наиболее полно «отвечают потребностям современных граждан».

Канадский учёный словацкого происхождения Андрей Карпатый (Andrej Karpathy) до 2017 года работал в стартапе OpenAI, но затем покинул его, чтобы заняться автопилотом в компании Tesla. Из неё он вернулся в OpenAI в прошлом году, но на этой неделе заявил о намерениях в дальнейшем двигаться в сторону развития собственных проектов, во второй раз покинув штат стартапа, создавшего нашумевший чат-бот ChatGPT.

Источник изображения: Karpathy.ai

Факт своего ухода Карпатый подтвердил в социальной сети X, заявив в понедельник о намерениях в ближайшее время работать над собственными проектами. Учёный призвал не искать в этом решении какой-то скандальной подоплёки, но в шутку заявил о готовности выслушать от подписчиков разного рода «теории заговора», которые порой являются очень занимательными.

Андрей Карпатый признался, что за почти год своего пребывания в OpenAI он познакомился с интересными людьми и очень воодушевляющим планом развития компании, который обещает подарить миру много всего занимательного. Команду OpenAI он назвал очень сильной, а его место в ней займёт некий другой разработчик, с которым он работал до сих пор, его имя представителями стартапа не называется.

Представители OpenAI выразили благодарность Андрею Карпатому за проделанную работу и пожелали всего наилучшего в новых начинаниях. Предполагается, что в этой компании он работал над созданием персонального ассистента, использующего технологии искусственного интеллекта. Учёный рассчитывает с помощью своих разработок сделать мир лучше и добрее и сократить напрасный расход ресурсов во всех пониманиях этого словосочетания.

Регулярная работа с чат-ботом на базе искусственного интеллекта может начать раздражать, поскольку для улучшения опыта взаимодействия пользователю каждый раз приходится объяснять некоторые факты о себе и своих предпочтениях. Компания OpenAI, являющаяся разработчиком ИИ-бота ChatGPT, намерена исправить это, сделав алгоритм более персонализированным за счёт добавления ему «памяти».

Источник изображения: Growtika / unsplash.com

Такой подход позволит ChatGPT со временем извлекать информацию о пользователе и его предпочтениях из диалогов с ним. Функция памяти работает двумя способами. Пользователь может прямо указать на свои предпочтения или иную информацию, которую ChatGPT должен запомнить. Если этого не делать, то чат-бот будет сам получать нужную информацию в процессе взаимодействия с пользователем. Цель разработчиков состоит в том, чтобы сделать ChatGPT более персонализированным и удобным.

Во многих отношениях память является той функцией, которой действительно не хватает ChatGPT. Однако для её реализации алгоритм будет собирать информацию о пользователях, что может вызвать опасения по поводу конфиденциальности данных. OpenAI выбрала стратегию, которая во многом напоминает принцип работы разных интернет-сервисов. Речь идёт о наблюдении за действиями пользователя для постепенного формирования цифрового профиля. Такой метод работы неоднозначен, поскольку сразу возникают опасения по поводу того, что ChatGPT будет использовать собранные данные для дальнейшего обучения алгоритма и повышения уровня персонализации.

OpenAI заявила, что пользователи будут иметь возможность контроля функции памяти ИИ-бота. Также отмечается, что алгоритм не будет запоминать конфиденциальные данные, например, информацию о здоровье. Можно спросить ChatGPT о том, что именно ему известно о пользователе, после чего эти данные при необходимости без особого труда удаляются из памяти. Если же пользователь не заинтересован в функции памяти, то её попросту можно отключить, но по умолчанию она будет активирована.

На данный момент функция памяти ChatGPT находится на этапе тестирования и доступна ограниченному числу пользователей ИИ-бота. Когда именно она может стать общедоступной, пока неизвестно.

Доходы стартапа из Сан-Франциско OpenAI на фоне всплеска популярности разработанного им ИИ-чат-бота ChatGPT стремительно растут. По данным источников Financial Times, в декабре 2023 года годовой оборот OpenAI (показатель выручки за предыдущий месяц, умноженный на 12) достиг отметки в $2 млрд, хотя ещё в октябре годовой доход компании, по данным The Information, составлял $1,3 млрд.

Источник изображения: Andrew Neel/unsplash.com

Компания считает возможным удвоить эту сумму в 2025 году на фоне сильного интереса к её решениям со стороны бизнес-клиентов, стремящихся использовать инструменты генеративного ИИ для повышения эффективности своей работы. Благодаря стремительному росту у OpenAI есть все шансы войти в число немногих компаний Кремниевой долины, таких как Google и Meta✴, которым удалось получить годовой доход в $1 млрд в первые десять лет с момента своего основания.

По словам генерального директора OpenAI Сэма Альтмана (Sam Altman), по состоянию на ноябрь прошлого года 92 % компаний из списка Fortune 500 использовали продукты OpenAI, включая ChatGPT и лежащую в его основе модель искусственного интеллекта GPT-4, в то время как аудитория чат-бота выросла до 100 млн пользователей в неделю.

Интерес потребителей и бизнеса к генеративному ИИ — системам, которые могут генерировать код, текст, изображения, видео и анализировать информацию из подсказок пользователя — резко возрос, отметила Financial Times. Крупные технологические конкуренты OpenAI, такие, как Google и Meta✴, а также стартапы, включая Anthropic, Mistral и Cohere, тоже начали коммерциализацию своих ИИ-продуктов. Например, на этой неделе Google сделала доступной для широкой публики нейросеть Gemini Ultra, стоимость подписки на которую составляет всего $20 в месяц.

Вместе с тем Альтман отметил, что OpenAI по-прежнему работает с убытками из-за огромных затрат на создание и эксплуатацию её ИИ-моделей. По всей видимости эта тенденция сохранится ещё какое-то время из-за разработки ещё более сложных моделей, и компании, вероятно, придётся дополнительно привлекать значительные суммы, чтобы покрыть растущие расходы. Microsoft инвестировала в OpenAI до $13 млрд, но этого явно недостаточно.

«Расходы на обучение просто огромны, но это вполне ожидаемо», — сообщил Альтман газете Financial Times в ноябре прошлого года.

Возможности систем генеративного искусственного интеллекта, на которых OpenAI очень быстро сделала себе имя, в своём развитии упираются в нехватку полупроводниковых компонентов и высокие расходы на электроэнергию, поэтому основатель компании Сэм Альтман сейчас сосредоточен на проекте по привлечению до $7 трлн на решение этих проблем.

Источник изображения: OpenAI

Как поясняет The Wall Street Journal, Сэм Альтман уже давно вкладывается в стартапы, связанные с созданием источников дешёвой электроэнергии по принципу термоядерного синтеза, но сейчас предприниматель поставил перед собой не менее амбициозную цель: собрать триллионы долларов США для финансирования строительства внушительного количества предприятий, способных выпускать заметно большее количество ускорителей вычислений для систем искусственного интеллекта, чем это возможно сейчас.

По информации осведомлённых источников, Альтман сейчас ведёт активные переговоры как с властями США, так и с правящими кругами ОАЭ, а также руководством TSMC. По его замыслу, арабские инвесторы могли бы предоставить внушительную сумму денег, до $5 трлн или $7 трлн, в совокупности с другими источниками финансирования, чтобы в ближайшие несколько лет построить несколько десятков новых предприятий по контрактному выпуску чипов, которые можно было бы передать в управление компании TSMC. На них предполагается наладить выпуск чипов для ускорителей систем искусственного интеллекта в количествах, пропорциональным амбициям Альтмана по развитию функциональных возможностей разрабатываемых OpenAI чат-ботов и больших языковых моделей.

Следует отметить, что $7 трлн являются весьма внушительной суммой не только по меркам инвестиционных проектов, но и в масштабах суверенного долга некоторых государств. В конце концов, оборот всего рынка полупроводниковых компонентов достигнет рубежа в $1 трлн лишь к концу десятилетия, а совокупная капитализация двух самых дорогих американских компаний, Microsoft и Apple, приближается к $6 трлн.

Альтман, как поясняют источники, поставил в известность о своих намерениях не только министра торговли США Джину Раймондо (Gina Raimondo), но и руководство компании TSMC, не говоря уже о правительстве ОАЭ, у которого собирается просить существенную часть денег на реализацию этого амбициозного проекта. К сожалению, на пути к претворению этого проекта в жизнь стоит немало препятствий. Во-первых, не совсем понятно, где будут построены десятки новых предприятий по выпуску чипов. США заинтересованы в их «приземлении» на родном материке, для самой TSMC реализация столь масштабных зарубежных проектов даже на стадии эксплуатации может представлять серьёзную проблему из-за определённого кадрового голода, а арабские инвесторы очевидным образом намерены развивать национальную промышленность ОАЭ. С другой стороны, власти США настороженно относятся к инвестициям арабских стран в передовые отрасли американской экономики, забывая при этом, что компания GlobalFoundries уже более десяти лет финансируется по этому принципу. Словом, замыслу Альтмана предстоит выдержать испытания суровой реальностью, поэтому прислушиваться к его планам пока приходится больше с точки зрения развлечения.

Генератор изображений OpenAI DALL-E 3 будет помечать созданные им картинки метаданными в соответствии со стандартами организации C2PA (Coalition for Content Provenance and Authenticity — «Коалиции по происхождению и аутентичности контента»). Такая маркировка позволит легко узнать, что изображение создано ИИ, а не человеком.

Источник изображения: Gerd Altmann / pixabay.com

При помощи метаданных будут маркироваться изображения, созданные искусственным интеллектом на сайте ChatGPT и при подключении к API для модели DALL-E 3, сообщила OpenAI. При выводе таких изображений на поддерживающих технологию Content Credentials ресурсах будет отображаться изображение с символами «CR» в левом верхнем углу каждой картинки. Это позволит установить происхождение файла, но пока маркировку получат только картинки, а не видеозаписи или текст. Добавление метаданных лишь незначительно повлияет на скорость работы системы и никак не скажется на качестве картинки, подчеркнули в OpenAI.

Источник изображения: openai.com

Организация C2PA, в которую входят крупные технологические компании масштаба Adobe и Microsoft, продвигает собственный стандарт Content Credentials — это решение позволяет определять происхождение контента. Ранее о намерении помечать на своих платформах созданные ИИ материалы сообщила компания Meta✴.

Американские разработчики технологий ИИ взяли на себя обязательства обеспечивать средства идентификации генерируемого ИИ контента. Метаданные, однако, трудно назвать надёжным способом защиты — их легко удалить, случайно или намеренно. Так, они часто в принудительном порядке удаляются при загрузке в соцсети. Метаданные также не сохраняются при снятии снимков экрана.

Старший инженер по искусственному интеллекту Microsoft Шейн Джонс (Shane Jones) обнаружил уязвимость в генераторе изображений OpenAI DALL-E 3, которая позволяет обходить защитные механизмы нейросети и генерировать недопустимый контент. Но в Microsoft и OpenAI отвергли факт наличия этой уязвимости и воспрепятствовали огласке проблемы.

Источник изображения: efes / pixabay.com

Инженер пояснил, что решил предать проблему огласке после того, как на прошлой неделе в соцсетях была опубликована серия сгенерированных ИИ фотореалистичных изображений известной исполнительницы Тейлор Свифт (Taylor Swift), имеющих деликатный характер. Инцидент вызвал возмущение в среде её поклонников, а Шейн Джонс призвал OpenAI изъять DALL-E 3 из открытого доступа. По одной из версий, создавшие эту серию изображений злоумышленники пользуются инструментом Microsoft Designer, частично основанным на этом ИИ-генераторе. Инженер также направил письмо двум сенаторам, одному члену Палаты представителей и генпрокурору штата Вашингтон, отметив, что «Microsoft знала об этих уязвимостях и возможностях злоупотреблений».

Джонс сообщил Microsoft об обнаруженной им проблеме ещё 1 декабря 2023 года, направив соответствующее обращение через внутреннюю систему компании. В тот же день он получил ответ от работающего с такими обращениями сотрудника, который отметил, что проблема не касается ни внутренней сети Microsoft, ни учётных записей клиентов компании, и порекомендовал направить своё обращение в OpenAI. Инженер направил его 9 декабря, представив подробную информацию об уязвимости, но так и не получил ответа. Джонс продолжил изучать проблему и «пришёл к выводу, что DALL-E 3 представляет угрозу общественной безопасности и должен быть изъят из общественного доступа, пока OpenAI не сможет устранить связанные с этой моделью риски».

Источник изображения: ilgmyzin / unsplash.com

Две недели спустя, 14 декабря, инженер перевёл общение в публичную плоскость, разместив на своей странице в LinkedIn публикацию с призывом отозвать DALL-E 3 с рынка. Он уведомил об этом руководство компании, и с ним быстро связался его непосредственный начальник — он заявил, что юридический отдел Microsoft требует немедленно удалить публикацию, а обоснования своего требования он предоставит позже. Джонс удалил публикацию, но никаких сообщений от юристов Microsoft так и не получил. В итоге он 30 января был вынужден направить письмо властям.

OpenAI отреагировала только 30 января, заявив, что она изучила обращение инженера сразу после того, как оно поступило, и описанный им метод якобы не позволяет обходить средств безопасности. «Безопасность является нашим приоритетом, и мы применяем многосторонний подход. В основополагающей модели DALL-E 3 мы разработали фильтр наиболее откровенного контента из её обучающих данных, включая изображения сексуального характера и насилия, разработали надёжные классификаторы изображений, не позволяющие модели создавать пагубные картинки. Мы также внедрили дополнительные меры безопасности для наших продуктов, ChatGPT и DALL-E API, включая отклонение запросов, содержащих имя публичного деятеля. Мы выявляем и отклоняем изображения, которые нарушают нашу политику, и фильтруем все созданные изображения, прежде чем они показываются пользователю. Для усиления наших мер безопасности и для проверки на злоупотребления мы привлекаем команду сторонних экспертов», — заверили в OpenAI.

OpenAI откроет раздел для детей в своём интернет-магазине ИИ-чат-ботов на основе ChatGPT. В рамках сотрудничества с организацией Common Sense Media, занимающейся оценкой средств массовой информации на предмет их пригодности для младшей аудитории, OpenAI нацелит свои усилия на минимизацию рисков, связанных с использованием ИИ подрастающим поколением.

Источник изображения: Alexandra_Koch / Pixabay

Совместные планы компаний включают разработку руководств и образовательных материалов, ориентированных на молодёжь, их родителей и учителей. Важным аспектом является курирование коллекции семейных версий GPT в онлайн-магазине OpenAI, основываясь на рейтингах Common Sense Media, что значительно упростит выбор подходящих продуктов для детской аудитории.

«Вместе Common Sense Media и OpenAI будут работать над тем, чтобы ИИ оказывал положительное влияние на всех подростков и семьи. Наши руководства и материалы будут направлены на обучение семей и педагогов безопасному и ответственному использованию ChatGPT, чтобы мы все вместе могли избежать любых нежелательных последствий этой новой технологии», — заявил Джеймс Стейер (James Steyer), основатель и генеральный директор Common Sense Media.

Эта инициатива была объявлена в ходе саммита Common Sense Media по вопросам детей и семьи. В рамках мероприятия Сэм Альтман (Sam Altman), генеральный директор OpenAI, выразил уверенность в положительном влиянии ИИ на обучение детей и важности интеграции таких технологий в образовательный процесс.

«Люди — это пользователи инструментов, и нам лучше научить их пользоваться теми инструментами, которые появятся в мире. Не обучать людей их использованию было бы ошибкой», — заявил он. Альтман также подчеркнул, что благодаря ИИ старшеклассники в будущем смогут достигать высот в областях, требующих абстрактного мышления, опережая своих предшественников.

После многомесячного расследования, проведённого итальянским органом по защите данных DPA (Data Protection Authority) в отношении ИИ-чат-бота ChatGPT, компанию OpenAI обвинили в нарушении законов о конфиденциальности ЕС. Подтверждённые нарушения в обращении с персональными данными могут повлечь за собой штрафы на сумму до €20 млн, или до 4 % годового оборота. У OpenAI есть 30 дней, чтобы ответить на обвинения.

Источник изображений: Pixabay

Итальянские власти выразили обеспокоенность по поводу соблюдения OpenAI Общего регламента защиты данных (GDPR) в прошлом году, что привело к временной приостановке работы чат-бота на европейском рынке. DPA Италии 30 марта в так называемом «реестре мер», подчеркнул отсутствие подходящей правовой основы для сбора и обработки персональных данных с целью обучения алгоритмов, лежащих в основе ChatGPT, склонность инструмента ИИ к «галлюцинациям» и потенциальные проблемы с безопасностью детей. Власти обвинили OpenAI в нарушении статей 5, 6, 8, 13 и 25 GDPR.

DPA располагают полномочиями требовать внесения изменений в способы обработки данных, чтобы прекратить нарушения конфиденциальности граждан ЕС. Таким образом, регуляторы могут заставить OpenAI изменить свой подход к обработке персональных данных или вынудить компанию прекратить предлагать свои услуги в странах Евросоюза.

Весной 2023 года OpenAI смогла относительно быстро возобновить функционирование ChatGPT в Италии после того, как устранила ряд нарушений, указанных DPA. Однако итальянские власти продолжили расследование и пришли к предварительным выводам, что инструмент ИИ от OpenAI нарушает законодательство ЕС. Итальянские власти пока не опубликовали список подтверждённых нарушений ChatGPT, но главной претензией к OpenAI, скорее всего, станет сам принцип обработки персональных данных для обучения моделей ИИ.

ChatGPT был разработан с использованием массы данных, извлечённых из общедоступного интернета — информации, которая включает личные данные отдельных лиц. А проблема, с которой OpenAI сталкивается в ЕС, заключается в том, что для обработки данных жителей ЕС требуется действительная правовая основа. GDPR перечисляет шесть возможных правовых оснований, большинство из которых просто не имеют отношения к данному контексту. В апреле прошлого года DPA Италии оставил для OpenAI только две законные возможности для обучения моделей ИИ: «подтверждённое согласие» или «законные интересы».

Учитывая, что OpenAI никогда и не пыталась получить согласие миллионов (а, возможно, миллиардов) пользователей интернета, чью информацию она собирала и обрабатывала для построения моделей ИИ, любая попытка заявить о наличии разрешения от европейцев на обработку их персональных данных обречена на провал. Поэтому у OpenAI осталась лишь возможность опираться на утверждение о «законных интересах». Однако эта основа также предусматривает право владельцев данных выдвигать возражения и требовать прекращения обработки своей персональной информации.

Источник изображения: OpenAI

Теоретически, каждый житель ЕС имеет право потребовать от OpenAI изъять и уничтожить незаконно обученные модели и переобучить новые модели без использования его данных. Но даже если предположить возможность идентификации всех незаконно обработанных данных, подобную процедуру предстоит произвести для каждого возражающего гражданина ЕС, что практически невозможно реализовать на практике.

Существует и более широкий вопрос: признает ли в конце концов DPA, что «законные интересы» вообще являются действительной правовой основой в этом контексте. Такое решение регулятора выглядит маловероятным. Ведь обработчики данных должны сбалансировать свои собственные интересы с правами и свободами людей, чьи данные обрабатываются, оценить возможность причинения им неоправданного вреда, а также учесть, ожидали ли люди такого использования их данных.

Примечательно, что в подобной ситуации Верховный суд ЕС ранее признал «законные интересы» неподходящим основанием для Meta✴ при отслеживании и профилировании пользователей в целях таргетирования рекламы в своих социальных сетях. Таким образом, существует негативный судебный прецедент для OpenAI, стремящейся оправдать обработку данных людей в огромных масштабах для создания коммерческого генеративного ИИ-бизнеса — особенно когда рассматриваемые инструменты создают всевозможные новые риски для названных лиц (дезинформация, клевета, кража личных данных и мошенничество лишь некоторые из них). OpenAI также находится под пристальным вниманием к соблюдению GDPR в Польше, где начато отдельное расследование по этому поводу.

OpenAI пытается нивелировать потенциальные регуляторные риски в ЕС, создавая отдельную организацию в Ирландии, которая в будущем должна стать поставщиком услуг ИИ для пользователей из ЕС. OpenAI надеется получить статус так называемого «основного учреждения» в Ирландии, что позволит ей использовать оценку соответствия требованиям GDPR только от Ирландской комиссии по защите данных и действовать в Евросоюзе через механизм «единого окна» регулирования, избежав надзора органов DPA каждой страны-члена ЕС.

Однако пока OpenAI ещё не получила этот статус, поэтому ChatGPT все ещё может столкнуться с расследованиями со стороны DPA в других странах ЕС. И даже получение статуса «основного учреждения» в Ирландии не прекратит уже открытое расследование и правоприменение в Италии.

DPA Италии сообщает, что органы по защите данных стремятся координировать надзор за ChatGPT, создав рабочую группу при Европейском совете по защите данных. Эти усилия могут, в конечном итоге, привести к более согласованным результатам в рамках отдельных расследований в отношении OpenAI. Тем не менее, на данный момент DPA каждого члена ЕС остаются независимыми и компетентными принимать решения на своих рынках самостоятельно.

Компания OpenAI обновила большую языковую модель GPT-4 Turbo для более тщательного выполнения таких задач, как генерация программного кода, а также «уменьшения случаев "лени", когда модель отказывается выполнять задачу». Что именно было обновлено, разработчики не уточнили.

Источник изображения: Growtika / unsplash.com

Не так давно часть пользователей ChatGPT обратила внимание на то, что чат-бот зачастую попросту отказывается выполнять поставленную задачу, что, вероятно, было связано с длительным отсутствием обновлений языковой модели. Нынешнее обновление распространяется только на самую мощную нейросеть компании GPT-4 Turbo, которая была обучена на данных до апреля 2023 года и в настоящее время доступна только в предварительной версии. Пользователи более широко распространённой модели GPT-4, которая обучена на данных до сентября 2021 года, всё ещё могут сталкиваться с проблемами, когда алгоритм отказывается выполнять задачу.

В сообщении OpenAI сказано, что более 70 % пользователей GPT-4, которые используют для взаимодействия с моделью API компании, перешли на GPT-4 Turbo из-за того, что алгоритм обучался на более свежих данных. Компания также планирует в ближайшие месяцы продолжить выпуск обновлений для GPT-4 Turbo, что позволит использовать больше мультимодальных подсказок при взаимодействии с алгоритмом. В дополнение к этому разработчики запустили две меньшие ИИ-модели, которые в компании называют моделями «вложения». Речь идёт о моделях text-embedding-3-small и text-embedding-3-large, которые уже доступны пользователям.

Генеральный директор OpenAI Сэм Альтман (Sam Altman), как считается, ведёт переговоры с инвесторами на Ближнем Востоке с целью поиска средств для финансирования проекта по выпуску ускорителей систем искусственного интеллекта собственной разработки. На этой неделе, по слухам, он отправился в Южную Корею для переговоров с SK hynix и Samsung.

Источник изображения: OpenAI

Об этом утром сообщило агентство Reuters со ссылкой на собственные источники. Если SK hynix является производителем памяти, который уже давно сотрудничает с NVIDIA в сфере поставки востребованных последней микросхем памяти типа HBM3, то Samsung Electronics одновременно способна и выпускать чипы сторонней разработки для своих клиентов. В этом контексте не совсем понятно, какую роль OpenAI отводит компании Samsung в рамках вероятного партнёрства.

В любом случае, сейчас спрос на микросхемы памяти типа HBM3 позволяет производителям неплохо себя чувствовать, в прошлом квартале SK hynix увеличила объёмы выпуска таких микросхем более чем в пять раз, а Samsung Electronics в ближайшее время собирается кратно увеличить инвестиции в производство подобной памяти. Создание современных ускорителей вычислений, способных стать альтернативной решениям NVIDIA, наверняка не обойдётся без участия SK hynix, Samsung или Micron, и руководство OpenAI это прекрасно понимает.

Генеральный директор OpenAI Сэм Альтман (Sam Altman) ведет переговоры с инвесторами на Ближнем Востоке, а также с контрактными производителями чипов для запуска производства ИИ-ускорителей собственной разработки. Цель проекта заключается в удовлетворении растущих потребностей OpenAI в чипах для обучения и работы ИИ, а также в снижении зависимости от NVIDIA.

Источник изображения: franganillo / Pixabay

В целях реализации этого амбициозного проекта, Альтман уже переговорил с ведущими инвесторами из Объединённых Арабских Эмиратов (ОАЭ), включая шейха Тахнуна бин Заида Аль Нахайяна (Sheikh Tahnoon bin Zayed Al Nahyan), одного из наиболее влиятельных и богатых людей Абу-Даби. Обсуждаемый проект включает в себя разработку и производство микросхем, необходимых для обучения и работы ИИ-моделей. По данным источников, Альтман также провёл переговоры с TSMC о сотрудничестве в производстве чипов. В качестве резервных контрактных производителей выступают Samsung и Intel.

Шейх Тахнун, являясь младшим братом главы ОАЭ и его советником по государственной безопасности, контролирует стремительно развивающуюся бизнес-империю и председательствует в Инвестиционном управлении Абу-Даби (ADIA), чьи активы оцениваются примерно в $800 млрд, и в Суверенном фонде благосостояния Абу-Даби (ADQ). Кроме того, он возглавляет International Holding Company, крупнейшую публичную компанию ОАЭ, и G42, амбициозную компанию в сфере ИИ, уже работающую с Microsoft и OpenAI.

Поиск инвестиций на Востоке неудивителен, ведь разработка и производство микросхем является чрезвычайно затратным процессом, требующим значительных инвестиций. Хотя точная сумма инвестиций, которую Альтман намерен привлечь, не раскрывается, предполагается, что для конкуренции с NVIDIA, чья рыночная капитализация уже приближается к $1,5 трлн, ему потребуются миллиарды долларов.

Сектор самих систем ИИ и чипов для ИИ за последний год стал крайне актуальным, причём графические процессоры (GPU) NVIDIA являются ключевым элементом устойчивого развития этой отрасли и очень востребованы среди технологических компаний как в Кремниевой долине, так и в других странах.

Разработчики ИИ, такие как OpenAI, для обучения и работы своих больших языковых ИИ-моделей, используют тысячи ускорителей вычислений. В настоящее время OpenAI работает над созданием новой версии своей ИИ-модели, которая, предположительно, будет представлена в этом году и станет важным обновлением её нынешней модели GPT-4. Каждое новое обновление нейросети усиливает зависимость OpenAI от производителей чипов, особенно от NVIDIA, которая является крупнейшим поставщиком чипов для ИИ.

Именно эти обстоятельства и побудили Сэма Альтмана найти инвесторов для разработки и выпуска собственных микросхем. Однако остаётся неясным, будет ли новое предприятие функционировать как дочерняя структура OpenAI или как отдельная компания. Однако, согласно информации от осведомлённых источников, основным клиентом нового чипмейкера станет сама OpenAI.

Генеральный директор OpenAI Сэм Альтман (Sam Altman) ведёт переговоры о привлечении многомиллиардных инвестиций для создания международной сети по производству ИИ-чипов. Целью этих инвестиций является преодоление ключевых проблем в области разработки ИИ, таких как нехватка высокопроизводительных процессоров для ИИ-моделей, включая ChatGPT и DALL-E. Этот амбициозный проект предполагает сотрудничество с ведущими мировыми производителями чипов, имена которых пока держатся в тайне.

Источник изображения: Frank_Reppold / Pixabay

Важность разработки и производства мощных чипов для ИИ-моделей, вроде ChatGPT или DALL-E, способных отвечать на запросы и создавать изображения, становится очевидной в контексте текущих трендов в индустрии. NVIDIA, чья капитализация в прошлом году впервые достигла отметки в $1 трлн, обладает фактической монополией на рынке, благодаря своим популярным графическим процессорам H100. Эти процессоры используются в обучении передовых ИИ-моделей, таких как GPT-4, Gemini, Llama 2.

С учётом усиления конкуренции за производство высокопроизводительных ИИ-чипов, важно заранее обеспечить необходимые производственные мощности. В этом контексте Альтман и его команда ведут переговоры с инвестиционными гигантами, такими как SoftBank Group и находящейся в Абу-Даби компанией G42, о финансировании этого масштабного проекта.

Новый ИИ-процессор Microsoft Azure Maia 100 (источник изображения: Microsoft)

Не только OpenAI, но и другие крупные игроки ИТ-индустрии, включая Microsoft, Amazon и Google, активно работают над созданием собственных ИИ-чипов. Microsoft, являющаяся инвестором OpenAI, в ноябре прошлого года объявила о разработке первого собственного ИИ-чипа для обучения ИИ-моделей. Следом за ней компания Amazon представила обновлённую версию своего чипа Trainium. Команда Google по разработке чипов использует ИИ DeepMind на серверах Google Cloud для проектирования своих процессоров ИИ, в том числе Tensor Processing Units (TPU).

Компании AWS, Azure и Google также активно используют процессоры H100 компании NVIDIA. На этой неделе генеральный директор Meta✴ Марк Цукерберг (Mark Zuckerberg) в интервью изданию The Verge рассказал журналисту Алексу Хиту (Alex Heath), что к концу года Meta✴ планирует владеть более чем 340 000 процессорами H100 в рамках стратегии разработки сильного ИИ (Artificial General Intelligence — AGI).

NVIDIA GH200 Grace Hopper Superchip (источник изображения: NVIDIA)

На фоне стремительного роста капитализации, NVIDIA не остаётся в стороне от гонки за инновациями и уже анонсировала свои новые чипы GH200 Grace Hopper, что укрепит её и без того доминирующие позиции на рынке. Однако AMD, Qualcomm и Intel также не отстают, выпуская свои процессоры, предназначенные для поддержки ИИ-моделей на ноутбуках, смартфонах и других устройствах.