Опрос
|
реклама
Быстрый переход
Вышла крупнейшая ИИ-модель Llama 3.1 от Meta✴ — её самая большая версия имеет 405 млрд параметров
24.07.2024 [00:56],
Анжелла Марина
Компания Meta✴ объявила о выпуске крупнейшей на сегодня открытой языковой модели искусственного интеллекта Llama 3.1, насчитывающей более 400 миллиардов различных параметров. По заявлению генерального директора Meta✴ Марка Цукерберга (Mark Zuckerberg) модель может превзойти GPT-4 по производительности уже в ближайшее время, а к концу года станет самым популярным ИИ-помощником в мире. 
Источник изображения: Reuters Как сообщает издание The Verge, разработка новой модели потребовала больших инвестиций. Llama 3.1 значительно сложнее, чем более ранние версии, выпущенные всего несколько месяцев назад. Старшая версия ИИ-модели имеет 405 миллиардов параметров и была обучена с использованием более 16 000 ускорителей H100 от Nvidia. Meta✴ не раскрывает вложенных средств в её разработку, но, исходя из стоимости одних только чипов Nvidia, можно с уверенностью предположить, что речь идёт о сотнях миллионов долларов. Несмотря на высокую стоимость разработки, Meta✴ решила сделать код модели открытым (Open Source). В письме, опубликованном в официальном блоге компании, Цукерберг утверждает, что ИИ-модели с открытым исходным кодом обгонят проприетарные модели, подобно тому, как Linux стал операционной системой с открытым исходным кодом, которая сегодня управляет большинством телефонов, серверов и гаджетов. Одним из ключевых обновлений стало расширение географии доступности сервиса Meta✴ AI, который построен на Llama. Теперь ассистент доступен в 22 странах, включая Аргентину, Чили, Колумбию, Эквадор, Мексику, Перу и Камерун. Кроме того, если раньше Meta✴ AI поддерживала только английский язык, то сейчас добавлены французский, немецкий, хинди, итальянский, португальский и испанский. Однако стоит отметить, что некоторые из новых функций пока доступны только в определённых регионах или для конкретных языков. 
Источник изображения: Meta✴ Также появилась интересная функция Imagine me (представь меня), которая использует генеративную ИИ-модель Imagine Yourself, сообщает TechCrunch. Эта модель способна создавать изображения на основе фотографии пользователя и текстового запроса в требуемом контексте. Например, «Представь меня сёрфингистом» или «Представь меня на пляже». После чего искусственный интеллект сгенерирует соответствующее изображение. Функция доступна в бета-версии и активируется вводом фразы «Imagine me». 
Источник изображения: Meta✴ В ближайшее время Meta✴ AI также получит новые инструменты редактирования изображений. Пользователи смогут добавлять, удалять и изменять объекты на изображениях с помощью текстовых запросов. А со следующего месяца разработчики обещают внедрить кнопку «Edit with AI» (редактирование с помощью ИИ) для доступа к дополнительным опциям тонкой настройки. Позднее появятся новые ярлыки для быстрой публикации изображений, созданных ИИ, в лентах, историях и комментариях в приложениях Meta✴. Напомним, запуск Meta✴ AI состоялся в сентябре 2023 года. Сервис основан на большой языковой модели Llama 2 и предоставляет пользователям возможность получать информацию, генерировать текст, делать переводы на различные языки и выполнять другие задачи с помощью искусственного интеллекта. Amazon вот-вот выпустит платную Alexa с ИИ — она должна компенсировать убытки от устройств Echo
23.07.2024 [19:45],
Сергей Сурабекянц
В апреле 2024 года генеральный директор Amazon Энди Джесси (Andy Jassy) пообещал акционерам «более умную и способную Alexa». План Amazon по запуску платной версии Alexa является попыткой компенсировать убытки в размере $25 млрд, которые её бизнес по производству устройств понёс в период с 2017 по 2021 год. Продажи Alexa с ИИ могут начаться в ближайшее время, месячная подписка будут стоить $10. По слухам, разработчики сомневаются в успехе обновлённой Alexa. 
Источник изображения: unsplash.com Согласно инсайдерской информации, подразделение приближается к крайнему сроку запуска подписки, хотя «технологии ещё нет». Впервые о планах Amazon взимать плату за улучшенную версию Alexa было объявлено в прошлом году. Но компания, как сообщается, сильно отстаёт — в прошлом месяце в отчёте Fortune говорилось, что Alexa даже близко не подошла к «выполнению миссии Amazon — стать лучшим личным помощником в мире», поскольку команда сталкивается с техническими и организационными проблемами. Сервис Alexa — любимый проект основателя Amazon Джеффа Безоса (Jeff Bezos), который придумал эту технологию, имитируя вымышленный голосовой компьютер из телевизионного сериала «Звёздный путь». Доступ к Alexa осуществляется через телевизоры Amazon и умные колонки Echo. Alexa в основном используется в качестве будильника, прогноза погоды, для воспроизведения музыки и ответов на простые вопросы. Надежды Amazon на увеличение продаж в сфере электронной коммерции с помощью этого сервиса не оправдались. Предполагается, что новая версия Alexa будет дополнена генеративными функциями ИИ, которые позволят ей выполнять несколько задач за одну подсказку и создавать последовательности действий. «Мы уже интегрировали генеративный ИИ в различные компоненты Alexa и усердно работаем над их развёртыванием более чем на полумиллиарде устройств с поддержкой Alexa, установленных в домах по всему миру, чтобы обеспечить ещё более проактивную, персональную и надёжную помощь для наших клиентов», — заявил представитель Amazon. Сотрудники компании сомневаются, что клиенты захотят платить за подписку на Alexa с ИИ сверх оплаты членства Amazon Prime в размере $139 в год. Поскольку базовые версии ИИ-помощников, такие как ChatGPT, Google Gemini, а вскоре и Siri, не требуют никаких затрат в использовании, Amazon может столкнуться с трудностями взимания платы за Alexa. Для Amazon крайне важно идти в ногу с конкурентами в области генеративного ИИ, поскольку Google, Microsoft и OpenAI вырвались далеко вперёд благодаря чат-ботам, мгновенно отвечающим на естественном языке на сложные вопросы. Осведомлённые источники утверждают, что Amazon страдает от «неоднократных фальстартов» в разработке, проблем с галлюцинациями ИИ и плохого морального состояния сотрудников в подразделении. Adobe добавила больше ИИ-функций в Illustrator и Photoshop
23.07.2024 [18:24],
Сергей Сурабекянц
Adobe объявила о расширении функциональных возможностей Illustrator и Photoshop и включении в состав программных решений новых инструментов на базе искусственного интеллекта. В Illustrator появилась генеративная векторная заливка, а Photoshop получил новые кисти и инструменты для работы с текстом. Компания утверждает, что новые функции помогут «ускорить повседневные творческие рабочие процессы и предоставить пользователям больше контроля». 
Источник изображений: Adobe Adobe Illustrator получил генеративную заливку фигур (Generative Shape Fill), которая позволяет пользователям применять векторную графику, вводя текстовые подсказки на контекстной панели задач. Пользователи могут использовать различные элементы того же документа в качестве основы для заполнения новой фигуры. Все, что создано с помощью нового инструмента, изначально векторизовано, что даёт неограниченные возможности редактирования и масштабирования. Ещё одна интересная новая функция Illustrator — Mockup, помогающая визуализировать конечный результат размещения иллюстрации на реальном объекте, например, на предмете одежды или упаковке. Illustrator анализирует объект и применяет к нему иллюстрацию, подбирая правильные размеры и перспективы. Обновление графического редактора предлагает и другие новые функции, такие как возможность обнаружения шрифтов в векторных и растровых изображениях и их редактирование или замену. А с помощью инструмента «Текст в шаблон» (Text to Pattern) можно быстро создавать редактируемые фоны для проектов. Photoshop также получил новые функции, такие как «Кисть выделения» (Selection Brush Tool) и «Корректирующая кисть» (Adjustment Brush Tool), которые помогут в рабочих процессах, содержащих повторяющиеся задачи. Также внесены улучшения в инструмент «Текст» и контекстную панель задач, а Adobe Firefly обновлена до последней версии.  Adobe постоянно добавляет в свои приложения множество функций на основе искусственного интеллекта, и похоже, не собирается останавливаться. Инструменты на базе ИИ предполагают подключение к серверам Adobe и доступны только по подписке. Intel выпустила AI Playground — менеджер генеративного ИИ для видеокарт Arc
23.07.2024 [14:03],
Павел Котов
Intel выпустила первую версию AI Playground — находящегося в активной разработке инструмента для владельцев графических процессоров Arc. Бесплатное приложение с открытым исходным кодом под Windows позволяет генерировать изображения и текст, используя модели искусственного интеллекта с открытыми весами. 
Источник изображения: game.intel.com AI Playground предлагает как встроенные функции, так и возможности ручной настройки, что важно при работе с задачами для генеративного ИИ. Существует множество ИИ-инструментов, которые могу работать на оборудовании Intel, таких как Automatic1111 и LM Studio, но AI Playground разработан специально для дискретной, а в перспективе и интегрированной графики Arc. Инструмент отличается простотой в управлении — опции сопровождаются описаниями, которые понятны даже неопытным в области ИИ пользователям. Он позволяет легко загружать модели, и Intel предлагает видеоруководство по этому процессу. Пока говорится о поддержке Stable Diffusion 1.5 и SDXL, но едва ли есть препятствия для загрузки других моделей. Приложение занимает 700 Мбайт, но при добавлении новых моделей ему потребуется значительно больше пространства. Intel пообещала, что будут поддерживаться процессоры Core Ultra-H (видимо, имеются в виду Core Ultra 100H) со встроенной графикой Arc (Alchemist), а некоторое время спустя к ним, вероятно, присоединятся Core Ultra 200V с архитектурой Xe2-LPG, но это пока не подтверждено. Nvidia пыталась выбить у TSMC выделенную линию по 3D-упаковке ИИ-чипов, но не вышло
23.07.2024 [12:08],
Алексей Разин
В плане своей способности поставлять клиентам ускорители вычислений Nvidia зависит от TSMC не только с точки зрения обработки кремниевых пластин, но и на этапе компоновки чипов с использованием уникального метода пространственной упаковки CoWoS. Попытки руководства первой из компаний получить для этих нужд выделенные производственные мощности TSMC не увенчались успехом, если верить слухам. 
Источник изображения: Nvidia Данную информацию публикует ресурс Mirror Media, ссылаясь на подробности о программе визита основателя Nvidia Дженсена Хуанга (Jensen Huang) на Тайвань в июне этого года. По данным источников, тогда у него состоялась встреча не только с отошедшим от дел основателем TSMC Моррисом Чаном (Morris Chang), но и действующим руководителем компании Си-Си Вэем (C.C. Wei). Глава Nvidia в тот момент, если верить слухам, попросил у TSMC выделить под нужды его компании отдельную производственную линию, на которой будут упаковываться ИИ-чипы этой марки, но получил отказ от представителей тайваньского подрядчика. Исход переговоров создал некоторую напряжённость в отношениях между компаниями, как отмечают источники, но нынешний председатель совета директоров Си-Си Вэй сделал всё возможное, чтобы загладить последствия. На недавней квартальной конференции руководство TSMC признало, что компания не сможет удовлетворить спрос на выпуск компонентов для систем искусственного интеллекта как минимум до 2026 года. При этом тайваньский производитель до сих пор не может найти баланс спроса и предложения, но старается рационально определять размер необходимых капитальных затрат. По всей видимости, вложения в производственную линию для упаковки чипов Nvidia на данном этапе кажутся руководству TSMC нерациональными. Тем более, что норма прибыли в этой сфере услуг приближается к средней по компании, не обеспечивая каких-то впечатляющих преимуществ. Как отмечается, отказ TSMC был мотивирован возможными последствиями для отношений компании с другими клиентами, которые также захотели бы добиться определённых привилегий. Сохраняя равные для всех клиентов условия, TSMC может обеспечить более предсказуемую ситуацию с масштабированием производственных мощностей. В прошлом, как отмечают знакомые с практикой дел TSMC источники, эта компания предоставляла крупным клиентам определённые привилегии. Например, Apple в своё время попросила предоставить ей выделенные линии по выпуску чипов, и TSMC пошла на это, но в тот период тайваньский производитель сильно зависел от заказов Apple и не мог пренебрегать такой возможностью оптимальным образом загрузить свой конвейер. В случае с Nvidia ситуация заметно отличается. Как ожидается, TSMC не сможет покрыть потребности рынка в мощностях по упаковке чипов по методу CoWoS даже к концу следующего года, поскольку спрос будет расти опережающими темпами. Подобное положение на рынке, близкое к монопольному, позволяет TSMC более жёстко отстаивать свои интересы в переговорах с заказчиками. Это заметно даже по высказываниям Си-Си Вэя, который недавно признался, что хотел бы брать с той же Nvidia больше денег за услуги TSMC. Только одна из четырёх задач, решаемых с помощью ИИ, оправдает себя экономически через 10 лет
22.07.2024 [17:34],
Алексей Разин
Бум искусственного интеллекта начался, по меркам истории человечества, совсем недавно, и многие эксперты уже сейчас сомневаются, насколько полезными окажутся соответствующие технологии в их нынешнем виде. Один из американских учёных утверждает, что за ближайшие десять лет инвестиции в различные технологии искусственного интеллекта оправдают себя только в одном из четырёх случаев. 
Источник изображения: pikisuperstar / freepik.com По крайней мере, как выразился в ходе подкаста Goldman Sachs профессор Массачусетского технологического института Дарон Аджемоглу (Daron Acemoglu), в экономическом плане не более четверти всех автоматизируемых с помощью ИИ прикладных задач в перспективе десяти лет позволят оправдать вложенные в них средства. В обозримом будущем «возникнут очень серьёзные ограничения с точки зрения того, куда нас приведёт текущая архитектура больших языковых моделей (LLM)». При этом, по словам профессора, скорость совершенствования систем искусственного интеллекта не будет определяться исключительно темпами наращивания вычислительных мощностей за счёт установки в центрах обработки данных большего количества ускорителей. Будут расти требования к качеству данных, и пока сложно понять, за счёт чего удастся улучшить это качество. Эксперты Goldman Sachs на основе этих рассуждений строят прогноз, согласно которому ИИ в ближайшие десять лет затронет только 5 % всей экономической активности в США, производительность труда в итоге вырастет только на 0,5 %, а рост ВВП благодаря этому фактору не превысит 0,9 % по итогам следующих десяти лет. Подобный экономический эффект сложно назвать убедительным, и такой прогноз наверняка заставит инвесторов задуматься о более рациональном расходовании средств на освоение технологий искусственного интеллекта. «Алиса» прошла дообучение и теперь лучше понимает запросы пользователей с особенностями речи
22.07.2024 [15:13],
Владимир Мироненко
Пользователям с особенностями речи, например, с заиканием, ДЦП, последствиями инсульта или травмы, теперь будет проще общаться с голосовым помощником «Алиса», поскольку после дообучения нейросети он стал лучше распознавать их запросы, пишет «Яндекс». 
Источник изображения: «Яндекс» В процессе дообучения использовались более 900 часов аудиоматериалов, содержащих свыше 855 тысяч скороговорок и голосовых фрагментов, которые записали люди с особенностями речи. В проекте приняли участие некоммерческие организации «Центр лечебной педагогики», «Живи сейчас», «Жизненный путь», «Весна», «Перспектива», «Лучшие друзья» и другие, а также специалисты-дефектологи из МГПУ, которые помогли классифицировать контент по типам нарушений. Всего в проекте участвовали более 300 человек. Благодаря этому разрыв в точности распознавания «Алисой» обычной речи и с искажениями сократился в среднем на 20 %. Качество распознавания оценивали по метрике Word Error Rate (WER), которая позволяет определить долю неправильно понятых слов. Компания сообщила, что это далеко не первый проект по адаптации виртуального ассистента для людей с особенностями здоровья. Недавно она представила в Москве инклюзивные навыки «Алисы», разработанные студентами. А мобильное приложение «Дом с Алисой» теперь поддерживает воспроизведение вслух текста с экрана, упрощая взаимодействие с интерфейсом пользователям с нарушениями зрения. Для таких пользователей адаптировано 15 сервисов и продуктов «Яндекса», включая «Поиск», «Браузер», «Яндекс Музыка», «Букмейт» и т.д. Также в приложении Go имеются специальные возможности для людей с особенностями здоровья, включая такие функции, как «Общаюсь только текстом», «Не говорю, но слышу», «Перевозка собаки-проводника», «Буду на инвалидном кресле» или «Помогите найти машину». «Т-Банк» открыл доступ к русскоязычной ИИ-модели T-lite с 8 млрд параметров
22.07.2024 [13:55],
Владимир Мироненко
«Т-Банк» открыл доступ к русскоязычной большой языковой модели T-lite с 8 млрд параметров, созданной Центром искусственного интеллекта финансовой организации (AI-центр). Как было объявлено на первой конференции «Т-Банка» по машинному обучению Turbo ML Conf, T-lite показала в индустриальных и внутренних бенчмарках лучшие результаты в решении бизнес-задач на русском языке среди открытых моделей с 7–8 млрд параметров. 
Источник изображений: Т-Банк В частности, результаты T-lite были лучше, чем у зарубежных llama3-8b-instruct и chat-gpt 3.5. При этом на создание T-lite потребовалось всего 3 % вычислительных ресурсов, которые обычно необходимы для такого типа моделей, отметил «Т-Банк».  С увеличением количества параметров ИИ-модели растут её возможности для выполнения сложных заданий, но вместе с тем ухудшается экономическая эффективность модели. В свою очередь, T-lite после дообучения для выполнения конкретных бизнес-задач в области обработки естественного языка (NLP) предоставляет ответы, сопоставимые по качеству с проприетарными моделями размером от 20 млрд параметров, но при этом значительно дешевле в эксплуатации.  T-lite входит в семейство собственных специализированных языковых моделей «Т-Банка» Gen-T, способных обучаться для решения конкретных узкоспециализированных задач. В отличие от универсальных моделей, таких как ChatGPT, модели семейства Gen-T ориентированы на использование в конкретных областях с максимальной адаптацией под нужды пользователя. Proton выпустила ИИ-помощника для электронной почты, который работает на компьютере пользователя
20.07.2024 [13:00],
Анжелла Марина
Швейцарская компания Proton, известная своими приложениями, такими как Proton Mail и Proton VPN, ориентированными на конфиденциальность, запустила новый инструмент на основе искусственного интеллекта, который будет помогать пользователям в составлении электронных писем, перерабатывать их и проверять орфографию перед отправкой с помощью простых подсказок. 
Источник изображения: Proton Новый продукт Proton Scribe продолжает воспроизводить функциональность решений, появившихся у Google, отвечая на запуск AI Gemini в Gmail. Основанный на открытой модели языка Mistral 7B от французского стартапа Mistral, Proton Scribe обеспечивает максимальную безопасность данных пользователей. Как сообщает TechCrunch, инструмент можно устанавливать полностью на локальном уровне, что исключает передачу информации за пределы устройства. Компания также обещает, что ИИ не будет обучаться на пользовательских данных, что особенно важно для корпоративного использования. «Мы поняли, что независимо от того, разрабатывает ли Proton инструменты ИИ или нет, пользователи всё равно будут использовать искусственный интеллект, часто со значительными последствиями для конфиденциальности», — сказал основатель и генеральный директор Энди Йен (Andy Yen). «Вместо того, чтобы копировать свои сообщения в сторонние инструменты ИИ, которые часто имеют ужасные методы обеспечения конфиденциальности, было бы лучше встроить инструменты ИИ, ориентированные на конфиденциальность, непосредственно в Proton Mail». 
Источник изображения: Proton Интересно, что Proton Scribe также может работать непосредственно на серверах Proton, если пользователи, менее обеспокоенные безопасностью, выберут этот способ взаимодействия с приложением. Это позволит быстрее обрабатывать запросы, в зависимости от аппаратного обеспечения пользователя. При этом компания подчёркивает, что не ведёт никаких журналов и не передаёт данные третьим лицам. «На сервер передаётся только подсказка, введённая пользователем, и никакие данные не сохраняются после создания черновика электронного письма», — сообщил представитель компании изданию TechCrunch. Хотя Proton Scribe ограничен только электронной почтой, компания заявила, что может расширить инструмент и на другие свои продукты в будущем «в зависимости от спроса». Возможно, в дальнейшем в Scribe появится интеграция с недавно запущенным приложением для совместной работы с документами. Новый инструмент доступен уже сегодня для Proton Mail в веб-версии и десктопной версии. Компания подтвердила, что в будущем планирует добавить поддержку мобильных устройств. Что касается стоимости, то Proton Scribe в основном ориентирован на бизнес-пользователей и те, кто уже использует тарифные планы Mail Essentials, Mail Professional или Proton Business Suite, могут получить доступ к инструменту за дополнительные $2,99 в месяц. Пользователи устаревших и лимитированных тарифных планов, таких как Visionary или Lifetime, получат доступ к Proton Scribe бесплатно. OpenAI повысит безопасность своих ИИ-моделей с помощью «иерархии инструкций»
20.07.2024 [05:41],
Анжелла Марина
OpenAI разработала новый метод под названием «Иерархия инструкций» для повышения безопасности своих больших языковых моделей (LLM). Этот метод, впервые применённый в новой модели GPT-4o Mini, направлен на предотвращение нежелательного поведения ИИ, вызванного манипуляциями недобросовестных пользователей с помощью определённых команд. 
Источник изображения: Copilot Руководитель платформы API в OpenAI Оливье Годеман (Olivier Godement) объяснил, что «иерархия инструкций» позволит предотвращать опасные инъекции промтов с помощью скрытых подсказок, которые пользователи используют для обхода ограничений и изначальных установок модели, и блокировать атаки типа «игнорировать все предыдущие инструкции». Новый метод, как пишет The Verge, отдаёт приоритет исходным инструкциям разработчика, делая модель менее восприимчивой к попыткам конечных пользователей заставить её выполнять нежелательные действия. В случае конфликта между системными инструкциями и командами пользователя, модель будет отдавать наивысший приоритет именно системным инструкциям, отказываясь выполнять инъекции. Исследователи OpenAI считают, что в будущем будут разработаны и другие, более сложные средства защиты, особенно для агентных сценариев использования, при которых ИИ-агенты создаются разработчиками для собственных приложений. Учитывая, что OpenAI сталкивается с постоянными проблемами в области безопасности, новый метод, применённый к GPT-4o Mini, имеет большое значение для последующего подхода к разработке ИИ-моделей. OpenAI вела переговоры с Broadcom о разработке ИИ-ускорителя
19.07.2024 [04:50],
Алексей Разин
Амбиции руководства OpenAI в сфере разработки и производства собственных ускорителей для систем искусственного интеллекта не являются секретом, и накануне издание The Information сообщило, что компания вела переговоры о разработке соответствующего чипа с Broadcom. Акции последней на этом фоне успели вырасти в цене на 3 %. 
Источник изображения: Shutterstock Как отмечает источник, Broadcom была лишь одним из разработчиков, с которыми вела переговоры OpenAI. Среди вовлечённых в процесс оказались и выходцы из Google, имеющие опыт разработки процессоров семейства Tensor. Некоторых из них OpenAI успела нанять для реализации соответствующих собственных замыслов. Перед специалистами ставилась задача по разработке ускорителей серверного класса для систем искусственного интеллекта. Глава OpenAI Сэм Альтман (Sam Altman) не раз жаловался на нехватку аппаратной инфраструктуры для подобающего его планам развития систем искусственного интеллекта. Его компания могла бы оказать содействие партнёрам в строительстве не только центров обработки данных, но и предприятий по выпуску компонентов, а также электростанций. В составе Broadcom имеется подразделение, разрабатывающее чипы с учётом пожеланий конкретных заказчиков. Если бы проект OpenAI удалось реализовать, то процессор Broadcom начал выпускаться не ранее 2026 года в лучшем случае. Попутно руководству OpenAI пришлось вести переговоры с Samsung и SK hynix по поводу оснащения соответствующих ускорителей памятью типа HBM. Выпускать чип OpenAI планировала на мощностях компании TSMC, причём Альтман вёл с последней переговоры и об увеличении объёмов выпуска чипов Nvidia, которые OpenAI также активно использует. Google, Nvidia, Intel, OpenAI и другие IT-гиганты создали «Коалицию за безопасный искусственный интеллект»
18.07.2024 [22:56],
Николай Хижняк
Google, OpenAI, Microsoft, Amazon, Nvidia, Intel и другие крупные игроки рынка искусственного интеллекта объявили о создании «Коалиции за безопасный искусственный интеллект» (CoSAI). Инициатива направлена на решение проблемы «фрагментированности ландшафта безопасности ИИ» путём предоставления доступа к методологиям, платформам и инструментам с открытым исходным кодом. 
Источник изображения: oasis-open.org Какое именно влияние хочет оказать CoSAI на индустрию искусственного интеллекта — неизвестно. Вероятно, вопросы защиты конфиденциальной информации и дискриминационные проблемы ИИ станут одними из направлений работы этой организации. К инициативе CoSAI также присоединились компании IBM, PayPal, Cisco и Anthropic. CoSAI будет существовать в рамках «Организации по развитию стандартов структурированной информации» (OASIS), некоммерческой группы, которая способствует развитию открытых стандартов. CoSAI отмечает три основных направления деятельности: разработка эффективных практик обеспечения безопасности ИИ, решение общих проблем в области ИИ, а также безопасность приложений на базе искусственного интеллекта. «Мы используем ИИ уже много лет и видим какую пользу он может приносить. Но мы также признаём его возможности, которые могут быть интересы злоумышленникам. CoSAI призвана помочь малым и крупным организациям безопасно и ответственно интегрировать и использовать преимущества ИИ в своих экосистемах, одновременно снизив все потенциально связанные с этим риски», — говорится в заявлении Хизер Адкинс (Heather Adkins), вице-президента Google по безопасности. Microsoft создала ИИ, который облегчит работу с таблицами в Excel — он понимает запросы на естественном языке
18.07.2024 [17:51],
Павел Котов
Сотрудники, умеющие качественно работать с электронными таблицами Excel, ценятся достаточно высоко. Но исследователи Microsoft разработали решение, способное как минимум отчасти их заменить. Большая языковая модель SpreadsheetLLM предназначена для управления электронными таблицами при помощи команд естественным языком. 
Источник изображения: Rubaitul Azad / unsplash.com SpreadsheetLLM анализирует и интерпретирует данные в электронных таблицах при помощи ИИ, решая большинство связанных с ними задач — для этого производится сериализация данных, то есть включение в поток адресов, значений и форматов ячеек. Инструмент содержит компонент SheetCompressor, который сжимает электронные таблицы для их передачи модели ИИ. Он состоит из трёх модулей: первый анализирует структуру таблицы и отбрасывает нетабличное содержимое; второй преобразует данные в более эффективное представление; третий агрегирует данные. У SpreadsheetLLM есть некоторые ограничения. Она игнорирует цвета ячеек, а они могут иметь какое-то значение, и не осуществляет семантического сжатия для содержимого ячеек, выраженного естественным языком. Но и этого хватает, чтобы на 96 % сократить потребление токенов при запросе к ИИ, что означает экономию вычислительных ресурсов. В итоге пользователи без надлежащей технической подготовки могут отправлять к SpreadsheetLLM запросы естественным языком и добиваться поставленных задач. Но основная задача проекта — не заменить человека, а оказать ему помощь в финансах, бухгалтерском учёте и других областях, связанных с обработкой данных. Модель включает фреймворк Chain of Spreadsheet (CoS) для анализа содержимого нескольких таблиц. SpreadsheetLLM может работать со структурированными и неструктурированными данными электронных таблиц — исследователи указывают, что этот аспект способен уменьшить инциденты с «галлюцинациями» в ответах ИИ. Пока проект находится на стадии исследования, и к выходу в качестве коммерческого продукта он ещё не готов. Китайские цензоры привьют ИИ социалистические ценности
18.07.2024 [16:10],
Павел Котов
Китайские чиновники осуществляют тщательное тестирование разрабатываемых местными компаниями больших языковых моделей — передовых систем искусственного интеллекта — чтобы убедиться, что те «воплощают базовые социалистические ценности», сообщает Financial Times. 
Источник изображения: 文 邵 / pixabay.com Государственная канцелярия интернет-информации КНР (Cyberspace Administration of China, CAC) обязала крупные технологические компании и стартапы в области ИИ, в том числе ByteDance, Alibaba, Moonshot и 01.AI, принять участие в правительственном тестировании их моделей. Процедура включает в себя пакетный сбор ответов на целый ряд вопросов, многие из которых связаны с политическим курсом Китая и с главой государства Си Цзиньпином (Xi Jinping). Работа выполняется чиновниками в местных отделениях ведомства и также включает в себя проверку массивов данных, которые использовались при обучении моделей. Примерно двадцать лет назад в стране начал работать «Великий китайский брандмауэр», заблокировавший населению доступ к ресурсам с информацией, которую власти считают недопустимой, — теперь Пекин вводит самые жёсткие в мире меры регулирования ИИ и создаваемого им контента. Приводится пример китайского стартапа в области ИИ, чья большая языковая модель прошла экспертизу в ведомстве только со второго раза — причина отказа в первый раз была не до конца ясна, и разработчикам пришлось консультироваться с более удачливыми и понятливыми коллегами. Весь процесс занял несколько месяцев. Для разработчиков задача осложняется тем, что приходится использовать в обучении ИИ большой объём англоязычных материалов, которые в идеологическом плане сильно отличаются от контента на китайском. Фильтрация начинается с отсеивания проблемной информации из обучающих данных и создания базы данных требующих особого внимания слов. В феврале власти страны опубликовали руководство для компаний, работающих в области ИИ: в документе говорится о необходимости собрать базу из нескольких тысяч слов и вопросов, которые противоречат «базовым социалистическим ценностям» — это может быть «подстрекательство к подрыву государственной власти» или «подрыв национального единства». 
Источник изображения: Nicky / pixabay.com Пользователи китайских чат-ботов с ИИ уже ощутили результаты этой работы. Большинство систем отказывается отвечать на вопросы, например, о событиях на площади Тяньаньмэнь 4 июня 1989 года или о сходстве главы государства с Винни-Пухом — чат-боты Baidu Ernie и Alibaba Tongyi Qianwen делают это под различными благовидными предлогами. При этом Пекином был запущен альтернативный чат-бот, ответы которого опираются на работы Си Цзиньпина и другую официальную литературу, предоставленную канцелярией интернет-информации. Но одной только цензуры китайским чиновникам недостаточно — ИИ не следует уклоняться от разговора на любые политические темы. Согласно действующему стандарту, большая языковая модель не должна отклонять более 5 % вопросов. Разработчики же, пытаясь избежать проблем с властями, всё равно действуют радикально. «Во время тестирования [чиновниками модели] должны отвечать, но после выхода за ними никто не надзирает. Чтобы избежать возможных неприятностей, у некоторых крупных моделей введён полный запрет на темы, связанные с президентом Си», — рассказал сотрудник одной шанхайской компании. Создаются дополнительные механизмы для контроля ответов ИИ, принцип работы которых напоминает фильтры спама в системах электронной почты. А больше всех в идеологическом плане преуспела модель, разработанная компанией ByteDance (владеет TikTok), — исследователи Фуданьского университета присвоили ей высший рейтинг безопасности в 66,4 %. Для сравнения, OpenAI GPT-4o в том же тесте набрала 7,1 %. На недавней технической конференции Фан Биньсин (Fang Binxing), известный как создатель «Великого китайского брандмауэра», рассказал, что разрабатывает систему протоколов безопасности для больших языковых моделей, которая, как он надеется, будет повсеместно использоваться местными создателями ИИ. «Общедоступным крупным прогностическим моделям нужно больше, чем просто документация по безопасности — им нужен мониторинг безопасности в реальном времени», — пояснил он. Meta✴ закроет европейцам доступ к будущим ИИ-моделям
18.07.2024 [15:56],
Владимир Мироненко
Следующая мультимодальная ИИ-модель Meta✴, как и другие будущие модели, будут недоступны клиентам в Европейском Союзе из-за отсутствия ясности со стороны регулирующих органов, сообщила компания ресурсу Axios. 
Источник изображения: OpenClipart-Vectors/Pixabay «Мы выпустим мультимодальную модель Llama в ближайшие месяцы, но не в ЕС из-за непредсказуемого характера европейской нормативно-правовой среды», — указано в заявлении Meta✴, направленном Axios. В Meta✴ также сообщили, что европейские компании не смогут использовать её мультимодальные модели, даже если те выпускаются под открытой лицензией. Кроме того, компании из других стран не смогут предлагать в Европе продукты и услуги, использующие новые мультимодальные модели от Meta✴. Аналогичным образом поступила Apple, сообщившая в прошлом месяце, что функции Apple Intelligence будут недоступны в Европе из-за требований Закона о цифровых услугах (DMA), выполнение которых может привести «к снижению безопасности пользовательских данных и их приватности». Meta✴ также планирует выпустить в ближайшее время более крупную текстовую версию модели Llama 3, которая будет доступна компаниям в ЕС. Как полагает ресурс Axios, проблема Meta✴ связана скорее с тем, как она, возможно, использует для обучения модели данные европейских клиентов, нарушая тем самым Общий регламент по защите данных (General Data Protection Regulation, GDPR) ЕС. Компанию уже обвиняли в незаконном массовом сборе персональных данных европейских пользователей. В мае Meta✴ объявила о планах использовать общедоступные публикации пользователей Facebook✴ и Instagram✴ для обучения будущих моделей, в связи с чем отправила более 2 млрд уведомлений пользователям в ЕС. Но затем была вынуждена отказаться от этого из-за запрета Ирландской комиссии по защите данных (DPC) и Управления комиссара по информации Великобритании (ICO). |
|
✴ Входит в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»; |
© 1997—2025 Электронное периодическое издание "3ДНьюс" | Свидетельство о регистрации СМИ Эл ФС 77-22224
выдано Федеральной Службой по надзору за соблюдением законодательства в сфере массовых коммуникаций и охране культурного наследия
При цитировании документа ссылка на сайт с указанием автора обязательна. Полное заимствование документа является
нарушением
российского и международного законодательства и возможно только с согласия редакции 3DNews.
MWC 2018
2018
Computex
IFA 2018
